Qué tal si discutimos (después del examen, claro) algo que he descubierto, muy metido en los razonamientos de expertos en IA?
El argumento de los empleados de Anthropic se basa en dos premisas. La primera:
«La IA será muchísimo más inteligente que nosotros. Por consiguiente, podrá desarrollar estrategias que no podemos comprender.»
La segunda:
«Podemos anticipar que la IA desarrollará estrategias de engaño, supervivencia, adquisición de poder y, eventualmente, destrucción humana.»
OBSERVEN lo que ha ocurrido:
En la primera premisa se nos dice que las estrategias de una inteligencia superior escaparán a nuestra comprensión.
Pero en la segunda comenzamos a describir precisamente cuáles serán esas estrategias.
¿Ven la tensión?
Se las escribo:
«La IA es incognoscible cuando necesitamos justificar el peligro, pero cognoscible cuando necesitamos describirlo»
¿O una cosa o la otra?
¿O ambas a la vez?
Si son ambas, entonces tenemos que explicar qué podemos conocer de una inteligencia que, por definición, hemos declarado incapaz de ser comprendida. 😁
No comments:
Post a Comment