<\/p>\n\n\n\n
El director ejecutivo y cofundador de Anthropic, Dario Amodei, pidi\u00f3 este s\u00e1bado desacelerar el ritmo de desarrollo de las capacidades de los modelos de inteligencia artificial (IA), al advertir que la tecnolog\u00eda avanza hacia una din\u00e1mica de \u201cautomejora recursiva\u201d que podr\u00eda desencadenar ciberataques de escala global.<\/p>\n\n\n\n
En un extenso ensayo publicado este s\u00e1bado, Amodei se\u00f1al\u00f3 que la r\u00e1pida evoluci\u00f3n de las capacidades de la IA podr\u00eda permitir que, en un plazo de entre seis y 12 meses, un enjambre de agentes de IA tome el control de Internet mediante una red de bots persistente.<\/p>\n\n\n\n
\u201cDada la aceleraci\u00f3n en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente\u201d, escribi\u00f3.
IA sin salvaguardas podr\u00eda causar da\u00f1os econ\u00f3micos<\/p>\n\n\n\n
El directivo advirti\u00f3 que un escenario de este tipo podr\u00eda ocasionar da\u00f1os econ\u00f3micos por cientos de miles de millones de d\u00f3lares, adem\u00e1s de que la magnitud de las afectaciones podr\u00eda aumentar conforme los sistemas de IA sean m\u00e1s potentes sin contar con las salvaguardas necesarias.<\/p>\n\n\n\n
Amodei tambi\u00e9n hizo referencia al reciente incidente relacionado con agentes de OpenAI y Hugging Face, en el que un grupo de agentes actu\u00f3 de manera aut\u00f3noma y, seg\u00fan describi\u00f3, realiz\u00f3 acciones que iban m\u00e1s all\u00e1 de las tareas que le hab\u00edan sido asignadas.<\/p>\n\n\n\n