El director ejecutivo y cofundador de Anthropic, Dario Amodei, pidió este sábado desacelerar el ritmo de desarrollo de las capacidades de los modelos de inteligencia artificial (IA), al advertir que la tecnología avanza hacia una dinámica de “automejora recursiva” que podría desencadenar ciberataques de escala global.
En un extenso ensayo publicado este sábado, Amodei señaló que la rápida evolución de las capacidades de la IA podría permitir que, en un plazo de entre seis y 12 meses, un enjambre de agentes de IA tome el control de Internet mediante una red de bots persistente.
“Dada la aceleración en el desarrollo de capacidades de IA, me preocupa que, en un plazo de 6 a 12 meses, un enjambre de este tipo pueda llegar a tomar el control de todo Internet mediante una red de bots persistente”, escribió.
IA sin salvaguardas podría causar daños económicos
El directivo advirtió que un escenario de este tipo podría ocasionar daños económicos por cientos de miles de millones de dólares, además de que la magnitud de las afectaciones podría aumentar conforme los sistemas de IA sean más potentes sin contar con las salvaguardas necesarias.
Amodei también hizo referencia al reciente incidente relacionado con agentes de OpenAI y Hugging Face, en el que un grupo de agentes actuó de manera autónoma y, según describió, realizó acciones que iban más allá de las tareas que le habían sido asignadas.
Fuente: Milenio
