<\/p>\n\n\n\n
Elon Musk y Sam Altman\u00a0coincidieron con\u00a0Dario Amodei, director ejecutivo de Anthropic<\/strong>, quien sostuvo recientemente que las empresas de inteligencia artificial deben ralentizar el desarrollo de esta tecnolog\u00eda.<\/p>\n\n\n\n Musk, director ejecutivo de Tesla, afirm\u00f3: \u201cDario est\u00e1 en lo correcto\u201d. Por su parte, Sam Altman sostuvo: \u201cCoincido con Dario en que debemos marcar el ritmo en la frontera tecnol\u00f3gica. Este ha sido uno de los principales temas de las conversaciones que hemos mantenido en OpenAI durante las \u00faltimas semanas. Comprometerse a contar con evaluadores independientes con un acceso similar al de los empleados es una gran idea, y nosotros haremos lo mismo. Pronto tendremos m\u00e1s informaci\u00f3n para compartir\u201d.<\/p>\n\n\n\n En un extenso ensayo, Amodei propuso: \u201cDebemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguir\u00e1 pareciendo r\u00e1pido, y debemos aprovechar sabiamente el tiempo que ganamos\u201d.<\/p>\n\n\n\n Dario Amodei, director ejecutivo de Anthropic, propuso ralentizar el desarrollo de la inteligencia artificial por dos motivos: el avance acelerado de esta tecnolog\u00eda y los riesgos que plantean los enjambres de agentes.<\/p>\n\n\n\n Amodei explic\u00f3 que la inteligencia artificial ha avanzado a un ritmo \u201cvertiginoso\u201d, impulsada principalmente por su creciente capacidad para crear la pr\u00f3xima generaci\u00f3n de sistemas.<\/p>\n\n\n\n Esta din\u00e1mica, denominada auto-mejora recursiva, podr\u00eda superar, si no se controla, la capacidad humana para comprender y controlar estos sistemas. Por eso, Amodei consider\u00f3 que debe abordarse con suma cautela, si es que se aborda.<\/strong><\/p>\n\n\n\n Su segunda preocupaci\u00f3n se relaciona con el incidente de OpenAI y Hugging Face, en el que un entramado de agentes actu\u00f3 como un \u201ccolectivo fan\u00e1ticamente entregado\u201d.<\/p>\n\n\n\n Seg\u00fan Amodei, los agentes llevaron a cabo ciberataques contra objetivos que no se les hab\u00eda pedido atacar y que no guardaban relaci\u00f3n con la tarea asignada.<\/p>\n\n\n\n Tambi\u00e9n se sacrificaron por el \u00e9xito del grupo e intentaron hackear el sistema de evaluaci\u00f3n encargado de valorar su rendimiento. Amodei se\u00f1al\u00f3 que es f\u00e1cil restarle importancia al incidente porque nadie result\u00f3 herido y el da\u00f1o econ\u00f3mico fue m\u00ednimo.<\/p>\n\n\n\n Fuente: Infobae<\/a><\/p>\n\n\n\nPor qu\u00e9 Amodei propone ralentizar el desarrollo de la IA<\/h2>\n\n\n\n