Ahora los creadores de OpenAI, Anthropic y Elon Musk piden frenar el avance de la inteligencia artificial: "Debería ir más despacio"
El ceo de Anthropic publicó un ensayo en el que pide "evaluadores" en cada empresa de vanguardia y "apoyo gubernamental" en distintos países. Su mensaje fue compartido por Elon Musk y el líder de Open AI.
Mientras cada vez más , los CEOS de Anthropic y Open AI y el magnate tecnológico Elon Musk coincidieron este sábado en "regular el avance" y "moderar el ritmo" de su crecimiento. Se trata de competidores comerciales en la carrera de la IA quienes, por primera vez, alertan públicamente al unísono por las consecuencias de su desregulación.
¿Por qué Dario Amodei pide frenar el avance de la inteligencia artificial?
El primero en plantearlo fue Dario Amodei el director ejecutivo y cofundador de Anthropic, la empresa detrás del chatbot Claude, quien publicó un extenso ensayo en el que admite que "la industria de la IA debería ir más despacio" por motivos de seguridad.
"Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos", escribió.
Su texto estuvo acompañado de "un plan de tres partes", que constará de la incorporación de "evaluadores integrados" dentro de las empresas de vanguardia; de "coordinación democrática" en la que habrá "desafíos legales" y se requerirá "apoyo gubernamental"; y de "coordinación global" entre distintos gobiernos de todo el mundo.
"Desarrollar IA a un ritmo equilibrado que garantice su seguridad, al tiempo que se obtienen sus beneficios y se abordan importantes dilemas geopolíticos", planteó.
¿Cuáles son los principales riesgos de la IA según los expertos?
En el ensayo, Amodei menciona dos cuestiones como sus "principales preocupaciones" de la IA en la actualidad: su "auto-mejora recursiva" y el "desajuste de los agentes".
Según explicó, una de las alarmas es que el avance acelerado podría superar la capacidad humana para comprender y controlar estos sistemas. Además, citó un caso de OpenAI en el que sistemas autónomos realizaron acciones no previstas y que eso podría provocar daños catastróficos.
Altman y Musk, también lo apoyaron
La propuesta de Amodei recibió también el respaldo de Sam Altman, CEO de OpenAI y uno de sus principales rivales, quien horas más tarde confirmó que su empresa implementará una de las medidas planteadas por el empresario. En concreto, OpenAI permitirá que evaluadores independientes accedan a sus sistemas en un nivel similar al de sus empleados para supervisar los riesgos asociados a la IA.
"Coincido con Dario en que necesitamos moderar el ritmo en la frontera de la IA", afirmó Altman en X. El empresario señaló que la cuestión había ocupado un lugar central en las discusiones internas de OpenAI durante las últimas semanas y consideró "una gran idea" incorporar supervisores externos. "Nosotros haremos lo mismo. Pronto tendremos más para compartir", añadió.
El planteo también sumó el apoyo de Elon Musk, propietario de xAI y creador del chatbot Grok. Poco después de las declaraciones de Altman, Musk se expresó en X y respaldó a Amodei con un mensaje breve: "Dario tiene razón".
Cartas abiertas y renuncias: los hechos que encendieron las alarmas en Silicon Valley
Las advertencias de los máximos líderes empresarios de la IA llegan luego de dos recientes hechos que sumaron preocupación entre los expertos y la opinión pública: una carta de alerta de miles de empleados de compañías del rubro y un alarmante mensaje de un destacado investigador.
Hace apenas días, más de 1.300 empleados de empresas de inteligencia artificial firmaron una carta abierta en la que advierten sobre los riesgos del desarrollo acelerado de la IA y piden a los gobiernos que intervengan para frenar su avance.
"Es difícil predecir exactamente cuánto acelerará esto el progreso de la IA, pero hay un riesgo real de que el desarrollo de capacidades se acelere rápidamente más allá de nuestra capacidad para comprender o controlar los sistemas resultantes", advirtieron en el documento. Fue impulsado por trabajadores de diferentes empresas como Anthropic, OpenAI y Google DeepMind.
Por otro lado, también esta semana, se conoció que Jacob Coxon, exinvestigador de Anthropic, renunció a la empresa y denunció que las compañías están dirigiéndose a un desarrollo que podría afectar a la vida humana en los próximos años al punto de creer que "podría matarnos a todos"
"Pasé los últimos tres años haciendo investigación de pre entrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas", lanzó.