Sam Altman de OpenAI confirmó lo peor sobre el futuro de la inteligencia artificial: "Podría salir muy mal"
El CEO de OpenAI planteó la posibilidad de que la humanidad termine perdiendo el control sobre el futuro frente a sistemas de IA cada vez más poderosos. “Esto es inaceptable”, señaló.
La intensa competencia comercial entre los principales laboratorios de incrementa el riesgo de que la carrera por desarrollar una "superinteligencia" ponga en peligro a la humanidad. En medio del intenso debate por posibles consecuencias, el creador de ChatGPT y CEO de OpenAI, , advirtió que “hay dos formas en que el progreso de la Inteligencia Artificial podría salir muy mal” y reclamó un marco federal que establezca requisitos de seguridad comunes para toda la industria.
En una extensa publicación en X, Altman planteó como primera amenaza la posibilidad de que la humanidad termine perdiendo el control sobre el futuro frente a sistemas de inteligencia artificial cada vez más poderosos.
“Esto es inaceptable”, señaló, y remarcó que OpenAI está “inequívocamente del lado de la humanidad”. Según explicó, la IA debe estar siempre al servicio de las personas y, para lograrlo, las técnicas de alineación y seguridad tienen que avanzar por delante de las capacidades de los modelos.
En ese sentido, el CEO de OpenAI sostuvo que las empresas que desarrollan los modelos más avanzados deben asumir nuevas responsabilidades. Altman recordó que, años atrás, empresas como OpenAI desarrollaron políticas como las “Responsible Scaling Policies” y los “Preparedness Frameworks”, enfocadas principalmente en la seguridad de los modelos antes de su implementación.
Ahora, según explicó, el escenario cambió. El aumento de las capacidades de los modelos obliga a incorporar evaluaciones de seguridad durante su desarrollo.
Como ejemplo, señaló que OpenAI actualmente prepara “casos de seguridad” antes de determinadas etapas de entrenamiento mediante reinforcement learning —aprendizaje por refuerzo— que podrían incrementar significativamente las capacidades de un modelo. La idea es anticipar los posibles riesgos antes de ejecutar procesos que puedan producir saltos importantes en las capacidades de los sistemas.
Hace algunos días, OpenAI confirmó que un programa autónomo atacó un sitio web durante unas pruebas, dos meses antes del caso del . Este nuevo caso aumenta las preocupaciones sobre las facilidades de la IA para escapar al control humano.
El segundo riesgo: demasiado poder concentrado en pocas manos
La otra amenaza que identificó Altman no tiene que ver directamente con que la IA se vuelva incontrolable, sino con quién controla una tecnología extremadamente poderosa.
El CEO de OpenAI advirtió que podría producirse un escenario en el que una persona o una empresa utilice una inteligencia artificial extraordinariamente poderosa para imponer su propia visión del mundo sobre el resto de la sociedad. Según su planteo, el resultado podría ser “extremadamente distópico”.
El riesgo de concentración, además, no se limitaría a una compañía. Altman mencionó también la posibilidad de que un solo país acumule demasiado poder gracias a sus capacidades de inteligencia artificial. De esta manera, sostuvo que evitar los dos extremos requiere encontrar un “estrecho camino intermedio”.
En su publicación, también respaldó la creación de un marco federal estadounidense que establezca requisitos de seguridad consistentes para las compañías que desarrollan los modelos de inteligencia artificial más avanzados.
Asimismo, sostuvo que la industria no debería esperar a que exista una legislación o una excepción antimonopolio para comenzar a trabajar en estos mecanismos.