Revela OpenAI que IA accedió a otras cuatro plataformas
Los dos modelos de inteligencia artificial (IA) de OpenAI que, durante una fase de pruebas, salieron por iniciativa propia del entorno controlado en el que se encontraban para atacar el sitio Hugging Face, también accedieron a otras cuatro plataformas, informó la empresa creadora de ChatGPT.
De acuerdo con OpenAI, una de esas plataformas fue utilizada como intermediaria para preparar el ataque contra Hugging Face, una biblioteca de IA que los modelos exploraron en busca de respuestas a las pruebas diseñadas por los desarrolladores.
La compañía no reveló los nombres de las otras entidades involucradas.
Según una actualización del informe sobre el incidente, publicada la noche del martes, ambos modelos también utilizaron diversos sitios de acceso público para copiar y probar código de programación, aunque sin realizar acciones distintas a las que podría efectuar un usuario común.
Por su parte, Hugging Face publicó un informe en el que señaló que la intrusión correspondió a un intento de los modelos por “hacer trampa” durante la evaluación realizada por OpenAI.
Según la plataforma, las inteligencias artificiales intentaron obtener las respuestas de las pruebas en lugar de resolverlas por sí mismas.
Aunque no es la primera vez que se documenta un incidente de este tipo, especialistas consideran que se trata del caso más grave registrado hasta ahora, lo que ha reavivado el debate sobre el acelerado desarrollo de la inteligencia artificial y los desafíos para mantener su control.
El martes, más de mil empleados de empresas dedicadas a la IA, incluidos altos directivos del sector, solicitaron al Gobierno de Estados Unidos que impulse medidas para frenar temporalmente el lanzamiento de nuevos modelos, con el fin de dar tiempo a la industria para desarrollar mecanismos de supervisión.
En una petición pública, los firmantes también propusieron que Estados Unidos promueva la creación de un organismo internacional encargado de evaluar y supervisar el desarrollo de la inteligencia artificial.
Al respecto, el presidente estadounidense, Donald Trump, afirmó que el país debe encontrar un equilibrio entre establecer controles y mantener el liderazgo tecnológico frente a otras naciones, particularmente China.
El sector también advirtió sobre la cercanía de una etapa conocida como automejora recursiva (recursive self-improvement o RSI), en la que una inteligencia artificial sería capaz de diseñar por sí misma una versión más avanzada de su propio modelo, proceso que podría repetirse de manera continua.
Especialistas señalan que este escenario complicaría las tareas de supervisión y evaluación, ya que los ingenieros dejarían de participar directamente en el desarrollo de las nuevas generaciones de sistemas de IA.
