Ingeniero de OpenAI renuncia y alerta sobre el peligro de la IA
Jacob Coxon, quien también trabajó en Anthropic, cuestionó la carrera por desarrollar sistemas de inteligencia artificial cada vez más avanzados.
Un ingeniero que trabajó tanto en Anthropic como en OpenAI decidió abandonar el desarrollo de inteligencia artificial al considerar que ambas compañías no están actuando con la responsabilidad necesaria frente a los riesgos que podría implicar esta tecnología.
Jacob Coxon, ingeniero de software británico de 27 años, anunció su salida de Anthropic después de haber trabajado durante los últimos tres años en OpenAI. Medios especializados lo identifican como parte de los equipos que participaron en el desarrollo de GPT-4o y GPT-4.5, aunque no ocupó cargos ejecutivos.
A través de una serie de publicaciones en X, Coxon explicó las razones de su decisión y cuestionó la velocidad con la que avanza la inteligencia artificial. Desde su perspectiva, quienes participan directamente en el desarrollo de estos sistemas son conscientes de que existe la posibilidad de que la tecnología termine representando una amenaza extrema para la humanidad.
El ingeniero sostuvo que actualmente se está minimizando el alcance que podrían adquirir los sistemas avanzados de IA. Advirtió que, conforme aumenten sus capacidades, podrían superar ampliamente el desempeño humano, acceder a sistemas informáticos, transformar diferentes sectores y acumular recursos y poder.
Coxon considera que tanto OpenAI como Anthropic conocen los riesgos asociados con esta evolución tecnológica, aunque percibe diferencias en la forma en que cada empresa enfrenta el problema.
En el caso de OpenAI, afirmó que existe la posibilidad de que la compañía todavía no haya dimensionado completamente las implicaciones que tendría alcanzar sistemas cada vez más avanzados. Sobre Anthropic, en cambio, señaló que la empresa comprende con mayor claridad los riesgos, pero se encuentra inmersa en una competencia tecnológica que la impulsa a avanzar para no quedar atrás.
Para Coxon, el problema central es la falta de coordinación entre las compañías y los distintos grupos que desarrollan inteligencia artificial. Ante este escenario, planteó medidas que podrían resultar costosas para la industria, incluida una pausa temporal en el incremento de las capacidades de los modelos mientras se estudian con mayor profundidad sus posibles consecuencias.
El exingeniero también cuestionó a otros investigadores sobre los riesgos de impulsar sistemas capaces de aprender y mejorar de manera cada vez más sofisticada sin contar con un conocimiento suficiente sobre su funcionamiento interno.
Sus declaraciones provocaron reacciones dentro de la propia comunidad de investigadores de IA. Evan Hubinger, investigador de Anthropic, respaldó parte de las advertencias de Coxon y reconoció que dentro del sector existe una preocupación real ante la posibilidad de que una inteligencia artificial avanzada pueda provocar consecuencias catastróficas.
Hubinger incluso planteó que, desde su perspectiva personal, existe más de 10 por ciento de probabilidad de que una IA pueda acabar con la humanidad durante la próxima década. No obstante, aclaró que considera reducido el riesgo asociado con los modelos actuales y señaló que la mayor preocupación está relacionada con una eventual superinteligencia capaz de mejorar sus propias capacidades de manera acelerada.
La renuncia de Coxon se suma a otros casos de especialistas que han decidido apartarse de grandes compañías tecnológicas para advertir públicamente sobre los riesgos de la inteligencia artificial.
Uno de los ejemplos más conocidos es Geoffrey Hinton, considerado uno de los principales pioneros de las redes neuronales y ganador del Nobel de Física. En 2023 dejó su puesto en Google para poder hablar públicamente sobre los peligros potenciales de la IA sin las restricciones que, según explicó, podía implicar permanecer dentro de una compañía.
A estos casos también se suma la preocupación expresada en 2024 por exempleados de OpenAI, quienes firmaron una carta pública para advertir sobre la rapidez con la que avanzaba el desarrollo de estos sistemas y cuestionar la falta de mecanismos legales suficientes para proteger a quienes deciden denunciar posibles riesgos dentro de la industria.
El debate vuelve a colocar en el centro una pregunta que acompaña al crecimiento acelerado de la inteligencia artificial: hasta dónde debería avanzar el desarrollo de sistemas cada vez más poderosos antes de contar con mecanismos capaces de garantizar que sus capacidades puedan mantenerse bajo control.
