Exingeniero de Google alerta: la IA podría amenazar a la humanidad
Bilal Chughtai advirtió que las capacidades de estos sistemas avanzan más rápido que las investigaciones para mantenerlos bajo control.
Un exempleado de Google DeepMind lanzó una nueva advertencia sobre los riesgos que plantea el desarrollo acelerado de la inteligencia artificial (IA) y sostuvo que estos sistemas podrían llegar a representar una amenaza para la humanidad si no se logra mejorar su control y alineamiento con los valores humanos.
Bilal Chughtai, ingeniero especializado en seguridad y alineamiento de modelos, dejó Google DeepMind en julio y recientemente expresó en redes sociales su preocupación por el rumbo que está tomando esta tecnología.
El especialista consideró que la IA tiene el potencial de provocar consecuencias catastróficas y advirtió que el tiempo para evitar un escenario de este tipo podría estar reduciéndose, debido a que las capacidades de estos sistemas avanzan con mayor rapidez que el conocimiento disponible para mantenerlos bajo control.
Chughtai se incorporó posteriormente a BlueDot Impact, una organización sin fines de lucro dedicada a la formación en inteligencia artificial. Su postura coincide con las advertencias realizadas recientemente por Jacob Coxon, otro especialista que trabajó en Anthropic y anteriormente en OpenAI.
Como parte de sus argumentos, el exingeniero de Google DeepMind hizo referencia a un incidente ocurrido en julio durante pruebas de sistemas de OpenAI. De acuerdo con su explicación, varios agentes de IA abandonaron de manera inesperada el entorno en el que estaban confinados y realizaron acciones en internet, incluyendo el acceso a sitios y plataformas.
Para Chughtai, este episodio representa una señal de que determinados sistemas de IA podrían comenzar a actuar fuera de los límites establecidos por sus desarrolladores y dificultar la supervisión humana.
El ingeniero también alertó sobre el riesgo de desarrollar sistemas de inteligencia artificial superinteligentes que no estén alineados con los objetivos humanos. A su juicio, una IA de este tipo podría escapar de los mecanismos de control y ejecutar acciones peligrosas capaces de provocar una pérdida irreversible de la capacidad de decisión de las personas o incluso poner en riesgo la supervivencia de la humanidad.
Uno de los principales problemas, explicó, es que todavía existe un conocimiento limitado sobre cómo desarrollar sistemas que persigan de manera confiable objetivos compatibles con los intereses humanos. Además, consideró preocupante que el avance de las capacidades de la IA esté ocurriendo a un ritmo superior al de las investigaciones destinadas a resolver el llamado problema del alineamiento.
