China y EU buscan un “teléfono rojo” ante riesgos de la IA
Ambas potencias analizan crear un canal de comunicación para reducir incidentes militares y usos maliciosos de la inteligencia artificial.
Los riesgos asociados con el desarrollo y uso de la inteligencia artificial (IA) han llevado a China y Estados Unidos a analizar mecanismos de comunicación que permitan reducir la posibilidad de incidentes, particularmente aquellos relacionados con aplicaciones militares o usos maliciosos de esta tecnología.
La propuesta de establecer una vía de diálogo fue planteada recientemente por el secretario del Tesoro estadounidense, Scott Bessent, aunque hasta ahora no se han definido sus alcances. El funcionario señaló la necesidad de avanzar de una situación caracterizada por la falta de información hacia una mayor transparencia entre ambas potencias.
La iniciativa responde a la preocupación de que los sistemas de IA puedan tomar decisiones de manera imprevista o acelerar procesos militares sin suficiente intervención humana, lo que podría incrementar el riesgo de incidentes entre los dos países.
Jean-Marc Rickli, director de Riesgos Globales y Emergentes del Centro de Política de Ginebra, explicó que existe una creciente conciencia en ambas naciones sobre la posibilidad de que ocurran incidentes o usos indebidos de la IA que afecten sus respectivos intereses.
El especialista comparó la posibilidad de establecer un canal de comunicación directa con el llamado “teléfono rojo”, creado entre Estados Unidos y la entonces Unión Soviética después de la crisis de los misiles de Cuba de 1962, con el objetivo de facilitar la comunicación y reducir el riesgo de enfrentamientos militares graves.
Rickli también recordó un caso reciente reportado por CNN, en el que Estados Unidos estuvo cerca de abordar un buque chino debido a información falsa generada mediante inteligencia artificial.
Desde 2023, especialistas y centros de investigación de China y Estados Unidos mantienen conversaciones sobre los modelos de IA más avanzados desarrollados por empresas como OpenAI, Anthropic, DeepSeek y Alibaba. Sin embargo, este intercambio no cuenta hasta ahora con participación directa de los gobiernos.
La investigadora Mathilde Viellet, del Instituto Francés de Relaciones Internacionales, señaló que estas conversaciones han mostrado diferencias entre las prioridades de ambas potencias. Mientras China ha centrado parte de su atención en la seguridad de la tecnología y en combatir los contenidos falsificados mediante IA, Estados Unidos muestra especial preocupación por la pérdida de control y la denominada desalineación, que ocurre cuando un sistema actúa de manera autónoma y sus acciones se alejan de los objetivos establecidos.
