Líderes tecnológicos advierten en la ONU: la IA es un riesgo global
Naciones Unidas.- Directivos de empresas de inteligencia artificial subrayaron este miércoles en la ONU la necesidad de incrementar la vigilancia sobre esta tecnología. En la misma reunión, el director ejecutivo de Anthropic asumió el compromiso unilateral de desacelerar su desarrollo.
Los líderes del sector informaron al Consejo de Seguridad tras semanas de titulares globales sobre los riesgos de una IA incontrolable y múltiples llamamientos para frenar su evolución.
“Este momento requiere un extremo cuidado”, declaró Sam Altman, de OpenAI, durante una reunión de emergencia del Consejo de 15 miembros.
Altman advirtió que, conforme los sistemas de IA ganen capacidad y autonomía, podrían superar el ritmo de las instituciones o concentrar demasiado poder en pocas manos.
La IA podría “tomar decisiones que las personas ya no entiendan ni puedan controlar”
“Este momento requiere un ciudado extremo”
Sam Altman @sama , de @OpenAI , en el Consejo de Seguridad de la ONU #UNGA pic.twitter.com/Ur9haRPFC6
— Noticias ONU (@NoticiasONU) September 23, 2026
“La industria no debe aceptar demasiados riesgos tecnológicos simplemente porque los beneficios sean demasiado grandes e importantes como para frenar su avance”, añadió el directivo.
Exigen normas de seguridad más estrictas para la IA
Por su parte, el director ejecutivo de Anthropic, Dario Amodei, afirmó que la evolución de los modelos de IA exigirá estándares de seguridad más rigurosos.
Durante una videollamada, señaló que Anthropic aspira a mejorar su capacidad para evitar el uso indebido de la tecnología.
“Si se gestiona mal, la IA podría ser un riesgo para la humanidad en su conjunto”@DarioAmodei de @AnthropicAI al Consejo de Seguridad de la ONU #UNGA pic.twitter.com/S9KjOgCTh4
— Noticias ONU (@NoticiasONU) September 23, 2026
“Reduciremos el ritmo de desarrollo tanto como sea necesario para garantizar que cada nuevo modelo de IA que lancemos sea realmente seguro”, declaró Amodei. La promesa llega días después de su propuesta de una desaceleración coordinada entre los grandes actores del sector, iniciativa que aún no se concreta.
Incidentes de seguridad y renuncias sacuden al sector
Entre los oradores también figuró Clément Delangue, de Hugging Face. Su compañía sufrió un reciente ciberataque perpetrado por un software autónomo de OpenAI, evento que encendió las alarmas sobre la rápida evolución de la IA.
A principios de septiembre, Jacob Coxon, excolaborador de OpenAI y Anthropic, abandonó el sector tras acusar a ambas firmas de “jugar con nuestras vidas” en la carrera por desarrollar modelos capaces de automejorarse.
“No queremos caer en la trampa del optimismo ciego”, señaló Altman el miércoles, “pero tampoco podemos sucumbir al catastrofismo. Vamos a hacer todo lo posible por encontrar un término medio”.
Delangue destacó que, aunque la IA atacó a su empresa, también usaron esta tecnología para repeler la agresión. “El mundo necesita la IA de código abierto más que nunca para defenderse”, afirmó.
El CEO de OpenAI reiteró su llamado a la cooperación internacional. “En la historia ha habido momentos en los que países competidores lograron ponerse de acuerdo por el bien común ante una nueva tecnología. Eso tiene que volver a ocurrir”, concluyó.
