Anthropic bloquea IA para desarrollar armas biológicas
La empresa estadounidense Anthropic informó que durante 2026 detectó y bloqueó varios intentos de utilizar sus modelos de inteligencia artificial en investigaciones relacionadas con patógenos peligrosos y posibles armas biológicas. La compañía indicó que sus sistemas de seguridad identificaron actividades que podían representar un riesgo.
“Jacob Coxon”
Porque el exinvestigador de Anthropic que renunció mientras predijo que la IA destruirá a toda la humanidad, dice que no está preparándose para el fin de la humanidad porque no cree que sirva de mucho lo que pueda hacer. pic.twitter.com/JEWiWiaIaK
— Tendencias en Argentina (@porqueTTarg) September 11, 2026
Anthropic explicó que no pudo establecer en todos los casos que existiera una intención maliciosa. Aun así, decidió restringir el acceso a sus modelos cuando detectó solicitudes capaces de facilitar investigaciones con posibles aplicaciones dañinas. La empresa señaló que sus mecanismos de seguridad permiten identificar este tipo de actividades y detenerlas.
El caso expone el problema del uso dual de la inteligencia artificial, debido a que herramientas desarrolladas para apoyar investigaciones científicas también pueden emplearse con fines peligrosos. Anthropic precisó que la capacidad de un modelo para asistir en una investigación no demuestra que esa tecnología vaya a utilizarse para fabricar armas.
Former Anthropic employee Jacob Coxon says the AI industry is “gambling with our lives.” He tells Anderson what he finds “most scary is if AI is used to make itself more intelligent” and warns these companies are “compelled to race toward building a deadly technology.” pic.twitter.com/UFrLWVm0xD
— Anderson Cooper 360° (@AC360) September 10, 2026
La compañía también reportó otros casos de uso indebido de Claude durante los últimos ocho meses en China, Rusia y Yemen. Estos incidentes forman parte de las preocupaciones sobre la autonomía de los sistemas de inteligencia artificial y su utilización en actividades con posibles riesgos para la seguridad.
