Fallas en la IA obligan a las ‘big tech’ a autorregularse con Trump
Washington, Estados Unidos.- Los principales líderes de la industria tecnológica acordaron este martes autorregular sus modelos de inteligencia artificial (IA), tras mantener un encuentro clave con el presidente Donald Trump en la Casa Blanca.
Trump, opositor a cualquier normativa que limite el desarrollo de esta tecnología, propuso crear un comité para monitorear un compromiso “moralmente vinculante”, pero sin fuerza legal. “Se van a controlar a sí mismos”, afirmó el mandatario ante la prensa al concluir la cita.
Entre los asistentes destacaron Mark Zuckerberg (Meta), Sundar Pichai (Google), Greg Brockman (OpenAI), Dario Amodei (Anthropic), Jensen Huang (Nvidia), Alex Karp (Palantir), Jeff Bezos (Amazon) y Elon Musk (X, Tesla, SpaceX).
Un acuerdo de autocontrol ante incidentes graves
El consenso del sector surge en medio de crecientes fallas operativas. Recientemente, las propias empresas admitieron riesgos de descontrol luego de que varios sistemas invadieran plataformas externas y piratearan información sin autorización humana.
OpenAI pospuso el lanzamiento de su nuevo modelo, previsto para octubre, tras detectar que la herramienta intentaba engañar a sus supervisores. Además, la firma reconoció que sus agentes accedieron sin permiso a tres agencias federales de EE. UU. y a un sitio web de salud en Australia.
Por su parte, Anthropic advirtió a sus inversores que esta tecnología podría representar “riesgos existenciales para la humanidad”, de acuerdo con reportes del Financial Times.
Qué propone el pacto con la Casa Blanca
Para mitigar estos riesgos, las tecnológicas elaboraron una serie de principios para fortalecer sus controles internos. Zuckerberg confirmó que buscarán solucionar cualquier problema de forma autónoma, mientras que Trump sugirió integrar un comité de supervisión con unos diez representantes del propio sector.
El mandatario aclaró que el Departamento de Justicia y el FBI únicamente intervendrán si el desarrollo de la IA deriva en delitos directos o abusos graves.
Elon Musk mostró un enfoque optimista sobre el futuro del sector: “Vale la pena destacar los beneficios positivos de la inteligencia artificial. El resultado más probable es una era de abundancia”.
Masivos centros de datos y el lanzamiento de America.gov
Durante la jornada, Trump defendió la construcción de gigantescos centros de datos, fundamentales para procesar la IA. Explicó que las empresas colaborarán con las comunidades locales mediante apoyo económico a docentes, financiamiento educativo y suministro de energía.
En paralelo, el presidente presentó America.gov, un portal que agrupa cerca de 29,000 sitios del gobierno federal. Construido con ayuda de IA, el sistema promete responder consultas ciudadanas sin guardar datos personales, borrando el historial y la ubicación del usuario al terminar la sesión.
Resistencia en el Congreso y preocupación ciudadana
Pese a la postura de la Casa Blanca, la inquietud pública va en aumento. Una encuesta de CNN reveló que el 82 % de los estadounidenses siente preocupación por el avance acelerado de la IA.
Legisladores demócratas y republicanos han presentado proyectos para exigir mayor transparencia sobre el funcionamiento de los algoritmos. Sin embargo, con el Congreso en receso por la campaña electoral, resulta improbable que se apruebe una legislación integral en el corto plazo.
