OpenAI, Anthropic y Google crearán organismo de supervisión de riesgos IA
OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos asociados a la inteligencia artificial, indicó OpenAI a la AFP el martes, en medio de crecientes llamados a mejorar los controles de esta tecnología.
Las preocupaciones sobre la seguridad de la IA se han intensificado en las últimas semanas.
Dos trabajadores renunciaron a importantes desarrolladoras de IA al advertir la amenaza contra la humanidad que implica esta industria.
La idea de una entidad de supervisión surgió de una propuesta de Demis Hassabis, de Google DeepMind, para crear un organismo inspirado en la Autoridad Reguladora de la Industria Financiera (FINRA), que supervisa a los corredores y firmas de inversión en Estados Unidos.
En julio, Hassabis pidió a Estados Unidos que creara una organización que probara los sistemas de IA más potentes antes de que se pusieran a disposición del público.
“La financiación tendría que ser sustancial y probablemente provenir en su mayor parte de la industria”, escribió Hassabis.
El martes, Sam Altman, director ejecutivo de OpenAI, creador del ChatGPT, expresó su apoyo a la colaboración en todo el sector y reconoció el temor público de que la competencia entre empresas y países pueda dejar la seguridad en un segundo plano.
“Me parece estupendo que nuestro sector diga que queremos unirnos, queremos poder coordinarnos y asegurarnos de que tenemos tiempo suficiente para hacer esto de forma segura”, afirmó Altman en una conferencia organizada por Salesforce en San Francisco.
