OpenAI, la empresa que desarrolló la popular herramienta ChatGPT, cree que la intervención de los gobiernos será fundamental para mitigar los riesgos de los sistemas de inteligencia artificial (IA).
«A medida que esta tecnología avanza, entendemos que la gente esté preocupada por cómo podría cambiar nuestra forma de vida. Nosotros también lo estamos», comentó Sam Altman, director general de OpenAI, en una comparecencia este martes ante el Senado estadounidense.
Altman sugirió que se creara una agencia estadounidense o internacional que concediera licencias a los sistemas de IA más potentes y tuviera autoridad para «retirar esa licencia y garantizar el cumplimiento de las normas de seguridad».
El auge del ChatGPT, que ha desatado el pánico entre los educadores por el uso que le dan numerosos estudiantes para hacer trampas en los exámenes, ha generado nuevas preocupaciones sobre la capacidad de esta poderosa herramienta de «IA generativa» para engañar a la gente, difundir falsedades, violar la protección de los derechos de autor y poner en peligro algunos puestos de trabajo.
El senador demócrata Richard Blumenthal, que preside el Subcomité de privacidad, tecnología y legislación del Comité Judicial del Senado, dijo que las empresas de IA deberían estar obligadas a probar sus sistemas y revelar los riesgos conocidos antes de lanzarlos al mercado, y expresó su especial preocupación por cómo los futuros sistemas de IA podrían desestabilizar el mercado laboral.
Altman se mostró en gran medida de acuerdo. Cuando se le preguntó por su peor temor respecto a la IA, el empresario comentó que dicha industria podría causar «un daño significativo al mundo» y que «si esta tecnología sale mal, puede salir muy mal». Sin embargo, propuso que una nueva agencia reguladora impusiera salvaguardas que bloquearan los modelos de IA que pudieran «autorreplicarse y autoexfiltrarse en la naturaleza», aludiendo a preocupaciones futuristas sobre sistemas avanzados de IA que pudieran manipular las decisiones de los humanos.
Aunque no hay indicios inmediatos de que el Congreso estadounidense vaya a elaborar nuevas normas generales sobre IA, el Parlamento Europeo aprobó el pasado jueves medidas para regular su uso. La legislación será tratada en un pleno en junio para acordar la versión definitiva del nuevo reglamento.
/psg
