Varias de las empresas tecnologías más importantes de la actualidad, entre ellas Google, Microsoft, OpenAI, Amazon y Meta, se unieron para firmar un acuerdo con el gobierno de los Estados Unidos con el objetivo de crear un marco de protecciones para el desarrollo seguro y ético de la inteligencia artificial (IA)
La reunión se dio en la Casa Blanca, donde asistieron los presidentes y CEOs de estas compañías para comprometerse a seguir una serie de normas que permitan proteger los intereses de la sociedad y abordar los desafíos que ha planteado la IA en los últimos meses tras su auge.
“Las redes sociales nos han mostrado el daño que pueden hacer tecnologías potentes sin las salvaguardias adecuadas. El Congreso debe aprobar una legislación bipartidista que limite la recopilación de datos, prohíba los anuncios dirigidos a niños y exija a las empresas que antepongan la salud y la seguridad”, aseguró Joe Biden, presidente de Estados Unidos.
Qué fue lo que acordaron
El documento, que fue difundido por la Casa Blanca, incluye una serie de puntos relevantes que marcarán el rumbo del desarrollo de la IA en los próximos años, garantizando “que la innovación no se produzca a expensas de los derechos y la seguridad”:
– Pruebas de seguridad rigurosas: Todos los productos de IA desarrollados por estas empresas deberán pasar pruebas de seguridad, tanto internas como externas. La prioridad es asegurar que los productos basados en inteligencia artificial sean confiables y no presenten riesgos para los usuarios o la sociedad.
– Transparencia y divulgación: Las empresas se comprometen a reportar de manera continua y pública las capacidades y limitaciones de sus herramientas. Además, se destacará cualquier sesgo que pueda estar presente en el desarrollo de estas tecnologías, así como los riesgos de seguridad asociados.
– Reconocimiento de contenido generado por IA: Para proteger a los usuarios y prevenir el uso inadecuado de la IA, las compañías se esforzarán por garantizar que los consumidores puedan reconocer claramente el contenido generado por estas tecnologías. Esto se logrará mediante la implementación de marcas de agua u otros medios de identificación.
– IA para el bienestar global: Impulsar la implementación de IA avanzada para enfrentar algunos de los desafíos más apremiantes de la humanidad, como la búsqueda de una cura para el cáncer y la lucha contra el cambio climático.
– Investigación y abordaje de sesgos: Las empresas se comprometen a llevar a cabo investigaciones exhaustivas sobre los riesgos de sesgos y discriminación en el desarrollo de IA. Esto asegurará que las tecnologías desarrolladas sean equitativas y no perpetúen prejuicios sociales.
Si bien el acuerdo se hace pensando en la protección de los estadounidenses, se espera que lo firmado trascienda las fronteras al tratarse de productos globales y desde la Casa Blanca se comprometieron a trabajar con aliados internacionales para promover principios para futuras legislaciones.
Tras la firma del acuerdo, algunas de las compañías involucradas anunciaron medidas concretas para cumplir con los principios establecidos. Google, por ejemplo, reveló su intención de integrar marcas de agua, metadatos y otras técnicas innovadoras en sus modelos generativos. Además, pondrá en marcha una herramienta llamada “Acerca de esta imagen” en su Búsqueda, para proporcionar contexto sobre el origen de las imágenes en línea.
La iniciativa no se limita únicamente a las empresas del G7, sino que también busca la colaboración de otras naciones. Estados Unidos ha sostenido conversaciones con gobiernos de América Latina, como Chile, Brasil y México, con el objetivo de que se sumen voluntariamente al acuerdo, consolidando así un esfuerzo conjunto para asegurar el desarrollo seguro y responsable de la IA en la región.
/psg
