Empresas como Amazon, Google, Meta, Microsoft, OpenAI, Anthropic e Inflection se unieron para conformar un pacto que no tiene precedente e involucra a la Casa Blanca y a la Inteligencia Artificial.

Las grandes compañías tecnológicas firmaron un acuerdo por el que se comprometen a cumplir con una serie de principios para regular el desarrollo y uso de la IA.

El pacto establece un marco para garantizar que la IA se desarrolle y utilice de forma segura, ética y responsable.  De hecho, los firmantes se comprometen a que sus productos de inteligencia artificial sean seguros antes de lanzarlos.

También se comprometieron a llevar a cabo pruebas de seguridad “realizadas en parte por expertos independientes”, según el comunicado de la Casa Blanca, 

En el terreno audiovisual, usarán marcas de agua digitales para ayudar a distinguir entre las imágenes reales y las generadas por IA, las llamadas ‘deepfake’.

Las Big Tech se comprometen a sacar un producto seguro testeandolo antes

Biden se compromete a respetar el pacto

La Administración Biden hizo hincapié en la responsabilidad de las empresas de garantizar la seguridad de sus productos y aprovechar el potencial de la IA, promoviendo al mismo tiempo normas estrictas en su desarrollo.

Por su parte, Kent Walker, presidente de asuntos globales de Google, reconoció que alcanzar el éxito en IA requiere colaboración. 

Expresó su satisfacción por unirse a otras empresas líderes en IA para apoyar estos compromisos y aseguró que Google seguirá colaborando con otras empresas compartiendo información y mejores prácticas.

“La inteligencia artificial ofrece una enorme promesa y un gran riesgo. Para aprovechar al máximo esa promesa, Estados Unidos debe salvaguardar nuestra sociedad, nuestra economía y nuestra seguridad nacional contra riesgos potenciales”, comienza el comunicado de la Casa Blanca.

Por su parte, el secretario general de la ONU, António Guterres, mencionó recientemente que las Naciones Unidas es “el lugar ideal” para adoptar estándares globales y nombró una junta que informará sobre las opciones para la gobernanza global de la IA para finales de año.

Por su parte, China pisó el acelerador en materia legislativa y a mediados de julio se convirtió en el primer país del mundo en implementar una regulación sobre inteligencia artificial. Las nuevas normas del país asiático entrarán en vigor en un mes, el próximo 15 de agosto.

Proponen que intervenga la ONU

¿Qué puede contener el pacto?

El documento subraya tres principios que deben ser fundamentales para el futuro de la IA: seguridad, protección y confianza. Así, las empresas que firmen este acuerdo voluntario se comprometen a:

• Asegurarse de que sus productos sean seguros antes de presentarlos al público. Eso significa probar la seguridad y las capacidades de sus sistemas de IA, someterlos a pruebas externas, evaluar sus posibles riesgos biológicos, de ciberseguridad y sociales, y hacer públicos los resultados de esas evaluaciones.

• Crear sistemas que prioricen la seguridad. Eso significa salvaguardar sus modelos contra amenazas internas y cibernéticas y compartir las mejores prácticas y estándares para evitar el uso indebido, reducir los riesgos para la sociedad y proteger la seguridad nacional.

• Hacer lo correcto por el público y ganarse la confianza de la gente. Eso significa facilitar que los usuarios sepan si el contenido de audio y visual está en su forma original o ha sido alterado o generado por IA. 

Significa garantizar que la tecnología no promueva el sesgo y la discriminación, fortaleciendo las protecciones de privacidad y protegiendo a los niños de cualquier daño. 

Finalmente, significa usar la IA para ayudar a enfrentar los mayores desafíos de la sociedad, desde el cáncer hasta el cambio climático, y gestionar los riesgos de la IA para que sus beneficios puedan aprovecharse por completo.