Berliner Tageblatt - Apple acepta cumplir salvaguardas de la Casa Blanca para el uso de IA generativa

Amazon, Google, Microsoft y OpenAI son algunas de las empresas, rivales en el sector, que se unieron a las autoridades de Estados Unidos para realizar este pacto voluntario hace un año.

En la ocasión, la administración del presidente Joe Biden dijo que había logrado el compromiso de las compañías "para avanzar hacia un desarrollo seguro y transparente de la tecnología de IA".

A inicios de junio, Apple lanzó Apple Intelligence, que busca optimizar el uso de IA generativa en los dispositivos de la empresa, como el Iphone y la Mac. También prevé una alianza con OpenAI, que permitirá que la aplicación ChatGPT pueda ser usada en sus teléfonos inteligentes a pedido del usuario.

La aplicación de la IA generativa, que permite producir rápidamente imágenes, sonidos y videos con una simple demanda verbal, prevé importantes progresos en áreas como la medicina, pero genera temores sobre un aumento de la desinformación, la pérdida masiva de empleos o el robo de propiedad intelectual.

También enciende las alertas ante el posible uso de la IA por parte de régimenes autoritarios o de organizaciones criminales.

Las salvaguardas acordadas con las tecnológicas incluyen la simulación de ataques en modelos de IA, una técnica llamada "red teaming" que busca exponer posibles vulnerabilidades.

Según la Casa Blanca, los modelos o sistemas de prueba de IA deben incluir riesgos para la sociedad y de seguridad nacional, así como ciberataques y el desarrollo de armas biológicas.

El compromiso suscrito también prevé que las empresas compartan información entre ellas y con el gobierno sobre los riesgos de la IA y de tentativas de burlar las defensas.

A finales del año pasado, Biden firmó una orden ejecutiva estableciendo nuevos estándares de seguridad para los sistemas de IA y exigiendo que los desarrolladores compartan los resultados de sus pruebas de seguridad con el gobierno estadounidense.

La Casa Blanca indicó que la orden ejecutiva incluía la mayor serie de acciones "nunca antes adoptada para proteger a los estadounidenses del riesgo potencial de los sistemas de IA".

J.Fankhauser--BTB