Cuatro meses después de emitir una orden ejecutiva exigiendo que la inteligencia artificial se construya y utilice de forma segura, la Administración Biden anunció hoy el lanzamiento del Consorcio del Instituto de Seguridad de la IA de EE. UU. (AISIC). El nuevo consorcio cuenta con más de 200 representantes, incluidos rivales de IA de primer nivel como Amazon, Google, Apple, Anthropic, Microsoft, OpenAI y NVIDIA.
El consorcio reúne a desarrolladores de IA, académicos, investigadores gubernamentales y de la industria, organizaciones de la sociedad civil y usuarios unidos en “el desarrollo y despliegue de inteligencia artificial segura y confiable”.
“El presidente Biden nos ordenó que usáramos todos los recursos para lograr dos objetivos clave: establecer estándares de seguridad y proteger nuestro ecosistema de innovación”, dijo la secretaria de Comercio, Gina Raimondo, en un comunicado. “Eso es precisamente para lo que el Consorcio del Instituto de Seguridad de IA de EE. UU. está creado para ayudarnos a hacer”.
Explicó que el consorcio surge de la Orden Ejecutiva firmada por el presidente estadounidense Biden en octubre. Esa orden incluía el desarrollo de pautas para evaluar modelos de IA, gestión de riesgos, seguridad y protección y aplicar marcas de agua al contenido generado por IA.
“Nos aseguraremos de que Estados Unidos esté al frente del grupo”, afirmó Raimando. “Al trabajar con este grupo de líderes de la industria, la sociedad civil y el mundo académico, juntos podemos enfrentar estos desafíos para desarrollar las mediciones y estándares que necesitamos para mantener La ventaja competitiva de Estados Unidos y desarrollar la IA de manera responsable”.
Se unen al consorcio representantes de los sectores sanitario, académico, sindical y bancario, incluidos JP Morgan, Citigroup, la Universidad Carnegie Mellon, Bank of America, la Universidad Estatal de Ohio y el Instituto de Investigación Tecnológica de Georgia, así como gobiernos estatales y locales. representantes.
También se espera que colaboren los socios internacionales.
“El consorcio representa la mayor colección de equipos de prueba y evaluación establecidos hasta la fecha y se centrará en establecer las bases para una nueva ciencia de medición en la seguridad de la IA”, dijo el Departamento de Comercio. “El consorcio… trabajará con organizaciones de naciones con ideas afines que tienen un papel clave que desempeñar en el desarrollo de herramientas interoperables y efectivas para la seguridad en todo el mundo”.
La lista de empresas participantes es tan extensa que puede resultar más útil observar qué empresas no se unieron. Entre las diez principales empresas de tecnología que no están representadas se encuentran Tesla, Oracle y Broadcom. TSMC tampoco figura en la lista, pero tampoco es una empresa con sede en EE. UU.
La rápida difusión de las herramientas de IA generativa en la corriente principal ha provocado innumerables casos de uso indebido y un aumento de deepfakes en línea generados por IA. Los líderes mundiales, incluidos el presidente Biden y el expresidente Donald Trump, han sido el blanco de muchas de estas imágenes falsas. El jueves, la Comisión Federal de Comunicaciones de EE. UU. anunció que las llamadas automáticas generadas por IA que utilizan voces deepfake son ilegales en Estados Unidos.
“El aumento de este tipo de llamadas ha aumentado durante los últimos años, ya que esta tecnología ahora tiene el potencial de confundir a los consumidores con información errónea al imitar las voces de celebridades, candidatos políticos y familiares cercanos”, dijo la FCC.
Desde el lanzamiento de GPT-4 a principios del año pasado, los líderes mundiales han luchado por encontrar la manera de dominar el desarrollo de la IA. En mayo pasado, la Administración Biden se reunió con varias empresas de tecnología e inteligencia artificial, muchas de las cuales ahora forman parte del consorcio. OpenAI, Google, Microsoft, Nvidia, Anthropic, Hugging Face, IBM, Stability AI, Amazon, Meta e Inflection firmaron un compromiso para desarrollar la IA de manera responsable.
“Ninguno de nosotros puede lograr la IA por sí solo”, dijo anteriormente Kent Walker, presidente de Asuntos Globales de Google. “Nos complace unirnos a otras empresas líderes en IA para respaldar estos compromisos y nos comprometemos a continuar trabajando juntos compartiendo información y mejores prácticas”.
Editado por Ryan Ozawa.