La IA generativa ha facilitado que la persona promedio cree obras de arte y otros contenidos. También ha hecho que sea mucho más fácil crear algunas cosas realmente extravagantes y controvertidas, como imágenes generadas por IA de Bob Esponja o Kirby de Nintendo volando aviones de pasajeros hacia el World Trade Center.
Si bien se han utilizado generadores de imágenes de IA para crear material sexual falso, estas herramientas también se están empleando para crear escenas que representan violencia o escenas atrevidas, incluso en las que participan políticos, figuras históricas y queridos personajes de ficción.
Las plataformas de redes sociales están repletas de imágenes de stickers supuestamente creados con el generador de stickers de inteligencia artificial de Facebook. Estas incluyen imágenes de Elmo empuñando un cuchillo, Mickey Mouse en un baño, Wario y Luigi de la franquicia Super Mario sosteniendo rifles e incluso una interpretación con poca ropa del primer ministro canadiense Justin Trudeau.
“Realmente vivimos en el futuro más estúpido imaginable”, escribió el artista de videojuegos Pier-Olivier Desbiens. en un tuit viral que contiene algunas de las supuestas pegatinas de IA.
Descubrí que Facebook Messenger ahora tiene pegatinas generadas por IA y no creo que nadie involucrado haya pensado en nada. pic.twitter.com/co987cRhyu
— defender los derechos trans🏳️⚧️ – podesbiens.bsky.social (@Pioldes) 3 de octubre de 2023
Cuando Descifrar contactó a Meta y preguntó sobre las pegatinas de IA, un portavoz señaló una publicación de blog de la compañía que decía en parte: “Como ocurre con todos los sistemas de IA generativa, los modelos podrían arrojar resultados inexactos o inapropiados. Continuaremos mejorando estas características a medida que avanzamos”. evolucionan y más personas comparten sus comentarios”.
Meta, la empresa matriz de Facebook, se ha lanzado de lleno a las herramientas de inteligencia artificial generativa en 2023, invirtiendo hasta 39 mil millones de dólares solo este año. En julio, Meta se unió a OpenAI, Google, Microsoft y otros para comprometerse a desarrollar la IA de manera responsable. Este compromiso se produjo después de reuniones con la Administración Biden sobre la IA generativa.
Además de las pegatinas de IA que utilizan Llama 2 y Emu de Meta, Meta anunció durante su evento Meta Connect el mes pasado el lanzamiento de una serie de herramientas generadas por IA, incluidos asistentes de IA conversacionales para WhatsApp, Messenger e Instagram, con la participación de varias personas de alto perfil. celebridades, incluidos Snoop Dogg, Tom Brady, Kendall Jenner y Naomi Osaka, para prestar sus voces y semejanzas a la alineación de IA de Meta.
Meta dice que está utilizando inteligencia artificial para identificar contenido dañino de manera más rápida y precisa al entrenar sus grandes modelos de lenguaje en los “Estándares comunitarios” de la compañía. Y agregó que la empresa es optimista. La IA generativa puede ayudarla a hacer cumplir nuestras políticas en el futuro.
Los stickers de Facebook no son el único arte surrealista generado por IA que está causando sensación esta semana. Junto con Bob Esponja y Kirby “haciendo el 11 de septiembre”, como se destaca en un informe de 404 Mediosotros usuarios de Twitter supuestamente han estado usando el generador de imágenes Bing AI de Microsoft para crear sus propios riffs controvertidos de la cultura pop, como una imagen de personajes de anime de “Neon Genesis Evangelion”. Pilotando un avión de pasajeros hacia el World Trade Center.
Si bien podría decirse que el genio de la IA ya está fuera de la botella, las empresas están intentando frenar el uso indebido de sus plataformas, incluida la instituir políticas KYC para los usuarios, como sugirió el presidente de Microsoft, Brad Smith, en septiembre.
A principios de este año, Midjourney finalizó su versión de prueba gratuita después de que se utilizara para crear deepfakes generados por IA. El mes pasado, OpenAI, creador de ChatGPT, lanzó la última versión de su generador de imágenes de IA Dall-E 3, que incluía nuevas barreras de seguridad y funciones en un intento de tomar medidas drásticas contra el contenido violento, para adultos o que incita al odio. Ese mismo mes, Getty Images lanzó una herramienta de imágenes de IA generativa basada en su vasta biblioteca de imágenes.
El miércoles, la empresa de creación de contenido Canva lanzó su conjunto Magic Studio de herramientas de inteligencia artificial generativa que incluyen barreras de seguridad que permitirían a la herramienta generar imágenes de celebridades o cualquier cosa relacionada con la medicina o la política.
“Como parte de nuestra confianza y seguridad [policies]no permitimos que nuestra IA genere imágenes de figuras populares o públicas o personas conocidas, así como propiedad intelectual de terceros”, dijo Danny Wu, jefe de productos de IA de Canva. Descifrar.