Los ciberdelincuentes han intensificado el uso de herramientas de inteligencia artificial para crear falsificaciones de celebridades, apoderándose de sus imágenes para engañar a sus fanáticos y quitarles su dinero y criptomonedas; un informe afirma que dicho contenido creció un 87 por ciento en el último año.
El lunes, el gigante de YouTube, Mr. Beast, notificó a sus más de 24 millones de seguidores en Twitter que había sido víctima de uno de esos esquemas y cuestionó si las empresas de tecnología eran capaces de detenerlos.
“Mucha gente está recibiendo este anuncio fraudulento de mí”, escribió Beast. “¿Están las plataformas de redes sociales preparadas para manejar el aumento de los deepfakes de IA?”
Mucha gente está recibiendo este anuncio fraudulento mío de deepfake… ¿están las plataformas de redes sociales preparadas para manejar el aumento de los deepfakes de IA? Este es un problema grave pic.twitter.com/llkhxswQSw
— Señor Bestia (@MrBeast) 3 de octubre de 2023
“No lo son, y tampoco lo es la democracia”, respondió la presentadora de podcasts, comunicadora científica y campeona de póquer Liv Boeree.
Un deepfake es un contenido de vídeo o audio creado con inteligencia artificial generativa que representa eventos falsos, pero está hecho de manera que pueda confundirse fácilmente con contenido legítimo y genuino.
La preocupación en torno a los deepfakes generados por IA hace que los líderes mundiales, los formuladores de políticas y las fuerzas del orden se hagan eco del sentimiento de Boeree y hagan sonar la alarma.
Mr. Beast, cuyo nombre real es James Donaldson, es solo la última celebridad en la que se utiliza su imagen en una estafa o campaña en línea sin su permiso. El domingo, el legendario actor Tom Hanks recurrió a Instagram para advertir a sus fanáticos sobre una campaña que anunciaba un plan dental que utilizaba una versión generada por inteligencia artificial del artista ganador del Premio de la Academia. Mientras tanto, una publicación en Instagram de la hija del fallecido Robin Williams también denunció las campañas que utilizan una réplica de la voz de su padre en contenido comercial.
Varias personalidades de las noticias televisivas también han aparecido en contenido viral deepfake, incluidas Gayle King de CBS, Tucker Carlson de Fox News y Bill Maher de HBO.
También se están cortejando intereses más lascivos, y los rostros de actrices como Taylor Swift, Natalie Portman y Emma Watson son cada vez más explotados en pornografía deepfake, según un informe dominical del Correo diario. Citando a la firma de seguridad ActiveFence, el informe afirmó que la cantidad de pornografía deepfake de celebridades creció un 87 por ciento respecto al año pasado, y que los individuos privados estaban siendo explotados un 400 por ciento más.
El señor Bestia aún no ha respondido a Descifrar petición de comentario.
La IA es una de las cuestiones clave en las negociaciones en curso entre SAG-AFTRA y la Alianza de Productores de Cine y Televisión (AMPTP). Y algunos actores están llevando el problema de los deepfakes de IA a los tribunales y están ganando.
El mes pasado, el popular actor indio Anil Kapoor ganó una sentencia del Tribunal Superior de Delhi contra el uso no autorizado de su nombre, imagen y voz. Y aunque Tom Cruise no ha hablado públicamente de ello, un deepfake de él con IA se volvió viral el año pasado después de que se subió a las redes sociales.
El equipo detrás de los videos de “Deep Tom Cruise” fundó la empresa de desarrollo de inteligencia artificial Metaphysic AI.
Lanzado en 2021 por Chris Ume, Kevin Ume, Miles Fisher, Tom Graham y Martin Adams, Metaphysic, con sede en Londres, apareció en “America’s Got Talent” en septiembre del año pasado, cuando su tecnología mostró un Elvis Presley generado por IA para una actuación de una sola noche.
Metaphysic dice que junto con Tom Hanks, otros artistas, incluidos Anne Hathaway y Octavia Spencer, han utilizado su tecnología para crear y almacenar las características necesarias para crear un avatar digital legal de sus imágenes.
Los representantes de Hanks, Spencer y Hathaway se negaron o no regresaron. Descifrar petición de comentario.
Los actores no son los únicos artistas que reciben el tratamiento de IA: en agosto, la cantante Selena Gomez fue objeto de un audio deepfake de IA publicado en Instagram que presentaba una versión falsa de la artista cantando una versión remix de “Starboy” de The Weeknd.
The Weeknd también fue objeto de una colaboración deepfake generada por IA con una réplica falsa de Drake para la canción “Heart on My Sleeve”, que la Academia de la Grabación decidió que no era elegible para un premio Grammy después de que se volvió viral a principios de este año.