La inteligencia artificial volvió a ser el tema candente de discusión en la Cumbre Web anual en Lisboa, Portugal. Durante el día de clausura del evento, la denunciante y activista Chelsea Manning expresó su preocupación por el desarrollo de la inteligencia artificial y el choque entre humanos y tecnología.
“Vivimos en esta era en la que estamos rodeados de tecnología”, dijo Manning. “Me he encontrado con numerosos casos de este choque entre los humanos que somos y la tecnología, y la forma en que la tecnología está dando forma a cómo interactuamos entre nosotros, y cómo las instituciones son parte de eso”.
Manning dice que su vida ha sido moldeada por la exposición al ámbito digital, incluyendo no tener hogar, unirse al ejército y ir a prisión por filtrar documentos militares a WikiLeaks en 2010.
“Dejo que eso impulse mi forma de integrarme, ver la tecnología y querer construir un futuro mejor y más grande”, dijo Manning.
Manning cuestionó los motivos detrás del rápido desarrollo de la tecnología de IA, a quién beneficiará en última instancia la tecnología y si el impulso hacia la inteligencia artificial está mercantilizando la vida cotidiana.
“¿Estamos simplemente olvidando el elemento humano y convirtiendo cada interacción que tenemos en el día a día en una mercancía?” dijo Manning. “Este producto somos nosotros haciendo algo tan simple como deslizar el dedo en una aplicación o hacer clic en un lindo ícono de corazón”.
Manning calificó la inteligencia artificial y los grandes modelos de lenguaje como palabras de moda del momento y señaló la gran cantidad de datos con los que se entrenan estos modelos, citando Wikipedia, libros de texto, videos e imágenes como ejemplos.
Manning señaló que, a diferencia de los archivos en un servidor, estos datos están integrados en las pesas y balanzas del modelo y no pueden simplemente eliminarse, lo que contrasta con el Reglamento General de Protección de Datos (GDPR) de la Unión Europea y los derechos de privacidad, donde las personas pueden solicitar eliminación de datos.
“Creo que nos corresponde a nosotros, como tecnólogos, desarrollar herramientas que tengan en cuenta el hecho de que las personas necesitan tener cierta apariencia de privacidad y que las comunicaciones no deberían ser un recurso que deba extraerse y mercantilizarse”. dijo Manning. “No quiero vivir en un mundo donde las relaciones que tenemos sean un valor numérico”.
Manning advirtió que con los modelos de lenguaje grandes, una vez que se incorpora la información personal o privada de una persona, se convierte en una parte permanente del modelo, lo que hace imposible su eliminación.
En 2021, Manning se unió a la empresa Nym Technologies, con sede en Suiza, como consultor de seguridad y defensor de la privacidad. Nym Technologies lanzó su proyecto Nym centrado en la privacidad, una plataforma de identidad descentralizada, en 2020 en la cadena de bloques Cosmos.
“Creo que mi enfoque más amplio y general es la importancia de tener cierta apariencia de privacidad, mediante encriptación o mediante los medios técnicos y tecnológicos que tenemos, y poder usarla intuitivamente”, dijo Manning. “No debería ser difícil ni difícil de usar”.
Manning también destacó el aumento de los deepfakes generados por IA.
“Las cosas que me han llamado la atención en los últimos seis meses no han sido el hecho de que la gente esté usando deepfakes en el discurso y la discusión públicos, sino el hecho de que se pueden crear y el hecho de que existen y se utilizan para sembrar dudas. sobre información real verificada”, dijo Manning. “Creo que esta tendencia sigue haciendo que la gente cuestione cada vez más su propia realidad”.
A medida que los deepfakes se han vuelto más avanzados, a los responsables políticos les preocupa que puedan influir en las próximas elecciones o alimentar el odio en línea. Una solución que propuso Manning fue utilizar criptografía para verificar la información.
Manning dijo anteriormente Descifrar que Bitcoin apeló a su pasión por la criptografía, la seguridad de la información y la construcción de redes descentralizadas basadas en criptografía.
“Sé que es atractivo poder decir: puedo elegir mi propia realidad, puedo elegir lo que me gusta”, dijo Manning. “Pero la realidad es que el mundo material físico real se topará con eso en algún momento. Y creo que cuando se trata del clima en particular, no podremos simplemente ignorarlo”.
Editado por Ryan Ozawa.