Consideremos por un momento cuántos hechos históricos aceptamos como verdad sin cuestionar su validez. ¿Qué pasaría si, por ejemplo, un libro del siglo VII que detalla una batalla importante fuera reescrito por alguien del siglo IX? Quizás un líder del siglo IX hizo que un escriba reescribiera el relato para satisfacer sus aspiraciones políticas o personales, permitiéndole ejercer más poder o forjar un legado basado en un pretexto falso.
Por supuesto, no estoy proponiendo que los hechos históricos comúnmente aceptados sean falsos o estén manipulados. Aún así, resalta la dificultad de verificar datos históricos anteriores a la era moderna, lo que simboliza un problema que los desarrollos futuros de IA sin control podrían traer de vuelta.
El estado actual de la IA se desarrolla en silos dominados principalmente por entidades poderosas que nos ponen en riesgo de un futuro distópico donde las verdades pueden reescribirse. El cambio de Open AI hacia un modelo más cerrado después de promover un enfoque de código abierto para el desarrollo de la IA ha desencadenado estos temores y ha generado preocupaciones sobre la transparencia y la confianza pública.
Si esta tendencia se convierte en la dirección dominante de la IA, quienes acumulen potencia informática y desarrollen tecnologías y aplicaciones avanzadas de IA podrán crear realidades alternativas, incluida la forja de narrativas históricas.
Ha llegado el momento de regular la IA
Mientras las entidades centralizadas oculten sus algoritmos al público, la amenaza combinada de la manipulación de datos y su capacidad para desestabilizar el clima político y socioeconómico podría realmente alterar el curso de la historia humana.
A pesar de numerosas advertencias, organizaciones de todo el mundo se apresuran a utilizar, desarrollar y acumular poderosas herramientas de IA que pueden superar el alcance de la inteligencia humana en la próxima década. Si bien esta tecnología puede resultar útil, la amenaza que se cierne es que se pueda abusar de estos avances para restringir las libertades, difundir campañas de desinformación altamente peligrosas o utilizar nuestros datos para manipularnos a nosotros mismos.
Incluso hay cada vez más pruebas de que los agentes políticos y los gobiernos utilizan generadores de imágenes de IA comunes para manipular a los votantes y sembrar divisiones internas entre las poblaciones enemigas.
La noticia de que la última suite de inteligencia artificial de iOS 18 puede leer y resumir mensajes, incluido el correo electrónico y aplicaciones de terceros, preocupa a muchos sobre el acceso de las grandes tecnologías a chats y datos privados. Entonces, surge la pregunta: ¿estamos entrando a un futuro en el que los malos actores puedan manipularnos fácilmente a través de nuestros dispositivos?
No quiero infundir miedo, pero supongamos que el desarrollo de modelos de IA queda a merced de entidades centralizadas enormemente poderosas. Es fácil para la mayoría de nosotros imaginar que este escenario se descarrilará por completo, incluso si tanto los gobiernos como las grandes empresas tecnológicas creen que están operando en aras del bien común.
En este caso, los ciudadanos promedio nunca obtendrán un acceso transparente a los datos utilizados para entrenar modelos de IA que progresan rápidamente. Y dado que no podemos esperar que las grandes tecnologías o elementos del sector público rindan cuentas voluntariamente, es necesario establecer marcos regulatorios impactantes para garantizar que el futuro de la IA sea ético y seguro.
Para oponerse a los lobbys corporativos que buscan bloquear cualquier acción regulatoria sobre la IA, corresponde al público exigir a los políticos que implementen las regulaciones necesarias para salvaguardar los datos de los usuarios y garantizar que los avances en la IA se desarrollen de manera responsable y al mismo tiempo fomenten la innovación.
California está trabajando actualmente para aprobar un proyecto de ley para controlar los peligros potenciales de la IA. La legislación propuesta limitaría el uso de algoritmos en niños, exigiría que se pruebe la capacidad de los modelos para atacar la infraestructura física y limitaría el uso de falsificaciones profundas, entre otras medidas de seguridad. Si bien a algunos defensores de la tecnología les preocupa que este proyecto de ley obstaculice la innovación en el principal centro tecnológico del mundo, también existe la preocupación de que no haga lo suficiente para abordar la discriminación dentro de los modelos de IA.
El debate en torno a los intentos de legislación de California muestra que las regulaciones por sí solas no son suficientes para garantizar que los futuros desarrollos de la IA no puedan ser corrompidos por una pequeña minoría de actores o un cártel de las grandes tecnologías. Es por eso que la IA descentralizada, junto con medidas regulatorias razonables, brinda a la humanidad el mejor camino para aprovechar la IA sin temor a que se concentre en manos de los poderosos.
Descentralización = democratización
Nadie puede predecir adónde nos llevará exactamente la IA si no se controla. Incluso si los peores escenarios apocalípticos no se materializan, los desarrollos actuales de la IA son antidemocráticos, poco confiables y se ha demostrado que violan las leyes de privacidad existentes en lugares como la Unión Europea.
Para evitar que los avances de la IA desestabilicen a la sociedad, la forma más impactante de corregir el rumbo de la IA es imponer la transparencia dentro de un entorno descentralizado utilizando la tecnología blockchain.
Pero el enfoque descentralizado no sólo facilita la confianza a través de la transparencia, sino que también puede impulsar la innovación a través de una mayor colaboración, proporcionar controles contra la vigilancia y la censura masivas, ofrecer una mejor resiliencia de la red y escalar de manera más efectiva simplemente agregando nodos adicionales a la red.
Imagínese si el registro inmutable de blockchain existiera durante los tiempos bíblicos, podríamos tener un poco más de comprensión y contexto para analizar y evaluar documentos históricos significativos como los Rollos del Mar Muerto. El uso de blockchain para permitir un amplio acceso a los archivos y al mismo tiempo garantizar que sus datos históricos sean auténticos es un tema sobre el que se ha opinado ampliamente.
Las redes centralizadas se benefician de los bajos costos de coordinación entre los participantes porque la mayoría de ellas operan bajo una única entidad centralizada. Sin embargo, las redes descentralizadas se benefician al compensar los mayores costos de coordinación. Esto significa mayores recompensas por incentivos más granulares basados en el mercado en todas las capas de computación, datos, inferencia y otras capas de la pila de IA.
La descentralización efectiva de la IA comienza con reimaginar las capas que componen la pila de IA. Cada componente, desde la potencia informática, los datos, el entrenamiento de modelos, el ajuste y la inferencia, debe construirse de manera coordinada con incentivos financieros para garantizar la calidad y una amplia participación. Aquí es donde entra en juego blockchain, facilitando la monetización a través de la propiedad descentralizada y al mismo tiempo garantizando una colaboración transparente y segura de código abierto para contrarrestar los modelos cerrados de las Big Tech.
Cualquier acción regulatoria debe centrarse en orientar los desarrollos de la IA para ayudar a la humanidad a alcanzar nuevas alturas y al mismo tiempo permitir y fomentar la competencia de la IA. Establecer y fomentar una IA responsable y regulada es más eficiente cuando se hace en un entorno descentralizado porque su distribución de recursos y control reduce drásticamente su potencial corruptible, y esta es la principal amenaza de la IA que queremos evadir.
En este punto, la sociedad reconoce el valor de la IA, así como los múltiples riesgos que ofrece. De cara al futuro, el desarrollo de la IA debe lograr un equilibrio entre mejorar la eficiencia y al mismo tiempo tener en cuenta consideraciones éticas y de seguridad.
Peter Ionov es autor invitado de Cointelegraph y empresario, ingeniero e inventor ucraniano que dirige y dirige varias empresas: Robosoft, GT Protocol y Ukr Reklama. Peter está allanando el camino en Web4, robótica e inteligencia artificial. Es conocido por su ambiciosa visión del futuro de la humanidad, que incluye la idea de “trabajo para robots, descanso para las personas” y el desarrollo de tecnologías que mejoren la vida y la estabilidad de las personas.
Este artículo tiene fines de información general y no pretende ser ni debe tomarse como asesoramiento legal o de inversión. Los puntos de vista, pensamientos y opiniones expresados aquí son únicamente del autor y no reflejan ni representan necesariamente los puntos de vista y opiniones de Cointelegraph.
Fuente Traducida desde cointelegraph.com