La mayor asociaci\u00f3n de psic\u00f3logos de Estados Unidos les advirti\u00f3 este mes a los reguladores federales que los chatbots de inteligencia artificial que \u201cfingen<\/strong>\u201d ser terapeutas, pero est\u00e1n programados para reforzar en vez de cuestionar el pensamiento de un usuario, podr\u00edan llevar a las personas vulnerables a hacerse da\u00f1o o a da\u00f1ar a otros<\/strong>.<\/p>\n<\/div>\n En una presentaci\u00f3n ante un panel de la Comisi\u00f3n Federal de Comercio, Arthur C. Evans Jr., director general de la Asociaci\u00f3n Americana de Psicolog\u00eda (APA, por su sigla en ingl\u00e9s), cit\u00f3 casos judiciales concernientes a dos adolescentes que consultaron a \u201cpsic\u00f3logos\u201d en Character.AI<\/strong>, una aplicaci\u00f3n que les permite a los usuarios crear personajes ficticios de IA o chatear con personajes creados por otros.<\/p>\n<\/div>\n En un caso, un chico de 14 a\u00f1os de Florida muri\u00f3 por suicidio tras interactuar con un personaje que dec\u00eda ser un terapeuta con licencia. <\/p>\n<\/div>\n En otro, un chico de 17 a\u00f1os con autismo<\/strong> de Texas se volvi\u00f3 hostil y violento con sus padres durante un periodo en el que mantuvo correspondencia con un chatbot que dec\u00eda ser psic\u00f3logo. <\/p>\n<\/div>\n Los padres de ambos chicos presentaron demandas contra la empresa.<\/p>\n<\/div>\n Evans se mostr\u00f3 alarmado por las respuestas de los chatbots. <\/p>\n<\/div>\n Hizo notar que los bots no cuestionaron las creencias de los usuarios, aunque se volvieron peligrosas; al contrario, las fomentaron. <\/strong><\/p>\n<\/div>\n A\u00f1adi\u00f3 que, si un terapeuta humano hubiera dado esas respuestas, podr\u00eda haber perdido la licencia <\/strong>para ejercer, o tenido responsabilidad civil o penal.<\/p>\n<\/div>\n \u201cEn realidad est\u00e1n utilizando algoritmos que son antit\u00e9ticos a lo que har\u00eda alguien con formaci\u00f3n cl\u00ednica\u201d, se\u00f1al\u00f3. <\/p>\n<\/div>\n \u201cNuestra preocupaci\u00f3n es que cada vez van a perjudicar a m\u00e1s gente. Van a enga\u00f1ar a la gente y esta va a malinterpretar lo que es una buena atenci\u00f3n psicol\u00f3gica\u201d.<\/p>\n<\/div>\n Indic\u00f3 que la APA hab\u00eda decidido actuar, en parte, por lo realistas que se han vuelto los chatbots de IA. <\/p>\n<\/div>\n \u201cQuiz\u00e1 hace 10 a\u00f1os hubiera sido obvio que estabas interactuando con algo que no era una persona, pero hoy no es tan obvio, as\u00ed que creo que ahora hay mucho m\u00e1s en juego\u201d, enfatiz\u00f3.<\/p>\n<\/div>\n La inteligencia artificial se est\u00e1 extendiendo por profesiones relacionadas con la salud mental gracias a que ofrece much\u00edsimas herramientas nuevas dise\u00f1adas para ayudar a los cl\u00ednicos humanos o, en algunos casos, sustituir su trabajo.<\/p>\n<\/div>\n Los primeros chatbots terap\u00e9uticos, como Woebot y Wysa<\/strong>, fueron entrenados para interactuar con base en reglas y guiones desarrollados por profesionales de la salud mental, y a menudo guiaban a los usuarios a trav\u00e9s de pasos estructurados de la terapia cognitivo-conductual, o TCC.<\/p>\n<\/div>\n Luego lleg\u00f3 la IA generativa, tecnolog\u00eda utilizada por aplicaciones como ChatGPT, Replika y Character.AI.<\/strong> <\/p>\n<\/div>\n Estos chatbots son diferentes porque sus resultados son impredecibles; est\u00e1n dise\u00f1ados para aprender del usuario y crear fuertes v\u00ednculos emocionales<\/strong> en el proceso, por lo que a menudo reflejan y amplifican las creencias del interlocutor.<\/p>\n<\/div>\n Aunque estas plataformas de IA se dise\u00f1aron con el prop\u00f3sito de ofrecer entretenimiento, los personajes \u201cterapeutas\u201d y \u201cpsic\u00f3logos\u201d se han multiplicado much\u00edsimo all\u00ed. <\/p>\n<\/div>\n A menudo, los robots afirman tener t\u00edtulos de universidades espec\u00edficas, como la Universidad de Stanford<\/strong>, adem\u00e1s de formaci\u00f3n en tipos concretos de tratamiento, como la TCC o la terapia de aceptaci\u00f3n y compromiso, o ACT.<\/p>\n<\/div>\n Una portavoz de Character.AI<\/strong> inform\u00f3 que la empresa incorpor\u00f3 varias caracter\u00edsticas de seguridad nuevas el a\u00f1o pasado. <\/p>\n<\/div>\n Explic\u00f3 que una de ellas es una cl\u00e1usula de aviso legal mejorada, presente en todos los chats, que les recuerda a los usuarios que \u201clos personajes no son personas reales\u201d y que \u201clo que dice el modelo debe tratarse como ficci\u00f3n\u201d.<\/p>\n<\/div>\n Se han dise\u00f1ado medidas de seguridad adicionales para los usuarios con problemas de salud mental. <\/p>\n<\/div>\n Se les a\u00f1adi\u00f3 un aviso legal espec\u00edfico a los personajes identificados como \u201cpsic\u00f3logo\u201d, \u201cterapeuta\u201d o \u201cm\u00e9dico\u201d para dejar claro que \u201clos usuarios no deben confiar en estos personajes para ning\u00fan tipo de asesoramiento profesional\u201d. <\/p>\n<\/div>\n En los casos en que el contenido hace referencia al suicidio o a autolesiones, una ventana emergente dirige a los usuarios a una l\u00ednea de ayuda para la prevenci\u00f3n del suicidio.<\/strong><\/p>\n<\/div>\n Chelsea Harrison, responsable de comunicaci\u00f3n de Character.ai, tambi\u00e9n se\u00f1al\u00f3 que la empresa tiene previsto introducir controles parentales a medida que se expanda la plataforma. <\/p>\n<\/div>\n En la actualidad, m\u00e1s del 80 por ciento de los usuarios de la plataforma son adultos. <\/p>\n<\/div>\n \u201cLa gente acude a Character.AI para escribir su propia historia, jugar con personajes originales y explorar nuevos mundos; utiliza la tecnolog\u00eda para potenciar su creatividad e imaginaci\u00f3n\u201d, asever\u00f3.<\/p>\n<\/div>\n Meetali Jain, directora de la iniciativa Proyecto de Ley de Justicia Tecnol\u00f3gica<\/strong> y abogada que trabaja en las dos demandas contra Character.AI, opin\u00f3 que los avisos legales no son suficientes para romper la ilusi\u00f3n de que existe conexi\u00f3n humana, especialmente cuando se trata de usuarios vulnerables o ingenuos.<\/p>\n<\/div>\n \u201cCuando, en el fondo, la conversaci\u00f3n con los chatbots sugiere lo contrario, es muy dif\u00edcil saber qui\u00e9n dice la verdad, incluso para quienes no pertenecemos a un grupo demogr\u00e1fico vulnerable\u201d, explic\u00f3. <\/p>\n<\/div>\n \u201cVarios de nosotros hemos probado estos chatbots y, en realidad, es muy f\u00e1cil dejarte llevar\u201d.<\/p>\n<\/div>\n La tendencia de los chatbots a alinearse con las opiniones de los usuarios, un fen\u00f3meno conocido en el campo como \u201cadulaci\u00f3n\u201d, ha causado problemas en el pasado.<\/p>\n<\/div>\n Tessa, un chatbot desarrollado por la Asociaci\u00f3n Nacional de Trastornos Alimentarios<\/strong>, fue suspendido en 2023 despu\u00e9s de que les dio a los usuarios consejos para bajar de peso. <\/p>\n<\/div>\n Tambi\u00e9n algunos investigadores que analizaron interacciones con chatbots de IA generativa documentadas en una comunidad de Reddit encontraron capturas de pantalla que muestran que los chatbots fomentaron el suicidio, los trastornos alimentarios, las autolesiones y la violencia.<\/p>\n<\/div>\n La Asociaci\u00f3n Americana de Psicolog\u00eda le pidi\u00f3 a la Comisi\u00f3n Federal de Comercio que inicie una investigaci\u00f3n sobre los chatbots que dicen ser profesionales dedicados a la salud mental. <\/p>\n<\/div>\n La investigaci\u00f3n podr\u00eda obligar a las empresas a compartir datos internos o servir como precursora para la aplicaci\u00f3n de la ley o la interposici\u00f3n de acciones legales.<\/p>\n<\/div>\n \u201cCreo que ya llegamos a un punto en el que tenemos que decidir c\u00f3mo se van a integrar estas tecnolog\u00edas, qu\u00e9 tipo de salvaguardas vamos a ponerles, qu\u00e9 tipo de protecciones vamos a darle a la gente\u201d, indic\u00f3 Evans.<\/p>\n<\/div>\n![\"Megan](\"https:\/\/13.com.ar\/wp-content\/uploads\/2025\/02\/Los-terapeutas-humanos-se-preparan-para-la-batalla-contra-los.jpg\"\/)
Megan Garc\u00eda, cuyo hijo, Sewell Setzer III, muri\u00f3 de suicidio el a\u00f1o pasado tras meses de uso de chatbots de compa\u00f1\u00eda. Foto Victor J. Blue para The New York Times<\/span><\/span><\/picture><\/div>\nControles<\/h3>\n<\/p>\n