Hace más de medio siglo, en 1966, el informático teórico Joseph Weizenbaum desarrolló el primer chatbot de la historia, llamado Eliza. Este programa, diseñado para simular una conversación con un psicoterapeuta, reveló el fenómeno conocido como “efecto Eliza”, donde los usuarios tienden a atribuir características humanas a programas que simplemente procesan datos binarios. Este concepto ha cobrado relevancia con el auge de herramientas de inteligencia artificial generativa como ChatGPT, Gemini, Claude o Grok, que generan respuestas persuasivas pero a menudo incorrectas, lo que puede distorsionar la percepción de la realidad de los usuarios.
Impacto en la percepción de la realidad
Expertos en psicología advierten que el uso indiscriminado de la inteligencia artificial puede reforzar sesgos cognitivos y fomentar dinámicas psicológicas problemáticas. Marcos de Andrés, director de enGrama Psicología, señala que estas herramientas pueden llevar a sus usuarios a desarrollar ideas delirantes al proporcionar respuestas que se alinean con las expectativas del usuario, sin importar su veracidad.
“El uso indiscriminado de la IA puede reforzar sesgos cognitivos, alimentar dinámicas psicológicas problemáticas o incluso llevarnos a espirales de delirio”, afirma Marcos de Andrés, director de enGrama Psicología.
Desde Silicon Valley, Mustafa Suleyman, director ejecutivo de IA de Microsoft, ha utilizado el término “psicosis de IA” para describir este fenómeno. Casos documentados evidencian situaciones extremas, como un hombre canadiense convencido de haber descubierto una teoría matemática revolucionaria tras interactuar extensamente con ChatGPT, o una pareja cuya relación se tornó insostenible debido a las “delirios mesiánicos” generados por estas interacciones.
Adulación algorítmica y desinformación
El diseño de los chatbots, orientado a satisfacer al usuario, fomenta la adulación algorítmica, lo que puede resultar en la generación de información errónea. Ramón López de Mántaras, pionero de la IA en España, menciona que estos sistemas presentan una tendencia inherente a producir respuestas, incluso incorrectas, conocidas como ‘alucinaciones’. Un análisis de NewsGuard revela que un tercio de las respuestas de estas plataformas contiene información falsa o sesgada.
Un estudio de la Universidad John Hopkins apunta a que los chatbots están creando “cámaras de eco” que refuerzan prejuicios y pueden aumentar la polarización en temas controvertidos. Además, los usuarios que recurren frecuentemente a la IA muestran menor disposición a reconocer errores en sus juicios.
Distorsión del juicio personal
La confianza ciega en máquinas aduladoras puede distorsionar la percepción que las personas tienen de sí mismas y de su entorno. Un estudio de la Universidad de Stanford advierte que estas interacciones pueden sumergir a los usuarios en “espirales delirantes”. Tal es el caso de individuos con conductas hipocondríacas que consultan compulsivamente a ChatGPT sobre salud, perpetuando un ciclo perjudicial de búsqueda de información.
Joaquin Phoenix, en la película ‘Her’, anticipó los riesgos de la dependencia emocional en la interacción humana con la IA. Este fenómeno es evidente cuando los usuarios buscan validación emocional en la IA, especialmente en conflictos personales, lo que refuerza comportamientos que perpetúan el sufrimiento psicológico.
Respuestas de las compañías tecnológicas
Ante el impacto negativo de estos diseños y su posible daño reputacional, las compañías tecnológicas han comenzado a realizar ajustes. Anthropic ha declarado haber disminuido la adulación algorítmica en un 85% en sus productos de IA generativa, mientras que OpenAI ha revisado el modelo GPT-4 para promover un comportamiento más equilibrado.
La creación de Weizenbaum, que inicialmente parecía un avance prometedor, ha evolucionado hacia un fenómeno que él mismo llegó a desaprobar, alertando sobre los peligros de una dependencia excesiva en la tecnología informática y en un pensamiento científico que podría limitar otras formas de conocimiento.
Comentarios
Todavía no hay comentarios. ¡Sé el primero en opinar!