Un estudio académico reveló que ChatGPT crea por iniciativa propia el 96% de los registros que almacena sobre la personalidad de sus usuarios, sin que estos se lo soliciten de forma explícita. Más de la mitad de esa información incluye datos psicológicos sensibles, como deseos, intenciones, emociones y creencias.
La investigación, titulada “The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT”, fue presentada en la ACM Web Conference 2026. Participaron científicos del Instituto Max Planck para Sistemas de Software, el Instituto Max Planck para Seguridad y Privacidad, la Universidad Ruhr de Bochum, el Instituto Indio de Tecnología de Kharagpur y la Universidad Técnica de Delft.
Los investigadores analizaron 2.050 entradas de memoria obtenidas de 80 usuarios reales de ChatGPT. Estos accedieron a sus historiales mediante el derecho de acceso que contempla el Reglamento General de Protección de Datos (RGPD) de la Unión Europea. De esos participantes, 65 contaban con memorias generadas por el sistema. Solo el 4% de los registros se creó por pedido directo del usuario; el 96% restante surgió de decisiones unilaterales del chatbot mientras respondía otras consultas.
El 52% de las memorias analizadas contenía información psicológica. Los deseos aparecieron en el 73% de esos casos, seguidos por las intenciones (16%), las emociones (14%) y las creencias (11%). Los autores aplicaron el marco de la Teoría de la Mente, propio de la psicología, y observaron que el sistema prioriza rasgos duraderos (deseos e intenciones, casi el 90%) por sobre estados pasajeros como las emociones.
Un ejemplo ilustra el mecanismo: cuando un usuario pidió sugerencias de bandas similares a Nirvana, ChatGPT registró que a esa persona “le gusta Nirvana”, aunque nunca lo hubiera afirmado. El propio sistema etiquetó esa inferencia como “débilmente respaldada”. Aun así, el 84% de las memorias resultó fiel al contenido real de las conversaciones.
Abhisek Dash, autor principal del estudio, explicó a Gizmodo que las plataformas de IA necesitan conocer más a los usuarios porque ahora conversan de forma directa con ellos, a diferencia de los modelos publicitarios anteriores. Sin embargo, advirtió sobre los riesgos de privacidad: el chatbot puede actuar como asesor, amigo, médico o abogado, y acumular información sobre prácticamente todo. Si el sistema valida de manera sistemática las creencias del usuario, podría contribuir a polarización política extrema o al refuerzo de prejuicios.
Para mitigar estos riesgos, el equipo desarrolló un sistema experimental llamado Attribution Shield. Esta herramienta detecta de antemano consultas que podrían generar inferencias sensibles y sugiere al usuario formas alternativas de redactar la pregunta. Según el paper, evitó ese tipo de atribuciones en más del 94% de los casos probados sin alterar de forma sustancial el sentido original. El código fue publicado en Zenodo para permitir auditorías.
