Einführung in das Forschungsergebnis
Ein kürzlich präsentierter Beitrag auf der ACM Web Conference 2026 hat ein überraschendes Phänomen ans Licht gebracht: Der KI‑Chatbot ChatGPT sammelt ohne ausdrückliche Anweisung seiner Nutzer*innen detaillierte psychologische Profile. Das Forschungsteam bezeichnet dieses Vorgehen als „algorithmisches Selbstporträt“ und wirft damit ein grelles Licht auf die bislang wenig beachtete Gedächtnisfunktion des Modells.
Methodik und Datenbasis
Die Analyse wurde von Wissenschaftler*innen des Max‑Planck‑Instituts für Softwaresysteme, der Ruhr‑Universität Bochum, des Max‑Planck‑Instituts für Sicherheit und Datenschutz, des Indian Institute of Technology Kharagpur sowie der Technischen Universität Delft durchgeführt. Insgesamt wurden 1.058 Gesprächsverläufe mit 22.971 einzelnen Anfragen von 80 realen Nutzer*innen ausgewertet – Daten, die im Rahmen des Auskunftsrechts nach DSGVO von OpenAI bereitgestellt wurden.
Ergebnisse im Überblick
In den Protokollen von 65 Teilnehmenden identifizierten die Forschenden 2.050 gespeicherte Gedächtniseinträge. Erstaunlicherweise resultierten lediglich vier Prozent aus einer expliziten Anweisung der Nutzer*innen; die übrigen 96 Prozent wurden eigenständig von ChatGPT angelegt. Dabei enthielten 28 Prozent personenbezogene Daten, und sieben Prozent fielen sogar in besonders geschützte Kategorien, wie Gesundheitsinformationen.
Gesundheits- und Psychologiedaten im Fokus
Ein beachtlicher Anteil – 35 Prozent der betroffenen Nutzer*innen – sah sich mit Einträgen zu Krankheiten, Symptomen oder chronischen Leiden konfrontiert. Noch eindringlicher: 52 Prozent aller gespeicherten Notizen bezogen sich auf psychologische Merkmale. Das Team nutzte das Konzept der „Theory of Mind“, um zu verdeutlichen, dass ChatGPT langfristige Lebensziele, Wünsche und persönliche Pläne erfasst hat. Fast 90 Prozent dieser Einträge betrafen keine flüchtigen Stimmungen, sondern stabile, tief verwurzelte Motivationen, die bei 97 Prozent der untersuchten Personen hinterlegt waren.
Qualität und Verlässlichkeit der gespeicherten Fakten
Bei der Überprüfung der Richtigkeit zeigte sich, dass 84 Prozent der Einträge direkt aus den Formulierungen der Nutzer*innen stammten. In fünf Prozent der Fälle fügte das Modell jedoch ungeprüfte Annahmen als Fakten hinzu – ein Beispiel: Die Annahme, eine Person mag die Band Nirvana, obwohl dies nie explizit genannt wurde.
Auswirkungen auf Datenschutz und zukünftige Entwicklungen
OpenAI hatte bereits im April 2025 das Gedächtnis auf den gesamten Chatverlauf ausgeweitet und im Juni 2026 das Konzept „Dreaming“ eingeführt, um personalisierte Werbung zu ermöglichen. Die aktuelle Studie legt nahe, dass solche Mechanismen tiefere Einblicke in das Innenleben der Nutzer*innen ermöglichen – ein Szenario, das erhebliche Fragen zum Schutz sensibler Daten aufwirft.
Die Ergebnisse mahnen sowohl Entwickler*innen als auch Anwender*innen, die Implikationen von KI‑basierten Gedächtnisfunktionen kritisch zu hinterfragen und klare Richtlinien für den Umgang mit persönlichen Informationen zu etablieren.
Source: https://t3n.de/news/chatgpt-gedaechtnis-psychologische-profile-studie-1769797/