Fehler by Design: Das Gedächtnis im KI-Zeitalter

Wer sich ernsthaft mit künstlicher Intelligenz beschäftigt, muss zunächst verstehen, wie das menschliche Gehirn funktioniert. Bis heute bleiben dabei aber fundamentale Fragen unbeantwortet. Vor allem unser fehleranfälliges Gedächtnis wird erschreckend oft überschätzt, wie „Mind Hacker“ Dr. Julia Shaw beweist. Werden wir es künftig einfach auslagern?

„KI hält uns den Spiegel vor“, sagt die Oxford-Forscherin Dr. Sandra Wachter. „Wenn wir als Menschen vorurteilsbehaftet sind, werden es auch die Algorithmen sein, die unsere Daten als Grundlage ihrer Entscheidungen nehmen.“ Mit diesen Worten endete unser Beitrag zur KI-Ethik auf LEVEL UP+. Die Fehler einer KI sind Fehler des Menschen. Und der Mensch lässt sich einfacher manipulieren, als ihm lieb ist.

Dr. Julia Shaw ist Wissenschaftlerin in der Abteilung für Psychologie an der University College London. Sie forscht in den Bereichen Rechtspsychologie, künstliche Intelligenz und Erinnerungen. Bekannt wurde Shaw unter dem publikumswirksamen Titel „Mind Hacker“. Und der geht auf ein Experiment zurück, das stark an den Hollywood-Film Inception erinnert. Darin dringt Leonardo DiCaprio in das Unterbewusstsein anderer Menschen vor, um einen Gedanken einzupflanzen, den diese fortan als ihre eigenen wahrnehmen. Was im Film einiges an Science-Fiction braucht, konnte Shaw mit kognitionspsychologischer Gesprächsführung real nachstellen.

Gedanken sind eine persönliche Konstruktion

Vereinfacht dargestellt, lief das so ab: In mehreren Gesprächen erzählte Shaw ihren Versuchspersonen von deren Kindheit – darunter von vielen Details, die Shaw als Fremde eigentlich gar nicht hätte wissen sollen. Nach anfänglicher Skepsis vertrauten ihr die Probanden schon nach kurzer Zeit. Sie glaubten ihr sogar, als sie frei erfundene Situationen schilderte. Das große Finale: Shaw konnte die meisten der Studienteilnehmer davon überzeugen, in ihrer Kindheit ein Verbrechen begangen zu haben. Aus anfänglicher Ablehnung wurde ein Schuldeingeständnis. Nur: Das Verbrechen gab es nie, auch das war frei erfunden.

Mit ihrer Arbeit will Shaw natürlich polarisieren. Aber sie unterstützt auch die Strafverfolgung: In Gerichtsprozessen untersucht sie beispielsweise, ob Zeugen durch manipulative Befragungsmethoden so beeinflusst werden, dass sie einen falschen Augenzeugenbericht abgeben. Ohne es zu wollen.

„Das Gedächtnis ist wie eine Wikipedia-Seite. Man kann es selbst verändern. Aber andere können das auch.“

Elizabeth Loftus, Scientific Advisory Boards der False Memory Syndrome Foundation

Gedächtnis-Outsourcing ist Alltag

Wenn das menschliche Gedächtnis derart beeinflussbar ist, wieso lagern wir es dann nicht aus? Im Grunde tut der Mensch das bereits, seitdem er die ersten Höhlen bemalt hat. Mit den digitalen Möglichkeiten hat sich das Ausmaß aber in den letzten Jahren drastisch verändert. Spätestens seit der massenhaften Verbreitung von Smartphones ist das Dokumentationszeitalter angebrochen: Wir halten Momente digital fest, statt sie mit allen Sinnen zu erfassen. Dieses Multisensorische ist jedoch die Voraussetzung, damit sich Erinnerungen bilden können. Wer im Urlaub mehr filmt als erlebt, der erinnere daher auch weniger, sagt Shaw.

Schon vor einigen Jahren kam so die Frage auf, ob die digitale Welt den Menschen dümmer mache. In der Tat zeigen Studien, dass sich das Gehirn recht schnell an die veränderte Nutzung gewöhnt. Es vernetzt seine Neuronen neu. Oder wie Shaw es ausdrückt:

„Wir programmieren uns selbst um, indem wir dem Hirn mitteilen: Ich muss mir keine konkreten Fakten merken. Ich weiß ja, wo ich sie finden kann.“

Dr. Julia Shaw, Rechtspsychologin, University College London

Den Effekt nennt man digitale Amnesie.

Ist das zwangsläufig etwas Schlechtes? Schließlich sind ausgelagerte Informationen, wie schon erörtert, objektiver als eine subjektive, leicht verzerrbare Erinnerung. Demnach müsste die Rechtspsychologin Julia Shaw eine Befürworterin des Gedächtnis-Outsourcings sein. Und tatsächlich hat die 31-Jährige mit Spot einen intelligenten Chatbot entwickelt, der Opfern von Belästigungen und Diskriminierungen am Arbeitsplatz beim Anlegen eines objektiven Gedächtnisprotokolls hilft.

Schlüsselkompetenz neuronale Flexibilität

Aber Shaw warnt auch: „Falsche Erinnerungen sind keine Fehler unseres Gehirns, sondern ein wichtiger Bestandteil.“ Nur die Flexibilität seiner Neuronen befähige den Menschen, sich seiner Umgebung anzupassen und bekannte Fragmente zu etwas Neuem zu kombinieren. „Das ist die Quelle für Kreativität.“

Die Kreativität ist neben einem Bewusstsein der wohl größte Unterschied zwischen Gehirn und künstlicher Intelligenz. Vielleicht also ist ein fehlerhaftes Gedächtnis kein überflüssiges Relikt der analogen Vorzeit. Sondern sogar der Schlüssel zu einer menschlicheren KI.

Folgen Sie uns auf Facebook und​ Twitter und​ Sie bleiben immer up to date über die wichtigsten Entwicklungen im E-Government und der IT des Bundes.

Titelbild: © metamorworks/iStock
Foto Dr. Julia Shaw: CC BY-SA 3.0

Das könnte Sie auch interessieren: