In seinem neuen Buch Das Pferd, das zu viel wusste. Wie der kluge Hans zu Weltruhm kam und heute die KI entzaubert erzählt Reto U. Schneider die unglaubliche Geschichte des „klugen Hans“, jenes Pferdes, das 1904 selbst Wissenschaftler davon überzeugte, rechnen und denken zu können und dessen Rätsel heute überraschend aktuell ist. Im Interview erklärt er, was Hans mit künstlicher Intelligenz verbindet und warum wir Menschen so leicht Intelligenz und Verständnis erkennen, wo möglicherweise gar keines ist.

Wie sind Sie auf die Geschichte vom klugen Hans gestoßen und was hat sie dabei so fasziniert, dass Sie dem Thema ein ganzes Buch widmen wollten?

Ich schreibe seit 1999 die Rubrik „Das Experiment“ im „NZZ Folio“, dem Magazin der „Neuen Zürcher Zeitung“. Sie dreht sich um aktuelle und historische wissenschaftliche Versuche. Dabei bin ich auf den klugen Hans gestoßen und auf die Experimente, mit denen man herausfand, was hinter der vermeintlichen Begabung des Pferdes steckte. Bei der Recherche für die Rubrik war ich derart fasziniert von dieser Geschichte, dass ich unbedingt ein Buch über Hans lesen wollte. Als ich herausfand, dass es keines gab, fasste ich den Plan, dieses Buch zu schreiben.

Die Voraussetzungen schienen mir ideal. Erstens hatte die Geschichte eine natürliche Progression: Es gibt ein Rätsel – kann dieses Pferd wirklich denken? –, das nach und nach gelüftet wird. Zweitens gibt es viele exzentrische Protagonisten. Und drittens gehört dieses Ereignis zu den seltenen Episoden in der Geschichte der Wissenschaft, die gleichzeitig unendlich skurril und äußerst wichtig sind. Der kluge Hans wurde nämlich zum Sinnbild fundamentaler Mechanismen in der Forschung – von der Pädagogik über die Medizin bis in die künstliche Intelligenz. Hinzu kam, dass die Quellenlage exzellent war. Man macht sich heute keine Vorstellung, welche Sensation dieses Pferd war. Im Sommer 1904 schrieb jede Berliner Zeitung jeden Tag über Hans. Bald stand sein Name in der „New York Times“. Es gab auch viele nicht ausgewertete Nachlässe.

Sie erzählen die Geschichte chronologisch, fast wie einen historischen Krimi. Gab es Archivfunde, die Sie überrascht haben oder Momente, in denen Sie dachten: „Das kann doch nicht wahr sein“?

Ich arbeite gerne in Archiven. Einen Stapel Papier ausgehändigt zu bekommen, den 100 Jahre niemand angefasst hat, ist schon etwas Besonderes. Am meisten erstaunt haben mich die Reaktionen auf die Entlarvung von Hans, die ich in alten Protokollen gefunden habe. Nachdem das Rätsel gelöst war, behaupteten plötzlich viele Forscher und Journalisten, sie hätten gar nie an die Fähigkeiten von Hans geglaubt, obwohl aktenkundig war, dass sie kurz zuvor genau das getan hatten. Die Leute logen brandschwarz.

Sie schreiben, Hans sei zum „Sinnbild für ein fundamentales Problem der künstlichen Intelligenz“ geworden. Können Sie das an einem konkreten Beispiel aus dem Buch verdeutlichen: Was genau tat Hans und was tat er eben nicht?

Einfach gesagt: 1904 gab Hans richtige Antworten und niemand wusste weshalb. Heute gibt die KI richtige Antworten und wir wissen nicht weshalb. Ohne das Rätsel um Hans hier zu lösen, darf ich verraten: Hans brauchte eine ganz andere Methode, um zum richtigen Resultat zu kommen, als die Experten annahmen. Und dasselbe gilt für die künstliche Intelligenz: Auch sie gibt häufig richtige Antworten, aber aus ganz anderen Gründen, als wir denken. Das nennt sich heute offiziell „the Clever-Hans-Problem of AI“. Es ist tatsächlich eines der größten Hindernisse, zuverlässige KI-Systeme zu bauen. Im Kern ist es nämlich unlösbar.

Die eigentliche Heldengeschichte Ihres Buches ist die von Oskar Pfungst, dem jungen Psychologen, der Hans entlarvte. Was unterschied seine Herangehensweise von all den Wissenschaftern, die vorher gescheitert waren?

Pfungst ist einer der seltsameren Protagonisten dieser Geschichte. Ein Bankierssohn aus Frankfurt, der in die Fußstapfen seines Vaters hätte treten sollen, aber lieber an die Uni ging. Er studierte alles Mögliche, aber schloss in nichts ab. Er war sozusagen ein Meister im Unvollenden. Seine prägendste Eigenschaft war wohl seine Zwangsstörung: Er kontrollierte endlos, ob er die Tür abgeschlossen hatte, und bedeckte sein Pult aus hygienischen Gründen jeden Tag mit frischen Zeitungsbogen. Ich vermute, dass diese Zwänge eine Voraussetzung für den Erfolg seiner Experimente waren. Nur wer alle Störfaktoren peinlich genau überwachte, konnte hinter das Geheimnis kommen.

Viele Menschen erleben im Gespräch mit KI-Systemen das Gefühl: „Das Ding versteht mich.“ Wie gefährlich ist diese Illusion und warum ist es so schwer, sich dagegen zu wehren, selbst wenn man es besser weiß?

Die Tendenz, leblosen Dingen Absichten, Überzeugungen und Gefühle anzudichten, steckt tief in uns. Wir begegnen ihr, wenn wir über ein Auto fluchen oder über einen Computer nach einem Systemabsturz. Die Gründe für diese Neigung liegen wohl in der Evolution. Emotionen und Absichten anderer Wesen blitzschnell zu erkennen, war für unsere Vorfahren überlebenswichtig. Im Zweifelsfall setzten sie diese Fähigkeit lieber einmal zu viel als einmal zu wenig ein. Das führt dazu, dass wir zuweilen ein Innenleben vermuten, wo es keines gibt. Und genau das geschieht oft, wenn wir uns mit einer KI unterhalten: Wir wissen zwar, dass da niemand zuhause ist, aber wir sagen der KI trotzdem „bitte“ und „danke“. Tatsächlich ist es nicht ungefährlich, Maschinen auf diese Weise zu vermenschlichen, denn damit billigen wir ihnen Fähigkeiten zu, die sie nicht haben: Mitgefühl, Urteilsvermögen, Werthaltungen.