In Wirklichkeit reagierte der Hengst auf unbewusste Signale der Menschen, die ihm Aufgaben stellten. An winzigen Veränderungen ihrer Körperhaltung erkannte er, wann er mit dem Klopfen aufhören musste. Das Pferd antwortete also korrekt, ohne die Aufgaben zu verstehen. Wie der Schweizer Wissenschaftsjournalist Reto U. Schneider in seinem soeben erschienenen Buch Das Pferd, das zu viel wusste (Molden) schildert, wurde Hans damit mehr als ein Jahrhundert später zum Sinnbild für ein grundlegendes Problem der künstlichen Intelligenz.

Denn auch moderne KI-Systeme gelangen mitunter auf erstaunlichen – und problematischen – Umwegen zu korrekten Ergebnissen. Sie erkennen Bilder, analysieren medizinische Daten und lösen mathematische Probleme. Doch wie lässt sich feststellen, ob sie dabei tatsächlich die relevanten Zusammenhänge erfasst haben?

Ein Auto als Pferd

Mit dieser Frage beschäftigt sich der Informatiker und Physiker Klaus-Robert Müller seit vielen Jahren. Der Professor an der Technischen Universität Berlin und der Korea University in Seoul zählt zu den Pionieren des Maschinellen Lernens. Müller hat den Aufstieg der KI über Jahrzehnte begleitet und auch bei Google Brain und DeepMind geforscht. Seine Arbeit beschäftigt sich unter anderem damit, wie sich die Entscheidungen neuronaler Netze nachvollziehen lassen. Er war es auch, der die Analogie zum rechnenden Pferd mitprägte.

2019 veröffentlichte Müller mit Kollegen eine Studie, in der sie mehrere KI-Systeme auf verborgene Entscheidungsstrategien untersuchten. Dabei stießen sie auf moderne Varianten des klugen Hans: Ein Bilderkennungsprogramm etwa konnte Pferde zuverlässig identifizieren – allerdings orientierte es sich dabei oft gar nicht an den Tieren selbst, sondern an einem kleinen Herkunftshinweis auf den Fotos. Entfernten die Forschenden diesen Hinweis, erkannte das Programm die Pferde deutlich schlechter. Setzten sie ihn auf das Bild eines Autos, hielt die KI plötzlich auch das Gefährt für ein Pferd.

Ein älterer Mann mit grauem Haar, Anzug, weißem Hemd und roter Krawatte steht vor einem blauen Hintergrund mit der Aufschrift „ÖAW Österreichische Akademie der Wissenschaften“. Er hält eine Brille in der Hand und trägt ein Mikrofon am Kopf.
Klaus-Robert Müller treibt die Frage um, wie künstliche Intelligenz zu ihren Ergebnissen gelangt.

Problematische Artefakte

Wie KI-Systeme zu ihren Ergebnissen gelangen, lässt sich mit Methoden der sogenannten erklärbaren KI untersuchen. "Diese Verfahren erlauben einem mitunter nachzuvollziehen, auf was die Modelle achten", sagt Müller, der vor kurzem auf Einladung des Institute of Science and Technology Austria und der Österreichischen Akademie der Wissenschaften in Wien war. "Ziemlich häufig nutzen die Modelle irgendwelche Artefakte in den Daten aus."

Hauptsache, das Ergebnis stimmt, oder? So einfach ist es nicht. Wenn KI-Systeme etwa in der Medizin eingesetzt werden, kann das schnell problematisch werden. Bei der Auswertung von Gewebeproben könnte eine KI etwa Merkmale berücksichtigen, die auf ein bestimmtes Krankenhaus oder dessen Untersuchungsmethoden zurückgehen, statt auf die biologischen Eigenschaften eines Tumors. Solche Zusammenhänge können in Trainingsdaten mit einer Erkrankung korrelieren, sind aber keine verlässliche Grundlage für eine Diagnose.

 

 

In einer aktuellen Untersuchung analysierten Müller und Kollegen 20 KI-Grundlagenmodelle für die digitale Pathologie. Keines der untersuchten Systeme erwies sich gegenüber allen getesteten technischen Einflüssen als ausreichend robust. Unterschiede bei Färbungen, Scannern oder medizinischen Einrichtungen konnten die Ergebnisse beeinflussen. Die Untersuchung verdeutlicht, wie anfällig auch hochspezialisierte KI-Systeme für Einflüsse sein können, die mit der eigentlichen medizinischen Fragestellung nichts zu tun haben.

Mathematische Gipfelstürmer

Künstliche Intelligenz kann aber längst mehr, als Bilder zu klassifizieren oder medizinische Daten auszuwerten. In der Mathematik sorgt sie derzeit für eine regelrechte Revolution, weil sie Lösungen für Probleme findet, an denen Forschende teilweise seit Jahrzehnten arbeiten. Ist das bereits ein Beleg dafür, dass Maschinen eigenständig neues Wissen schaffen?

"Nicht nur das Ziel ist relevant, sondern auch der Weg dorthin, weil er zur DNA der Mathematik beiträgt", sagt Müller. Er vergleicht die mathematische Forschung mit einer Bergbesteigung: Wer ein schwieriges Problem löst, muss auf dem Weg zum Gipfel zahlreiche Hindernisse überwinden und entwickelt dabei häufig neue Methoden und Erkenntnisse, die das gesamte Fach voranbringen. "Der Erkenntnisgewinn passiert beim Aufstieg."

KI-Systeme gehen bei der Suche nach Lösungen anders vor. Müller vergleicht das mit ganzen Heerscharen von Bergsteigern, die gleichzeitig unterschiedliche Routen ausprobieren. Die meisten scheitern, einige erreichen den Gipfel. "Die KI krabbelt sozusagen von allen Ecken hoch, und irgendwie kommt sie an." Das Ergebnis könne mathematisch korrekt sein, ohne dass der Weg dorthin neue Einsichten in die zugrunde liegenden Zusammenhänge geliefert hat.

Wertlos seien solche Lösungen dennoch nicht, meint der KI-Experte. Sie könnten menschliche Forschende immer noch auf neue Ideen bringen. "Ich glaube, es ist falsch, die Sachen zu verteufeln", sagt Müller. "Zielführend ist aus meiner Sicht, die KI und die menschliche Idee zusammenzubringen. Gemeinsam wird halt ein Schuh draus."

Tanzende Moleküle

Wie fruchtbar diese Zusammenarbeit sein kann, zeigt seine eigene Forschung. Müller entwickelt mit Kollegen KI-gestützte Verfahren, um etwa das Verhalten von Molekülen zu simulieren. So lässt sich zum Beispiel genauer untersuchen, wie das Spike-Protein des Coronavirus an einen Rezeptor menschlicher Zellen bindet. Solche Vorgänge sind äußerst dynamisch: Die beteiligten Moleküle bewegen sich ständig, verändern ihre Form und gehen kurzlebige Verbindungen ein.

Maschinelles Lernen eröffnet hier ganz neue Möglichkeiten. Müller vergleicht das mit einem neuen wissenschaftlichen Instrument: Plötzlich lassen sich Vorgänge untersuchen, die bislang weitgehend verborgen blieben. Vorerst bleibe KI aber ein Werkzeug, das auf menschliches Fachwissen angewiesen ist.

Mensch und Maschine

Künftig könnten KI-Systeme jedoch womöglich selbst etwas über den Forschungsprozess lernen und damit eine neue Rolle übernehmen, sagt Müller. "Vielleicht haben wir künftig nicht mehr nur ein Werkzeug, sondern etwas, das mit uns zusammenarbeitet, neue Ideen einbringt und mit dem wir gemeinsam weiterkommen."

Wie weit diese Zusammenarbeit in Zukunft gehen kann, hängt allerdings nicht nur von den Fähigkeiten der Maschinen ab. Entscheidend wird auch sein, ob Menschen nachvollziehen können, wie KI-Systeme zu ihren Ergebnissen gelangen. Schon der kluge Hans zeigte vor mehr als 120 Jahren, dass richtige Antworten noch lange kein Beweis für echtes Verständnis sind. Das bemerkenswerte Pferd lebt gewissermaßen im Zeitalter der künstlichen Intelligenz weiter.