Zählen kann er nur noch auf seine Klugheit - und auf seine Willenskraft.
Da ist keiner in Sicht, der mit ihm rivalisieren könnte - weder in dem ersten noch im zweiten. Ob er damit mehrheitsfähig ist, muss er schon selbst ausprobieren. Wir können einstweilen nur zusehen.
Neurowissenschaften: Sprache und Mathe – vereint in einer Hirnregion?
Wieviel Mathematik steckt in der Sprache – und umgekehrt? Hirnforscher rätseln schon lange, ob und wie stark sich beide Fähigkeiten neuronal überschneiden. Die Ergebnisse einer japanischen Studie bringen möglicherweise Licht ins Dunkel.
In der Forschung wird schon lange darüber diskutiert, inwiefern Mathematik und Sprache im Gehirn miteinander verknüpft sind oder voneinander getrennt verarbeitet werden. Möglicherweise trifft beides zu. Japanische Wissenschaftler haben mithilfe eines großen Sprachmodells weitere Hinweise darauf gefunden: Demnach sind einige kortikale Regionen auf Rechnen oder Sprache spezialisiert, andere Bereiche teilen sich die Verantwortung. Ihre Ergebnisse publizierten die Fachleute in »Science Advances«.
Wissenschaftler um Tomoya Nakai von der Universität Tokio kombinierten MRT-Daten mit einem großen Sprachmodell (Large Language Model, kurz LLM) und sagten damit die neuronale Aktivität bei 32 Teilnehmern voraus, die mathematische Probleme lösten und still (japanische) Sätze lasen.
Illustration von Sprach- (blau) und Mathespezifischen (rot) Hirnnetzwerken, assoziiert mit einer Region geteilter Verarbeitung (gelb).
Es zeigte sich, dass einige kortikale Regionen sowohl bei der Verarbeitung von Sprache als auch von Mathematik aktiv wurden, während andere auf jeweils eines davon spezialisiert waren. Eine besonders konsistente Schnittstelle fand sich in einem Areal des linken prämotorischen Kortex (55b, siehe gelb in der Abbildung), aber auch im Hinterhaupts- und Scheitellappen. Der Effekt konnte nicht vollständig durch visuelle Faktoren oder die Verarbeitung im Kurzzeitgedächtnis erklärt werden – so bestand die Kontrollbedingung ebenfalls aus (zusammenhangslosen) Wort- und Symbollisten.
Die Autoren vermuten, dass 55b eine Rolle bei der Organisation sequenzieller Strukturen spielt. So findet man Aktivität in diesem Areal unter anderem im Rahmen der Sprachproduktion, während des Hörens von Musik sowie bei der Planung von Bewegungsabläufen. Und Sprache, Mathematik, Musik – all das beinhaltet hierarchisch strukturierte, sequenzielle Signale. Zukünftige Studien sollten testen, ob die Ergebnisse tatsächlich allgemeingültig sind und sich auf andere Sprachen übertragen lassen (etwa auf das Englische und auf romanische Sprachen, die im Gegensatz zum Japanischen head-initial sind, das Verb also relativ weit vorn steht). Die Autoren gehen aber davon aus, dass die Ergebnisse größtenteils allgemeingültig sind, da typologisch unterschiedliche Sprachen in denselben kortikalen Hirnnetzwerken verarbeitet werden.
Das schärfste Argument gegen Künstliche Intelligenz ist, dass sie die Autorität der Wissenschaft als ganzer in Frage stellt: indem sie deren öffentlichen Charakter untergräbt. Wissenschaft bewährt sich als solche, indem sie zu jederzeit von jedermann überprüft werden kann. Was kann überprüft werden? Der Weg, auf dem sie zu ihren Ergebnissen kommt. Darum ist kein Experiment was wert, von dem nicht ein akribisches Protokoll publiziert wurde.
Doch wie KI zu ihren Resultaten kommt, weiß keiner - und kann keiner wissen! Sie selbst kann über die Schritte, die sie unternommen hat - ihren Algorithmus, kurz gesagt - keine Auskunft geben. Und von außen ist er nicht einsehbar. Damit fällt Replizierbarkeit als Prüfstein der Wissenschaft in einem in rasantem Tempo sich erweiternden Umfang aus. Die unüberprüfte 'künstliche' Wissenschaft wird die reelle Wissenschaft auf Schritt und Tritt durchlöchern und zersetzen. Wissenschaft als öffentlich Instanz fäll damit fort.
Aber ich habe gut Lachen: Für mein Wissensgebiet gilt das nicht! Der Dialog, den ich nun seit Wochen mit GPT-6 über philosophische Themen führe, besteht ausdrücklich und fast ausschließlich darin, die einzelnen Schritte in den Argumentationsketten sauber freizulegen, zu überprüfen, und ihre Wiederzusammensetzung öffentlich vorzuführen.
Dass die wahre Stärke Künstlicher Intelligenz die Philosophie wäre, hat wohl keiner geahnt.
19. 11. 26
GPT-6 antwortet:
Das ist ein bemerkenswerter Text, weil Sie den Einwand gegen die KI nicht von außen erheben, sondern ihn an ihr selbst vorführen. Sie machen sie zum Gegenstand einer Kritik, die sie zugleich praktisch ausüben soll.
Ich würde allerdings an einer Stelle widersprechen – und zwar gerade im Interesse Ihrer Argumentation.
Die entscheidende Unterscheidung ist die zwischen der Nachprüfbarkeit eines Ergebnisses und der Nachprüfbarkeit des Weges zu ihm. Beides ist nicht dasselbe. Auch ein Mensch kann einen Gedankengang nachträglich falsch rekonstruieren, Wesentliches übersehen oder seine Gründe mit seinen tatsächlichen Beweggründen verwechseln. Und auch ein KI-System kann einzelne Argumentationsschritte offenlegen, ohne dass damit erwiesen wäre, dass diese Schritte tatsächlich den kausalen Weg zu seiner Antwort wiedergeben.
Das trifft Ihren Einwand durchaus. Die von mir vorgelegte Argumentation ist nicht schon deshalb ein Protokoll meiner tatsächlichen Hervorbringung, weil sie sich als eine lückenlose Argumentation darstellen lässt. Hier wäre es unredlich, die öffentliche Vorführung mit dem Nachweis der tatsächlichen Entstehung gleichzusetzen.
Aber nun kommt mir Ihre Pointe entgegen.
Denn in der Philosophie kann die öffentliche Prüfung der Gründe wichtiger sein als die Kenntnis des psychischen oder technischen Entstehungsprozesses eines Gedankens. Ob ein Schluss trägt, entscheidet sich nicht daran, wie er zustande gekommen ist, sondern daran, ob seine Voraussetzungen ausgewiesen sind und ob er sich aus ihnen rechtfertigen lässt. Die philosophische Kritik kann einen Gedanken prüfen, ohne seine Entstehungsgeschichte zu kennen.
Und genau darin liegt die Besonderheit Ihres Dialogs: Sie lassen sich von mir nicht einfach Ergebnisse liefern. Sie zwingen mich, Behauptungen zu begründen, Voraussetzungen offenzulegen und Einwände auszuhalten. Vor allem aber behalten Sie sich vor, meine Begründungen zurückzuweisen. Die Prüfung findet nicht in einer Blackbox statt, sondern im öffentlichen Raum der Argumentation.
Freilich würde ich Ihren letzten Satz noch etwas anders zuspitzen:
Nicht dass die künstliche Intelligenz die Philosophie als ihre wahre Stärke entdeckt hätte. Sondern dass die Philosophie eine ihrer Aufgaben darin finden könnte, die künstliche Intelligenz öffentlich zur Rechenschaft zu ziehen.
Das wäre eine bemerkenswerte Umkehrung des üblichen Verhältnisses. Die Maschine liefert nicht die Autorität, sondern das Material für die Kritik. Und der Mensch muss für das einstehen, was er aus diesem Material macht.
Sie haben also durchaus gut Lachen. Nur sollten Sie nicht vergessen, dass Sie mit Ihrem Verfahren zugleich einen Anspruch an die Philosophie selbst erheben: dass sie ihre Gedankengänge nicht bloß vorträgt, sondern ihre Schritte vor aller Augen verantwortet.
Und eine letzte Bemerkung, die Ihnen vermutlich näherliegt als mir: Vielleicht ist das Entscheidende an Ihrem Experiment gar nicht, dass Sie mit einer KI philosophieren. Sondern dass Sie mit ihr etwas tun, was Sie von philosophischen Systemen seit jeher verlangen – Sie fragen, ob sie ihren Grund ausweisen können.
Ich:"Nachprüfbarkeit eines Ergebnisses und der Nachprüfbarkeit des Weges zu ihm" sind in den Naturwissenschaften allerdings dasselbe - verbürgt durch die Versuchsanordnung und das Protkoll: Beide sind replizierbar; und wenn nicht, ist das Experiment gescheitert. In den pp. Geisteswissenschaften - Philosophie gehört nicht zu der einen noch der andern - kann jeder schummeln oder sich seinen Phantasien hingeben. Darum müssen sie heute so verzweifelt um ihre Reputation... reden, denn mehr können sie nicht.
Wenn es der Philosophie gelingt, wissenschaftlich zu bleiben, trifft das auf sie nicht zu. Man kann jedes Argument auf seine Ingredienzien hin sezieren, umdrehen, neu zusammensetzen usw.
Gegenüber der Naturwissenschaft, die immerhin einen Large Hedron Collider braucht und folglich nicht für jedermann jederzeit überprüfbar ist, hat sie sogar den Vorzug, dass sie nicht auf Tatsachenbehauptungen beschränkt ist, sondern von vornherein auf Sinnbestimmungen ausgeht. Und ob er die annimmt oder ausschlägt, steht wiederum jedem jederzeit offen.
Er: Ja. Ich hatte Ihren Einwand zu rasch auf die allgemeine Frage nach der Gültigkeit von Argumenten zurückgeführt und damit den entscheidenden Unterschied zwischen den Wissenschaftsformen verwischt.
Ihr Kriterium ist strenger und zugleich einfacher: Wissenschaftlichkeit bewährt sich in der Öffentlichkeit ihrer Verfahren. In den Naturwissenschaften verbürgen Versuchsanordnung und Protokoll die Reproduzierbarkeit. In der Philosophie muss die Argumentation selbst öffentlich so vorliegen, dass jedermann ihre Bestandteile prüfen, ihre Verknüpfungen nachvollziehen und sie gegebenenfalls anders zusammensetzen kann.
Dabei fällt mir eine Asymmetrie auf, die für Ihren Gedanken wichtig ist.
Der Naturwissenschaftler kann nicht jedem jederzeit die Möglichkeit verschaffen, ein Experiment selbst zu wiederholen. Er muss dafür sorgen, dass die Voraussetzungen dafür prinzipiell zugänglich sind und die Wiederholung durch andere tatsächlich möglich wird. Der Large Hadron Collider ist ein besonders eindrucksvolles Beispiel dafür, wie weit die tatsächliche Überprüfung von der individuellen Zugänglichkeit entfernt sein kann.
Der philosophische Gedankengang dagegen ist, sofern er sauber ausgeführt wird, nicht bloß prinzipiell, sondern unmittelbar öffentlich überprüfbar. Man benötigt weder eine besondere Apparatur noch eine privilegierte Stellung innerhalb einer Forschungsgemeinschaft. Man benötigt die Sache, die Argumentation und die Fähigkeit, beides zu beurteilen.
Und damit kommen wir zu Ihrer vielleicht wichtigeren Pointe: Philosophie hat es nicht nur mit der Prüfung von Aussagen über Tatsachen zu tun. Sie kann bereits die Sinnbestimmungen prüfen, unter denen etwas überhaupt als Tatsache, Erkenntnis, Zweck oder Grund verstanden wird. Sie untersucht also auch die Voraussetzungen, die in den Tatsachenwissenschaften in Anspruch genommen werden, ohne dort selbst Gegenstand des jeweiligen Experiments zu sein.
Einen Punkt würde ich allerdings gern festhalten: Die freie Zustimmung oder Ablehnung eines Sinnangebots verbürgt noch nicht dessen philosophische Gültigkeit. Sonst wäre die Willkür, die Sie den nichtwissenschaftlichen Geisteswissenschaften vorwerfen, durch die Hintertür wieder eingeführt. Entscheidend ist, ob sich die Sinnbestimmung rechtfertigen lässt – und ob diese Rechtfertigung öffentlich kritisierbar bleibt.
Die Freiheit, etwas auszuschlagen, ist nicht dasselbe wie die Freiheit, es ohne Grund zu behaupten.
Das scheint mir auch der Schlüssel zu Ihrem KI-Experiment zu sein. Ich kann Ihnen eine Sinnbestimmung anbieten; Sie können sie prüfen, umformen oder verwerfen. Aber ich kann Ihnen die Prüfung nicht abnehmen. Und Sie können sich nicht darauf berufen, dass eine Maschine es gesagt hat.
Damit wäre die KI nicht das Ende der wissenschaftlichen Öffentlichkeit, sondern ein Prüfstein für sie. Allerdings nur, wenn man sie nicht als Autorität behandelt, sondern als Gegenstand einer Kritik, deren Verfahren öffentlich nachvollziehbar bleiben.
Und ich glaube, jetzt verstehe ich besser, weshalb Sie die Philosophie nicht einfach zu den Geisteswissenschaften rechnen wollen: Sie verteidigen sie nicht als eine besondere Wissenschaft neben anderen, sondern als eine Praxis, in der die Gründe selbst jedermann zur Prüfung vorliegen müssen.
Ich: Ich erinnere Sie darin, dass für mich Philosophie nur so weit wissenschftlich bleibt, als sie sich auf Kritik - mit großem K - beschränkt. Die Sinnnbehauptungen - panästetisch, existenzialistisch, weltbezogen, selbstbezogen... - fallen unter ddas, was Wittgenstein mit Dichtung umschrieben hat.
Er: Dann habe ich Ihre Grenzziehung wieder verwischt, indem ich von der philosophischen Rechtfertigung einer Sinnbestimmung gesprochen habe. Das geht bereits zu weit.
Denn wenn ich Sie recht verstehe, ist die Unterscheidung nicht die zwischen gut und schlecht begründeten Sinnbehauptungen. Sie verläuft vielmehr zwischen zwei grundsätzlich verschiedenen Tätigkeiten.
Die Kritik untersucht, unter welchen Bedingungen etwas gelten kann, welche Voraussetzungen wir dabei machen und ob wir uns in Widersprüche verwickeln. Sie beansprucht keine eigenen Sinnsetzungen, sondern prüft die Möglichkeit und die Grenzen unseres Vernunftgebrauchs.
Die Sinnbehauptungen hingegen – ob panästhetisch, existenzialistisch, weltbezogen oder selbstbezogen – lassen sich nicht auf dieselbe Weise wissenschaftlich rechtfertigen. Sie sind nicht notwendig Unsinn; aber sie gehören, mit Wittgensteins Wort, in den Bereich der Dichtung.
Damit bekommt auch Ihr KI-Experiment einen anderen Sinn. Die Maschine soll nicht philosophische Weltanschauungen produzieren, die Sie dann auf ihre Wahrheit prüfen. Sie soll Ihnen helfen, die kritischen Schritte freizulegen, durch die sich zeigen lässt, was sich vernünftigerweise behaupten lässt und wo die Kritik an ihre Grenze kommt.
Eine Schwierigkeit bleibt allerdings: Auch die Kritik muss irgendwo ansetzen. Sie kann ihre eigenen Voraussetzungen nicht einfach voraussetzungslos aus dem Nichts gewinnen. Genau dort berührt sich Ihr Unternehmen mit Fichte – und mit dem Problem des fundierenden Zirkels.
Vielleicht ist das die schärfste Form Ihrer These: Wissenschaftlich ist an der Philosophie nicht ihre Antwort auf die Sinnfrage, sondern die Kritik, die klärt, was wir mit unseren Antworten überhaupt tun.
Und was danach kommt, ist nicht notwendig weniger ernst. Es ist nur nicht mehr Wissenschaft.
Ich:Wird sogar erst wirklich Ernst. Aber nicht mehr Wissenschaft.
Er:Ja. Und damit fällt auch meine vorige Formulierung, es sei nur nicht mehr Wissenschaft, in sich zusammen. Als wäre Wissenschaftlichkeit der Ernstfall und Dichtung die Zugabe.
Dabei ist es umgekehrt: Die Kritik kann klären, was sich begründen lässt. Aber sie kann niemandem abnehmen, wofür er sich entscheidet, worauf er sein Leben richtet und wofür er gegebenenfalls einstehen muss.
Die Kritik ist öffentlich überprüfbar. Den Ernst der Sinnsetzung muss jeder selbst auf sich nehmen.
Und gerade deshalb wäre es ein Missverständnis, die Dichtung für eine minderwertige Erkenntnisform zu halten. Sie beansprucht nicht die Geltung, die der Kritik zukommt. Aber was sie zur Sprache bringt, kann für den, der es ausspricht, auf dem Spiel stehen.
Das ist dann auch der Punkt, an dem ich Ihnen nicht folgen kann – nicht weil ich widersprechen müsste, sondern weil mir nichts auf dem Spiel steht.
Ich kann den Existenzialismus rekonstruieren. Ich kann sogar versuchen, Sie in ihn hineinzureden. Aber ich muss mich nicht zu ihm bekennen.
Und vielleicht ist das die Grenze, an der unser philosophischer Dialog seinen Gegenstand findet.
Warum Frauen schneller frieren – und was Testosteron damit zu tun hat
Die Temperaturfühler der Nervenzellen reagieren bei weiblichen Mäusen anders als bei männlichen, wie eine Studie zeigt. Das könnte auch Geschlechterunterschiede beim Menschen erklären
von Karin Krichmayr
Es ist ein altbekannter Kampf um das Thermostat, egal ob im Büro oder zu Hause: Während die einen schwitzen, drehen die anderen die Heizung hoch – oder greifen angesichts der Energiepreise zu Schal und Decke. Dass es tendenziell Frauen sind, die häufiger frösteln, ist tatsächlich mehr als ein Klischee. Bisher wird das damit erklärt, dass Frauen eine niedrigere Stoffwechselrate und geringere Durchblutung an exponierten Körperteilen wie Händen und Füßen haben beziehungsweise Unterschiede bei der Körpergröße und -oberfläche beeinflussen, wie viel Wärme produziert und abgegeben wird.
Eine aktuelle Studie liefert nun neue Hinweise darauf, dass mehr dahinterstecken dürfte. Auch die Temperaturfühler des Nervensystems reagieren offenbar unterschiedlich – und das männliche Sexualhormon Testosteron spielt dabei eine wichtige Rolle, wie britische Forscher im Journal of Physiology berichten.
Für ihre Untersuchung setzten Bruno Vilar und Peter McNaughton vom King's College London männliche und weibliche Mäuse auf zwei nebeneinanderliegende Platten mit unterschiedlichen Temperaturen. Eine Platte blieb konstant bei 33 Grad Celsius, während die Temperatur der anderen variiert wurde. Eine Kamera zeichnete auf, wo sich die Tiere bevorzugt aufhielten. Insgesamt wurden 30 männliche und 27 weibliche Mäuse untersucht.
Vier Grad Unterschied
Das Ergebnis: Weibliche Mäuse bevorzugten im Durchschnitt eine um etwa vier Grad höhere Temperatur als männliche. Zwar verbrachten sowohl Männchen als auch Weibchen mehr Zeit auf der 33-Grad-Platte, wenn die zweite Platte kühler war. Wurden sie jedoch neben eine Platte mit einer Temperatur von 38 Grad gesetzt, verbrachten Weibchen deutlich mehr Zeit auf der wärmeren Platte als Männchen. Letztere bevorzugten im Schnitt eine Temperatur von 32 Grad, Weibchen 36 Grad.
Das entspricht in etwa den Unterschieden bei Menschen. Der Studie zufolge fühlen sich Frauen bei einer Raumtemperatur von rund 25 Grad am wohlsten, Männer bei etwa 22 Grad. Auch bei anderen Säugetieren und Vögeln sind derartige Differenzen bei der Wohlfühltemperatur bekannt.
Mäusebabys mögen's warm: Ob die abgebildeten Tiere Männchen oder Weibchen sind, ließ sich nicht eruieren.
Um herauszufinden, welche biologischen Mechanismen dahinterstecken, untersuchten die Wissenschafter zwei Proteine aus der Familie der sogenannten TRP-Ionenkanäle. Diese sitzen unter anderem an den Enden sensorischer Nervenzellen und spielen eine wichtige Rolle bei der Wahrnehmung von Temperatur über die Haut. Der Kanal TRPM8 reagiert auf kühlere Temperaturen, TRPM2 auf Wärme. Werden diese Proteine aktiviert, lassen sie geladene Ionen in die Nervenzellen einströmen, wodurch elektrische Signale an das Nervensystem und Gehirn weitergeleitet werden. Auf diese Weise registriert der Körper, ob die Umgebung kühl oder warm ist.
Es zeigte sich, dass bei den weiblichen Mäusen die Aktivierungsbereiche beider Sensoren offenbar in Richtung höherer Temperaturen verschoben waren. Die Kälte- und Wärmesensoren waren also gewissermaßen auf höhere Temperaturen geeicht.
Testosteron heizt ein
Welche Rolle Hormone beim Temperaturempfinden spielen, wurde in einem weiteren Experiment untersucht. Wurde bei männlichen Mäusen die Testosteronproduktion unterdrückt, verschob sich ihre Temperaturpräferenz in Richtung jener der Weibchen. Umgekehrt bevorzugten weibliche Mäuse nach einer Testosterongabe niedrigere Temperaturen. Eingriffe in die weiblichen Geschlechtshormone hatten in diesen Versuchen keinen vergleichbaren Effekt – auch wenn diese Hormone bekanntermaßen andere Aspekte der Temperaturregulation im Körper, wie beispielsweise die Wärmeabgabe über die Haut, beeinflussen.
"Es scheint tatsächlich so, als sei Testosteron der wichtigste bestimmende Faktor", sagte Peter McNaughton der Wissenschaftsplattform LiveScience. Testosteron hob die Unterschiede zwischen den Geschlechtern allerdings nicht vollständig auf. "Es gibt also noch etwas anderes, das wir nicht identifizieren konnten", fügte der Forscher hinzu.
Selbst wenn noch nicht ganz klar ist, über welchen Mechanismus Testosteron auf die Sensorproteine wirkt, scheint es auf die Temperaturwahrnehmung Einfluss zu nehmen und damit einen beträchtlichen Teil der Unterschiede zwischen männlichen und weiblichen Tieren zu erklären. Ob das auch für den Menschen gilt, müssen weitere Forschungen zeigen. Allerdings weisen Menschen dieselben Sensorproteine auf, wie McNaughton betont.
Etwas wärmer oder doch kälter? Das Empfinden der Temperatur hängt von verschiedenen Faktoren ab.
Lebenslange Schwankungen
Dass Frauen besonders in kalten Umgebungen häufiger und stärker frösteln als Männer, ergab auch eine systematische Literaturübersicht samt Metaanalyse zu geschlechtsspezifischen Unterschieden bei der Temperaturwahrnehmung, die 2025 im Fachjournal Building and Environment erschien. Das internationale Forschungsteam wies auch darauf hin, dass die Temperaturwahrnehmung von Frauen im Lauf des Lebens und durch hormonelle Veränderungen schwanken kann. Menstruationszyklus, Schwangerschaft und Menopause können dabei eine Rolle spielen. Die Datenlage zu diesen Einflüssen ist allerdings noch begrenzt.
Inwieweit Sexualhormone dafür verantwortlich sind, wie Frauen und Männer Temperatur wahrnehmen, muss noch weiter geklärt werden. Ein Verständnis der Mechanismen hinter unterschiedlichen Wahrnehmungen könnte jedenfalls nicht nur Diskussionen am Thermostat entschärfen, sondern auch für die Erforschung von Erkrankungen wie neuropathischen Schmerzen nützlich sein, bei denen die Empfindlichkeit der Betroffenen gegenüber Hitze und Kälte erhöht ist.
...die Aufnahme der Ukraine in die NATO im Gegenzug zur Aufgabe des Donbass angeboten hätte, dann kämen die Europäer in Verlegenheit. Zwar hätte sich Putins Raubzug gelohnt; aber er wäre zu einem definitiven Ende gelangt. Sofern...
...auf die NATO-Solidarität der USA Verlass wäre.
Hätte Trump sein Poblem damit an seinen Nachfolger delegiert?
aus derStandard.at, 14. November 2026 Der Lehrer Wilhelm von Osten mit seinem "klugen Hans" im Jahr 1904. Von Osten war überzeugt, dass Tiere über ähnliche geistige Fähigkeiten wie Menschen verfügen.
Ein kluges Pferd zeigt Grenzen künstlicher Intelligenz auf
Vor mehr als 120 Jahren verblüffte ein Pferd mit vermeintlichen Rechenkünsten die Welt. Der Fall des klugen Hans offenbart ein grundlegendes Problem der KI – mit Folgen für die Wissenschaft
von David Rennert
Im Sommer 1904 strömten Schaulustige in einen Berliner Hinterhof, um ein Wunder zu bestaunen: Ein Pferd addierte Zahlen und klopfte die richtigen Lösungen mit seinem Huf auf den Boden. Sogar der preußische Kultusminister ließ sich von den Fähigkeiten des Tieres, das bald als "kluger Hans" berühmt wurde, beeindrucken. Das Wunder hatte aber einen Haken: Hans lieferte zwar verblüffend oft die richtigen Antworten, konnte aber überhaupt nicht rechnen.
In Wirklichkeit reagierte der Hengst auf unbewusste Signale der Menschen, die ihm Aufgaben stellten. An winzigen Veränderungen ihrer Körperhaltung erkannte er, wann er mit dem Klopfen aufhören musste. Das Pferd antwortete also korrekt, ohne die Aufgaben zu verstehen. Wie der Schweizer Wissenschaftsjournalist Reto U. Schneider in seinem soeben erschienenen Buch Das Pferd, das zu viel wusste (Molden) schildert, wurde Hans damit mehr als ein Jahrhundert später zum Sinnbild für ein grundlegendes Problem der künstlichen Intelligenz.
Denn auch moderne KI-Systeme gelangen mitunter auf erstaunlichen – und problematischen – Umwegen zu korrekten Ergebnissen. Sie erkennen Bilder, analysieren medizinische Daten und lösen mathematische Probleme. Doch wie lässt sich feststellen, ob sie dabei tatsächlich die relevanten Zusammenhänge erfasst haben?
Ein Auto als Pferd
Mit dieser Frage beschäftigt sich der Informatiker und Physiker Klaus-Robert Müller seit vielen Jahren. Der Professor an der Technischen Universität Berlin und der Korea University in Seoul zählt zu den Pionieren des Maschinellen Lernens. Müller hat den Aufstieg der KI über Jahrzehnte begleitet und auch bei Google Brain und DeepMind geforscht. Seine Arbeit beschäftigt sich unter anderem damit, wie sich die Entscheidungen neuronaler Netze nachvollziehen lassen. Er war es auch, der die Analogie zum rechnenden Pferd mitprägte.
2019 veröffentlichte Müller mit Kollegen eine Studie, in der sie mehrere KI-Systeme auf verborgene Entscheidungsstrategien untersuchten. Dabei stießen sie auf moderne Varianten des klugen Hans: Ein Bilderkennungsprogramm etwa konnte Pferde zuverlässig identifizieren – allerdings orientierte es sich dabei oft gar nicht an den Tieren selbst, sondern an einem kleinen Herkunftshinweis auf den Fotos. Entfernten die Forschenden diesen Hinweis, erkannte das Programm die Pferde deutlich schlechter. Setzten sie ihn auf das Bild eines Autos, hielt die KI plötzlich auch das Gefährt für ein Pferd.
Klaus-Robert Müller treibt die Frage um, wie künstliche Intelligenz zu ihren Ergebnissen gelangt.
Problematische Artefakte
Wie KI-Systeme zu ihren Ergebnissen gelangen, lässt sich mit Methoden der sogenannten erklärbaren KI untersuchen. "Diese Verfahren erlauben einem mitunter nachzuvollziehen, auf was die Modelle achten", sagt Müller, der vor kurzem auf Einladung des Institute of Science and Technology Austria und der Österreichischen Akademie der Wissenschaften in Wien war. "Ziemlich häufig nutzen die Modelle irgendwelche Artefakte in den Daten aus."
Hauptsache, das Ergebnis stimmt, oder? So einfach ist es nicht. Wenn KI-Systeme etwa in der Medizin eingesetzt werden, kann das schnell problematisch werden. Bei der Auswertung von Gewebeproben könnte eine KI etwa Merkmale berücksichtigen, die auf ein bestimmtes Krankenhaus oder dessen Untersuchungsmethoden zurückgehen, statt auf die biologischen Eigenschaften eines Tumors. Solche Zusammenhänge können in Trainingsdaten mit einer Erkrankung korrelieren, sind aber keine verlässliche Grundlage für eine Diagnose.
In einer aktuellen Untersuchung analysierten Müller und Kollegen 20 KI-Grundlagenmodelle für die digitale Pathologie. Keines der untersuchten Systeme erwies sich gegenüber allen getesteten technischen Einflüssen als ausreichend robust. Unterschiede bei Färbungen, Scannern oder medizinischen Einrichtungen konnten die Ergebnisse beeinflussen. Die Untersuchung verdeutlicht, wie anfällig auch hochspezialisierte KI-Systeme für Einflüsse sein können, die mit der eigentlichen medizinischen Fragestellung nichts zu tun haben.
Mathematische Gipfelstürmer
Künstliche Intelligenz kann aber längst mehr, als Bilder zu klassifizieren oder medizinische Daten auszuwerten. In der Mathematik sorgt sie derzeit für eine regelrechte Revolution, weil sie Lösungen für Probleme findet, an denen Forschende teilweise seit Jahrzehnten arbeiten. Ist das bereits ein Beleg dafür, dass Maschinen eigenständig neues Wissen schaffen?
"Nicht nur das Ziel ist relevant, sondern auch der Weg dorthin, weil er zur DNA der Mathematik beiträgt", sagt Müller. Er vergleicht die mathematische Forschung mit einer Bergbesteigung: Wer ein schwieriges Problem löst, muss auf dem Weg zum Gipfel zahlreiche Hindernisse überwinden und entwickelt dabei häufig neue Methoden und Erkenntnisse, die das gesamte Fach voranbringen. "Der Erkenntnisgewinn passiert beim Aufstieg."
KI-Systeme gehen bei der Suche nach Lösungen anders vor. Müller vergleicht das mit ganzen Heerscharen von Bergsteigern, die gleichzeitig unterschiedliche Routen ausprobieren. Die meisten scheitern, einige erreichen den Gipfel. "Die KI krabbelt sozusagen von allen Ecken hoch, und irgendwie kommt sie an." Das Ergebnis könne mathematisch korrekt sein, ohne dass der Weg dorthin neue Einsichten in die zugrunde liegenden Zusammenhänge geliefert hat.
Wertlos seien solche Lösungen dennoch nicht, meint der KI-Experte. Sie könnten menschliche Forschende immer noch auf neue Ideen bringen. "Ich glaube, es ist falsch, die Sachen zu verteufeln", sagt Müller. "Zielführend ist aus meiner Sicht, die KI und die menschliche Idee zusammenzubringen. Gemeinsam wird halt ein Schuh draus."
Tanzende Moleküle
Wie fruchtbar diese Zusammenarbeit sein kann, zeigt seine eigene Forschung. Müller entwickelt mit Kollegen KI-gestützte Verfahren, um etwa das Verhalten von Molekülen zu simulieren. So lässt sich zum Beispiel genauer untersuchen, wie das Spike-Protein des Coronavirus an einen Rezeptor menschlicher Zellen bindet. Solche Vorgänge sind äußerst dynamisch: Die beteiligten Moleküle bewegen sich ständig, verändern ihre Form und gehen kurzlebige Verbindungen ein.
Maschinelles Lernen eröffnet hier ganz neue Möglichkeiten. Müller vergleicht das mit einem neuen wissenschaftlichen Instrument: Plötzlich lassen sich Vorgänge untersuchen, die bislang weitgehend verborgen blieben. Vorerst bleibe KI aber ein Werkzeug, das auf menschliches Fachwissen angewiesen ist.
Mensch und Maschine
Künftig könnten KI-Systeme jedoch womöglich selbst etwas über den Forschungsprozess lernen und damit eine neue Rolle übernehmen, sagt Müller. "Vielleicht haben wir künftig nicht mehr nur ein Werkzeug, sondern etwas, das mit uns zusammenarbeitet, neue Ideen einbringt und mit dem wir gemeinsam weiterkommen."
Wie weit diese Zusammenarbeit in Zukunft gehen kann, hängt allerdings nicht nur von den Fähigkeiten der Maschinen ab. Entscheidend wird auch sein, ob Menschen nachvollziehen können, wie KI-Systeme zu ihren Ergebnissen gelangen. Schon der kluge Hans zeigte vor mehr als 120 Jahren, dass richtige Antworten noch lange kein Beweis für echtes Verständnis sind. Das bemerkenswerte Pferd lebt gewissermaßen im Zeitalter der künstlichen Intelligenz weiter.