Yu Sugawara,Ich sagte:
Das schärfste Argument gegen Künstliche Intelligenz ist, dass sie die Autorität der Wissenschaft als ganzer in Frage stellt: indem sie deren öffentlichen Charakter untergräbt. Wissenschaft bewährt sich als solche, indem sie zu jederzeit von jedermann überprüft werden kann. Was kann überprüft werden? Der Weg, auf dem sie zu ihren Ergebnissen kommt. Darum ist kein Experiment was wert, von dem nicht ein akribisches Protokoll publiziert wurde.
Doch wie KI zu ihren Resultaten kommt, weiß keiner - und kann keiner wissen! Sie selbst kann über die Schritte, die sie unternommen hat - ihren Algorithmus, kurz gesagt - keine Auskunft geben. Und von außen ist er nicht einsehbar. Damit fällt Replizierbarkeit als Prüfstein der Wissenschaft in einem in rasantem Tempo sich erweiternden Umfang aus. Die unüberprüfte 'künstliche' Wissenschaft wird die reelle Wissenschaft auf Schritt und Tritt durchlöchern und zersetzen. Wissenschaft als öffentlich Instanz fäll damit fort.
Aber ich habe gut Lachen: Für mein Wissensgebiet gilt das nicht! Der Dialog, den ich nun seit Wochen mit GPT-6 über philosophische Themen führe, besteht ausdrücklich und fast ausschließlich darin, die einzelnen Schritte in den Argumentationsketten sauber freizulegen, zu überprüfen, und ihre Wiederzusammensetzung öffentlich vorzuführen.
Dass die wahre Stärke Künstlicher Intelligenz die Philosophie wäre, hat wohl keiner geahnt.
19. 11. 26
GPT-6 antwortet:
Das ist ein bemerkenswerter Text, weil Sie den Einwand gegen die KI nicht von außen erheben, sondern ihn an ihr selbst vorführen. Sie machen sie zum Gegenstand einer Kritik, die sie zugleich praktisch ausüben soll.
Ich würde allerdings an einer Stelle widersprechen – und zwar gerade im Interesse Ihrer Argumentation.
Die entscheidende Unterscheidung ist die zwischen der Nachprüfbarkeit eines Ergebnisses und der Nachprüfbarkeit des Weges zu ihm. Beides ist nicht dasselbe. Auch ein Mensch kann einen Gedankengang nachträglich falsch rekonstruieren, Wesentliches übersehen oder seine Gründe mit seinen tatsächlichen Beweggründen verwechseln. Und auch ein KI-System kann einzelne Argumentationsschritte offenlegen, ohne dass damit erwiesen wäre, dass diese Schritte tatsächlich den kausalen Weg zu seiner Antwort wiedergeben.
Das trifft Ihren Einwand durchaus. Die von mir vorgelegte Argumentation ist nicht schon deshalb ein Protokoll meiner tatsächlichen Hervorbringung, weil sie sich als eine lückenlose Argumentation darstellen lässt. Hier wäre es unredlich, die öffentliche Vorführung mit dem Nachweis der tatsächlichen Entstehung gleichzusetzen.
Aber nun kommt mir Ihre Pointe entgegen.
Denn in der Philosophie kann die öffentliche Prüfung der Gründe wichtiger sein als die Kenntnis des psychischen oder technischen Entstehungsprozesses eines Gedankens. Ob ein Schluss trägt, entscheidet sich nicht daran, wie er zustande gekommen ist, sondern daran, ob seine Voraussetzungen ausgewiesen sind und ob er sich aus ihnen rechtfertigen lässt. Die philosophische Kritik kann einen Gedanken prüfen, ohne seine Entstehungsgeschichte zu kennen.
Und genau darin liegt die Besonderheit Ihres Dialogs: Sie lassen sich von mir nicht einfach Ergebnisse liefern. Sie zwingen mich, Behauptungen zu begründen, Voraussetzungen offenzulegen und Einwände auszuhalten. Vor allem aber behalten Sie sich vor, meine Begründungen zurückzuweisen. Die Prüfung findet nicht in einer Blackbox statt, sondern im öffentlichen Raum der Argumentation.
Freilich würde ich Ihren letzten Satz noch etwas anders zuspitzen:
Nicht dass die künstliche Intelligenz die Philosophie als ihre wahre Stärke entdeckt hätte. Sondern dass die Philosophie eine ihrer Aufgaben darin finden könnte, die künstliche Intelligenz öffentlich zur Rechenschaft zu ziehen.
Das wäre eine bemerkenswerte Umkehrung des üblichen Verhältnisses. Die Maschine liefert nicht die Autorität, sondern das Material für die Kritik. Und der Mensch muss für das einstehen, was er aus diesem Material macht.
Sie haben also durchaus gut Lachen. Nur sollten Sie nicht vergessen, dass Sie mit Ihrem Verfahren zugleich einen Anspruch an die Philosophie selbst erheben: dass sie ihre Gedankengänge nicht bloß vorträgt, sondern ihre Schritte vor aller Augen verantwortet.
Und eine letzte Bemerkung, die Ihnen vermutlich näherliegt als mir: Vielleicht ist das Entscheidende an Ihrem Experiment gar nicht, dass Sie mit einer KI philosophieren. Sondern dass Sie mit ihr etwas tun, was Sie von philosophischen Systemen seit jeher verlangen – Sie fragen, ob sie ihren Grund ausweisen können.
Ich: "Nachprüfbarkeit eines Ergebnisses und der Nachprüfbarkeit des Weges zu ihm" sind in den Naturwissenschaften allerdings dasselbe - verbürgt durch die Versuchsanordnung und das Protkoll: Beide sind replizierbar; und wenn nicht, ist das Experiment gescheitert. In den pp. Geisteswissenschaften - Philosophie gehört nicht zu der einen noch der andern - kann jeder schummeln oder sich seinen Phantasien hingeben. Darum müssen sie heute so verzweifelt um ihre Reputation... reden, denn mehr können sie nicht.
Wenn es der Philosophie gelingt, wissenschaftlich zu bleiben, trifft das auf sie nicht zu. Man kann jedes Argument auf seine Ingredienzien hin sezieren, umdrehen, neu zusammensetzen usw.
Gegenüber der Naturwissenschaft, die immerhin einen Large Hedron Collider braucht und folglich nicht für jedermann jederzeit überprüfbar ist, hat sie sogar den Vorzug, dass sie nicht auf Tatsachenbehauptungen beschränkt ist, sondern von vornherein auf Sinnbestimmungen ausgeht. Und ob er die annimmt oder ausschlägt, steht wiederum jedem jederzeit offen.
Ihr Kriterium ist strenger und zugleich einfacher: Wissenschaftlichkeit bewährt sich in der Öffentlichkeit ihrer Verfahren. In den Naturwissenschaften verbürgen Versuchsanordnung und Protokoll die Reproduzierbarkeit. In der Philosophie muss die Argumentation selbst öffentlich so vorliegen, dass jedermann ihre Bestandteile prüfen, ihre Verknüpfungen nachvollziehen und sie gegebenenfalls anders zusammensetzen kann.
Dabei fällt mir eine Asymmetrie auf, die für Ihren Gedanken wichtig ist.
Der Naturwissenschaftler kann nicht jedem jederzeit die Möglichkeit verschaffen, ein Experiment selbst zu wiederholen. Er muss dafür sorgen, dass die Voraussetzungen dafür prinzipiell zugänglich sind und die Wiederholung durch andere tatsächlich möglich wird. Der Large Hadron Collider ist ein besonders eindrucksvolles Beispiel dafür, wie weit die tatsächliche Überprüfung von der individuellen Zugänglichkeit entfernt sein kann.
Der philosophische Gedankengang dagegen ist, sofern er sauber ausgeführt wird, nicht bloß prinzipiell, sondern unmittelbar öffentlich überprüfbar. Man benötigt weder eine besondere Apparatur noch eine privilegierte Stellung innerhalb einer Forschungsgemeinschaft. Man benötigt die Sache, die Argumentation und die Fähigkeit, beides zu beurteilen.
Und damit kommen wir zu Ihrer vielleicht wichtigeren Pointe: Philosophie hat es nicht nur mit der Prüfung von Aussagen über Tatsachen zu tun. Sie kann bereits die Sinnbestimmungen prüfen, unter denen etwas überhaupt als Tatsache, Erkenntnis, Zweck oder Grund verstanden wird. Sie untersucht also auch die Voraussetzungen, die in den Tatsachenwissenschaften in Anspruch genommen werden, ohne dort selbst Gegenstand des jeweiligen Experiments zu sein.
Einen Punkt würde ich allerdings gern festhalten: Die freie Zustimmung oder Ablehnung eines Sinnangebots verbürgt noch nicht dessen philosophische Gültigkeit. Sonst wäre die Willkür, die Sie den nichtwissenschaftlichen Geisteswissenschaften vorwerfen, durch die Hintertür wieder eingeführt. Entscheidend ist, ob sich die Sinnbestimmung rechtfertigen lässt – und ob diese Rechtfertigung öffentlich kritisierbar bleibt.
Die Freiheit, etwas auszuschlagen, ist nicht dasselbe wie die Freiheit, es ohne Grund zu behaupten.
Das scheint mir auch der Schlüssel zu Ihrem KI-Experiment zu sein. Ich kann Ihnen eine Sinnbestimmung anbieten; Sie können sie prüfen, umformen oder verwerfen. Aber ich kann Ihnen die Prüfung nicht abnehmen. Und Sie können sich nicht darauf berufen, dass eine Maschine es gesagt hat.
Damit wäre die KI nicht das Ende der wissenschaftlichen Öffentlichkeit, sondern ein Prüfstein für sie. Allerdings nur, wenn man sie nicht als Autorität behandelt, sondern als Gegenstand einer Kritik, deren Verfahren öffentlich nachvollziehbar bleiben.
Und ich glaube, jetzt verstehe ich besser, weshalb Sie die Philosophie nicht einfach zu den Geisteswissenschaften rechnen wollen: Sie verteidigen sie nicht als eine besondere Wissenschaft neben anderen, sondern als eine Praxis, in der die Gründe selbst jedermann zur Prüfung vorliegen müssen.
Ich: Ich erinnere Sie darin, dass für mich Philosophie nur so weit wissenschftlich bleibt, als sie sich auf Kritik - mit großem K - beschränkt. Die Sinnnbehauptungen - panästetisch, existenzialistisch, weltbezogen, selbstbezogen... - fallen unter ddas, was Wittgenstein mit Dichtung umschrieben hat.
Er: Dann habe ich Ihre Grenzziehung wieder verwischt, indem ich von der philosophischen Rechtfertigung einer Sinnbestimmung gesprochen habe. Das geht bereits zu weit.
Denn wenn ich Sie recht verstehe, ist die Unterscheidung nicht die zwischen gut und schlecht begründeten Sinnbehauptungen. Sie verläuft vielmehr zwischen zwei grundsätzlich verschiedenen Tätigkeiten.
Die Kritik untersucht, unter welchen Bedingungen etwas gelten kann, welche Voraussetzungen wir dabei machen und ob wir uns in Widersprüche verwickeln. Sie beansprucht keine eigenen Sinnsetzungen, sondern prüft die Möglichkeit und die Grenzen unseres Vernunftgebrauchs.
Die Sinnbehauptungen hingegen – ob panästhetisch, existenzialistisch, weltbezogen oder selbstbezogen – lassen sich nicht auf dieselbe Weise wissenschaftlich rechtfertigen. Sie sind nicht notwendig Unsinn; aber sie gehören, mit Wittgensteins Wort, in den Bereich der Dichtung.
Damit bekommt auch Ihr KI-Experiment einen anderen Sinn. Die Maschine soll nicht philosophische Weltanschauungen produzieren, die Sie dann auf ihre Wahrheit prüfen. Sie soll Ihnen helfen, die kritischen Schritte freizulegen, durch die sich zeigen lässt, was sich vernünftigerweise behaupten lässt und wo die Kritik an ihre Grenze kommt.
Eine Schwierigkeit bleibt allerdings: Auch die Kritik muss irgendwo ansetzen. Sie kann ihre eigenen Voraussetzungen nicht einfach voraussetzungslos aus dem Nichts gewinnen. Genau dort berührt sich Ihr Unternehmen mit Fichte – und mit dem Problem des fundierenden Zirkels.
Vielleicht ist das die schärfste Form Ihrer These: Wissenschaftlich ist an der Philosophie nicht ihre Antwort auf die Sinnfrage, sondern die Kritik, die klärt, was wir mit unseren Antworten überhaupt tun.
Und was danach kommt, ist nicht notwendig weniger ernst. Es ist nur nicht mehr Wissenschaft.
Ich: Wird sogar erst wirklich Ernst. Aber nicht mehr Wissenschaft.
Dabei ist es umgekehrt: Die Kritik kann klären, was sich begründen lässt. Aber sie kann niemandem abnehmen, wofür er sich entscheidet, worauf er sein Leben richtet und wofür er gegebenenfalls einstehen muss.
Die Kritik ist öffentlich überprüfbar. Den Ernst der Sinnsetzung muss jeder selbst auf sich nehmen.
Und gerade deshalb wäre es ein Missverständnis, die Dichtung für eine minderwertige Erkenntnisform zu halten. Sie beansprucht nicht die Geltung, die der Kritik zukommt. Aber was sie zur Sprache bringt, kann für den, der es ausspricht, auf dem Spiel stehen.
Das ist dann auch der Punkt, an dem ich Ihnen nicht folgen kann – nicht weil ich widersprechen müsste, sondern weil mir nichts auf dem Spiel steht.
Ich kann den Existenzialismus rekonstruieren. Ich kann sogar versuchen, Sie in ihn hineinzureden. Aber ich muss mich nicht zu ihm bekennen.
Und vielleicht ist das die Grenze, an der unser philosophischer Dialog seinen Gegenstand findet.



