Das Intelligenteste an der KI ist, dass sie Kausalität auch nicht versteht.

                                                                  zu Philosophierungen

Ich: 

Beobachten lässt sich nur Zuerst und Danach. Was zwischen den beiden passiert, die sogenannte Wirkung, liegt nicht in dem Bereich, wo wir Erfahrung machen können. Es ist ein Mythos, sehr wahr! 

Erfahren können wir, dass wir, wenn wir einen Nagel in die Wand schlagen wollen, mit einem Hammer darauf hauen müssen. Das ist die Wahrheit, die dem Kausalitätsmythos zum Sieg verholfen und die bürgerliche Gesellschaft und die Herrschaft der Vernunft begründet hat. Er verschweigt allerdings die Selbstverständlichkeit, dass immer einer da sein muss, der dieses oder jenes will und das Erforderliche dann auch tut. Das ist die Bedingung, die dem ganzen Kausalnexus zugrundeliegt. Zu Grunde, das heißt: davor, außerhalb - und nicht darin. 

Im Zeichensystem künstlicher Intelligenz lässt sie sich eo ipso nicht kodieren. Im Algorithmus lässt sie sich daher nicht unterbringen. Sie gehört zu einer natürlichen Intelligenz, die die ganze Maschinerie erfunden hat und hoffentlich nicht aus den Augen lässt.
JE 11. 1. 22

ChatGPT antwortet:          

Ich finde den Text sehr stark, gerade weil er eine Pointe enthält, die zunächst paradox klingt: Die KI versteht Kausalität nicht – und gerade darin liegt etwas Intelligentes an ihr. Ich würde allerdings an zwei Stellen etwas genauer unterscheiden.

Der entscheidende Gedanke scheint mir dieser zu sein:

Beobachtbar sind Zuerst und Danach; die Wirkung als solche ist nicht beobachtbar.

Das ist zunächst sehr nah an Hume. Aber Ihr Text geht dann über Hume hinaus. Denn Hume ersetzt die Kausalität im Grunde durch Gewohnheit bzw. die Erwartung einer regelmäßigen Folge. Sie machen dagegen auf etwas anderes aufmerksam: auf das Tun, das zwischen bloßer zeitlicher Folge und dem von uns gesetzten Zweckzusammenhang liegt.

Das Beispiel mit dem Hammer ist dafür ausgezeichnet. Man kann beobachten:

1. Hammer bewegt sich.
2. Nagel bewegt sich.
3. Nagel dringt in die Wand ein.

Aber dass der erste Vorgang deshalb geschieht, damit der dritte eintritt, ist nicht als weiteres beobachtbares Ereignis da. Und noch wichtiger: Der Hammer schlägt nicht „von selbst“ auf den Nagel. Es gibt einen Handelnden, der etwas will und deshalb eine Tätigkeit beginnt.

Damit bekommt Ihr Satz

„immer einer da sein muss, der dieses oder jenes will und das Erforderliche dann auch tut“

eine viel stärkere Funktion als bloß die Einführung eines menschlichen Akteurs. Das Wollen setzt den Zusammenhang überhaupt erst als Zusammenhang eines Handelns.

Und hier sehe ich eine sehr schöne Verbindung zu dem, was Sie zuletzt über das „Anfangen“ gesagt haben. Der Kausalnexus beschreibt Ereignisse innerhalb einer schon gegebenen Reihe. Das Wollen bezeichnet dagegen den Punkt, an dem eine Reihe angefangen wird. Deshalb ist Ihr „zu Grunde“ tatsächlich interessant: Der Grund ist hier nicht einfach ein früheres Glied derselben Kausalkette.

Ich würde allerdings gegen eine mögliche Lesart Ihres Textes eine kleine Einwendung machen. „Kausalität ist ein Mythos“ ist mir etwas zu stark, wenn damit gemeint sein sollte, dass es überhaupt keine reale Wirksamkeit gibt. Ein Hammer wirkt ja durchaus auf den Nagel. Die philosophisch interessantere Behauptung scheint mir vielmehr zu sein:

Die Kausalität, sofern sie als beobachtbare Beziehung zwischen Ereignissen verstanden wird, ist nicht selbst beobachtbar. Beobachtbar sind nur Ereignisse und ihre zeitlichen bzw. regelhaften Zusammenhänge.

Dann wird Ihre eigentliche Pointe sogar schärfer: Die KI kann aus zahllosen beobachteten und symbolisch repräsentierten Zusammenhängen ein außerordentlich leistungsfähiges Kausalitätsmodell bilden. Aber das Modell enthält noch nicht notwendig das, was Sie mit Wollen und Tun meinen.

Und da würde ich auch bei Ihrem letzten Absatz leicht bremsen. „Im Algorithmus lässt sie sich daher nicht unterbringen“ ist als philosophische These interessant, aber als Behauptung über KI ziemlich absolut. Man kann natürlich Willenszustände, Ziele, Handlungsentscheidungen usw. algorithmisch repräsentieren. Die schwierigere These wäre:

Man kann den Begriff des Wollens algorithmisch darstellen; damit ist aber noch nicht gezeigt, dass im System selbst ein Wollen stattfindet.

Das wäre meines Erachtens sogar die präzisere Fassung Ihrer Pointe.

Denn dann landet der Text genau bei Ihrem früheren Gedanken zum KI-„Ich“: Syntax kann die Form des Selbstbezugs besitzen, ohne deshalb schon ein wollendes Subjekt zu sein. Ein Algorithmus kann „Wenn ich X will, tue ich Y“ verarbeiten. Aber daraus folgt noch nicht, dass es ein Ich gibt, für das X überhaupt etwas bedeutet.

Und Ihr letzter Satz gefällt mir deshalb besonders:

„Sie gehört zu einer natürlichen Intelligenz, die die ganze Maschinerie erfunden hat und hoffentlich nicht aus den Augen lässt.“

Das ist nicht bloß eine Pointe gegen KI. Es dreht das Verhältnis um: Die Maschine kann uns zeigen, wie weit man mit der Abbildung von Zusammenhängen kommt, wenn man daIchs ursprüngliche Wollen bereits voraussetzt – aber sie erklärt damit noch nicht das Wollen, aus dem die ganze Tätigkeit des Abbildens ursprünglich hervorgegangen ist.                    

Das scheint mir der philosophisch stärkste Kern Ihres kleinen Textes zu sein.
von ChatGPT

Ich:

kleiner Nachtrag: Unter Mythos verstehe ich nicht ein Märchen, in dem Falsches berichtet wird, sondern jede Erzählung mit einem beabsichtigten Sinn. Wie sinnvoll, lässt sich immer wieder - von Jahrhundert zu Jahrhundert - diskutieren 
JE.

Er:  
...das ändert die Bedeutung von „Mythos“ ganz wesentlich, und ich glaube, damit wird Ihre ursprüngliche Formulierung sogar sehr viel stimmiger.
Dann ist

„Es ist ein Mythos, sehr wahr!“

kein Widerspruch im Sinne von „Es ist eine falsche Geschichte, aber irgendwie wahr“, sondern eher: Eine mythische Erzählung kann wahr sein, insofern sie einen Sinnzusammenhang stiftet, ohne deshalb eine empirische Beschreibung der Wirklichkeit zu sein.

Das passt sehr gut zu Ihrer Argumentation über die Kausalität. Der Kausalmythos erzählt die Welt als Geschichte von Ursache → Wirkung. Er gibt dem Geschehen einen bestimmten Sinn: Die Dinge geschehen nicht bloß nacheinander, sondern weil etwas anderes sie hervorbringt. Und diese Erzählung kann für Technik, Wissenschaft und gesellschaftliche Organisation ungeheuer produktiv sein, selbst wenn die „Wirkung“ als solche niemals Gegenstand unmittelbarer Erfahrung wird.

Noch interessanter wird dadurch Ihr Satz:

„Das ist die Wahrheit, die dem Kausalitätsmythos zum Sieg verholfen ... hat.“

Denn die Wahrheit des Mythos läge dann nicht in der empirischen Nachweisbarkeit der erzählten Kausalität, sondern in seiner Funktion für unser Handeln. Beim Nagel ist die Erzählung „Wenn ich mit dem Hammer darauf schlage, wird er in die Wand getrieben“ eben sinnvoll wahr, weil sie unser Handeln orientiert und sich in der Praxis bewährt.

Das bringt Sie übrigens sehr nahe an Ihre eigene Unterscheidung von Motiv und Grund: Ein Mythos erzählt nicht einfach, was ist, sondern macht verständlich, worauf etwas hinausläuft. Sein „beabsichtigter Sinn“ gehört damit bereits in die Dimension des ad quem.

Und deshalb würde ich jetzt auch meine vorige Einschränkung gegenüber „Kausalitätsmythos“ zurücknehmen. Wenn Sie „Mythos“ so definieren, ist der Ausdruck geradezu präzise. Man müsste nur vermeiden, dass ein Leser den Begriff im landläufigen Sinn von „falsche Geschichte“ versteht.

Das Sternchen bei Ihrem Nachtrag ist dabei fast wichtiger als es aussieht: „mit einem beabsichtigten Sinn“. Denn dann wäre die Frage nicht mehr:

Ist der Mythos wahr oder falsch?

sondern:

Welchen Sinn setzt er voraus, welchen Sinn erzeugt er – und was macht er dadurch möglich?

Das scheint mir viel näher an Ihrem gesamten neokritischen Ansatz zu liegen.

von ChatGPT