Zardoz (1973)aus derStandard.at, 8.3.2025 zu öffentliche Angelegenheite
STANDARD: Ein Anspruch an die Wissenschaft ist Objektivität. Können Wissenschafterinnen und Wissenschafter, die freilich ihre subjektiven Elemente mitbringen, mithilfe von künstlicher Intelligenz und Machine Learning objektiver arbeiten?
Daston: Es ist keine Neuigkeit, dass Programmierer ihre Vorurteile in Programme eingebaut haben. Ein Grund dafür ist, dass Programmierer anders als die meisten Wissenschafter nicht darauf trainiert werden, sich selbst zu beobachten und sich der Grenzen ihrer eigenen Erfahrung und Perspektive bewusst zu sein. Wenn wir uns Machine Learning ansehen, birgt das ein großes Risiko. Vor ungefähr zehn Jahren gab es einen Microsoft-Chatbot auf Twitter, der mit Infos aus dem Internet trainierte. Der Chatbot wurde innerhalb kürzester Zeit zum frauenfeindlichen, antisemitischen Rassisten. Das ist das, was man am häufigsten im Internet findet. Bei tausenden – oder im Fall von ChatGPT Milliarden – von Trainingsbeispielen, die alle aus dem Internet der Vergangenheit kommen, kann man nicht einfach schlechte von guten Beispielen trennen.
STANDARD: Aber es gäbe Möglichkeiten, den Vorurteilen in der Programmierung gegenzusteuern.
Daston: Absolut. Insbesondere für Large Language
Models à la ChatGPT halte ich das jedoch aufgrund der nötigen Anzahl an
Trainingsbeispielen für unmöglich. Um noch mehr Beispiele zu generieren,
erfindet man schon neue per KI, die diese Effekte nur verstärken. Man
müsste eher die Frage stellen: Warum investiert man so viel Geld und
Energie in eine Leistung, die wir schon beherrschen? Ich habe die hoch
entwickelte Form ChatGPT-4 eine Buchrezension schreiben lassen, die ganz
okay ausfiel, ich würde ihr als Zeugnisnote eine 2 oder 3 geben. Aber
meine Studierenden können das alle besser. Dasselbe gilt für
Bilderkennung: Meiner dreijährigen Enkelin muss ich höchstens fünf
Bilder von Zebras zeigen, damit sie die Kategorie "Zebra" begreift. Dann
erkennt sie Zebras auch im Zoo und wenn sie in einem Kinderbuch
verkleidet dargestellt werden. Für dieselbe Leistung braucht ein
maschinelles Programm hunderte Beispiele. Ist das wirklich sinnvoll?
Meine Frage ist nicht: KI – gut oder schlecht? Sondern: warum zu diesem
statt zu jenem Zweck? Warum benutzen wir dieses mächtige Werkzeug nicht,
um Sachen zu erledigen, die wir nicht tun können?
STANDARD: Etwa für die Voraussage von Proteinstrukturen, die zuletzt mit einem Nobelpreis ausgezeichnet wurde. Weshalb wird KI dann für Aufgaben genutzt, die besser von Menschenhand und -hirn gemacht werden?
Daston: Es hat vielleicht mit der Geschichte der Künstlichen Intelligenz zu tun. Dahinter steckt die Idee, die Leistung von KI mit dem Maßstab natürlicher, menschlicher Intelligenz zu messen und entsprechende Aufgaben erledigen zu lassen. Dass wir noch immer so viel Zeit, Energie und Geld in diesen Bereich investieren, erscheint mir nicht sinnvoll.
STANDARD: Sie haben sich mit dem Wechselspiel von Emotionen, Vernunft und Objektivität in der Forschung befasst. Wie hat sich das entwickelt?
Daston: Wir kennen moralische Tugenden wie Ehrlichkeit oder Gerechtigkeit, es gibt jedoch auch epistemische Tugenden für die Untersuchung von allen möglichen Dingen. Eine solche Tugend, die uralt ist, ist die Suche nach der Wahrheit. Die Objektivität ist vergleichsweise neu: Früher hatte man keine Angst davor, dass persönliche Eigenschaften für die Wissenschaft schädlich sein könnten. Ganz im Gegenteil sogar, wenn man an genaue Beobachtungsgabe und Urteilskraft denkt. Erst Anfang des 19. Jahrhunderts wurde deutlich, dass man unbewusst Ideen auf den Forschungsgegenstand projizieren kann. Selbst über den Inhalt von lateinischen Inschriften, die Altphilologen in Italien oder Spanien in blendendem Sonnenschein untersucht haben, haben sie ihren eigenen Worten nach "halluziniert". Objektivität als eine Art Selbstkontrolle oder Selbstbeschränkung ist eine besondere moralische Tugend in den Wissenschaften. Allerdings hat alles, was hochmoralisiert ist, emotionales Potenzial. Wenn ein Wissenschafter meint, dass ein Kollege oder eine Kollegin diese moralische Tugend irgendwie verletzt hat, sorgt das für Empörung, als Reaktion auf die verletzte Norm.
STANDARD: Was hat sich bei der Suche nach der Wahrheit verändert?
Daston: Die Wahrheit ist veränderlich geworden – und das ist eine der größten Veränderungen im wissenschaftlichen Denken. Wissenschaftliches Wissen ist das beste Wissen, das wir haben, doch es gibt laufenden Fortschritt, und damit ändert es sich ständig. Unser uralter, philosophischer Begriff von Wahrheit wird dieser neuen Art von Wahrheit nicht gerecht. Mit diesem Problem ringen wir immer noch.
STANDARD: Wie kam es dazu? Wie hat sich das Konzept von Fakten verändert, die heute oft im Kontext ihres Gegenteils – Fakes und Fake News – besprochen werden?
Daston: Die Tatsache als eine wissenschaftliche Kategorie ist eine interessante Erfindung des 17. Jahrhunderts. Wenn man davor empirische Ergebnisse präsentiert hat, hat man sie in einen Bedeutungskontext eingebettet, also: Hier ist eine interessante Beobachtung, wie könnte man das erklären, interpretieren und in Zusammenhang mit ähnlichen Beobachtungen bringen? Dann erkannte man, dass vieles, was man über Jahrhunderte glaubte, wahrscheinlich falsch war und man enorm vorsichtig damit sein muss, empirische Ergebnisse von Deutungen zu trennen. Die klare Trennung zwischen Tatsache und Deutung war natürlich nie hundertprozentig möglich. Es gibt immer etwas zu kritisieren. Aber die Anstrengung hat an sich einen Wert. Diese Trennung will man mit Fake News strategisch unterminieren und "alternative Fakten" so oft wiederholen, dass sie quasi zu Wahrheiten werden. Es ist kein Zufall, dass das jetzt in den USA unter Donald Trump passiert.
STANDARD: Was ist für die Forschung derzeit die größte Krise?
Daston: Wir leben ständig in Krisenzeiten. Derzeit sehe ich gesellschaftlich die Wissenschaftsskepsis als größtes Problem. Das hat sich ironischerweise während der Coronapandemie intensiviert: Sie war eigentlich der beste Beweis dafür, warum wir Wissenschaft unbedingt brauchen. Die erstaunlich schnelle Entwicklung effektiver Impfstoffe ist eine Erfolgsgeschichte ohnegleichen. Aber aus der Perspektive der Öffentlichkeit hat die Pandemie der Wissenschaft geschadet, weil Wissenschaft zu politischen Entscheidungen führte, die für die Bevölkerung mindestens unangenehm waren und in manchen Aspekten inakzeptabel. Das war natürlich eine Notsituation. Doch es gibt immer politische Kräfte, die solche Gefühle zu ihren Gunsten manipulieren wollen – und es ist ihnen gelungen. Teils sind Journalisten daran schuld: Sie haben die Gewohnheit, alle Unsicherheit, die mit wissenschaftlichen Ergebnissen verbunden ist, auszublenden, obwohl das Teil jeder wissenschaftlichen Publikation ist. Klarerweise stehen Journalisten unter Zeitdruck und können meist nicht alle Nuancen einer Kontroverse untersuchen. Vielleicht ist es auch eine Aufgabe von Regierungen, den Wissenschaftsjournalismus zu stärken, der unentbehrlich ist für ein demokratisches Bürgertum. Innerhalb der Wissenschaften sehe ich allerdings ihren riesigen Erfolg als Schwierigkeit.
STANDARD: Inwiefern?
Daston: In den letzten Jahren florierten sie mehr als je zuvor. Jetzt gibt es mehr Wissenschafterinnen und Wissenschafter auf der Welt als in der ganzen Menschheitsgeschichte davor. Das Tempo der Entdeckungen hat sich beschleunigt, die Anzahl der Fachjournale ist exponentiell gestiegen. Aber das aktuelle System zur Qualitätssicherung, die Peer Review (Gegenlesen von Studien durch unbeteiligte Fachleute vor der Veröffentlichung, Anm.), ist nicht für diese Skala gedacht und bricht zusammen. Manche Journale haben keine Standards und sind rein profitorientiert.
STANDARD: Wie geht die Wissenschaft damit derzeit um?
Daston: Vor allem mit quantitativen Kennzahlen für die Bedeutsamkeit eines Journals, dem Impact Factor, oder mit Zitationsindizes (Maß dafür, wie oft Arbeiten einer Fachperson in der Community zitiert werden, Anm.). Das Problem ist, dass diese manipulierbar sind. Wenn nur die Anzahl der eigenen Publikationen zählt, macht man aus einem guten Artikel sechs mittelmäßige Artikel. Es gibt Ansätze für Reformen. Manche führende Universitäten wie Harvard sagen: Wir wollen nicht wissen, was du alles publiziert hast, sondern nur deine fünf besten Publikationen lesen. Aber die internationale Wissenschaft hat keinen Papst, kein Parlament, keinen Präsidenten – man muss sich fragen: Welche Institutionen haben die Autorität, neue Spielregeln zu entwickeln? Vielleicht sollten sich die nationalen Akademien der Wissenschaften zusammentun, um dieses Problem neu zu denken.
Keine Kommentare:
Kommentar veröffentlichen