Turing-Test für Künstliche Dummheit –
Gerade zu Weihnachten kommt es in Familien zu den größten Katastrophen. An den besinnlichsten Tagen des Jahres wird plötzliche einigen klar, wie einsam sie sind und sie beginnen, wie besinnungslos um sich zu schlagen. Andere wiederum begeben sich in diesen Tagen, möglicherweise animiert durch die Weihnachtsgeschichte, auf die Suche nach wunderlichen Zeugungen der nächsten Art: So wie Christian Bauckhage, ein deutscher Professor für Informations-Technologien, der in der Welt seine Prognosen zur Zukunft der Künstlichen Intelligenz zum besten gibt und sich dabei zu einer steilen These hinreißen läßt: Die Entwicklung in den kommenden fünf Jahre werde »alles in den Schatten stellen, was wir vorher gesehen haben«. »Das wird alles verändern, alles« – ausdrücklich verdoppelt.
Vielleicht ist Herr Bauckhage ja noch zu jung. Sonst hätte er das letzte und das vorletzte und auch das vorvorletzte Platzen informationstechnischer Spekulationsblasen miterlebt und wüßte, daß die Halbwertzeit solcher Thesen in der IT eher kurz ist. Aber solange eine deutsche Zeitung die Sprüche kauft und weiterverkauft, kann man ja mal spekulieren. »Wie weit sind wir noch von der Singularität entfernt, dem Entstehen eines Bewusstseins in der Maschine?«, fragt die Welt, elegant mit Singularität und Bewußtsein zwei opernreifen Schlüsselbegriffe wissenschaftlicher Dramaturgie schwingend und erhält zur Antwort: »Ich verwende dieses Wort nur ungern, weil es so spekulativ ist. Aber unter uns: Es wird auf jeden Fall passieren.« Und der Leser darf rätseln, welches Wort wohl gemeint ist: Singularität oder Bewußtsein? – Ich vermute Bewußtsein.
»Das wäre ein Kontakt wie mit einer außerirdischen Lebensform«, fährt die Welt fort, als wäre Bewußtsein nicht von dieser Welt. »Wir können unmöglich voraussagen, welche Ziele sie verfolgen wird.« Dann verschwindet der Text im Dämmerlicht der Bezahlschranke. Das »Eine solche Intelligenz könnte...« des Professors deutet sich nur noch an und jeder kennt zumindest dies Ziel: Mir soll Geld abgeknöpft. Und darauf falle ich nicht mehr herein.
Wird ein Chatbot jemals Bewußtsein entwickeln? – Der Professor scheint es zu glauben. Oder doch nicht? – Im Februar 2023 schreibt Bauckhage, für den bisher nicht einmal ein Wiki-Eintrag angelegt wurde, er wolle der Frage nachgehen, »if systems such as ChatGPT can be said to be conscious?« – Wörtlich übersetzt: »Läßt sich sagen, Systeme wie ChatGPT wären bewußt«. Maschinell übersetzt mit DeepL: »ob man von Systemen wie ChatGPT sagen kann, dass sie ein Bewußtsein haben.« Womit ich mitten im Schlamassel stecke, der dem »Bewußtsein« innewohnt, von dem jeder weiß, was es ist und das doch keiner sprachlich exakt beschreiben kann. Bedeuten »to be conscious« und »to have consciousness« dasselbe?
Bauckhage schreibt auf Englisch, steht also nicht vor der Frage nach der stimmigen Übersetzung, obgleich die bereits ein halbes Dutzend Schwierigkeiten mit dem Begriff Bewußtsein umreißt. Vielleicht geht der Professor deshalb erstmal in Deckung: »Da dies eine so grundlegende Frage ist, muss ich mit einem Haftungsausschluss beginnen: Als Informatiker bin ich nicht wirklich qualifiziert, darüber zu sprechen, was Bewusstsein an sich ist und woher es kommt.« – Womit eigentlich alles gesagt ist!
Indes der Experte für Mustererkennung und Datengräberei fortfährt: »Aber auch wenn ich dieses Thema den Kognitionswissenschaftlern überlassen sollte, macht es doch Spaß, zu spekulieren und ChatGPT aktiv auf Anzeichen eines Selbstbewusstseins zu untersuchen.« Es lohnt, diesen Satz, zwei und dreimal zu lesen: Obwohl Bauckhage offen eingesteht, praktisch keine Ahnung von Bewußtsein zu haben, will er ChatGPT auf Bewußtsein hin untersuchen. Klasse! Und zehn Monate später interviewt ihn die Welt zu dem Thema. Es sage keiner, nur die Grünen würde Ahnungslose auf verantwortungsvolle Posten platzieren.
Nun könnte ich damit leben, wenn der IT-Experte bloß spekulierte. Spekulieren macht vielen ja fraglos Spaß, hat es doch etwas vom Philosophieren. Nur sollte es nicht völlig haltloser Unfug sein, der herauskommt. Und wenn Bauckhage über Bewußtsein so redet wie über die Intelligenz von ChatGPT, dann sieht es trüb aus, denn er behauptet, daß wir, »wenn wir den ehrwürdigen Turing-Test anwenden, um zu beurteilen, ob ChatGPT intelligent ist, nicht umhin kommen, es so zu nennen.«
Zur Erinnerung. Der Turing-Test besagt, daß eine Maschine dann intelligent ist, wenn wir sie in einem Dialog nicht von einem Menschen unterscheiden können. Ich lasse einmal beiseite, daß auch ausgesprochen dumme Menschen Dialoge führen können, die nach außen intelligent erscheinen, sondern nehme Alan Turing beim Wort. Können wir ChatGPT nicht von einem Menschen unterscheiden, wenn wir Zeichenfolgen eingeben? Generiert ChatGPT Zeichenketten wie ein Mensch? – Im Grund gibt Bauckhage die Antwort schon selber. In seinen angeführten Beispieldialogen streicht er wegen »der Tendenz von ChatGPT, lange Antworten zu produzieren«, die generierten Zeichenketten zusammen. Ohne diese Kürzungen weiß jeder sofort: So schnattert nicht einmal meine Frau! Oder mein Jüngster!! Oder ein IT-Experte, wenn er programmiert!!!
Doch selbst den gekürzten Dialogen wohnt immer der blechernde Geist von C-3PO inne, der Quatschkiste aus den frühen Star Wars Filmen, die um die sechs Millionen Kommunikationsformen beherrscht. Und jeder weiß: Da drinnen denkt niemand nach; dort werden ausnahmslos Zeichen herumgeschoben und manipuliert. Chatbots sind und bleiben Zeichengeneratoren, die im Internet nach Zeichenfolgen suchen können. Und jeder mit etwas Sprachempfinden erfährt den Dialog einem Chatbot als Dialog mit einem Übersetzungssystem für formale Sprachen. Und das ist ebenfalls nie und nimmer intelligent.
Bauckhage berichtet von einem interessanten Versuch: Er läßt den Chatbot einen Programmcode für einen Quantenrechner generieren. Der Text sieht zunächst auch gut aus und imponiert den IT-Experten, vor allem weil der Chatbot die Darstellung seiner Lösung von graphisch auf programmtechnisch wechselt. – Bis er zwei Wochen später einen genaueren Blick auf den Code wirft und feststellt: Es handelt sich um »völligen Unsinn«. »Auf den ersten Blick sieht das Ergebnis sehr vernünftig aus, aber bei näherer Betrachtung ist es das wirklich nicht. Schlimmer noch: einige der Kommentare im Code sind irreführend und geben nicht richtig wieder, was gemacht wird.«
Der Versuch verrät mehr über den IT-Experten als über den Chatbot. Er hat sich blenden lassen von seinen Erwartungen und seine Freude über das Resultat aus der Maschine hat etwas von dem kleinen Jungen, der endlich den scheinbar kostbaren Ring aus dem Kaugummiautomaten geangelt hat und mit dem Groschenautomaten an der Hauswand zu reden beginnt. Allerdings bin ich sicher, daß Turing seinen berühmten Test so nicht gemeint hat.
Ich lasse es offen, ob der Turing-Test wirklich verrät, ob die Maschine intelligent ist – aber sicher ist, daß, wer ChatGPT nach einem Dialog für intelligent hält, wenig versteht von Intelligenz und ganz sicher nichts von Bewußtsein. Ja, wer überhaupt auf den absurden Gedanken verfällt, eine Maschine wie ein Computer könne irgendwann denken, der hat eine Art negativen Turing-Test mit Bravour bestanden: Er läßt sich durch Worte blenden. Sind diese Zeichenfolgen auf geheimen Wegen entstanden oder regen sie wie auch immer zum Grübeln an, dann hält er sie für intelligent. Er gehört zu jenen, die dem Zauber von Symbolen erliegen und darüber zum Spekulieren angeregt werden.
Aber vor allem gehört er zu jenen, die dem Reiz der Informationstechnologien erliegen, weil sie in den Medien gerade »in« ist. Claude Shannon, der Begründer der Informations-Technologie, hat bereits um dieses Phänomen gewußt und gewarnt: »Die Informationstheorie hat womöglich eine Bedeutung erlangt, die weit über ihre eigentlichen Leistungen hinausgeht. Und so übertragen Kollegen aus vielen anderen Wissenschaftsbereichen, angelockt durch Fanfaren und neu eröffnete Wege der wissenschaftlichen Analyse, diese Ideen auf ihre eigenen Probleme. Kurz gesagt: Die Informationstheorie befindet sich derzeit in einem Rausch allgemeiner Popularität.«
Fallen wissenschaftliche Mode und Lust auf Spekulationen zusammen, dann ergeben sich Zeiten wie diese. Doch sie enden, wie Shannon wußte. »Leicht kann es passieren, daß unser etwas künstlicher Wohlstand über Nacht zusammenbricht, wenn erkannt wird, dass die Verwendung einiger aufregender Worte wie Information, Entropie, Redundanz nicht alle unsere Probleme löst.«
Auf einer solchen Straße fahren wir momentan wieder. Und die Wegbiegung wird kommen, an der wir trotz all der neuen Begriffe merken, daß sich unsere Fragen nicht alle beantworten lassen mit Begriffen wie Artificial Intelligence, Data-Mining, Machine-Learning. Und dann stehen Philosophen wieder mit dem Begriff des Bewußtseins allein da. Und dem, was ein Wunder ist, das wir nicht erklären können und auch niemals erklären werden. Nicht mit Maschinen. Und schon gar nicht zu Weihnachten.
✉
|