Die Zahl, die aus der Kalte kam: Wenn Mathematik zum Abenteuer wird

Gelernters Skeptizismus und Turings Test

Watson, der Sieger bei Jeopardy gegen Ken Jennings und Brad Rutter, war eine derartige Zahlenmaschine. Eine Fülle von Daten war in ihr gespeichert, die letztlich aus einer gigantisch langen Folge von Ziffern 0 und 1 bestand. Diese Ziffernfolge, umgesetzt in vorhandene Spannung bei 1 und fehlende Spannung bei 0, ist die dubiose Quelle von Watsons „Wissen“. Das technische Meisterwerk besteht darin, damit die Illusion zu erzeugen, die Zahlenmaschine könne wirklich denken.

Redakteure des Nachrichtenmagazins „Der Spiegel“ waren von Watson so verzaubert, dass sie sich entschlossen, einen ausgewiesenen Experten dieser Zahlenmaschinen darüber zu befragen. Interviewpartner des „Spiegel“ war David Gelernter, der 1983 mit seinem Kollegen Nicolas Carriero die Programmiersprache LINDA entwickelt hatte, die sich besonders gut für parallel laufende Zahlenmaschinen eignet. Die Kernaussagen des „Spiegel“-Gesprächs mit Gelernter lauteten:

Der Spiegel: „Herr Gelernter, wir suchen einen Begriff. Der amerikanische Journalist Ambrose Bierce umschrieb ihn als ,vorübergehendes Irresein, heilbar durch Heirat‘. Wissen Sie, was gemeint ist?“

David Gelernter: „Keine Ahnung.“

Der Spiegel: „Die Liebe.“

David Gelernter: „Oh, die Liebe.“

Der Spiegel: „Ja, und die Frage stammt aus dem Fundus der TV-Quizshow ,Jeopardy‘. Der IBM-Supercomputer Watson hatte kein Problem, die Lösung zu finden. Dann weiß Watson wohl, was Liebe ist, oder?“

David Gelernter: „Er hat nicht die geringste Ahnung. Die Forschung auf dem Feld der Künstlichen Intelligenz hat nicht einmal angefangen, sich mit Gefühlen zu beschäftigen. Das Problem ist: Wir denken nicht nur mit dem Verstand. Denken kann nur ein Geist, der auch einen Körper hat. Ein Gefühl wie Liebe übersteigt Watsons Fähigkeiten bei weitem.“

Der Spiegel: „Was ist so besonders am menschlichen Gehirn, dass es von einer Maschine nicht nachgebildet werden kann?“

David Gelernter: „Das Gehirn ist radikal anders als ein Computer. Der Computer ist eine rein elektronische Maschine, die aus Halbleitern und anderem Krimskrams besteht. Ich glaube, dass es tatsächlich möglich ist, eine kreative Maschine zu bauen, wahrscheinlich sogar eine Maschine, die halluzinieren könnte. Aber sie würde uns in keiner Weise gleichen. Sie wäre immer eine Täuschung, eine Fassade. Es ist vollkommen plausibel, dass etwa das Modell ,Watson 2050‘ einen Poesiewettbewerb gewinnt. Es wird womöglich ein wundervolles Sonett schreiben, das ich schön und bewegend finde und das weltberühmt wird. Aber würde das bedeuten, dass Watson einen Verstand hat, eine Idee von sich selbst? Natürlich nicht. Da ist niemand zu Hause. Da ist nichts drin.“

Ein wenig erinnert David Gelernters Skepsis an die Erkenntnis Blaise Pascals, dass wir nicht bloß nach den Gesetzen der formalen Logik, sondern vor allem „mit dem Herzen“ denken: „Le cœur a ses raisons que la raison ne connaît pas“, „Das Herz hat seine Gründe, die der Verstand nicht kennt“.

Und doch vermeinen Minsky oder Moravec in der hinreichend komplex konstruierten Zahlenmaschine so etwas wie echtes Denken zu finden. Haben sie recht oder nicht? Zur Beantwortung dieser Frage schlug der britische Mathematiker und Logiker Alan Turing bereits im Jahre 1950 vor, einen Test durchzuführen: Im Zuge des nach Turing benannten Tests führt ein menschlicher Fragesteller über eine Tastatur und einen Bildschirm ohne Sicht- und Hörkontakt mit zwei ihm unbekannten Gesprächspartnern ein Gespräch. Der eine Gesprächspartner ist ein Mensch, der andere eine Maschine. Beide versuchen den Fragesteller davon zu überzeugen, dass sie denkende Wesen sind. Wenn der Fragesteller nach der intensiven Befragung nicht klar sagen kann, welcher von beiden die Maschine ist, hat diese den Turing-Test bestanden.

1966 entwickelte Joseph Weizenbaum, Computerpionier am Massachusetts Institute of Technology, ELIZA, ein Programm benannt in Anspielung auf Shaws Pygmalion, das die Möglichkeiten der Kommunikation zwischen einem Menschen und der Zahlenmaschine über natürliche Sprache aufzeigen sollte. ELIZA arbeitet nach dem Prinzip, Aussagen des menschlichen Gesprächspartners in Fragen umzuformulieren und so eine Reaktion zu simulieren. Es dient als mechanischer Ersatz für einen Psychotherapeuten. Sagt der Patient zum Beispiel: „Ich habe ein Problem mit meinem Auto“, antwortet ELIZA: „Warum haben Sie ein Problem mit Ihrem Auto?“ Klagt eine Patientin: „Ich habe ein Problem mit meinem Vater“, geht ELIZA mit den Worten „Erzählen Sie mir mehr über Ihre Familie!“ darauf ein. In diesem zweiten Beispiel hatte das Programm analysiert, dass „Vater“ zu „Familie“ gehört, und entsprechend „intelligent“ reagiert.

ELIZA als Psychotherapeuten zu konzipieren, begründete Weizenbaum damit, dass es einem solchen Gesprächspartner erlaubt ist, keinerlei Wissen über die Welt zeigen zu müssen, ohne dass dadurch seine Glaubwürdigkeit verloren geht. Weizenbaum verdeutlichte dies anhand eines Beispiels: Wenn der menschliche Gesprächspartner den Satz „Ich bin mit dem Boot gefahren“ äußert, und die Zahlenmaschine antwortet darauf „Erzählen Sie mir etwas über Boote“, wird der Mensch nicht annehmen, dass sein Gesprächspartner kein Wissen über Boote besitzt.

Versuchspersonen, die mit ELIZA kommunizierten, verhielten sich dann auch so, als wenn sie es mit einem menschlichen Gesprächspartner zu tun hatten. Offensichtlich war es ihnen nicht allzu wichtig, ob der Antwortende am anderen Ende der Leitung wirklich ein Mensch war oder eine Maschine. Es kam nur darauf an, dass die Antworten und Fragen menschlich erschienen. Die Versuchspersonen in den Experimenten waren zu einem großen Teil sogar davon überzeugt, dass der „Gesprächspartner“ ein tatsächliches Verständnis für ihre Probleme aufbrachte. Selbst wenn sie mit der Tatsache konfrontiert wurden, dass sie mit einer Zahlenmaschine „gesprochen“ hatten, die auf der Basis einiger simpler Regeln und sicherlich ohne „Intelligenz“, „Verstand“ und „Einfühlungsvermögen“ einfach gegebene Aussagen in Fragen umwandelte, weigerten sie sich oft, dies zu akzeptieren. Einige meinten sogar: „Die Maschine versteht mich besser als mein menschlicher Psychiater!“

Weizenbaum war erschüttert über die Reaktionen auf sein Programm. Noch mehr verstörte ihn, dass praktizierende Psychiater ernsthaft daran glaubten, damit zu einer automatisierten Form der Psychotherapie gelangen zu können. Er mutierte nicht zuletzt aufgrund dieser Erfahrungen zu einem der geistreichsten und vehementesten Kritiker der unreflektierten Technologie der „künstlichen Intelligenz“.

Das Erschütternde nämlich ist: Die Zahlenmaschine vermag das Bild des Menschen selbst zu ändern. Die Heimtücke im Turing-Test besteht darin, dass wir die Frage, ob die Zahlenmaschine menschlich zu denken vermag – also in einem gewissen Sinn dem Ziel seines Erfinders gemäß einwandfrei funktioniert –, auch umdrehen können: Besteht der Mensch den Turing-Test? Funktioniert auch er einwandfrei – oder hat man diejenigen Menschen, die nicht den Anforderungen der Zahlenmaschine entsprechen, die noch an Pascals „raison du cœur“, an das „Denken des Herzens“ glauben, zu entsorgen? Dies ist keine Übertreibung, derart atemberaubende Gedanken werden ernsthaft von den Propheten der „künstlichen Intelligenz“ wie Marvin Minsky oder Hans Moravec erwogen. „Wenn wir Glück haben, werden uns die Roboter als Haustiere behalten“, behauptet zum Beispiel Minsky.

Und er meint es nicht als Scherz.