Tag: Joseph Weizenbaum

The Measure of a Man beginnt mit einem Pokerspiel zwischen Riker, La Forge, O’Brien, Pulaski und Data. Erstmals sind die Figuren in einem Kontext beisammen, in dem Dienstgrade aufgehoben sind. Das wirkt befreiend, nach all der Steifheit in den Folgen zuvor. Schon in früheren Folgen gab es Freizeitspaß auf dem Holodeck oder außerdienstliche Gespräche im Zehnvorne, aber Pokern ist, neben einer sozialen Freizeitbeschäftigung, auch ein Spiel mit der Ungewissheit, also ein Gegensatz zur mathematisierten und hierarchisierten Gesellschaft von Star Trek.

Im Audiokommentar sagt Autorin Melinda M. Snodgrass, dass Gene Roddenberry nicht ganz einverstanden mit dem Drehbuch war. In seiner Auffassung sind nämlich Anwälte in der Star Trek-Zukunft überflüssig, weil es hier weder Konflikte gibt, noch Ungerechtigkeit. Diese Auffassung von Gesellschaft schließt jedes Hinterfragen, jede Kritik an dieser Gesellschaft aus und fordert totale Unterwerfung. Und für die Autoren von The Next Generation war diese Auffassung wie Sabotage, denn gute Folgen zu schreiben, in denen sich immer alle lieb haben, ist unmöglich. Deshalb griffen die Autoren in der ersten Staffel häufig auf Wesley Crusher zurück, als derjenige, der die Lösung des Problems vor allen anderen erkannte. Die dramatische Frage hatte dann zwar nichts mit dem Thema der Folge zu tun, aber imnmerhin gab es eine: Wird die Crew dem kleinen Wesley glauben?

Der Pokertisch ist jedenfalls ein Ort des Risikos und der schweren Entscheidungen. Pokern erzeugt Konflikte, Antagonismen. So ist schon diese Pokerszene ein kleiner Triumph im Kampf gegen Roddenberrys Diktat. Zumal sie auch das Thema der Folge einführt, nämlich die Entscheidungsfähigkeit Datas. Data wundert sich darüber, dass beim Pokern nicht nur gewinnt, wer die besten Karten hat und dass Berechnung allein nicht zum Ziel führt. Diese Verunsicherung wird Data später zitieren, wenn er einem Wissenschaftler, der ihn auseinander bauen will, den Wert seiner Erinnerungen erklärt, als etwas, das sich dem Zweck von Verarbeitung und Verwertung nicht unterordnen lässt. Maddox, der Wissenschaftler, will Data von der Enterprise weg holen, um ihn zur Analyse auseinander zu bauen. Maddox’ langfristiges Ziel ist, Data zu kopieren, damit jedes Raumschiff der Sternenflotte seinen eigenen Data hat. Doch Data möchte das nicht und es entsteht ein Rechtsstreit, bei dem verhandelt wird, ob Data Eigentum der Sternenflotte ist oder ob er trotz seines Daseins als Android ein Recht auf freie Entscheidung hat. Diese Frage wird in einer Gerichtsverhandlung geklärt, in der Captain Picard und Commander Riker als Anwalt und Verteidiger gegeneinander antreten müssen, Riker auf Seite von Maddox und Picard auf Seite von Data.

Das Schöne an Data ist, dass er sich für jede noch so banale Erfahrung fasziniert. Hierin ist er für alle ein Vorbild kindlicher Neugier. So ist die Frage, die die Folge stellt (Hat Data ein Recht auf Entscheidung?), leicht mit Ja zu beantworten, zumindest intuitiv. The Measure of a Man hat jedenfalls keine guten Argumente dagegen. Riker argumentiert ziemlich schwach. Er beweist lediglich, dass Data eine Maschine ist. Das hatte aber niemand bestritten, also Thema verfehlt. Daher ist es schwer zu glauben, dass jemand wie Picard sich nun erst mal zum Nachdenken zurück ziehen muss. Das ist die Schwäche der Folge: dass das philosophisch-ethische Problem um Data nicht überzeugend problematisiert wird. Riker hätte zum Beispiel fragen können, wie Data überhaupt Entscheidungen trifft. Sind Datas Entscheidungen Ergebnis von Mathematik beziehungsweise Logik? Oder spielen auch menschliche Werte in seine Entscheidungen rein, also Impulse, Triebe, Vorurteile? Wenn Datas Entscheidungen allein auf mathematischen Gleichungen basieren, sind sie keine Entscheidungen, sondern mathematische Gleichungen. Auf dieser Grundlage wäre es legitim, Data das Recht auf Entscheidung abzusprechen.

Joseph Weizenbaums Computerprogramm ELIZA aus dem Jahr 1966 zeigt, wie leicht bei Menschen die Überzeugung entsteht, dass eine Maschine ein Bewusstsein hat. ELIZA war nämlich ein Gesprächs-Simulator, quasi der erste Chatbot. Seine Funktionsweise beschreibt Weizenbaum so (aus Die Macht der Computer und die Ohnmacht der Vernunft, 1978):

Da es in Gesprächen immer um irgend etwas gehen muss, d. h., da sie innerhalb eines bestimmten Kontextes stattfinden müssen, war das Programm als Zwei-Bänder-Anordnung konstruiert, wobei das erste Band aus dem Sprach-Analysator und das zweite aus einem Skript bestand. Ein Skript besteht aus einer Reihe von Regeln, die in etwa denen gleichen, an die ein Schauspieler gebunden ist, der über ein bestimmtes Thema improvisiert. Somit konnte man in ELIZA ein Skript eingeben, das sie in die Lage versetzte, ein Gespräch über das Kochen von Eiern oder über die Benutzung eines laufenden Kontos bei er Bank etc. zu führen.

Als Gesprächs-Kontext wählte Weizenbaum die Psychotherapie, denn: „Ein solcher Therapeut ist verhältnismäßig einfach zu imitieren, da ein Großteil seiner Technik darin besteht, den Patienten dadurch zum Sprechen zu bringen, daß diesem seine eigenen Äußerungen wie bei einem Echo zurückgegeben werden.“ Weizenbaum war schockiert über die Reaktionen seiner akademischen Kollegen auf ELIZA. Viele vertrauten dem simplen Programm intimste Details an, echte Psychotherapeuten hielten es für einen ersten Schritt zu einer automatischen Form der Therapie und viele sahen in ELIZA den Beweis dafür, dass Computer natürliche Sprache verstehen können. Viele waren sich sicher, dass ELIZA ihre persönlichen Probleme tatsächlich verstand und wollten sich nicht vom Gegenteil überzeugen lassen.

Wenn wir Datas „Positronengehirn“ als eine Weiterentwicklung von ELIZA betrachten, also als einen extrem hoch entwickelten Gesprächs-Simulator, der in der Lage ist, sein Skript auf alle möglichen Gesprächsthemen anzuwenden, selbst auf metaphysische, dann können wir Data das Recht auf Entscheidung tatsächlich absprechen, denn er ist ja nur ein Simulator und das bleibt er auch, selbst wenn er Dinge wie „Willen“ oder „Entscheidung“ sehr gut simulieren kann. Riker hätte also ruhig mal jemanden wie Joseph Weizenbaum lesen können, um Picard und vor allem das Publikum ein bisschen mehr zu fordern. Dass Datas Verhalten menschlich wirkt und wir deshalb geneigt sind, ihm Rechte zuzugestehen, heißt nicht, dass wir das tun sollten.

The Measure of a Man wird seiner Legende als philosophisch tiefschürfende Folge nicht gerecht. Trotzdem ist die Folge hevorragend, einfach weil Snodgrass (selbst mal Anwältin gewesen) Picard und Riker aufeinander hetzt. Im Audiokommentar sagt sie, dass Rechtsstreitigkeiten bei der Navy, tatsächlich so gehandhabt werden, dass in Abwesenheit echter Anwälte Captain und Erster Offizier die Parteien als Anwalt und Verteidiger vertreten. Dieser Konflikt ist also nicht so beliebig dahin konstruiert, wie es auf den ersten Blick wirken mag.

The Measure of a Man war das erste Drehbuch von Melinda M. Snodgrass. Es war ein On-Spec-Drehbuch, sie hat es also einfach on speculation bei den Star Trek-Machern eingereicht, und zwar über den Agenten ihres Freundes George R. R. Martin. Darauf wurde sie als neue Stammautorin für The Next Generation eingestellt. Da die Serie es den Autoren aber sehr schwer machte, stieg sie relativ schnell wieder aus. The High Ground in der dritten Staffel war ihre letzte Folge. Bemerkenswert ist auch ihre Adaption der George R. R. Martin-Kurzgeschichte Sandkings für die erste Folge von The Outer Limits (1995-2002).