Lade Inhalt...

Der Wandel Joseph Weizenbaums vom KI-Entwickler zum KI-Kritiker und sein Chatbot ELIZA. Analyse und Diskussion der Dokumentation "Plug & Pray"

Hausarbeit 2019 16 Seiten

Leseprobe

Inhaltsverzeichnis

1. Einleitung
1.1 Hinführung zum Thema
1.2 Forschungsfrage & -gegenstand
1.3 Vorgehen in der Arbeit

2. Grundlagen
2.1 Wer ist Joseph Weizenbaum
2.2 Definition Künstliche Intelligenz
2.3 Plug & Pray

3. ELIZA
3.1 Funktionsweise
3.2 Der Eliza Effekt

4. Der Wandel Joseph Weizenbaums
4.1 Beschreibung der Analyse
4.2 Durchführung der Analyse
4.2.1 Quellenauswahl und Begründung
4.2.2 Vorgehen und Probleme
4.3 Ergebnisse der Analyse

5. Diskussion und Bewertung
5.1 Was ist der Wandel Weizenbaums
5.2 Die Rolle ELIZAs im Wandel Weizenbaums
5.3 Weitere Gründe für den Wandel Weizenbaums

6. Reflexion und Zusammenfassung

7. Ausblick

8. Quellenverzeichnis

1. Einleitung

1.1 Hinführung zum Thema

„Es ist schon so, wie Ionesco einmal seinem Tagebuch anvertraut hat: Man kann vieles mit Worten ausdrücken, nur nicht die lebendige Wahrheit.“ – Joseph Weizenbaum. 1

Dies ist nur eines der vielen Zitate, welches die Bedeutung der Sprache für Joseph Weizenbaum aufzeigt. Die Semantik, also die Wissenschaft der Bedeutung von Zeichen 2, spielte in Weizenbaums Forschung schon immer eine wichtige Rolle. Gesprächspartner durch Computer zu ersetzen, war für Joseph Weizenbaum allerdings nicht denkbar und sein 1966 erstelltes Computerprogramm ELIZA sollte eigentlich auch nur zum Spaß das Gespräch mit einem Therapeuten simulieren. Weizenbaum hatte nie damit gerechnet, dass sein Chatbot ELIZA so bekannt werden würde, aber noch viel mehr überraschten ihn die Reaktionen auf seine Erfindung. 3

1.2 Forschungsfrage & -gegenstand

Forschungsgegenstand dieser wissenschaftlichen Arbeit ist das im Film „Plug & Pray“ vorgestellte Computerprogramm ELIZA. Es wurde 1966 von Joseph Weizenbaum am Massachusetts Institute of Technology (MIT) entwickelt, um über natürliche Sprache die Unterhaltung mit einem Therapeuten zu simulieren. In der Dokumentation wird ELIZA als Wendepunkt in Weizenbaums Leben bezeichnet. Denn der Computerpionier und Mitentwickler der künstlichen Intelligenz (KI) zählte später zu den schärfsten Kritikern der KI-Forschung. Daraus ergibt sich die in der vorliegenden Arbeit analysierte Forschungsfrage: Welche Erfahrungen im Umgang mit ELIZA bewogen Joseph Weizenbaum dazu, vom KI-Entwickler zum KI-Kritiker zu werden?

1.3 Vorgehen in der Arbeit

Zu Beginn der Arbeit werden einige Grundlagen erläutert. Dazu zählt das Leben von Joseph Weizenbaum und Informationen zu dem bereits erwähnten Film „Plug & Play“, sowie die Frage, was künstliche Intelligenz eigentlich ist. Im darauffolgenden Kapitel wird der Forschungsgegenstand ELIZA genauer betrachtet. Dabei wird die Funktionsweise des Programms erklärt und anschließend beschrieben, was der ELIZA Effekt ist. Mit Hilfe einer qualitativen Inhaltsanalyse findet im 4. Kapitel die Abhandlung der Forschungsfrage statt, also die Analyse des Wandels Weizenbaums. Hierzu gehören die Beschreibung, die Durchführung und letztendlich die Darstellung der Ergebnisse. Anschließend werden diese Ergebnisse diskutiert und bewertet. Im 6. Kapitel findet die Reflexion der gesamten Arbeit statt und es wird eine kurze Kernaussage formuliert. Hier wird auch die Definition der KI noch einmal aufgegriffen und überarbeitet. Zum Schluss wird in einem Ausblick über aufkommende Fragen für die Zukunft diskutiert.

Der Schwerpunkt der Arbeit liegt auf der Diskussion der im Film beschriebenen Veränderungen Weizenbaums und der Erörterung der Gründe für diesen Wandel.

2. Grundlagen

2.1 Wer ist Joseph Weizenbaum

Joseph Weizenbaum wurde 1926 als zweiter Sohn in Berlin geboren. Aufgrund nationalsozialistischer Rassengesetze beschlossen seine jüdischen Eltern 1936 in die Vereinigten Staaten zu emigrieren. 4 Nach Ende des Krieges studierte Weizenbaum Mathematik an der Wayne University in Detroit/ Michigan, wo er seinen Bachelor und Master Abschluss absolvierte. Bereits während des Studiums beschäftigte er sich mit dem Bau eines digitalen Computers. Nach seinem Abschluss spezialisierte er sich auf Informatik. 5 Im Alter von 37 Jahren wurde er an das MIT berufen 6 und begann dort eine Stelle als Associate Professor. Bis zu seiner Pensionierung 1988 arbeitete er am MIT als Professor of Computer Science, wobei er sich immer mehr auf die Dialog-Programmierung spezialisierte. Mit seinem Projekt ELIZA entwarf er erste Ansätze zu Experimenten in der Mensch-Maschine-Kommunikation in natürlicher Sprache. Auch nach seiner Abberufung war Joseph Weizenbaum weiterhin als Professor Emeritus, sowie als Senior Lecturer of the Institute mit dem MIT verbunden. Im Jahr 1996 zog er wieder zurück nach Deutschland, in seine Geburtsstadt Berlin 7, und verstarb dort im Alter von 85 an den Folgen eines Schlaganfalls. 8

Joseph Weizenbaum wurde nach seinen Arbeiten im Bereich der KI zu einem der bekanntesten Kritiker des Computerfortschritts. 9 Er befasste sich vor allem kritisch mit den Grenzen der Computer- wissenschaft und mit der Verantwortung des Wissenschaftlers gegenüber seinen Erfindungen. 10

Während seiner Lebenszeit schrieb er einige Bücher, Aufsätze und wissenschaftliche Arbeiten. Das wohl bekannteste darunter war „Die Macht der Computer und die Ohnmacht der Vernunft“. Dieses Buch wurde zur Pflichtlektüre aller Computerkritiker und zählt zu einem der weltweit am häufigsten zitierten Werke mit Informatikbezug. 11 Auch nach seinem Tod bleiben seine Bücher und seine Arbeit in der KI nicht vergessen.

2.2 Definition Künstliche Intelligenz

Die Entstehung des Begriffs „künstliche Intelligenz“ geht bis in das Jahr 1950 zurück, in welchem der britische Mathematiker Alan Turing den sog. Turing-Test entwickelte, um festzustellen, ob eine Maschine ein dem Menschen gleichwertiges Denkvermögen, bzw. Intelligenz besitzt. 12 Seit diesem Zeitpunkt entwickelten sich unzählige Definitionen der KI. Allerdings gestaltet sich die Beschreibung von KI nicht einfach, da sie mit einer Analogie der menschlichen Intelligenz einhergeht, für welche es auch ebenso keine offizielle Definition gibt. 13 Für Turing war die Definition von KI jedoch eindeutig. Er sagte, wenn eine Maschine seinen Turing-Test besteht, kann man von künstlicher Intelligenz sprechen. Das bedeutet, wenn Menschen nicht in der Lage sind, in einem Dialog zwischen einem Menschen und einer Maschine zu unterscheiden, dann verkörpert diese Maschine KI. 14 Diese Definition ist allerdings auf viel Kritik gestoßen. Ein Grund dafür ist, dass in dem Test die Intelligenz allein als Fähigkeit der Kommunikation angesehen wird. Dadurch werden weitere Aspekte der Intelligenz nicht mit einbezogen und Systeme, die auf eine andere Weise Intelligenz zeigen, nicht als intelligent eingestuft. 15 Mit vielen weiteren Behauptungen und Fragen stellten Computerwissenschaftler die These Turings infrage.

Auf die Definition von KI und ob ELIZA diese besitzt, wird später noch einmal eingegangen.

2.3 Plug & Pray

Künstliche Intelligenz ist das Hauptthema in dem 2010 veröffentlichten Dokumentarfilm „Plug & Pray“. Der von Jens Schanze produzierte Film ehrt den verstorbenen MIT-Professor Joseph Weizenbaum, welcher einer der Protagonisten in der Dokumentation ist. Die erste Szene beginnt mit den Worten „So ist das mit den Computern. […] Man steckt es rein und es funktioniert – oder manchmal auch nicht…“ 16. Dieses Zitat von Professor Weizenbaum beschreibt die Namensgebung der Dokumentation und wieso aus Plug & Play (Dt.: reinstecken und abspielen) die Abwandlung Plug & Pray (Dt.: reinstecken und beten) wurde. Der Film handelt von Computertechnologien, Robotik, Biologie, Neurowissenschaft und Entwicklungspsychologie 17 und lässt den Computerpionier Joseph Weizenbaum die Entwicklungen der KI kritisch kommentieren. Schanze macht in der Dokumentation klar, dass KI schon längst Realität und keine Fantasie mehr ist. Als Beispiele dafür nennt er den japanischen Robotiker Hiroshi Ishiguri, welcher sich einen robotischen Doppelgänger baute, damit seine Kinder ihn nicht vermissen müssen, wenn er auf Geschäftsreise ist. 18 Außerdem zeigt der Film einen von Giorgio Matta entwickelten lernfähigen Roboter namens „iCube“, welcher die Lernfähigkeiten eines 3-jährigen Kindes besitzen soll. 19 Auch der Computerpionier Ray Kurzweil berichtet von seiner Vision der Verschmelzung von Mensch und Maschine, um Unsterblichkeit zu ermöglichen. 20 Doch in der Dokumentation ist schnell zu erkennen, dass grade einer der Mitbegründer der Computertechnologien, Joseph Weizenbaum, all diese Visionen und Erfindungen als „katastrophale Fehlentwicklung des menschlichen Denkens“ 21 sieht. Vor allem sein eigenes Programm ELIZA stellt für ihn ein Beispiel dar, warum die Weiterentwicklung der KI ein Weg in die falsche Richtung sei. Er warnt vor dem was die Zukunft bringen wird, wenn so weiter gemacht wird wie bisher und stellt die Fragen: „Wie weit wollen wir gehen? Wann gehen wir zu weit? Und wenn, wer wird uns stoppen?“ 22

3. ELIZA

3.1 Funktionsweise

Das in der Dokumentation „Plug & Pray“ thematisierte Programm ELIZA ist ein Chatbot, mit welchem man auf englischer Sprache eine Unterhaltung führen konnte. Dies funktionierte, indem man etwas in eine an den Computer angeschlossene Schreibmaschine eintippte, woraufhin das Programm den eingegebenen Text analysierte und eine Antwort über einen Drucker ausgab. 23 Der Name ELIZA geht auf die Figur Eliza Doolittle aus dem Theaterstück Pygmalion zurück, denn das Programm ELIZA sollte in seiner sprachlichen Ausdrucksweise dazulernen und immer besser, differenzierter und genauer werden, so wie auch die Blumenverkäuferin Eliza aus dem Musical. 24

In seinem Werk „Wo sind sie, die Inseln der Vernunft im Cyberstrom?: Auswege“, beschreibt Weizenbaum diesen Lernprozess genauer: Er erklärt, dass ELIZA als eine Art Zwei-Bänder-Anordnung angelegt ist. Das erste Band ist ein Sprachanalysator und das zweite Band ist das von ihm programmierte Skript SLIP 25. Weizenbaum hat sich beim Programmieren von SLIP an den Regeln orientiert, die Schauspieler von ihrem Regisseur für Improvisationen bekommen. Das für ihn anschaulichste Bild, die Wirkungsweise ELIZAs zu erklären, ist anhand eines Schauspielers, der nach bestimmten Regievorgaben improvisiert. In diesem Beispiel ist ELIZA der Schauspieler und die Regieanweisungen sind das Skript, welches zuvor eingegeben wurde und im Rahmen dessen das Computerprogramm dann eine Unterhaltung führen konnte. 26

Weizenbaum ließ ELIZA dabei die Rolle eines Therapeuten übernehmen, mit welchem sich der „Patient“ über Probleme unterhalten konnte. Das Thema der Therapie wählte Weizenbaum, da die Struktur eines therapeutischen Gesprächs zum Teil wie ein Echo funktioniert. Der Patient erzählt etwas und der Therapeut fasst das Erzählte wieder auf und formuliert eine Frage daraus. 27 Außerdem sucht ELIZA die eingegebenen Sätze auf gewisse Schlüsselwörter wie „Mutter“ oder „Ich“ ab und antwortet, indem es den eingegebenen Satz analysiert und anhand von Regeln, die mit dem Schlüsselwort verbunden sind, einen Antwortsatz formuliert. 28 Wird das Schlüsselwort „Mutter“ erkannt, so antwortet das Programm beispielsweise mit dem Satz „Erzählen Sie mir mehr über Ihre Familie“, oder „Sie haben noch nichts über Ihren Vater erzählt“. 29 Durch solche Regeln ermöglichte Weizenbaum es, mit seinem Programm einen erstaunlich echt wirkenden Dialog zu führen.

Das Ganze funktionierte allerdings nur, wenn man sich innerhalb eines gewissen Erwartungsrahmens bewegte. Das bedeutet, dass dem Patienten zuvor gesagt werden muss, dass er nur solche Aussagen formulieren soll, die man auch in einem Gespräch mit einem richtigen Psychiater treffen würde. 30

Bewegte man sich außerhalb dieses Erwartungsspielraumes, konnten also keine Schlüsselwörter erkannt werden, antwortete ELIZA mit zuvor eingegebenen Floskeln wie „Warum glauben Sie das“ oder „Erzählen Sie mir mehr darüber“. 31

3.2 Der Eliza Effekt

Die Reaktionen auf das Programm ELIZA kamen allerdings sehr unerwartet, vor allem für Prof. Weizenbaum. Der Chatbot wurde nicht nur am MIT bekannt, es tauchten auch an vielen weiteren Universitäten der USA Kopien auf und sogar außerhalb der Universitäten wurde über das Programm gesprochen. 32 Darüber hinaus wurde laut Weizenbaum ELIZA in bestimmten Kreisen der USA zum nationalen Spielzeug. 33 Warum das Computerprogramm so bekannt wurde, konnte er sich nur damit erklären, dass sich mit Hilfe des Chatbots anschaulich demonstrieren ließ, wie Informationsverarbeitung funktionierte. Diese Informationsverarbeitung wurde durch ELIZA so anschaulich dargestellt, dass es auch ein Publikum ohne tiefgreifende Mathematikkenntnisse oder spezielles Vorwissen, verstand. Außerdem wurde es wohl so beliebt, da das Publikum direkt an der Kommunikation beteiligt sein und „mitspielen“ konnte. Es war also gleichzeitig ein frühes Beispiel für Interaktion. 34

Doch mit der Zeit stellte sich heraus, dass ELIZA vom Publikum nicht nur als Spiel verstanden, sondern auch sehr ernst genommen wurde. Denn die Personen, die mit dem Computerprogramm schrieben, fingen an, der Maschine menschliche Eigenschaften wie Gefühle oder Verständnis zuzuschreiben. Sie vertrauten ELIZA ihre Geheimnisse an und verhielten sich, als würden sie mit einem echten Menschen kommunizieren. Dieses Phänomen beschreibt den sogenannten ELIZA Effekt und ist einer der Gründe für den Wandel Weizenbaums zum KI-Kritiker 35, worauf im Kapitel 4 noch einmal genauer eingegangen wird.

4. Der Wandel Joseph Weizenbaums

4.1 Beschreibung der Analyse

In den folgenden Kapiteln wird der Wandel Weizenbaums vom KI-Entwickler zum KI-Kritiker untersucht. Es wird analysiert, was genau mit dem „Wandel Weizenbaums“ gemeint ist und woran er zu erkennen ist. Des Weiteren wird hinterfragt, welche Gründe dies veranlasst haben. Der Schwerpunkt liegt vor allem darauf, welche Rolle seine Erfindung ELIZA dabei gespielt hat und welche Erfahrungen im Umgang mit dem Computerprogramm ihn so schockierten. Außerdem wird untersucht, ob auch noch andere Geschehnisse, neben ELIZA, Einfluss auf den Meinungswandel Weizenbaums nahmen.

Zur Untersuchung dessen wird als Forschungsmethode die qualitative Inhaltsanalyse herangezogen. Als Grundlage dafür werden verschiedene Quellen, welche sich mit Weizenbaum und seiner Erfindung beschäftigen, analysiert und hinterfragt. Dazu werden Daten aus verschiedenen Werken und Interviews, sowie aus der Dokumentation „Plug & Pray“ zusammengetragen und ausgewertet.

4.2 Durchführung der Analyse

4.2.1 Quellenauswahl und Begründung

Da die Dokumentation „Plug & Pray“ ausschlaggebend für die Untersuchung der Forschungsfrage ist, dienen hieraus vor allem die Aussagen Weizenbaums, aber auch die seiner Kollegen, als Grundlage. In dem Film wird der Meinungswandel des Professors klar thematisiert und auch ELIZA spielt dabei eine wichtige Rolle. Ebenfalls berichtet Weizenbaum darüber, wie das Zeitalter und die politische Lage Einfluss auf seinen Meinungswandel genommen haben.

Des Weiteren werden seine beiden Werke „Die Macht der Computer und die Ohnmacht der Vernunft“ von 1976 und „Wo sind Sie, die Inseln der Vernunft im Cyberstrom?“, welches er 2006 zusammen mit Gunnar Wendt veröffentlichte, untersucht. Beide Werke sind für ihre kritische Sichtweise auf die KI bekannt geworden. In diesen Büchern schreibt Weizenbaum detailliert über ELIZA und die Reaktionen, die er darauf beobachten konnte und wie diese ihn beeinflussten. Daher eignen sie sich gut als Grundlage dieser Untersuchung.

Außerdem werden in „Die Zeit “ und „Deutschlandfunk Kultur“ veröffentlichte Interviews mit Prof. Weizenbaum betrachtet, in denen er zu seinem Meinungswandel befragt wurde. Diese beiden Interviews wurden ausgewählt, da hier wichtige Fragen, welche zur Beantwortung der Forschungsfrage benötigt werden, gestellt wurden.

4.2.2 Vorgehen und Probleme

Die analysierten Daten werden tabellarisch als Zitatenliste zusammengetragen. Dabei werden Zitate mit ähnlichen Aussagen bzw. zusammengehörigen Themengebieten gebündelt, um diese anschließen auswerten zu können.

[...]


1 Vgl. Weizenbaum, 1976, S. 267.

2 Vgl. Schwarz & Chur, 2004, S. 15

3 Vgl. Weizenbaum & Wendt, 2006, S. 93.

4 Vgl. Oberquelle, 1993, S. 7.

5 Vgl. Haller, 1990, S. 159.

6 Vgl. Haller, 1990, S. 159.

7 Vgl. Oberquelle, 1993, S. 7.

8 Vgl. Schanze, 2010, 01:27:53 – 01:28:00.

9 Vgl. Oberquelle, 1993, S. 7.

10 Vgl. Haller, 1990, S. 159.

11 Vgl. Oberquelle, 1993, S. 7.

12 Vgl. Beetz, 2013, S. 362.

13 Vgl. Lenzen, 2002, S. 18./ Lakemeyer, 2017, S. 2.

14 Vgl. Partridge, 1991, S. 3 f.

15 Vgl. Lehner, 2014, S. 181.

16 Schanze, 2010, 00:01:48 – 00:01:56.

17 Vgl. Mascha Film, o.J., o.S.

18 Vgl. Schanze, 2010, 01:01:31 – 01:05:20.

19 Vgl. Schanze, 2010, 00:51:10 – 00:51:58.

20 Vgl. Schanze, 2010, 01:19:31 – 01:20:24.

21 Mascha Film, o.J., o.S.

22 Mascha Film, o.J., o.S.

23 Vgl. Weizenbaum, 1976, S. 14.

24 Vgl. Weizenbaum & Wendt, 2006, S. 90.

25 Vgl. Baranovska & Höltgen, 2018, S. 20.

26 Vgl. Weizenbaum & Wendt, 2006, S. 90.

27 Vgl. Weizenbaum, 1976, S 15.

28 Vgl. Lenzen, 2002, S. 53.

29 Vgl. Schanze, 2010, 00:28:19 – 00:28:30.

30 Vgl. Weizenbaum, 1976, S. 251.

31 Vgl. Lenzen, 2002, S. 53.

32 Vgl. Weizenbaum & Wendt, 2006, S. 93.

33 Vgl. Weizenbaum, 1976, S. 17.

34 Vgl. Weizenbaum & Wendt, 2006, S. 93.

35 Vgl. Gendolla, 2006, S. 8.

Details

Seiten
16
Jahr
2019
ISBN (eBook)
9783346176066
ISBN (Buch)
9783346176073
Sprache
Deutsch
Institution / Hochschule
Hochschule RheinMain
Erscheinungsdatum
2020 (Juni)
Note
1,0
Schlagworte
Plug&Pray Weizenbaum ELIZA KI Chatbots
Zurück

Titel: Der Wandel Joseph Weizenbaums vom KI-Entwickler zum KI-Kritiker und sein Chatbot ELIZA. Analyse und Diskussion der Dokumentation "Plug & Pray"