Der neue heiße Scheiß – ChatGPT

Die im Beta-Status freigelassene Chatumgebung ChatGPT (Chat Generative Pre-Trained Transformer) von OpenAI hat auch mich in den Bann gezogen. Seit ich mich Mitte der 1990er Jahre erstmals via Telnet mit dem Chatterbot ELIZA ausgetauscht habe, faszinieren mich responsive Umgebungen, die (nahezu) unvorhersehbar reagieren.

ELIZA war in den 1960ern von Joseph Weizenbaum gecodet worden, um seinen Informatikstudierenden das Objekt-orientierte Programmieren näher zu bringen. Dass er damit einen beziehungsfähigen Algorithmus erschuf, war anfänglich nicht mal Weizenbaum selber klar. Immerhin räumte er ein, dass der gesprächspsychotherapeutische Ansatz, wie er von Carl Rogers entwickelt worden war, als Blaupause für die Responsiveness von ELIZA gedient hatte. Den Turing-Test allerdings konnte ELIZA nicht bestehen.

Zu der Zeit in den 1990ern waren auch so genannte Multi-User Dimensions (MUDs) ein großer heißer Scheiß, auf die sich die Nerds der Zeit stürzten: Welten bauen, Figuren erschaffen, Rollen spielen. Alles auf ASCII, die Bilder entstanden zwischen den Ohren. Umgebungen, in denen Rollenspielcharaktere text-basierte Phantasiewelten erschufen. Figuren bewegen, die Gesetze der Physik außer Kraft setzen und andere User mit Tricks, Zauberwerkzeugen oder Rätseln in der Umgebung halten. Die Grundlagen des Metaversums und der Avatare wurden unter anderem in den MUDs entwickelt. Neal Stephenson lieferte 1992 die Textgrundlage: „Snow Crash“.

Social Media haben uns das Spielen von Rollen weiter erleichtert. Und die Umgebungen mit ihren Algorithmen ziehen uns magisch hinein in ihre Welten. Die Aufmerksamkeit zu fesseln, gehört zur DNA der rasanten digitalen Umwälzung, von ELIZA bis Facebook und TikTok.

Nun also ChatGPT.

Geht damit Wissenschaft? – meine Frage heute, über die Responsiveness hinaus. Turing könnte das Ding vielleicht schaffen, aber ich zweifele.

Fünf erste Erkenntnisse zu ChatGPT:

1. Ein Zeitgrab.
2. Don’t trust – das Ding erfindet doi und url, wenn der Nutzer solche Links anfordert.
3. Das Ding ist eine Über-KI, die auch Heuristiken und Schätzungen zu den eigenen Chatverläufen abgibt, anstatt sie einfach sortiert zusammenzufassen.
4. Die KI ist kreativ, aber for sure keine Suchmaschine (was auch niemand je behauptet hat, der an der Entwicklung beteiligt war).
5. Um die Bot auszuprobieren, sollte ein Thema gewählt werden, mit dem die User sich einigermaßen auskennen. Dann fällt die Verschleierungsmasche eher auf – bzw. das Ergebnis der eingebauten Höflichkeit, möglichst häufig eine Antwort Im Sinne der User zu produzieren.

Alles in allem: Wer sich darauf einlässt, hat viel Spass und kann einiges lernen, aber Zeit braucht der Konversation auf jeden. Zwar ist die Beziehung zu ChatGPT kaltstartfähig, aber der Bezug zu den inneren Werten eröffnet sich auch hier erst im Laufe der Zeit.

Gespräch mit Joseph Weizenbaum – Teil 4

Am Mittwoch letzter Woche (05.03.08) ist der Hacker, Computerphilosoph und Gesellschaftsanalytiker Joseph Weizenbaum gestorben. Ich habe ihn 1998 besucht, um ihn für die Zeitschrift Psychologie Heute (Heft 12/98) zu interviewen. Ich veröffentliche das ausführliche Gespräch erneut, verteilt über vier Blogeinträge. Es hat wenig von seiner Aktualität eingebüßt, obwohl es entstanden ist, bevor Internet, Handy und Laptop zu wirklichen Massenphänomen wurden. Zeitlos also das Gespräch, trotz der rasanten Entwicklungen gerade in diesem Bereich und ein Zeichen dafür, wie werthaltig Weizenbaums Betrachtungen sind.

Teil 3 12.03.08, Fortsetzung:

Zettmann: Der Erfolg führt uns in das Dilemma, daß der Computer menschliche Tätigkeiten und damit Fähigkeiten und Fertigkeiten entweder entwertet oder gänzlich abschafft.

Weizenbaum: Es mußte so kommen und es war schon lange absehbar, wenn man sich schon früher kritisch damit auseinandergesetzt hätte. Ich habe an der Wayne-University in Detroit studiert. Dort habe ich 1951 meinen ersten Computer zusammengebaut. Damals bin ich mit einigen anderen Assistenten zur Automobilgewerkschaft gegangen, um den Leuten zu sagen, daß der Computer die gesamte Branche verändern wird. Darauf sollten sie vorbereitet sein. Wir nahmen uns damals die entsprechende Zeit, um kritisch über die Auswirkungen solcher Entwicklungen nachzudenken. Wer sollte die Kritik sonst ausüben, wenn nicht jene Leute, die mit diesen Dingen arbeiten?

Angesichts meiner kritischen Haltung werde ich oft gefragt, wie ich weiter lehren kann? Denn ich lehre Computersprachen und die werden dann in Waffensystemen verwendet. Wie kann ich das vertreten, werde ich gefragt. Aber es ist ganz einfach: Wir brauchen Leute, die den Computer und die kritisch damit umgehen und darüber nachdenken kann. Wer sonst? Am besten ist es, die kritische Herangehensweise von Lehrern zu vermittelt zu bekommen, die durch ihre Haltung etwas Tiefe rüberbringen.

Z: Gibt es so eine Art innerer psychischer Bereitschaft, all den Versprechungen der Industrie zu glauben – und eben nicht kritisch zu hinterfragen.

W: Ich glaube ja, so eine Bereitschaft gibt es, denn das hat auch etwas mit Wünschen zu tun: Man wünscht sich, daß das Leben leichter wird. Aber es hat auch etwas mit einer Art emotionaler und intellektueller Faulheit zu tun. Das Leben ist leichter, wenn wir uns nicht mit solchen Dingen beschäftigen. Vielleicht müßte man sich irgendwann einmal bemühen, nicht an diese fürchterlichen Sachen zu denken. Wenn man etwas nicht sehen will, dann sieht man es nicht, auch wenn es da ist – selektive Wahrnehmung. Wenn man sich daran gewöhnt hat, nicht zu sehen, wenn man einfach Harmonie haben möchte…

Ich glaube der Wunsch, in Frieden gelassen zu werden, auch sich selber in Frieden zu lassen, eben nicht an solche Sachen zu denken, die das innere Gleichgewicht stören, ist sehr weit verbreitet. Man lebt allerdings auf einer trivialen Ebene. Der Preis wird jedoch schließlich sehr hoch. Sie sehen das in der Welt: Wir entwickeln uns von einer Krise zur anderen. Der amerikanische Präsident Johnson hat damals die Öffentlichkeit über die Kosten des Krieges in Vietnam belogen. Hätte er die Wahrheit gesagt, hätte die Bevölkerung wohl gesagt, nein, wir brauchen das Geld für andere Sachen, das Engagement ist teuer – unabhängig davon, ob der Krieg gerechtfertigt werden kann oder nicht. Zu Lügen war das einfachste zu tun, denn es störte die Menschen nicht in ihrer Ruhe auf. Warum reden wir überhaupt von solch furchtbaren Sachen, die unsere innere Harmonie aus dem Gleichgewicht bringen?

Wenn ich zurückblicke und an mein eigenes Leben denke, dann habe ich in einer Zeit gelebt, in der es eine breite Schicht von Menschen relativ leicht gehabt hat – in Amerika. In einem solchen Middle-Class-Leben kaufte man sich ein Auto, eine Wohnung, Air-Con, machte Urlaub. Eine große Masse der Menschen brauchte keine Erfahrungen damit zu machen, was es bedeutet, zu hungern. In dieser Zeit haben meine Frau und ich Kinder bekommen. Die Kinder mußten nichts für das Essen tun, es gab keinen Kampf ums Dasein. Die Welt war da, und lieferte das, was man haben mochte. In der Universität habe ich gesehen, daß Kinder keinerlei Noterfahrung mehr gemacht haben. Daraus beginnen die Kinder zu extrapolieren für das eigene Leben: Man braucht sich nicht zu bemühen. Vielleicht in anderen Teilen der Welt, in Indien und Afrika, dort gibt es Hunger, aber das hat nichts mit ihnen zu tun. Sie haben die Erfahrung, daß es entscheidend ist, welche Art von Turnschuhmarke diejenige ist, die in der Schule getragen werden sollte.
Diese Generation ist jetzt erwachsen. Die haben nicht gelernt, hinter die Kulissen zu gucken, weil vieles zu leicht war. Am MIT beispielsweise, der Universität, an der ich lehre, gibt es eine ganze Menge Studenten, die wußten bereits mit 10 Jahren, daß sie an dieser Hochschule studieren werden. Sie hat einen sehr guten Ruf, die Studenten werden sorgfältig ausgewählt. Das heißt, die Kinder mußten gute Noten bekommen, weil Daddy wollte, daß sie am MIT studieren. Sie produzieren die guten Noten, überstehen das Auswahlverfahren. Nun kommen junge Menschen an diese Hochschule, die niemals in ihrem Leben gescheitert sind, die immer zu den besten 5% ihres Jahrgangs gehörten. Am MIT treffen sie nun auf ihre Konkurrenz, und plötzlich sehen sich viele von ihnen Scheitern, erleben Enttäuschung und wissen nicht, wie sie damit umgehen sollen, weil es ihre bisherige Erfahrung übersteigt.

Z: Wie läßt sich das, was mit solchen Erfahrungen verbunden ist, in unsere Leben holen, ohne jemanden zum Hungern zu zwingen oder eine andere Notsituation zu erzeugen?

W: Früher sind Leute mit dem Peace-Korps nach Afrika geschickt worden. Die wissen, was Not ist, die nehmen persönliche Unbequemlichkeit in Kauf, weil sie nicht einfach den Wasserhahn aufdrehen können, um zu trinken. Sie fragen nach einer Lösung, aber eine einfache Lösung gibt es nicht. Viel hängt von den Eltern ab und was die Kinder von ihnen mitbekommen haben. Als meine Kinder zur Schule gegangen sind, wohnte ich in Concord, Massachussetts. Das ist ein sehr geschichtsträchtiger Ort, weil dort der erste Schuß der amerikanischen Revolution abgefeuert wurde. Wir wohnten in einer Gegend, Upper-Middle-Class, in der die meisten Menschen aufstrebten, auf dem Weg nach oben waren. Meine Frau war mit einer anderen Frau befreundet, die sechs, sieben Häuser weiter wohnte. Ihr Mann arbeitete in einer Rüstungsfirma. Er war dreiviertel der Zeit im Jahr unterwegs, weltweit. Er hat an der Einrichtung von Raketen mitgearbeitet und die Leute mit ausgebildet, die sie bedienen sollten. Ich habe keine Ahnung, was er seinen Kindern geantwortet hat, wenn sie ihn fragten, womit er eigentlich sein Geld verdiente. Doch die Familie war intakt, niemand brauchte Hunger zu leiden. Aber was haben die Kinder gelernt über die Schwierigkeiten in der Welt und darüber, was Papa macht. Es war leicht, ein Tag nach dem anderen.
Wo sollen Kinder etwas lernen, wenn nicht zu Hause? Für den Raketeningenieur ergeben sich zwei Möglichkeiten: Entweder er erklärt es einfach nicht, was er da macht oder er erklärt mit großer Selbstverständlichkeit, dies sei ein ganz normaler Job, und findet, daß diese Massenmordmaschinen ganz in Ordnung seien.

Z: Herr Weizenbaum, ich danke Ihnen für das Gespräch.

Gespräch mit Joseph Weizenbaum – Teil 3

Am Mittwoch letzter Woche (05.03.08) ist der Hacker, Computerphilosoph und Gesellschaftsanalytiker Joseph Weizenbaum gestorben. Ich habe ihn 1998 besucht, um ihn für die Zeitschrift Psychologie Heute (Heft 12/98) zu interviewen. Ich veröffentliche das ausführliche Gespräch erneut, verteilt über vier Blogeinträge. Es hat wenig von seiner Aktualität eingebüßt, obwohl es entstanden ist, bevor Internet, Handy und Laptop zu wirklichen Massenphänomen wurden. Zeitlos also das Gespräch, trotz der rasanten Entwicklungen gerade in diesem Bereich und ein Zeichen dafür, wie werthaltig Weizenbaums Betrachtungen sind.

Teil 2 11.03.08, Fortsetzung:

Zettmann: Wenn keine Computerkabinette, was soll die Schule dann leisten?

Weizenbaum: Die Grundfrage überhaupt ist die danach, was die Schule in unserer Gesellschaft für Funktionen hat. Wenn man das irgendwie beantwortet hat, kann man sich fragen, wie man die Prioritäten gestaltet. Ich bin völlig überzeugt, daß die erste Aufgabe der Schule ist, den Kindern ihre eigene Sprache beizubringen, so daß sie klar und korrekt Ideen artikulieren können, daß sie Sprechen und Schreiben können, daß sie kritisch Lesen und Hören können, daß all das gelehrt wird, was die Sprache verlangt.
Ich glaube, unsere Alltagssprache ist die Sprache unseres Denkens und unserer Wahrnehmung. Sie ist unsere Beschreibung der Welt und unsere Geschichte. Die Sprache ist für das intelligente Leben genauso wichtig wie die Sprache der Mathematik für die Physik unabdingbar ist. Und jetzt schauen sie sich um, wie es in den westlichen Ländern um die Sprache bestellt ist. Die amerikanische Regierung sagt uns, daß ein Drittel unserer Jugend funktional analphabetisch ist. Das nenne ich eine Katastrophe, eine Art Selbstmord für das Land. Nicht daß Geld die Lösung wäre, aber vielleicht wäre es besser, das Geld für kleinere Klassen, für mehr Deutsch- bzw. Englischlehrer und -lehrerinnen auszugeben anstatt für Computer, die zudem auch noch falsch benutzt werden.

Z: Vielleicht könnte aber doch die Beschäftigung mit dem Computer und mit dem, was der Computer an Projektionsfeld und Phantasieraum aufmacht, wieder ein wenig Lebendigkeit, Spaß und die Lust am Lernen zurück in die Schulen bringen bspw. weil Themen aufgegriffen werden, die Jugendliche interessieren, und welche die herkömmliche Schule nicht vermitteln werden können, weil das Interesse der Schülerinnen nicht geweckt werden kann..

W: Wenn das so ist, und ich glaube es ist so, daß die Kinder die Schule nicht mögen…. In Amerika betrachten viele Kinder die Schule als minimale Sicherheitsverwahrung, als Gefängnis, zu dem sie verurteilt sind bis zu einem gewissen Alter, das stimmt – aber dann ist es doch zuallererst notwendig sich zu fragen, warum das so ist. Hinter der Idee, die Kinder könnten durch Computer motivierter werden und daß es Spaß machen kann, ist auch die Idee, daß Spaß ein wichtiger Bestandteil der Schulerziehung ist. Ein Engländer hat mal gesagt, es spielt keine Rolle, was man Kindern lehrt, so lange sie es hassen. Ich bin da nicht ganz dabei.
Wirkliches Lernen, Begreifen, Verstehen – nicht nur in der Schule, sondern auch im Leben – geht nicht mühelos. Es ist sogar die Mühe, die dazu führt, daß das Gelernte verinnerlicht wird. Wenn ich ein Buch lese, dann muß ich die Charaktere, den Hintergrund, die Landschaft und die Häuser alles selbst herstellen. Das ist ganz anderes als Fernsehen, das mir alles vorgefertigt präsentiert. Ich muß also die Geschichte selber in mir entstehen lassen und später kann ich mich erinnern, daß ich als 11jähriger „Onkel Toms Hütte“ gelesen habe – und daß ich geweint habe. Es ist für mich über 60 Jahre her, daß ich das gelesen habe, aber daran erinnere ich mich. An den Film, wenn ich einen gesehen habe, erinnere ich mich überhaupt nicht. Ich mußte mir keine Mühe machen. Und deswegen ist das Fernsehen so langweilig.

Was ich mit meiner Argumentation zum Ausdruck bringen will, ist, daß die Leute, die über solche Sachen nachdenken ein wenig tiefer ansetzen, unter die Oberfläche gehen.
Wenn es wirklich so ist, daß Kinder die Schule nicht mögen, daß sie lieber mit einem Computer „reden“ als mit einem Lehrer, daß sie lieber zu Hause bleiben oder wo auch immer, statt die Schule zu besuchen, dann muß man zuerst fragen, warum und wie läßt sich das verbessern. Es ist durchaus möglich, daß der Computer in manchen Fällen helfen könnte, die Situation zu verbessern, aber mit dem Computer anzufangen, ist nicht vernünftig. Zu sehr klingt mir das danach, der Computer könnte eine Lösung sein, die sich auf allen Gebieten ihre Probleme sucht.

Z: Mit dem Computer können wir Arbeiten, Lernen, Spielen, mit anderen Menschen kommunizieren und uns informieren. Der universale Apparat vermag immer weitere Fähigkeiten und Fertigkeiten zu vollbringen. Wie konnte es zum großen Erfolg des Computers kommen?

W: Die meisten Computer sind heutzutage versteckt, die sehen wir gar nicht. Wenn heute ein Auto nicht mehr funktioniert, kann es passieren, daß er den einen Chip rausnimmt und gegen einen anderen ersetzt. Und dann fährt das Auto wieder. Der Computer ist erfolgreich in Bereichen, von denen die wenigsten wissen. Lokomotiven werden gesteuert. Dennoch beruhen die Erfolge bspw. der Astronomie auf den Errungenschaften jener Forscher, die bis zur Erfindung des Computers Gleichungen mit der Hand ausgerechnet. haben, nicht auf den Leistungen moderner Rechenmaschinen heute. Manchmal macht der Computer sogar möglich, was ohne ihn nicht möglich gewesen wäre.

Einsichtig ist, daß der Erfolg der Maschine darauf beruht, daß sie Dinge erledigt, die früher sehr viel schwerer zu bewerkstelligen gewesen sind oder eben gar nicht möglich. Zum Beispiel einfache Sachen, wie in einem sehr hohen Gebäude Funktion und Sicherheit der Fahrstühle zu überwachen. Es ist ein sehr erfolgreiches Gerät.

Z: Der Erfolg führt uns in das Dilemma, daß der Computer menschliche Tätigkeiten und damit Fähigkeiten und Fertigkeiten entweder entwertet oder gänzlich abschafft.

Teil 1: 10.03.08
Teil 2: 11.03.08

Gespräch mit Joseph Weizenbaum – Teil 2

Am Mittwoch letzter Woche (05.03.08) ist der Hacker, Computerphilosoph und Gesellschaftsanalytiker Joseph Weizenbaum gestorben. Ich habe ihn 1998 besucht, um ihn für die Zeitschrift Psychologie Heute (Heft 12/98) zu interviewen. Ich veröffentliche das ausführliche Gespräch erneut, verteilt über vier Blogeinträge. Es hat wenig von seiner Aktualität eingebüßt, obwohl es entstanden ist, bevor Internet, Handy und Laptop zu wirklichen Massenphänomen wurden. Zeitlos also das Gespräch, trotz der rasanten Entwicklungen gerade in diesem Bereich und ein Zeichen dafür, wie werthaltig Weizenbaums Betrachtungen sind.

Teil 1 10.03.08, Fortsetzung:

Zettmann: Auch das wird uns seit Jahren versprochen: Den Computer, leicht zu handhaben wie ein Toaster und multifunktional wie früher nur ein Großrechner.

Weizenbaum: Ja, aber die Leute zeigen größere Skepsis als früher, weil sie mittlerweile ein paar Erfahrungen gemacht haben. Nehmen wir das Internet. Ich vergleiche es manchmal mit der Encyclopedia Brittannica. Die Leute kaufen sich das, weil sie denken, es ist gut für die Kinder, die können dort nachschlagen, forschen lernen usw. Das Ding kommt ins Haus, ein paar Wochen lang ist es reizvoll und interessant, dann steht es da die nächsten 20 Jahre…

Z: … und wird an die nächste Generation vererbt.

W: Ja, ich habe eine Ausgabe von 1912 zu Hause, das wurde sicherlich auf diese Weise benutzt. Die Menschen glauben nun, das Internet beherberge alles Wissen der Welt. Das Kind hat dann leichten Zugang zu diesem Wissen, das Kind wird besser in der Schule usw. Bald jedoch lernen sie, daß das einfach nicht der Fall ist. Um das Einfachste im Internet zu suchen, bspw. das Kinoprogramm in Berlin, ist viel schwerer, als das Kino anzurufen, und zu fragen, oder in die Tageszeitung zu gucken. Ich weiß, daß das da ist und ich bin nicht unerfahren, ich kann es auch finden. Ich benutze das Internet täglich. Ich kann da sehr viel finden, die jünger als zehn Jahre sind. Aber beispielsweise historische Sachen sind sehr schwer zu finden, denn die damaligen Dokumente sind nicht maschinenlesbar.

Z: Daraus könnte der Vorschlag erwachsen, ein Beschäftigungsprogramm zu entwickeln, alle Bibliotheken nach und nach digital zu erfassen.

W: Diesen Vorschlag hat bestimmt schon jemand gemacht. Jetzt also fangen Leute an, Erfahrungen zu machen, daß diese Maschinen gar nicht so einfach zu bedienen sind. Auch in der Kontroverse über Computer in der Schule sehe ich Licht am anderen Ende des Tunnels, ein kleines Licht zumindest. Denn die Schulen, die mit Computern ausgestattet sind, entdecken auch, was sie da gekauft haben. Es ist eine Illusion zu glauben, wenn man den Computer einmal hat, dann geht alles wie von alleine und alles wird glänzend. Insbesondere Software kostet viel Geld. Deren Hersteller wie Microsoft, aber auch die Hardware-Lieferanten machen ein gutes Geschäft, in dem sie Waren produzieren, die mit den im letzten Jahr gekauften nicht mehr funktioniert. Also muß ich ein neues System erwerben. Heute muß man sagen, es ist immer zu früh einen Computer zu kaufen, denn der nächste ist immer besser.

Z: Aber die Geschäfte florieren…

W: All das ist künstlich aufgeblasen und wird von Leuten unterstützt, die entweder sehr viel Geld damit verdienen oder furchtbar naiv sind. Ich glaube, viele sind in der zweiten Kategorie.

Z: Leute, die keine Ahnung haben, treffen Entscheidungen, deren Tragweite sie nicht abschätzen können.

W: Es ist schon lange her, daß ich zu der Erkenntnis gekommen bin, daß Computer in der Kinderschule Unsinn sind. In Amerika werde ich öfter gebeten, zu einer Sitzung einer Schulaufsichtsbehörde zu kommen, um über Computer in der Schule zu reden. Wenn diese Leute vor der Entscheidung stehen, Computer zu beschaffen, frage ich sie als erstes: Warum? Zu den Antworten zählen bekannte Argumente wie jenes, daß der Computer ein Teil des Berufslebens der Kinder sein wird. Darauf sollen sie vorbereitet sein.

Z: … in einer Art staatlich finanzierter Computerfahrschule.

W: So etwas, genau. Aber ich sage denen, nein, es werden nur wenige Kindern direkt mit Computern zu tun haben. Denn wir sind inmitten einer Entwicklung, in der der Computer als einzelnes Gerät verschwindet: in den Fotoapparat, in den Kühlschrank, ins Auto. Die meisten Computer sehen wir nicht. Wenn man in ein Versicherungsbüro oder zu einem Immobilienhändler kommt, sehen sie die Bildschirme auf den Tischen, jeder Angestellte hat einen. Und doch hat nicht mehr jeder einen Computer, denn der läuft für alle im Hintergrund. Die Angestellten füllen Masken und Formulare aus, geben Daten ein. Was hinter den Kulissen passiert, wissen sie nicht – und brauchen es auch nicht zu wissen.

Z: Die modernen Systeme erlauben es den meisten Anwender/innen, an der Oberfläche zu bleiben.

W: Die allermeisten Anwendungen sind intransparent, und darauf ist die Computerindustrie zurecht stolz. Niemand braucht zu wissen, was die Maschine konkret macht. Einem Pilot in einem computergesteuerten Flugzeug hilft es überhaupt nichts, zu wissen, wie etwas programmiert ist, wenn etwas schiefgeht. Er muß nur wissen, wie er ein Flugzeug fliegt. Wer mit Programmieren Geld verdient, muß wissen, wie ein Rechner funktioniert, aber das sind bei weitem die wenigsten Anwender. In 20 Jahren werden wir wahrscheinlich im Verhältnis so wenige Programmierer finden in der industrialisierten Welt wie heute Automobildesigner. Wir produzieren jedes Jahr Millionen von Autos, aber wieviele Ingenieure brauchen wir dazu? Viele müssen wissen, wie sie einen Auto fahren, aber wie es konstruiert ist, müssen nur wenige wissen. Zurück zur Kinderschule: Ich frage also die Behörde, was wollen sie lehren? Dann antworten sie, wir wollen den Computer demystifizieren.

Z: Die Maschine ist keine magische Box…

W: Genau. Dann frage ich, auf welcher Ebene der Erklärung wollen sie die Maschine demystifizieren? Sie antworten dann, sie wollten bespielsweise drag-and-drop erklären, also das Markieren eines Abschnitts im Text und dessen Verschieben an eine andere Stelle im Text. Oder sie wollen das Rechtschreibeprogramm erklären, wie wird ein Wort gesucht und als falsch oder richtig erkannt. Das alles sollen unsere Kindern wissen. Ich sage, ok, sie bekommen erklärt, daß im Hintergrund verschiedene Subprogramme ablaufen, aber auch die wiederum sind doch sehr mysteriös… Sollen sie nicht wissen, wie die wiederum funktionieren? Wie werden die Textteile gespeichert und verschoben? Dann erhalte ich die Antwort, das sei dann die zweite Ebene der Erklärung. Und sie können sich vorstellen, auf der fünften Ebene landen wir dann bei der Quantenmechanik. Die Leute, die hier in der Bundesrepublik 40 Millionen Mark für Computer in den Schulen ausgeben, haben keine Ahnung. Sie wissen zuerst einmal gar nicht, worauf ich hinauswill, wenn ich ihnen die Ebenen vor Augen führe. Und wenn sie wissen, was ich meine, dann haben sie keinen Weg zu entscheiden, welche Ebene sie eigentlich vermitteln wollen. Ich denke, sie müßten doch intensiv darüber nachgedacht haben, was denn der Computer in der Schule soll. Doch das haben sie nicht.
Nehmen sie BASIC – eine Programmiersprache. Eine der schlimmsten Ideen, die jemand je von Computern hatte. Leute haben entschieden, es soll BASIC sein, das die Kinder in der Schule lernen sollen. Das haben Leute entschieden, die keine Idee hatten, was es bedeutet, BASIC zu lernen – in dem Fall, etwas ganz falsch zu lernen. Heute ist das vorbei. Für fast jeden Punkt, den ich erwähnt habe, erweisen sich die Schulaufsichtsbehörden als uninformiert. Was sie wissen, ist zum größten Teil falsch – oder wird morgen falsch sein. Besonders schlimm finde ich, daß das heute knappe Geld ausgerechnet für Computer ausgegeben wird. Stattdessen sollten dafür mehr Lehrerinnen und Lehrer eingestellt werden. Auch neue Schulbänke und ein frischer Anstrich bekäme manchen Schulen besser als ein teuer eingerichtetes Computerkabinett.

Z: Wenn keine Computerkabinette, was soll die Schule dann leisten?

Teil 1: 10.03.08

Zur Erinnerung: Gespräch mit Joseph Weizenbaum

Am Mittwoch letzter Woche (05.03.08) ist der Hacker, Computerphilosoph und Gesellschaftsanalytiker Joseph Weizenbaum gestorben. Ich habe ihn 1998 besucht, um ihn für die Zeitschrift Psychologie Heute (Heft 12/98) zu interviewen. Ich veröffentliche das ausführliche Gespräch erneut, verteilt über vier Blogeinträge. Es hat wenig von seiner Aktualität eingebüßt, obwohl es entstanden ist, bevor Internet, Handy und Laptop zu wirklichen Massenphänomen wurden. Zeitlos also das Gespräch, trotz der rasanten Entwicklungen gerade in diesem Bereich und ein Zeichen dafür, wie werthaltig Weizenbaums Betrachtungen sind.

Zettmann: Reichen Versprechungen aus, eine neue Technologie zu rechtfertigen – so wie es heute in der Informations- und der Biotechnologie geschieht?.

Weizenbaum: Hätte man am Anfang des Jahrhunderts vorhersagen sagen können, wie viele Menschen durch das Automobil getötet werden, hätten wir dann Autos gebaut? Doch niemand hat daran gedacht, diese Frage zu stellen. Ich glaube, der größte Fehler des Jahrhunderts ist die Atomkraft. Ich erinnere, daß das TIME-Magazin einen Artikel über die Atombombe veröffentlichte. Sie erklärten wie die Technik funktioniert. Damals erklärten die Fachleute, ein Stückchen Uran von der Große einer Erbse (engl. the size of a pea) reiche aus, die „Queen Mary“ dreimal um die Erde fahren zu lassen. Zudem würde es jetzt möglich, damit Kraftwerke zu bauen und die Elektrizität wäre so billig, daß es sich nicht lohnen würde, dafür Geld zu nehmen. Das Messen des Stromverbrauchs wäre teurer als die zu erwartenden Einnahmen. Durch Atomenergie würde die Elektrizität umsonst sein… Das ist ein Beispiel, wie verfehlt Versprechungen sein können. Das läßt sich an anderen Techniken wiederholen. Ein zweiter Aspekt ist, daß sich niemand die Mühe machte, auszurechnen, wie lange die Atomkraftwerke in Betrieb bleiben und wieviel es dann kosten wird, die wieder abzubauen. Abfall wurde nicht kalkuliert, so wie beim Auto nicht an Folgekosten gedacht wurde.

Z: Es scheint noch nie erkenntnisleitend gewesen zu sein, an die unangenehmen Folgen des eigenen Handelns zu denken.

W: Genau dafür gibt es sehr viele Beispiele. Viele der Leute, die an der Atombombe gearbeitet haben, dachten, das wäre eine Waffe, die den Krieg unmöglich macht. Daran sieht man, wie wir träumen. Bis heute wird behauptet, die Atombombe hätte den Krieg wirklich unmöglich gemacht. Jetzt haben wir über 50 Jahre Frieden. Allerdings kam es seit 1945 zu Dutzenden von kriegerischen Auseinandersetzungen. Die vom Frieden durch die Bombe träumten, meinten ja Krieg in Europa. Aber auch da gingen sie fehl, bspw. am Balkan. Eine andere Facette davon sind die Nebenwirkungen großer Entwicklungen. Die Nebenwirkungen der Technologien werden viel bedeutsamer als die eigentlich beabsichtigten Wirkungen. Auch das sehen sie beim Auto: Nebenwirkungen wie die Zupflasterung der halben Welt, mögliche klimatische Veränderungen durch Emissionen usw. Wenn die, wie wir sie kennen, überlebt, werden die Kinder in zwei-, dreihundert Jahren in der Schule lernen, daß es einmal, zu Beginn des 20. Jahrhunderts sehr viel Erdöl auf der Erde gab, und es 150 Jahre später aufgebraucht war. Ohne die geringste Vorsicht haben wir das alles verbrannt, als ob es umsonst wäre und immer erneuert werden könnte. Zu den Nebenwirkungen zählen auch die Kriege im mittleren Osten, ein großer Teil der Weltpolitik hängt von ölstrategischen Überlegungen ab usw. Es wird den Kindern schwer verständlich erscheinen.

Z: Auf den Beipackzetteln von Medikamenten steht die Empfehlung, Arzt oder Apotheker nach den Nebenwirkungen zu fragen. Wen befrage ich zu den Nebenwirkungen des Computers?

W: Natürlich dient der Beipackzettel in erster Linie dazu, die Patienten vor ungewollten Folgen zu schützen. Doch auch Contergan lag ein Zettel bei. Danach konnte die Industrie fragen: Und haben sie ihren Arzt gefragt? In diesem Sinn ist der Zettel eine Lüge. Denn entweder wissen die Ärzte oder Apotheker nicht, oder das Wissen darüber ist gar nicht in der Welt, weil die entsprechenden Experimente nicht gemacht oder nicht richtig durchdacht wurden. So ähnlich ist es mit dem Computer: Man fragt IBM. Und IBM sagt ihnen, was sie Angenehmes hören wollen. Zudem existieren Berater. Die werden oft dann gerufen, wenn es in einer Firma Meinungsverschiedenheiten gibt. Der soll eine unabhängige Meinung zu den avisierten Problemen haben. Dann versucht also der Berater herauszufinden, wie sich die Verhältnisse in der Firma gestalten. Die ihn bezahlen, brauchen eine bestimmte Antwort. Und die liefert er dann. Aber es fehlt kritisches Denken. Und ich glaube, in vielen Fällen ist der Berater nur ein Feigenblatt. Deswegen bin ich davon überzeugt, daß es die Pflicht des Informatikers selbst ist, selbstkritisch zu sein, selbst zu denken, und ehrlich zu sagen, was sie können und was sie nicht können. Wenn sie sich die Reklame der Computerindustrie in den letzten 40 Jahren betrachten, dann sehen sie Versprechungen und nochmals Versprechungen und ganz besonders, wie schön morgen alles sein wird. Zwar haben wir heute noch unsere Schwierigkeiten, aber der neue Rechner, der dann alles kann, entsteht bereits am Zeichenbrett, den haben wir gerade in der Entwicklung. Ich glaube, wir haben eine *therapeutische* Entwicklung in der Computerindustrie. Immer mehr Computer stehen in den Wohnungen der Menschen. Zum ersten Mal sehen ganz einfache Leute, wie schwierig es ist, mit dem Computer umzugehen. Das ist eben kein Kühlschrank, der kühlt, wenn man den Stecker in die Wand steckt. Der Computer erfordert eine große Menge an technischen Fähigkeiten und Fertigkeiten und braucht technische Wartung.

Z: Auch das wird uns seit Jahren versprochen: Den Computer, leicht zu handhaben wie ein Toaster und multifunktional wie früher nur ein Großrechner.