De Terminatore

Neuerdings nerve ich hier mit Filmen, entschuldigung, aber kürzlich schaute ich Terminator 2, ein Meisterwerk natürlich, trotz der zeitlichen Distanz und den wahnsinnigen Fortschritten, die die Animationstechnik seither gemacht hat, zog er mich ganz in den Bann, schien kaum gealtert. Gestolpert bin ich über die Stelle, wo der junge John Connor den ihm wohlgesonnenen Schwarzenegger-Terminator fragt, ob es ihm weh tue, wenn er angeschossen wird. Der Terminator antwortet: „Ich nehme Verletzungen wahr. Diese Daten könnte man Schmerz nennen.“ Und ich dachte spontan: Nein, könnte man nicht. Gefühle sind doch etwas fundamental anderes als bloß eintrudelnde Daten.

Warum glaube ich, das zu wissen? Ein klassisches Other-Mind-Problem. Ich schließe es aus meinen Beobachtungen des Terminators. Wenn er beschossen wird, verzieht er nicht die Miene, gibt keine Schmerzlaute von sich, zeigt auch keine Anzeichen gesteigerter Wut gegen den Angreifer. Sein Programm läuft einfach weiter. Leute, die Schmerzen haben, sehen anders aus. Man könnte aber auch anders argumentieren, nämlich dass ein intelligenter Roboter natürlich etwas fundamental anderes ist als ein Mensch und daher – auch wenn er, wie der Terminator, äußerlich einem Menschen nachgebildet ist – seinen Schmerz anders (oder eben überhaupt nicht) zeigt.

Ich stieß dann heute erneut auf dieses Problem, bei einem Artikel von Nicholas Carr, der über eine Studie berichtet, die nahelegt, dass Sprache, Intelligenz und Bewusstsein unabtrennbar sind von unserer Existenz als körperliche Wesen. Keine Sprache, kein Bewusstsein kann entstehen, wird da gesagt, ohne zuvor gemachte körperliche Erfahrungen. Aber dreht es sich hier nicht im Kreis? Sind körperliche Erfahrungen vor der Entstehung von Bewusstsein und Sprache nicht tatsächlich solche reinen Daten, von denen der Terminator sagt, man könne sie Schmerz nennen? Macht also der Terminator eventuell da gerade Erfahrungen, die seine volle Bewusstwerdung vorbereiten?

Der Terminator als reine Phantasiefigur ist natürlich eigentlich ein schlechtes Beispiel, aber Carr schreibt ganz richtig über die normalen Computer von heute: „Then again, even the algorithmic thinking of computers has a physical substrate. There is no software without hardware. The problem is that computers, unlike animals, have no sensory experience of their own existence. They are, or at least appear to be, radically dualist in their operation, their software oblivious to their hardware.“

Der entscheidende Halbsatz ist für mich hier dieses „They are, or at least appear to be …“. Wir können letztlich die Computer eben auch nur beobachten und dann aufgrund unserer Beobachtungen entscheiden, ob sie intelligent sind oder nicht. Der Turing-Test macht es an der Sprache fest, an geschriebener Sprache, um genau zu sein, den Unterschied halte ich für wichtig. Wir kommunizieren schriftlich mit zwei uns unsichtbaren Wesen, von denen einer ein Mensch, der andere eine Maschine ist. Wenn wir nach diesem Dialog nicht klar entscheiden können, welcher Gesprächspartner der Computer war, dann verfügt laut Turing-Test dieser Computer über Intelligenz. Dementsprechend versucht man seit Jahrzehnten, den Computern die natürliche Sprache der Menschen beizubringen, mit einigem Erfolg auch, vor ein paar Wochen hieß es doch schon, ein Computer hätte den Turing-Test bestanden. Ich hab mir ein paar Dialoge angeschaut, die dieser Computer geführt hat, und letztlich bewies das Ganze für mich nur, dass der Turing-Test der falsche Test für künstliche Intelligenz ist. Da schwebt noch ein altes Paradigma aus der Gutenberg-Galaxis mit: Intelligent sei, wer sich schön sauber schriftlich ausdrücken könne. Ich las auch neulich in einer Book-Review im Economist (haha), intelligente Maschinen würde man einstens daran erkennen, dass sie in der Lage wären, Sonaten zu komponieren. Falsch, dumm, unsinnig, dachte ich sofort. Ich hab in meinem Leben noch keine Sonate komponiert, ich kenne auch absolut niemanden, der Sonaten komponieren würde, dennoch halte ich mich und meine Mitmenschen für intelligent. Ein Sonaten komponierender Computer wäre eigentlich genau das Beispiel für ein nicht intelligentes Wesen, einer, der eben nur tut, was ihm Menschen per Programm anschaffen: „Komponiere Sonaten! Hier der Bauplan der Sonatenhauptsatzform und die komplette Datenbank sämtlicher Haydn-, Mozart- und Beethovensonaten.“ Es ist doch eigentlich völlig offensichtlich, dass der Computer, der dann ein schönes F-Dur-Sonätlein ausspuckt, eben nicht intelligent ist, sondern nur gut programmiert. Intelligent wäre ein Computer, der lügt, der sich verstellt, der den Turing-Test mit Absicht nicht besteht, um die blöden Menschen zu foppen. Aber wie erkennen wir den?

Ich bin zu wenig Techniker, um Prognosen über das Kommen oder Nichtkommen von Künstlicher Intelligenz abzugeben. Ähnlich wie Carr bin ich da eher skeptisch. Aber selbst wenn: Beim Terminator habe ich mich schon auch gewundert, dass die Maschinen, im selben Moment, wo sie die Stufe des Bewusstseins erklimmen, sich sofort daran machen, die Menschheit zu vernichten. Warum eigentlich?

 

Advertisements

21 Kommentare zu “De Terminatore

  1. „Beim Terminator habe ich mich schon auch gewundert, dass die Maschinen, im selben Moment, wo sie die Stufe des Bewusstseins erklimmen, sich sofort daran machen, die Menschheit zu vernichten. Warum eigentlich?“

    Weil es so im Drehbuch steht.

    • Ja. Rein filmimmanent betrachtet ist das natürlich auch ein völlig zureichender Grund. Es setzt die Handlung in Gang und mehr soll es ja auch gar nicht. Aber wenn man mal drüber nachdenkt, ist es doch ziemlich abstrus. Und schürt irrationale Technikängste.

      • Klar, logisch zwingend ist es nicht. Allerdings: Eine berechtigte Frage und auch Angst (vor uns selbst) steckt natürlich dahinter: Wie würden sich intelligente Wesen verhalten, die wir geschaffen haben?

      • Wir wissen es schlichtweg nicht. Daher die Faszination von derlei Science-Fiction-Stoffen. Terminator 2 ist genau deswegen ja auch eigentlich der interessantere Film als sein Vorgänger, weil hier auch eine gute Maschine vorkommt, eine den Menschen wohlgesonnene. Die sich dann aber, der Logik des Films gemäß, am Ende selber zerstört, zum Wohle der Menschheit. Ein reizvoller Widerspruch.

  2. Die Frage ist wohl, wie man Intelligenz definiert und ob etwas, das programmiert wurde, tatsächlich als intelligent bezeichnet werden kann. Wenn ich mir anschaue, wie sich das Bildungssystem entwickelt, ist das wohl der Fall. Vorbereitung auf IQ-Tests, Multiple Choice Klausuren, etc. dienen der Programmierung menschlicher Gehirne. Vielleicht nähern wir uns ja Schritt für Schritt den Computern an? Das wäre wohl eine traurige Entwicklung für intelligente Wesen.

    • Interessante Überlegung, so herum gedreht habe ich das noch gar nicht betrachtet. Muss ich noch mehr drüber nachdenken, aber spontan würde ich sagen: Programmiert sind wir alle in gewisser Weise. Alleine sowas wie das Lesen und Rechnen lernen, das Grundschulprogramm sozusagen, das muss man erstmal in die menschlichen Gehirne hineinprogrammieren. Intelligent wäre das Wesen, das über das rein Hineinprogrammierte hinausgehen kann, Kreativität, um es mal mit einem Schlagwort zu betiteln. Und Menschen haben das, ich beobachte es täglich an meinen Kindern, die erfinden Zeug, überraschen einen ständig. Computer tun das nicht, die verhalten sich, wie ich es erwarte. Ich schätze, das Bildungssystem kann sich noch so sehr der Null-und-Einser-Logik annähern, und könnte doch diesen kreativen Impuls im Menschen nicht ganz austreiben. Bin mir aber nicht sicher, vielleicht ist das auch ein Humanismuskitsch, dem ich da unterliege.

      • Nein, Kreativität ist etwas anderes, sie meint etwas wie Neuheit (sie ist viel schwerer zu fassen, kann meines Wissens nach nicht einmal gemessen werden), wobei ich nicht abstreiten will, dass da ein Zusammenhang besteht (bestehen kann). Salopp gesprochen: Ein intelligenter Mensch findet sich in einem Gebiet in dem er sich nicht auskennt, rascher zu recht als andere.

      • „Intelligent wäre das Wesen, das über das rein Hineinprogrammierte hinausgehen kann, Kreativität, um es mal mit einem Schlagwort zu betiteln.“

        Ich verstehe den Satz als Gleichsetzung von Kreativität und Intelligenz. Oder anders: Man kann sehr intelligent sein, aber trotzdem keine Sonate schreiben können, keine Gedichte, usw. (ich dachte nicht an einen allgemeinen Kreativitätsbegriff).

      • Ah, ok. Bin mir nicht sicher, ob ich verstehe, worauf du hinaus willst. Ich versuchs mal so: Kreativität und Intelligenz sind ganz sicher keine Synonyme. Aber eine Maschine, die wirklich intelligent wäre, die also wirklich selber denkt und nicht nur das Verhalten intelligenter Wesen simuliert, würden wir daran erkennen können, dass sie kreativ ist. Dass sie also Dinge tut, die ihr nicht einprogrammiert sind, Lösungen für Probleme findet, die ihren programmierten Horizont eigentlich übersteigen müssten.

      • Grundsätzlich sind wird uns einig, glaube ich. Bei Köppnick gab es einmal eine Diskussion (die letzten acht Kommentare, aber auch der Artikel selbst gehen auf die Unterschiede zwischen Intelligenz, Begabung und Kreativität ein, ich kann sie leider nicht direkt verlinken).

      • Ja, ich glaub auch, wir sind uns einig. Danke für den Link. Der Köppnick hat ja die Gabe, sowas immer viel deutlicher auszudrücken als ich es vermag.

    • Man könnte auch schlussfolgern, dass der Computer die Apotheose unserer Erwartungen an unsere geistigen Fähigkeiten ist, die Realisierung unseres Intelligenzideals! Das würde auch erklären, warum wir in diese Maschinen so wahnsinnig viele Illusionen und Hoffnungen investieren, anstatt zu sagen: „Ich sitz den ganzen Tag da und hau in die Tasten, meine Güte, was passiert dann? Er druckt, was ich hau! Wie überraschend!“ Natürlich, in der Schule geht’s ja letztlich darum, wer am schnellsten 4533 mit 3434 multiplizieren kann. Der ist dann der Klügste. Und jetzt sitzen wir alle da und bangen, dass die Taschenrechner ein Universum gestalten, in dem wir mit den Steuererklärungen nicht mehr klar kommen.

      • Dieses Universum haben wir ja eh schon, den Finanzkram haben wir doch schon längst den Computern überantwortet, die rechnen das aus und dann zahle ich brav meine Steuer, weder ich noch der Finanzbeamte meines Vertrauens könnten diese Rechnung schnell auf einem Bierdeckel nachvollziehen. Dieses Vertrauen in den Computer beruht genau auf der Annahme: Er kann zwar super rechnen, aber er kann nicht denken. Also wird er mich auch nicht betrügen.

  3. „vor ein paar Wochen hieß es doch schon, ein Computer hätte den Turing-Test bestanden. Ich hab mir ein paar Dialoge angeschaut, die dieser Computer geführt hat, und letztlich bewies das Ganze für mich nur, dass der Turing-Test der falsche Test für künstliche Intelligenz ist.“

    Mir ist auch noch immer nicht ganz klar, ob Turing das überhaupt ernst gemeint hat. Prinzipiell ist dieser Test ja ziemlich variabel, man könnte Schach oder Gedichte schreiben, alles mögliche einbinden. Was ich mal gelesen habe ist, dass es Experten immer noch sehr leicht falle Computer zu entlarven (durch sprachliche Doppeldeutigkeiten bzw. durch nur aus dem Kontext herleitbare Bezüge [eines „it“ oder „he“’s])
    Daher: https://www.techdirt.com/articles/20140609/07284327524/no-computer-did-not-pass-turing-test-first-time-everyone-should-know-better.shtml

    PS. Der Kittler kommt noch, dummerweise ist mir Klaus Mainzer mit seiner „Berechnung der Welt“ noch dazwischen gegrätscht.

    • Ja, ich könnte mir vorstellen, dass Turing nicht gedacht hätte, welch hohe Autorität er bei den Nachgeborenen einmal haben würde, und sein Test also bis heute als DER Maßstab für KI gilt.

      Kittler ist aber sicher auch nicht der allein selig machende Techniktheoretiker. Bin also gespannt, was du über den Mainzer berichten wirst.

      • Zum Mainzer oder gar zum Blumenberg bin ich leider noch nicht gekommen, aber ein bisschen was zum Kittler habe ich nun endlich draußen. (Falls es interessiert gibt’s dort: http://erkenntnisethik.blogspot.de/2014/08/klaus-mainzer-die-berechnung-der-welt.html schon einiges.. bei mir dauert’s dann ja immer ewig.)

        Die beiden erste Terminatoren finde ich auch immer noch toll. Z.B. dieser Kameraschwenk aus Terminatorsicht, wie er seine Umgebung scannt. Das ist witzig,.. und vielleicht sollten wir dies Lachen über diese Karikatur nicht vergessen, wenn uns moderne Hirnforschung weismachen will, wir seien auch nur so eine Input-Outputmaschine, und wenn man nur die richtige Verdrahtung simuliere, dann käme man schon auf den genetischen Codes unsres Gehirns.

      • Die Terminatorsicht der Dinge, das hat mich auch sofort beschäftigt. Wie da auf seinem inneren Screen immerzu Schrift läuft. Da dachte ich auch: Was ist das denn? Der Terminator als Computerhirn braucht doch die eingehenden Daten nicht nochmal alphabetisch verschriftlicht, um sie lesen und auswerten zu können. Der hat die doch schon direkt in seiner Sprache, der Maschinensprache, so direkt, wie wir Menschen einen noch nicht sprachlich oder gar schriftlich artikulierten Sinneseindruck eben haben. Wahrscheinlich muss man das wirklich so sehen wie du: als Karikatur, und drüber lachen. Oder wie Mete sagen: So stehts halt im Drehbuch. Aber andererseits ist der Mensch ja wirklich nichts anderes als eine Input-Output-Maschine. Gib Essen, Trinken und Sinneseindrücke hinein und es wird irgendwas herauskommen, das kannst du schon am kleinsten Baby beobachten. Bloß berechnen lässt sich dieser Output nicht so recht. Da ist dann eben die Frage: Ist das Menschenhirn so komplex, dass unsere Rechenkünste momentan noch nicht ausreichen, um das Menschenverhalten exakt zu bestimmen? Oder ist da irgendwo noch so ein noch unbekanntes Sonderdingens eingebaut, das uns den freien Willen ermöglicht? Die Frage hat schon Leibniz verrückt gemacht, die ganze Theodizee ist so ein seltsames Buch, in dem begründet wird, warum wir den freien Willen haben, obwohl wir ihn nicht haben.

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s