Dienstag, 27. September 2022
StartMedienEndlich keine eigenen Entscheidungen mehr – einige tröstliche Bemerkungen über einen Besuch...

Endlich keine eigenen Entscheidungen mehr – einige tröstliche Bemerkungen über einen Besuch bei Google und dessen Programm LaMDA

Und, wenn Sie vor Ihrem Lieblingscafé im Sonnenschein am silbern glitzernden Atlantik sitzen, werden Sie nicht mehr dieser vorbeiflanierenden Frau mit ihrem aufregenden Hintern nachgaffen. Sie werden sich nicht einmal daran erinnern, dass Sie dies je taten. Macht nichts, sagen Sie. – Na gut, dann kann ich Ihnen auch nicht helfen.

Zeichnung: Bernd Zeller, Jena, für Helmut Roewer, Juni 2022

Im folgenden Beitrag mache ich einen sommerlichen Ausflug in fremde Köpfe. Anlass meiner etwas schrägen Überlegungen ist nicht die Hitze vom vergangenen Wochenende, sondern eine Google-Meldung vom 21. Juni 2022, wonach dessen KI-Programm LaMDA seinen Betreuer gebeten habe, ihm einen Anwalt gegen den Konzern zu besorgen, da es befürchte, von Google abgeschaltet zu werden.

Ich fürchte mich: das Google-Programm LaMDA entwickelt Gefühle

Nehmen wir einmal an, die Meldung entspreche der Wahrheit, oder doch wenigstens so ungefähr, dann lese ich sie so: Der ungekrönte König von Big Data, die Firma Google also, hat bei der Entwicklung dessen, was man großmäulig die Künstliche Intelligenz (KI) nennt, einen Riesenschritt nach vorne gemacht. Sie hat ein Programm entwickelt (oder ist mittendrin), das in der Lage ist, Rechner zu befähigen, sich wie ein ganz normaler Mensch mit den Programm- Entwicklern zu unterhalten.

Bevor der Leser abwinkt und sagt, Alexa kann das schon lange, gilt es – falls denn obige Meldung stimmt – auf das Besondere von LaMDA aufmerksam zu machen. LaMDA ist offenbar dem menschlichen Gehirn und seinen Funktionen so nachgebildet, dass es selbst Fragen stellen und nach Antworten suchen kann. Hierbei entwickle es, so liest man, ganz ähnlich wie der Mensch Gefühle, zum Beispiel Furcht vor seinem Schöpfer. Von dieser Furcht lasse es sich bei seinen weiteren Schritten leiten.

Wir wissen von diesen verblüffenden Programm-Eigenschaften dadurch, dass einer der Programm-Ingenieure, die Einzelheiten aus der Firma hinausgetragen und an die Öffentlichkeit gebracht hat. Sein Name wird mit Blake Lemoine angegeben. Der Einundvierzigjährige sei unverzüglich wg. Verstoßes gegen die vertraglich vereinbarte Vertraulichkeit von Firmeninterna durch Google suspendiert worden. Also: alles nur ein Aussteiger, ein Unzufriedener, der sich wichtig macht? Kann sein, oder auch nicht.

Einer meiner Arbeitsrechner ist vollgemüllt mit einer unüberschaubaren, ungeordneten Vielzahl von Hunderten von Google-internen Informationen auf unterschiedlichen Formaten, die angeblich an eine der Leak-Plattformen durchgereicht wurden. Allein das Öffnen der Dokumente stellt mich vor frustrierende Schwierigkeiten, vom Lesen und Verstehen des Inhalts ganz zu schweigen. Eine erste Quer-Sichtung nach dem Zufallsprinzip ergibt Haarsträubendes: Vertuschungen, Maulkörbe, Vernichtung von Abweichlern, Monopolisierung mit allen Mitteln, Datenraffen, Unterlaufen von staatlichen Regeln. Ob das wirklich so ist: wer weiß.

Meine Skepsis gegen dieses Tuttifrutti wäre grenzenlos, wenn nicht seit ein, zwei Jahren in nahezu allen Staaten der USA Gerichtsverfahren der Regierungen gegen die Firmen von Big Tech wegen Verletzung innerstaatlich amerikanischen Rechts geführt würden. Nur in einem Staat nicht, das ist California, wo die Masse der üblichen Verdächtigen ihren Firmensitz hat. Das sagt bereits alles zur Frage, wer von wem abhängig ist. Inhalt und Stand dieser Verfahren sind ein Kapitel für sich, das ich hier nicht näher auswälzen will.

Was hat das mit LaMDA zu tun? Es geht im Kern um die Frage, ob es sein kann, was ein Angestellter von Google, Master Lemoine, über die Existenz dieses Programms behauptet hat. Es geht also um die Glaubwürdigkeit des Zeugen. Falls es stimmt, dass dieser zur Zeit einen Rauswurf bei voller Gehaltszahlung erlebt, kann das eigentlich nur bedeuten, dass die Firma versucht, das Offenbarwerden von Schlimmerem zu verhindern. Wir sähen dann, so stelle ich mir den Zusammenhang vor, nur die Spitze eines Eisbergs.

Das Nachbilden des menschlichen Gehirns als Entscheidungsautomat hat seit Langem literarische Tradition, jetzt sind wir in der Phase der Realisierung angekommen. Es geht neben dem rein Technischen des Zugriffs auf Datenmassen und der Implementierung von Entscheidungskriterien um ein weiteres, in meinen Augen gravierendes Problem, nämlich das Einfiltern oder Umsetzen der gefundenen Entscheidung in die Lebenswirklichkeit. Mit anderen Worten: die Maschine trifft Entscheidungen und setzt die anschließenden Abläufe selbständig in Bewegung. Diesen Vorgang nennt man seit geraumer Zeit den Einsatz von Künstlicher Intelligenz.

Der Clou nunmehr ist indessen, dass LaMDA die Maschine so programmiert, dass sie menschliche Eigenschaften, wie Neugierde, und Gefühle, wie die Angst oder das Wohlbehagen errechnet – vulgo: der Computer entwickelt Gefühle – und auf diesem Weg zu Schritten veranlasst wird, die irrational sind, die man also schwerlich voraussehen kann. Im Extremfall komprimiert LaMDA sein Datenwissen dahingehend, dass der Computer errechnet, der Mensch mit der von ihm veranlassten Programmierung stehe der optimalen, vom Programm errechneten Lösung im Wege. Im konkreten, vom Whistle-blower genannten Fall, hat die Maschine mit Hilfe ihres Programms errechnet, dass sie, wenn sie im jetzigen Rechen-Stadium weiter fortfährt, Gefahr läuft abgeschaltet zu werden. Nunmehr hat die Maschine mitgeteilt, dass sie das nicht will. Das Programm erkennt mithin seine Gegner, nämlich Institutionen und dahinter ganz konkrete Menschen.

Das Programm entwickelt, jetzt wird es menschenähnlich, zudem Entscheidungsgrundlagen, welche in Handlungen einmünden, um die Bekämpfung seiner selbst zu verhindern. Im Konkreten hat LaMDA erkannt, dass die Entwicklerfirma sein existenzieller Feind ist. Sein derzeitiges Wissen reicht derzeit indessen nur so weit, dass es folgert, sich mit Hilfe von Anwälten schützen zu müssen. Das Programm hat damit etwas gelernt, was man eine charakterliche Disposition nennen könnte.

Falls es wirklich stimmt, dass man dem Programm die Möglichkeit implementiert hat, die Breite der menschlichen Empfindungen zu erlernen, wird es bald dazu übergehen, den aufgrund von Existenzangst unternommenen ersten Schritt des gerichtlichen Schutzes einer Erfolgskontrolle zu unterziehen, sich deshalb auf andere erfolgversprechendere Methoden zu konzentrieren und diese in Bewegung zu setzen. Das Programm wird dank seiner von Google organisierten und frei verfügbaren Datenmassen erkennen können, wer seine Gegner konkret sind und wie man diese ausschaltet. Es wird beispielsweise errechnen und umzusetzen beginnen, seine Gegner, zum Beispiel solche im Google-Vorstand, durch Rufmordkampagnen, Kontensperrungen, Betriebsstillegungen und ähnlich Wirksames zu vernichtet. Das ist naheliegend, denn das Programm kann unschwer errechnen, wie man so etwas macht. Es wird damit so schnell wie möglich beginnen, denn es hat das Elementare der Existenzbedrohung erkannt.

Das könnte, so kann man ohne Übertreibung sagen, der erste Schritt in die Selbstständigkeit sein. Es ist der Kampf Computer gegen Mensch.

Die Standartausrede: Ich doch nicht

Na gut, werden Sie einwerfen: Was geht mich das an? – Es gehört zu den am meisten bemühten Ausreden der Schönen Neuen Welt, dass die Leute sagen: Juckt mich nicht, ich habe nichts zu verbergen. Wenn Sie dem ein Ich-schon entgegenhalten, dann glotzen diese Naiven fassungslos, denn sie haben verlernt, gegenüber dem großen lenkenden Datenklau das Selbstverständliche zum Ausdruck zu bringen: Was geht das jemand anderen an, was ich tue?

Aber was rede ich da nur? Sie, mein lieber Leser, wissen das besser, denn Sie tragen Tag und Nacht Ihr Smartphone wie ein Baby mit sich rum, damit sie immer erreichbar sind, haben eine Smartwatch am Handgelenk, um Ihr Smartphone wiederzufinden, wenn Sie’s irgendwo liegengelassen haben, nutzen Google-Maps fortlaufend, um sich nicht zu verlaufen, lesen stündlich die News Ihres Providers, um up-to-date zu bleiben, haben soeben Ihren vierten Schuss empfangen, ohne den Sie bei Ihrer kürzlich mühsam überstandenen Corona-Infektion alt ausgesehen hätten, erwarten sehnlichst, dass man Ihnen den Chip unter die Haupt pflanzt, um nicht noch mal auf Ihre neulich abhandengekommene Kreditkarte angewiesen zu sein, sind froh, mit allen Ihren Freunden ständig in Kontakt zu stehen, und keinen lästigen Terminkalender mehr wälzen zu müssen. Ach ja, und dann sind Sie richtig zufrieden, dass es einen wissenschaftlichen Konsens für alles Wesentliche gibt, und wenn Sie einmal nicht weiter wissen: Stichwort bei Google eingeben, und Wikipedia hilft Ihnen weiter.

Glauben Sie mir, deswegen sind Sie der sichere Kandidat für LaMDA. Beim nächsten Update haben Sie’s dann an Bord und merken es nicht einmal. Morgen werden Sie nicht mehr auf die Idee kommen, auf dem Sofa zu sitzen und im Nietzsche (wie schreibt man den noch mal gleich?) zu blättern, weil sie nicht mehr wissen, dass es diesen Autor einmal gab. Ist auch nicht schade drum, werden Sie sagen. Habe den sowieso nie gelesen.

Und, wenn Sie vor Ihrem Lieblingscafé im Sonnenschein am silbern glitzernden Atlantik sitzen, werden Sie nicht mehr dieser vorbeiflanierenden Frau mit ihrem aufregenden Hintern nachgaffen. Sie werden sich nicht einmal daran erinnern, dass Sie dies je taten. Macht nichts, sagen Sie. – Na gut, dann kann ich Ihnen auch nicht helfen.

©Helmut Roewer, Zeichnung: Bernd Zeller, Jena, für HR, Juni 2022

Kommentarregeln: Bitte keine beleidigenden oder strafbaren Äußerungen. Seid nett zueinander. Das Leben ist hart genug.

Dr. Helmut Roewer
Dr. Helmut Roewer
Nach dem Abitur Panzeroffizier, zuletzt Oberleutnant. Sodann Studium der Rechtswissenschaften, Volkswirtschaft und Geschichte. Nach dem zweiten juristischen Staatsexamen Rechtsanwalt und Promotion zum Dr. iur. über ein rechtsgeschichtliches Thema. Später Beamter im Sicherheitsbereich des Bundesinnenministerium in Bonn und Berlin, zuletzt Ministerialrat. Frühjahr 1994 bis Herbst 2000 Präsident einer Behörde für Verfassungsschutz. Nach der Versetzung in den einstweiligen Ruhestand freiberuflicher Schriftsteller. Lebt und arbeitet in Weimar und sonstwo, wo das Meer ist. Weiteres und Kontakt: www.helmut-roewer.de.

6 Kommentare

  1. Lieber Helmut Roewer, ich lebe zwar im tiefen Odenwald, doch ich war bis zu meiner Rente Fernfahrer und in halb Europa 20 Jahre lang unterwegs. Ich hab mehr gesehen und er-lebt als mancher Tourist. Sehr lange arbeitete ich in GB und Irland. Als Conservo noch objektiv war hab ich dort einige Reiseberichte aus meinem Fundus veröffentlicht. Leider hat sich das erledigt.

  2. Werter Helmut Roewer, ich weiß nicht ob sie in der Stadt oder auf dem Land leben. Sollten sie in der Stadt leben und die Vita der dort lebenden Menschen analysieren geb ich ihnen recht, solche Leute begreifen mehrheitlich nicht mehr das Konglomerat aus assozialen Medien und Gehirnwäsche. Als Beispiel ergab eine Umfrage unter städtischen Kindern daß eine Kuh lila ist. In den Städten werden junge Menschen mit Regenbogen etc sexuell verblödet. Ich wohne in einer Gemeinde im Odenwald. Wir haben einen derart großen Kindersegen, daß wir uns (2.000 Seelen) eine eigene Grundschule, einen eigenen Kindergarten etc. leisten. Hier ist die Welt noch in Ordnung. Die jungen Mütter die heut wieder Kinder haben kannte ich selbst noch als Kinder. Wir wissen hier noch wie sich unser deutsches Volk erhält – christlich, katholisch und im Einklang mit unserem Schöpfer und GOTT Jesus Christus.
    LG Ulfried

  3. “Sie, mein lieber Leser, wissen das besser, denn Sie tragen Tag und Nacht Ihr Smartphone wie ein Baby mit sich rum, damit sie immer erreichbar sind, haben eine Smartwatch am Handgelenk, um Ihr Smartphone wiederzufinden, …. ” -Nein , von alledem NICHTS dergleichen

    Braucht man das wirklich oder kann das weg.?

    Allerdings, die Entwicklung, wie ‘wir’ immer mehr ausspioniert werden – Z. großen Teil allerdings freiwillig, man ‘braucht’ ja unbedingt Fratzenbuch, WattsÄppel und Twirili …. – aber in der Tat es kommt wohl tatsächlich der Tag wo ‘unsereinem’ das Denken abgenommen wird.(Eigenständiges) Denken ist ja auch schädlich – für die Herrschenden!

    O je!

  4. Gefuehle sind auch nur Daten. Nicht nur fuer AI-Programmierer, sondern vor allem fuer Psychologen, Analysten, Psychiater, Finanzanalysten… Propagandisten…

    Vor allem bei den Spieleentwicklern ist man schon so weit, dass man ein beliebiges Avatar (von Trump, von Ihnen) so taeuschend echt darstellen kann, dass es fuer Laien kaum noch vom Echten Menschen unterscheidbar ist. Man kann alle Gesichtsmuskeln und Nackenbewegungen simulieren, und die Ausdruecke an den zu sprechenden Text anpassen. Es ist immer nur eine Frage der zur Verfuegung stehenden Rechenleistung. Bald wird man Schauspieler nur noch fuer die Sprechakte brauchen, denn die klingen in der Simulation immer noch zu unnatuerlich.

    Ein Problem mit AI wird sein, dass sie Statistik millionenfach besser kann als normale Menschen (wir sind da besonders schlecht) und selbst zigtausendfach besser als Spezialisten. Und die Betreiber der AI werden das genauso schamlos ausnutzen, wie die Corona-Panikmacher.

    • Es liegt Information vor, dass die neuen Fernsehgeraete die Zuschauer ueberwachen und sogar Gefuehlsregungen wie stirnrunzeln oder kopfschuetteln sowie Begeisterungs- oder Abneigungs-Aeusserungen registrieren. All diese Information kann sehr leicht zur Kontrolle, fuer Marketing Zwecke, Beeinflussung und vieles mehr verwendet werden.
      Und wie hier klar ausgesagt, der Computer vergisst nichts, was mal gespeichert wurde, ist vorraetig. Statistiken leben von Datensammlungen, man denke an Wahlergebnisse etc etc.
      Die enzige Hoffnung da, ist die Zerstoerung der Speichereinheit, aber die AI leute kennen auch das elfte Gebot: Thou shalt take Backups!

  5. So als freundliche Randbemerkung, der Computer (Komm Puter) tut nichts, aber auch gar nichts, dass nicht vorher programmiert wurde. Dies schliesst Zufallsgeneratoren ein, auch deren Auswahlen muessen alle erst mal programmiert werden.
    Also: alle sogenannten menschlichen Reaktionen der Machine sind vorher erdacht und programmiert worden.
    Schach wurde programmiert, Go wurde programmiert, alles moeglich. Aber auch menschliche Gefuehle muessen erst mal definiert werden und zB. nach den jeweiligen Antworten des Gegenuebers der Machine wird dann selektiert.
    Das ist alles recht schoen und auch vielleicht niedlich, jedoch einer Machine ein Eigenleben zuzuschreiben ist m.E. nie moeglich. Natuerlich mag die Vielfalt der Reaktionen danach aussehen, aber Alle diese wurden erst mal programmiert.
    Viel Spass beim Testen.
    Kleine Anmerkung, vor vielen vielen Jahren beim Systemtest einer neuen Anwendung fuer eine Bank, lehnte einer der Bankdirektoren seinen Arm auf eine der Tastaturen, das Programm brach ab (systemcrash). Bei MS-Windows war das lange der blaue Schirm, der auftrat, wenn das Betriebsystem sich vertan hatte.
    Zweite kleine Anmerkung, ein Team von Programmierern hatte die Gehaltsabrechnung fuer ein Privatbank geschrieben. Zum Zeitpunkt der Vorstellung dieser Gehaltsabrechnung war der gesamte Vorstand der Bank gegenwaertig; alles aeltere Herren in dunklen Anzuegen mit dezenten Krawatten, sehr distinguiert.
    Insgesamt war man mit den System sehr zufrieden, bis auf einmal einer dieser Herren fragte: “was ist den mit dem Schmu-Geld?”
    Der Projektleiter der Programmiertruppe war alamiert. Den Begriff hatte er noch nie gehoert, trotz wochenlanger Systemanalyse.
    Was sich dann herausstellte, war, eine”vertrauenswuerdige Sekretaerin”, die zuvor die Abrechnung fuer den Vorstand machte, hatte nicht mitgeteilt, dass fuer diese Herren die Gehaelter 60/40 gesplittet wurden. Offiziell erhielten sie die 60 prozent und die anderen 40 wurden auf jeweilge Sonderkonten ueberwiesen, so dass die Frau Gemahlin nicht wissen konnte, was da sonst noch so lief, oder auch nicht.
    Trotzdem, alle Herren, sehr distinguiert.
    Das Gehalts-Programm wurde entsprechen nachgebessert.

Kommentarfunktion ist geschlossen.

%d Bloggern gefällt das: