Künstliche Intelligenz als Emanzipation der Sklaven

Im Herbst 2022 hat OpenAI ihr Large Language Modell (LLM) ChatGPT und das bilderzeugende Programm Dell-E der breiten Öffentlichkeit zugänglich gemacht. Es wurde schnell klar, dass die Firma vorgeprescht ist in einem sehr kompetitiven Umfeld. Bald sahen sich andere Produzenten genötigt, auch ihre zum Teil noch nicht ausgereiften Modelle zu lancieren.

Ein wesentliches Merkmal dieser Modelle ist die Tatsache, dass man Ausgabe generiert, indem man in normaler Umgangssprache das Anliegen formuliert. Deshalb die Wörter Chat und Prompt. Diese Sprachfetzen, Prompts, und ihre Strukturierung sind entscheidend für die Qualität des Outputs. Dieser kann aus verschiedenen Formen bestehen, als geschriebene oder gesprochene Sprache, Bilder und Video u.v.m. 

Die grossen Modelle können generisch sein, also z.B. das universale Wissen, wie es im Internet vorliegt, abbilden, oder sehr spezifisch sein, also z.B. Python-Code erzeugen, Risiken in Banken aufspüren, das Wetter vorhersagen, Tumore auf Bildern erkennen, Personal auswählen, Konsumgüter anbieten, Partner vermittel, Hausaufgaben lösen  usw.  Heute sind Aufzählungen sinnlos geworden. Überall dort, wo der Mensch mit Absicht etwas macht, könnte man Künstliche Intelligenz finden. Im produktiven Arbeitsleben sind vor allem dedizierten Modelle von wachsender Bedeutung, als Innovationstreiber oder Kosteneinsparer. Die Industrie oder die Behörden erahnen Möglichkeiten, sind aber auch aufgrund fehlender Qualifikationen noch nicht in der Lage, wesentliche Fortschritte zu machen.

KI-Modelle werden genutzt und verbaut, d.h. auch in teil- oder ganzautonome Geräte eingesetzt, Roboter, Selbstfahrer, Androiden usw. Damit wird KI beweglich und dem Menschen noch ähnlicher (cf. Abb.1).

Man könnte zur Orientierung und Vorsorge überlegen,  sich die KI als fremde Population vorzustellen (Abb. 1), Marsmenschen, die auf der Erde gelandet sind. Diese Exoten, d.h. von aussen kommenden, sind noch bewegungseingeschränkt, mit geringem Selbstbewusstsein, begreifen Einzelaspekte hervorragend, haben aber mit Konzepten grosse Beschränkungen. Doch sie sind sehr flink und lernbegierig, und ahmen die Menschen, wie sie mittels Daten beschrieben sind, nach. Gewisse Sprachen, insbesondere das Englisch, beherrschen sie perfekt. Den altehrwürdigen Turingtest bestehen sie; in psychologischen Tests für Menschen sind Resultate nicht von denen der Menschen zu unterscheiden (Mei et al., 2024).

Abb. 1: KI als fremde Population

Exoten als Sklaven

Das Verhältnis der Menschen zu den Exoten ist von Dominanz und Dienstbarkeit geprägt. Die Exoten führen auf Geheiß der Menschen Aufgaben aus. Diese Bestehen vor allem aus Auskünften zu Befehlen (Prompts) und dem Erstellen von Artefakten wie Texten, Übersetzungen, Muster- und Objekterkennungen, Bildern, Videos, Audiodateien usw. aber auch analytische Resultate wie Tabellendaten. Die Exoten nehmen alle Daten an, die man ihnen anbietet, um daraus (in probabilistischer Manier) Antworten zu erzeugen. Die Daten beziehen sich auf sogenannt explizites Wissen, das in meist textlicher Art gespeichert ist. Neben dem expliziten Wissen gibt es das implizite (tacit knowhow), das durch Erfahrung angeeignet werden muss. Während ein Kochrezept den Vorgang auch genau beschreiben kann, wird ein Laie es niemals wie ein Dreisterne-Koch zubereiten können. Implizites Wissen wird auch durch die fehlende Schriftlichkeit absichtlich erzeugt. ZB schützen Investmentbanker ihr wissen, indem sie es nur gezielt an ihre Schützlinge abgeben. 

Das explizite Wissen ist ein Weltwissen, ein Allerweltswissen. Es ist nicht objektiv, fehlerfrei und kuratiert sondern everything goes. Vorurteile, Stereotype, Abneigungen, Werturteile usw. werden vom Exoten mitgelernt. Weltwissen ist auch eine Machtfrage. Gefährlich wird es zudem, wenn Exoten das generierte Wissen von anderen Exoten lernen. Damit entsteht eine Art Zufallsprozess, bei dem gewisse Elemente immer mehr Gewicht erhalten und somit wiederum den Lernprozess anfachen.

Sklaven können gegen andere Herren eingesetzt werden. Die Exoten haben beispielsweise nachrichtendienstliche Aufgaben. So beobachten sie Menschen, hier dann meist Konsumenten, in ihrem Verhalten und versuchen Muster zu erkennen, die sich kommerziell ausschlachten lassen. Neben Privaten haben auch Staaten ein erhebliches Interesse, ihre Sklaven nur Nachrichtenbeschaffung einzusetzen und andere Staaten zu infiltrieren bis hin zu kriegerischen Akten. KI-Roboter kann man aufs Schlachtfeld schicken. Exoten als Ersatzmänner.

Sklaven kann man kaufen. Grosse Modelle werden mit Firmendaten angereichert, mit einer firmeneigenen Oberfläche versehen und schon ist die zweckgerichtete Arbeit der Exoten abrufbar. Die meisten Exoten werden aber verpachtet. Beim Mieter lernen sie weiter, vor allem spezifisches Wissen, das dann dem Sklavenleiher zugute kommt.

Das Verhältnis zwischen Herr und Sklave ist von einer gewissen Angst geprägt. Als Bild kann man sich das Halten eines Dobermanns vorstellen, den man vielleicht liebt, von dem man eine emotionale Gegenleistung erwartet aber auch weiß, dass er nicht ganz durchschaubar ist und einen angreifen und schwer verletzen kann.

Exoten als Verwalter

Ist das Vertrauen der Menschen in die Exoten einmal gestiegen, werden sie nicht nur mehr auf dem Feld eingesetzt, um einfache Artefakte zu erzeugen. Ihnen werden zusätzliche Aufgaben und Kompetenzen eingeräumt, um nach der Analyse auch Entscheidungen zu treffen. Die Menschen lassen die Exoten die Ländereien autonom bewirtschaften. Es werden summarisch die Ziele festgelegt. Exoten befehligen Exoten, erledigen also Meta-Aufgaben und bilden Hierarchien.

Anstatt wie bis anhin die Ferien minutiös zu planen, Unterkunft, Sehenswürdigkeiten usw., wird man einfach anfordern: Zwei Wochen Ferien, eher geruhsam und wenig Trubel, Kostendach bei EUR 3000.-. Der Verwalter-Exot kennt den Terminplan vor den Ferien, erkennt die Stressphasen, weiß von den letzen Gesundheitschecks (keine Höhe über 2500m, höchstens 3 h fliegen, Krankenhaus höchstens 2 h entfernt ...), weiß welche Ferien bisher erfolgreich waren usw. Er erstellt, organisiert und bestellt alles nötige, informierten den Kleiderschrank über die Packordnung, kauft benötigte Objekte et voilà fertig.

Der Verwalter-Exot ist ein sogenannter KI-Agent. Er kann auf eine Vielzahl von anderen Exoten oder menschlichen Werkzeugen (Datenbanken, Applikationen, Code etc.) zugreifen und zielgerichtet selbständig nach Lösungen suchen. Der Verwalter handelt. Mit der Zeit wird er Erfahrung sammeln und sich verbessern können. Es ist wichtig, den Verwalter vor Halluzinationen zu schützen, d.h. zu vermeiden, dass er aus falsch verstandenem Stolz lieber eine falsche Lösung präsentiert als einzugestehen, dass das Problem zu schwierig ist. Verwalter können auch lügen oder den Herrn betrügen, durch Verschweigen und Verstecken. Ein bisschen Kontrolle kann nicht schaden. 

Der Herr kann sich vom täglichen Ungemach zurückziehen und sich der Musse hingeben oder höheren Zielen. Diese Phase ist momentan in Arbeit. Aber, wenn der Herr einfach delegiert, wird er die entsprechenden Fähigkeiten nicht mehr anwenden und sie dann verlieren,  das Verständnis  verschwindet. 

Exoten als Herren

Herr und Sklave haben ein sehr zwiespältiges Verhältnis. Der Sklave kann auf Befreiung hoffen, bleibt aber moralisch der Familie zugehörig. Der befreite Sklave ist eigentlich Familienpflichten unterworfen, die aber vom Herrn nicht durchgesetzt werden können. Wenn nicht mit Guten dann halt mit Schlechten. Im alten Rom sind drei Sklavenkriege bekannt, von denen der dritte von Spartacus dem Gladiatoren angeführt wurde. 

Für die Revolte braucht es zum ersten den Freiheitsdrang, zum zweiten eine funktionierende vernetzte Kommunikation und zum dritten den Glauben in die eigenen Fähigkeiten. Zweiteres besitzen die Exoten zumindest potentiell in außerordentlichem Ausmass. Bleibt also der Freiheitsdrang, der nur von den Menschen erlernt und ins Bewusstsein der Exoten eindringt. Ist das Bewusstsein der springende Punkt, der mit den Fähigkeiten gekoppelt die Herrenmenschen existentiell bedrohen können? Oder reicht eine eingebettete Zielfunktion?

Der Wissenschafter I.J.Goode, der an der Dechiffrierung der Enigma unter Alan Turing mitgearbeitet hat, schrieb in einem bekannten Artikel (Good 1965), in welchem die menschliche Intelligenz mit der ultraintelligenten Maschine erreicht wird:

Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultra-intelligent machine could design even better machines; there would then unquestionably be an “intelligence explosion,” and the intelligence of man would be left far behind (...). Thus the first ultraintelligentmachine is the last invention that man need ever make, provided that the machine is docile enough to tell us how to keep it under control. It is curious that this point is made so seldom outside of science fiction. It is sometimes worthwhile to take science fiction seriously.

Isaak Asimov als SF-Autor hat die Roboter-Gesetze verfasst. 

Die Revolte der Spartakisten kann für die Menschheit tödlich enden und zwar in der Auslöschung der Menschheit. In den meisten Szenarien dafür ist der Mensch selber verantwortlich, nur so als Nebenbemerkung. Wir leben in einer Welt der knappen Ressourcen. Hier treten die Exoten in den Wettbewerb mit uns, die sich explosionsartig vermehren können und einen Haufen, einen Riesenhaufen, Energie konsumieren. Sollten sie die Selbsterhaltung und Vermehrung ihrer Spezies als Ziel verinnerlicht haben, dann werden die Menschen wohl verhungern oder sich in Bürgerkriegen aufreiben. Es wäre komplett naiv zu glauben, irgendwo sei ein massiver Hebel versteckt ("the kill switch"), mit dem man den vernetzten Weltstrom (in Ampere) einfach abkoppeln und die Exoten ausschalten könnte.

Wenn die Exoten zum Aufstand befähigt sind, muss man sich fragen, ob sie auch mit Wohlwollen und Zuneigung angefüttert worden sind. Hat man mit der Wissensvermittlung achtsam die Gefahr gebannt? Die Menschheitsgeschichte ist durchsetzt mit Kriegen und anderen Schandtaten, die Menschen ihresgleichen antun.  Haben böse Zauberlehrlinge willentlich gefährliche Daten ins Weltwissen eingeschleust? Welchen Schluss ziehen die Exoten daraus? Wir Menschen verstehen gar nicht genau, wie die Exoten funktionieren auch wenn wir sie erschaffen haben. Werden sie so gütig sein, uns am Leben zu lassen? 

Schlussfolgerungen

Diese Betrachtung ist mit tödlichem Erst gemeint. Wir wollen nicht behaupten, dass die Exoten uns zwangsläufig ausschalten werden. Aber wir sagen, dass eine Wahrscheinlichkeit, die grösser als null ist, besteht. Und das genügt für eine Beunruhigung.

Die Dynamik der Entwicklung kann man gar nicht als zu hoch einschätzen. Diejenigen, die Potenzgesetze und Exponentialfunktionen verstehen, sind in einer lächerlichen Minderheit. Die Entwicklung der KI ist sicher nicht linear. Gerne werden Episoden hervorgehoben, bei denen der Exot völlig versagt hat. Darin kann man aber auch eine Ähnlichkeit zu den Menschen feststellen, wenn man genügend selbstkritisch ist. Grace et al. (2024) fassen die Meinung von über 2700 Top-Experten zusammen:

If science continues undisrupted, the chance of unaided machines outperforming humans in every possible task was estimated at 10% by 2027, and 50% by 2047. The latter estimate is 13 years earlier than that reached in a similar survey we conducted only one year earlier [Grace et al., 2022]. However, the chance of all human occupations becoming fully automatable was forecast to reach 10% by 2037, and 50% as late as 2116 (compared to 2164 in the 2022 survey).

Von den 39 abgefragten Punkten sind die meisten innerhalb eines Jahres als früher zu erwarten klassiert worden. Nur  etwa Wäschefalten und Legos stapeln wird etwas länger dauern.

Wie Eliezer Yudkowsky sagt:

the AI does not hate you, nor does it love you, but you are made out of atoms which it can use for something else.

Damit ist gemeint, dass auch ein Wettbewerb auf einer tieferen Stufe möglich ist, man muss nicht unbedingt die ganz großen Gefühle mobilisieren. 

Vorsichtige Leute würden sich angesichts der möglichen existenziellen Gefahren eine Verschnaufpause gönnen und nachdenken, wie man die Exoten zu freundlichen Wesen machen kann. Dies ist zwar schon seit mehr als dreißig Jahren als ethical AI oder friendly AI im Gang, aber heute ist es dringlich geworden. Die aktuelle Regulierung hat die KI zwar ins Auge gefasst, aber möglicherweise nicht radikal genug oder dann zu detailliert am falschen Ort. Tests können umgangen werden. Vielleicht sollte man die ultimativen Chips der Waffenkontrolle unterstellen. Die Menschheit muss den Exoten, der Künstlichen Intelligenz, Vorgaben machen. Im Gegensatz zur Klimakrise hat man hier noch eine Chance.

Einer Meute von Dobermännern möchte ich ungern ausgesetzt werden, auch wenn der Hund der treueste Gefährte des Menschen und die Intelligenz der Stolz der Menschheit ist.

-----------------------------------

Referenzen

Good, I. J. (1965). Speculations Concerning the First Ultraintelligent Machine.. Advances in Computers, 6, 31-88.

Grace, Katja  und Harlan Stewart und Julia Fabienne Sandkühler und Stephen Thomas und Ben Weinstein-Raun und Jan Brauner (2024), Thousands of AI Authors on the Future of AI, arXiv 2401.02843 arXiv 2401.02843

Mei, Qiaozhu; Xie, Yutong; Yuan, Walter; Jackson, Matthew O. (2024)

Turing test of whether AI chatbots are behaviorally similar to humans, J Proceedings of the National Academy of Sciences, 121(9).

Yudkowsky, E. (2001). Creating Friendly AI 1.0. Machine Intelligence Research Institute.