The Essay Collective: Ethische Chatbots

Der Mensch kann nach Schopenhauer tun, was er will, aber nicht wollen, was er will. Das autonom fahrende Auto muss sehr wohl entscheiden, ob der alte, weiße Mann oder die Gans mit ihren Küken überfahren werden soll, um die fünfköpfige Familie im Wageninneren zu retten. Die KI-Drohne, die sich ihr Ziel selbst aussucht und eliminiert, muss zwischen Freund und Feind, zwischen militärischem und zivilem Ziel unterscheiden können - ethische Beschränkungen in solchen Systemen zu integrieren, wäre eine Herausforderung besonderer Art, die maßgeblich vom Prozess der politischen Willensbildung abhinge; der Pflegeroboter der Zukunft wird sich die Frage stellen, ob er dem Wunsch des Patienten nach assistiertem Suizid nachkommen kann und soll oder nicht.

Ob nun als eigenständiges Modul oder als ethischer Bot realisiert, es wird ein Korrektiv von Nöten sein, das die möglichen Handlungsalternativen autonomer Systeme bewertet und eine Empfehlung ausspricht bzw. eine Alternative auswählt. Doch wer soll das Ethikmodul oder den ethischen Bot bauen und betreiben? Bleibt der Produzent in der Verantwortung oder Produzent und Betreiber in gesamtschuldnerischer Haftung? Wer kommt als Betreiber in Frage? Eignen sich Large Language Models (LLMs) als technische Lösungen oder sprechen deren Limitierungen dagegen?

Wie ich in dem Essay „Artificial General Intelligence - Gedankenspiele“ angedeutet habe, sind LLMs nicht in der Lage, „sich im zeitlichen Verlauf in Bezug zu ihrer Umwelt zu setzen, zu planen, logisch zu schließen, darauf aufbauend intentional zu handeln und vieles mehr und dabei ähnlich Energie effizient zu arbeiten wie ein biologisches System, das die Evolution hervorgebracht hat.“ Welche Handlungsalternative wird ein ethisches Modul oder ein ethischer Bot, das auf Basis eines LLMs gebaut ist, auswählen? LLMs vermögen auf das in Buchstaben kodierte ethische Wissen nahezu der gesamten Menschheit zuzugreifen und können an unzähligen Fällen trainiert werden. Die Trainingsdaten präjudizieren dabei die Antwort des ethischen Moduls oder Bots maßgeblich. Logische Inkonsistenzen in der Datenbasis dürften mit einer Restunschärfe beherrschbar bleiben.

Doch selbst ein extrem hochskaliertes LLM wird die Antwort in zeitkritischen Situationen nicht parat haben, obwohl genau das als Versprechen verkauft wird, schneller und gründlicher zu sein als der Mensch. LLMs sind nicht die Lösung, vielleicht eine Übergangslösung, ein Besser-als-gar-nichts. Das ist bekannt.
Braucht es nicht eine künstliche Intelligenz, die sich im zeitlichen Verlauf in Bezug zu ihrer Umwelt setzt? Die ethische Entscheidung zielt auf zukünftige Szenarien, die ein LLM auf Basis von Vergangenheitsdaten voraussagt. Macht das ein Mensch nicht genauso?

Gibt es nicht auch ethische Dilemmata, in der die Auswirkungen der Entscheidungsalternativen nicht aus der Vergangenheit abgeleitet werden können? Denken wir an den Einsatz neuer Technologien und innovativer Behandlungsmethoden von Krankheiten, Experimente mit genetisch modifizierten Viren und Bakterien oder die Auswahl von Kandidatinnen und Kandidaten für verantwortungsvolle Positionen, autonomes Fahren, Androiden zur Reinigung von Haus und Hof. Gut, die Auswahl von politischem Führungspersonal könnte eine Künstliche Intelligenz in manch einem Land kaum schlechter treffen als das Wahlvolk. Und die Entschuldigung, Künstliche Intelligenzen hätten die Wählerinnen und Wähler im Vorfeld maßgeblich beeinflusst, lasse ich nicht gelten.

Start-ups mit eingesammelten Milliardenbudgets und große Tech Unternehmen entwickeln zur Zeit Systeme, die eine Repräsentation der physischen Welt im zeitlichen Ablauf erstellen, planen, räsonieren und agieren können. Die Idee liegt nahe, diese World Models, die seit den 90er Jahren des letzten Jahrtausends diskutiert werden, mit LLMs zusammenzuschließen. So könnten Systeme mit unvorstellbarer Machtfülle entstehen, die zu kontrollieren sogar für deren Schöpfer zumindest eine Herausforderung, geschweige denn unmöglich werden würden.

Es werden Systeme auf den Markt kommen, die für bestimmte Zwecke gebaut werden wie Autonomes Fahren, Videospiele, medizinische Anwendungen, Pflegeroboter, Androiden in Servicebereichen, Androiden zur Reinigung und Reparatur der Kanalisationen - dafür wahrscheinlich nicht, da Menschen solche Aufgaben günstiger ausführen werden-, Androiden, die Brennstäbe austauschen, am Finanzmarkt agieren, Kohärenz in öffentlichen Debatten herstellen, Streit schlichten oder was auch immer. Und es werden Systeme ohne speziellen Zweck gebaut werden. Die sollten wir fürchten.

Stellen wir uns die Implementierung eines ethischen Moduls in solchen Systemen oder eines ethischen Bots außerhalb des Systems vor, das vor Auswahl einer Handlungsalternative konsultiert werden muss und die Entscheidungsgewalt hat. Ethische Vorstellungen münden in Mehrheitsgesellschaften nicht selten in Gesetze, Richtlinien, Vorschriften, Stand der Technik und anderen Normen in Textform, die zwingend eingehalten werden müssen.

Sofern sich letztgenannte Systeme selbst optimieren, wirkt der Gedanke naiv, dass sie sich an Gesetze, Richtlinien, Vorschriften, Stand der Technik und andere Normen in Textform und die Entscheidung eines ethischen Moduls oder Bots halten werden. Aber trotzdem Bon Courage! Ob man sich damit behelfen könnte, einen neuen Softwarerelease von einer Expertenkommission freigeben zu lassen, können Computerspezialisten eher beantworten als ich.

Wie viele ethische Bots wird es geben und werden sie immer zum selben Ergebnis kommen? Ist wenigstens die Reproduzierbarkeit eines Textes, den ein LLM auf Basis eines Prompts generiert, garantiert? Ich lasse mir viel zu selten Texte von LLMs erstellen, als dass ich darauf eine Antwort wüsste.

Werden ethische Bots kommerziell oder von staatlichen Stellen betrieben werden? In autokratischen Systemen oder Diktaturen liegt die Antwort auf der Hand; in kapitalistischen Systemen werden diese Bots oder Module wahrscheinlich von kommerziellen Anbietern gebaut und betrieben werden? Wie sähe das Business Modell aus? Hingen die Antworten vom Geschäftsmodell ab? Gäbe es eine staatliche Aufsicht?

Und ist das technische System auch noch so komplex, im Schadensfall müssen, solange Menschen auf der Erde, einem anderen Planeten oder im Weltraum wandeln, menschliche Köpfe rollen. Allein der Gedanke tröstet mich nicht. Da wird ein Manager auf der mittleren oder unteren Führungsebene geopfert und der Schadensfall ist für Öffentlichkeit und Gerichte attribuiert.

Meinen Erfahrungen mit KI-Bots zufolge wird die wahrscheinlichste Antwort ethischer Module und Bots auf ethische Fragen lauten: „Dabei kann ich dir gerade nicht helfen“. Aber diese Einschätzung basiert lediglich auf Vergangenheitsdaten.

Ethische Bots sollten nicht tun, was sie wollen und auch nicht wollen, was sie wollen, sondern tun, was sie sollen, wobei uns das nicht mehr transparent sein wird. Sie können nur funktionieren, wenn sie selbst autonom agieren, wenn sie in der Lage sind, ein Modell von sich in der physischen Welt im zeitlichen Verlauf zu konstruieren, Zukunftsszenarien zu imaginieren, Handlungsalternativen zu bewerten, Schlussfolgerungen zu ziehen und auf dieser Basis und dem ethischen Wissen der Menschheit eine Empfehlung auszusprechen oder zu entscheiden. Wer kontrolliert diese Systeme, während wir davon ausgehen können, dass Tugend, Ethik, Gesetze, Richtlinien, Verordnungen, Compliance Regeln nicht immer im gleichen Maße für die Reichen und Mächtigen wie für die restliche Bevölkerung ausgelegt werden?