Das wichtigste Buch über KI ist kein Technikbuch

Die Autorin und Übersetzerin Claudia Hamm präsentiert 24 Autorinnen und Autorinnen (Tech-Unternehmen, Literatur und Übersetzung, Philosophie, Neurologie, Medienwissenschaften u.v.m.) in dem bei Dittrich erschienenen Essayband »Gott spielen. Wie Chatbots und KI Sprache, Denken und Handeln automatisieren«, die nicht nur untersuchen, was generative KI kann und welche Gefahren von ihrem Missbrauch durch Tech-Konzerne und autoritäre Regierungen ausgehen, sondern auch, was sie mit unserem Verständnis von Sprache, Verantwortung und Freiheit macht: Was geschieht mit Gesellschaften, wenn Denken und Sprache automatisiert werden? Worum geht es in dem Band genau? Was macht ihn so lesenswert?

Der Text ist ein Auszug aus dem Vorwort von Gott spielen. Wie Chatbots und KI Sprache, Denken und Handeln automatisieren, hrsg. von Claudia Hamm (Dittrich Verlag, 2026).

Das wichtigste Buch über KI ist kein Technikbuch

von Claudia Hamm

Es hatte so lustig begonnen: Ab November 2022 ermöglichte eine neue App der Allgemeinheit, ›Gespräche‹ mit einem Computer zu führen oder auf Befehl sekundenschnell Glückwünsche, Bewerbungen und Hausaufgaben, ›Übersetzungen‹ oder gar ›Gedichte‹ ausgespuckt zu bekommen. Dreieinhalb Jahre später sehen wir, wie die dahinterstehende ›Basis‹technologie autokratischer, rassistischer Politik zuspielt, die Suche nach Wahrheit unterläuft, Gehirne, Beziehungen und Gesellschaften zersplittert, Bildungseinrichtungen vor massive Herausforderungen stellt, Klimaziele zunichtemacht und die Kriege dieser Welt beherrscht.

Dieses Buch versucht, dem Hype um automatisierte Sprache mit Fakten, Schönheit, Ethik, Reflexion, Menschenliebe, Witz und Wut zu begegnen. Es lädt ein, sich einem Thema, das viele für allzu komplex halten, einführend von seinen Grundlagen her zu nähern und es in größere Zusammenhänge einzuordnen.

Es geht um die Auslagerung von Denken und Entscheiden, Schreiben und Übersetzen an Chatbots und Co. Es geht um unser Verhältnis zur Sprache, zu anderen, zu unserer Fähigkeit, Gedanken und Gefühle zu formulieren, Unbekanntes mit Worten auszuloten, uns zu verbinden, freiwillig oder unfreiwillig zu schweigen oder gar Literatur zu produzieren. Es geht aber auch um das Geschäftsmodell hinter den sogenannten Großen Sprachmodellen (Large Language Models oder LLMs), auf denen die Textgeneratoren basieren. Es geht um ihre Geschichte, die kulturellen, gesellschaftlichen, ökonomischen und ökologischen Kosten und die zugrundeliegenden Ideologien, denn mit der Entwicklung wie Benutzung von Sprachsimulatoren tragen wir diese und die Verantwortung für ihre Folgen mit.

Jede Technik zeigt, wonach Menschen zu einem bestimmten historischen Zeitpunkt streben. Betrachten wir Technik als Spiegel unserer selbst, dann fragt sich, zu welchem Zweck wir unsere Fähigkeit, die Stimme zu erheben, derzeit mit Sprache auf Knopfdruck ersetzen und unsere Hirne und Zungen stillstellen sollten. Warum wir in Zeiten von hybriden Kriegen so viel Akzeptanz und (Steuer-)Geld für die Preisgabe von Autonomie und Freiheitsrechten, für den Diebstahl von geistigem Eigentum, für eine nie gesehene Daten-, Kapital- und Machtkonzentration und die entsprechenden Überwachungsmöglichkeiten aufbringen. Wozu wir einen exponentiell steigenden Energie-, Wasser- und Ressourcenverbrauch durch generative KI und für diese erforderliche menschenverachtende Datenreinigungsdienstleistungen hinnehmen. Was bringt uns dazu, die Automatisierung des Menschen nicht mehr als Dystopie, sondern als verheißungsvolle Zukunft anzusehen? Weil wir angesichts von Multikrisen einen Eltern- oder Gottesersatz brauchen, den wir alles fragen können? (Siehe die Beiträge von Hans Neubauer und Isabel Fargo Cole) Weil wir selbst Gott spielen wollen? (Wolfgang Palaver)

Ziehen wir die Blende auf und schauen hinter die Textattrappen, die die Maschine ausgibt, dann geht es um Menschenbilder und Datenideologie (Joseph Weizenbaum/Bernhard Pörksen, Elizabeth Weil), um Technokratie und die Gefährdung von Demokratie und Teilhabe (Michael Seemann), um das, was menschliche Sprach- und Kunstpraxis ist (Monika Rinck, Bernhard Malkmus, Christian Uetz), und um den Wert menschlicher Erfahrung. Es geht um uns und wie wir uns angesichts der Maschinen selbst behandeln.

Kritik ist hier nicht Angst, Maschinenstürmerei oder Nostalgie, sondern Interesse an der Realität der Gegenwart – und die Einsicht, dass Technik nie neutral ist, sondern immer mit bestimmten Interessen und Vorannahmen entwickelt, verkauft und benutzt wird. Sie baut auf die Erkenntnis, die uns Marshall McLuhan vermittelte: »Wir formen unsere Werkzeuge, und dann formen die Werkzeuge uns.« Wir müssen uns mit ihnen beschäftigen, um sie verstehen und mündig entscheiden zu können, ob und wie wir sie benutzen wollen und ob sie überhaupt Werkzeuge sind. Wir müssen und können aber auch aktiv werden (siehe Empfehlungsteil), wenn Plattformbetreiber uns mithilfe von KI-Technik gezielt abhängig machen und in Lock-in-Effekte zwingen, d.h. eine Kundenbindung aufbauen, zu der es praktisch keine Alternative gibt. Wenn sie politische Meinungsbildung beeinflussen, Menschenrechte verletzen (Peter Kirchschläger), menschliche Kreativität entwerten (Nina George) und digitalen Imperialismus betreiben (Annette Hug). Wenn die Medienerziehung an Schulen sich auf die Anschaffung von Geräten und das Befehlen einer Textmaschine konzentriert, die Schülerinnen und Schüler mutlos macht (Anette Selg, Vincent Lewerenz). Denn dieses ist vor allem eines: ein Geschäftskonzept. Und zwar eines, das die menschliche Intelligenz hinter der Automatensprache genauso bewusst verschleiert wie die Tatsache, dass wir alles, was im Internet umsonst ist, mit Informationen über uns bezahlen – und mit den Ressourcen dieser Erde (Claudia Hamm). Denn Chatbots, Übersetzungssoftware und generative Programme sind keineswegs »autonome« Systeme.

1769 baute der österreichisch-ungarische Hofbeamte und Mechaniker Wolfgang von Kempelen den sogenannten »Schachtürken«, ein Gerät, das den Eindruck erweckte, als spielte es selbstständig Schach – tatsächlich saß darin ein Mensch versteckt, der das Ganze bediente. Inzwischen haben wir das Schachspiel tatsächlich automatisiert (siehe den Beitrag von Emmanuel Carrère, der die Entwicklung der Gehirnsimulatoren aus dem Geist und Budget des Militärs erzählt), nur beim Dichten und Denken kommt die Ratemaschine nicht recht vom Fleck, auch wenn die Scheinsprache täuschend echt wirkt – und als Nebenprodukt einen immensen Flurschaden hinterlässt. Denn wieder sitzt jemand in der Maschine: Autorinnen und Autoren, Übersetzer und Übersetzerinnen, deren Werke – die plötzlich »Daten« oder »Content« heißen – schamlos enteignet werden, damit etwas Innovation heißen darf; Clickworker, die Sprachelemente zuerst als das, was sie bereits sind, »annotieren« müssen, damit das KI-System Wortschnipsel verknüpfen kann; menschliche KI-Trainer, die mit Chatbots interagieren, um deren »Verhalten« nach menschlichem Feedback zu justieren; sogenannte Data Cleaners (deren Alltag Mophat Okinyi beschreibt), die aus den Trainingsdaten der Sprachautomaten auf Kosten ihrer mentalen Gesundheit Gewalt herausputzen, bevor der Output auf die Allgemeinheit losgelassen wird; grundsätzlich jeder, der je Text im Internet hinterlassen hat, und insbesondere Nutzer und Nutzerinnen der Plauderautomaten, die, oft ohne ihr Wissen, zu kostenlosen Mitarbeitende werden, weil ihre Eingaben mithilfe der dialogischen Oberfläche direkt abgeschöpft und weiterverwertet werden – auch für Überwachungs- und Militärtechnik (Christian Heck).

Denn inzwischen sind die meisten Menschen mit ihren Spuren im Internet als permanente Daten- und Intelligenzlieferanten zu Schachtürken geworden. Einige davon sollen in diesem Buch zu Wort kommen. Sie halten diesmal der Maschine den Spiegel vor. Und reflektieren die gängigen Mythen und Interessen rund um die Automatisierung menschlicher Sprache, werfen aber auch einen Blick in Geschichte und Zukunft.

Eine gewisse Ahnung, wie sich unser Leben mit KI-Technologie demnächst entwickeln könnte, entstand dabei allein dadurch, dass einige Texte dieses Buchs für den Akzente-Band Automatensprache geschrieben wurden und nun, mit einem Abstand von zwei Jahren, auf eine Entwicklung zurückblicken können, die eine dramatische Zuspitzung der Probleme zeigt. Ihre Erkenntnisse haben Autorinnen und Autoren dieses Buchs mit Neufassungen oder einem Postskriptum formuliert.

Die Großen Sprachmodelle (Large Language Models oder LLMs), die die technische Grundlage für die so harmlos erscheinenden Chatbots und »Tools« bilden und die auf der Basis echter menschlicher Äußerungen wahrscheinliche Äußerungen (genauso wie plausibel klingende Unwahrheiten) generieren, können ebenso benutzt werden, um persönliche Daten aus Internetbewegungen, E-Mails und Social-Media-Beiträgen zu klassifizieren und Voraussagen über menschliches (Wahl-, Kauf-, Kampf-)Verhalten zu treffen. So wird die Logik der Wette inzwischen nicht nur von Textgeneratoren und Werbetreibenden auf Internetplattformen, sondern auch von staatlichen Behörden und den Armeen dieser Welt genutzt, die damit Entscheidungen nicht aufgrund von geprüften Realitäten, sondern von Prognosen treffen. Wenn dann noch Gesundheits-, Kamera-, Handydaten und Interneteingaben verknüpft werden, entsteht ein Überwachungssystem, das wir mit all seiner Anfälligkeit für Missbrauch z.B. bei der amerikanischen Behörde ICE am Werk sehen. Dass überall die vormals streng geregelte Dual-use-Politik, d.h. die Trennung zwischen zivilen und militärischen Nutzungsarten von Technik, zunehmend aufgegeben wird, sollte uns wachwerden lassen: Wer kontrolliert, nutzt, verkauft, teilt die Informationen über uns und zu welchem Zweck? Was bedeutet das für unser Selbstbild und für menschliche Grundrechte? Was für die Gesellschaft, in der wir leben wollen? Was für den Planeten, dessen Ressourcen endlich sind? Ja, das Panorama ist komplex – und wir können uns nicht auf unser schmales Expertenfeld zurückziehen, weil alles miteinander zusammenhängt.

---

Claudia Hamm ist Autorin, Übersetzerin und Theaterregisseurin (u.a. am Burgtheater Wien). Für ihre Übertragungen von Emmanuel Carrère erhielt sie u.a. den Übersetzerpreis des Kulturkreises der deutschen Wirtschaft und den Jane-Scatchered-Preis der Heinrich Maria Ledig- Rowohlt-Stiftung. Sie ist Mitgründerin des Festivals translationale berlin und unterrichtete u.a. an der Akademie für Bildende Künste Wien, der FU Berlin und am Literaturinstitut Hildesheim. Neben diversen Essays und Vorträgen zum Thema Künstliche Intelligenz veröffentlichte sie 2024 mit den drei deutschsprachigen Literaturübersetzerverbänden das Manifest für menschliche Sprache.