Katharina Zweigs Buch „Weiß die KI, dass sie nichts weiß?“ ist eine klare, fundierte und zugleich unterhaltsame Einführung in die Grenzen und Gefahren künstlicher Intelligenz – gerade in Zeiten, in denen KI-Systeme zunehmend in Alltag, Wirtschaft und Politik Einzug halten. Zweig, Professorin für Informatik an der TU Kaiserslautern und Expertin für algorithmische Fairness, legt mit diesem Werk eine dringend notwendige Korrektur zur oft übertriebenen Begeisterung für KI vor – ohne dabei technologische Fortschritte pauschal abzulehnen.
Warum KI nicht „versteht“ – und warum das gefährlich ist
Das Buch ist in drei Hauptteile gegliedert. Im ersten widmet sich Zweig der grundlegenden Frage, was Künstliche Intelligenz überhaupt ist – und was sie nicht ist. Sie macht deutlich, dass Systeme wie ChatGPT oder Bildgeneratoren keine denkenden Wesen sind, sondern Werkzeuge, die auf statistischer Mustererkennung beruhen. Sie werden mit riesigen Mengen an Daten trainiert und lernen, scheinbar sinnvolle Antworten oder Bilder zu erzeugen, ohne den Inhalt tatsächlich zu verstehen.
Zweig betont, dass KI-Systeme keine Einsicht in ihr eigenes „Denken“ besitzen. Sie kombinieren Informationen, die ihnen plausibel erscheinen, können dabei aber leicht Fehler oder falsche Zusammenhänge produzieren. Solche sogenannten „Halluzinationen“ wirken überzeugend, sind aber oft inhaltlich unzutreffend. Der entscheidende Punkt ist für Zweig klar: Künstliche Intelligenz weiß nicht, dass sie nichts weiß – und genau diese fehlende Selbsterkenntnis macht sie so problematisch.
Diskriminierung durch Algorithmen: Wie KI Ungerechtigkeit verstärkt
Im zweiten Teil analysiert Zweig die konkreten Risiken: von versteckter Diskriminierung in Algorithmen über falsche Diagnosen in der Medizin bis hin zu manipulativen Anwendungen in der Politik und Werbung. Besonders eindrücklich ist ihr Beispiel aus der Kreditvergabe: Ein Algorithmus, der auf historischen Daten trainiert wurde, reproduziert bestehende Ungerechtigkeiten – und macht sie dabei noch „objektiver“ und schwerer nachvollziehbar. Zweig zeigt, dass Transparenz und Verantwortlichkeit in der KI-Entwicklung nicht nur ethisch geboten, sondern auch technisch machbar sind – wenn man es will.
KI-Kompetenz für alle: Warum jeder über künstliche Intelligenz Bescheid wissen sollte
Der dritte Teil des Buches ist ein Aufruf zur kritischen Auseinandersetzung: Zweig fordert eine „KI-Literacy“ für alle – von Schülern bis zu Politikern. Sie plädiert für klare Regulierungen, für ethische Leitlinien und für eine stärkere Beteiligung der Gesellschaft an der Gestaltung von KI. Ihre Forderungen sind realistisch, nicht technikfeindlich, sondern technikbewusst – und daher besonders überzeugend. Was das Buch besonders macht, ist Zweigs sprachliche Klarheit und ihr Humor. Sie vermeidet Fachjargon, wo immer möglich, und erklärt komplexe Zusammenhänge mit Alltagsbeispielen – etwa, warum ein KI-System, das „gut“ klingende Texte generiert, nicht automatisch „wahr“ ist. Ihre Beispiele sind oft witzig, aber nie oberflächlich – sie dienen immer dem tieferen Verständnis.
Keine Anti-KI-Kampagne – sondern ein Appell für menschenzentrierte Technologie
Das Buch bleibt in manchen Kapiteln etwas allgemein – etwa wenn es um konkrete Lösungsansätze für regulatorische Rahmenbedingungen geht. Doch das ist kein Mangel, sondern eine Einladung: Zweig will nicht alle Antworten liefern, sondern den Leser dazu anregen, selbst nachzudenken und mitzudiskutieren. Es ist keine Anti-KI-Propaganda, sondern eine nüchterne, aber hoffnungsvolle Bestandsaufnahme – mit dem klaren Ziel, Technologie so zu gestalten, dass sie dem Menschen dient, statt ihn zu überfordern oder zu täuschen. Ein Muss für jeden, der in der digitalen Zukunft mitdenken will.
Katharina Zweig – Die Autorin
Prof. Dr. Katharina Zweig studierte Biochemie und Bioinformatik in Tübingen. Sie ist heute Informatikprofessorin an der RPTU Kaiserslautern-Landau, wo sie den deutschlandweit einmaligen Studiengang »Sozioinformatik« ins Leben gerufen hat. Sie wurde unter anderem mit dem DFG-Communicator-Preis für Wissenschaftskommunikation und dem GDD-Datenschutz-Preis ausgezeichnet, ist KI-Botschafterin des Landes Rheinland-Pfalz und Gründerin eines KI-Beratungs-Start-ups. Sie ist als Expertin für verschiedene Bundesministerien tätig, war 2018 bis 2020 Mitglied der Enquete-Kommission des Bundestages zum Thema »Künstliche Intelligenz« und ist gefragte öffentliche Rednerin mit großer Medienpräsenz. 2019 erschien bei Heyne ihr Spiegel-Bestseller „Ein Algorithmus hat kein Taktgefühl“, 2023 legte sie mit dem zweiten Bestseller „Die KI war’s“ nach. Zweig ist verheiratet und hat zwei Kinder.
- Verlag: Penguin