Ist KI unser Feind?

KI ist für manche der nächste große Heilsbringer, für andere bereits der digitale Teufel in Person. Ich halte beides für falsch. Denn wer über KI redet, sollte zuerst klären, worüber er überhaupt redet: über ein mathematisches Modell, über ein konkretes Programm, über eine Cloud-Plattform, über Überwachung–oder über die Menschen, die all das bauen, betreiben und politisch einsetzen.

Der Artikel “Schöne Neue KI-Welt” von Gerd Reuther liefert dafür ein interessantes Beispiel. Nicht, weil ich seine Skepsis gegenüber KI völlig falsch finde. Im Gegenteil: Viele seiner Warnungen berühren reale Probleme. Aber ausgerechnet seine Begründung zeigt meiner Meinung nach etwas anderes: Man sollte weder KI noch Menschen blind vertrauen.

Wenn der Kritiker selbst absolut wird

Reuther beschreibt eine Frage an die Google-KI zum Tod Robert Schumanns und schreibt anschließend:

❌Kritisiertes Zitat

“Die Antwort spiegelt definitives Wissen vor, das allerdings definitiv unwahr ist.”

Genau dieser Satz hat mich stutzig gemacht. Denn wenn ein Autor bei einem historisch und medizinisch umstrittenen Thema die Antwort einer KI als “definitiv unwahr” bezeichnet, dann bewegt er sich rhetorisch gefährlich nahe an dem, was er der KI vorwirft: Er stellt Gewissheit aus, wo eigentlich Differenzierung nötig wäre.

Natürlich darf man KI-Antworten kritisieren. Man muss es sogar. Aber wenn die Kritik darin besteht, die eigene Gegenposition als endgültige Wahrheit zu setzen, ist noch nichts gewonnen. Dann wurde nur eine Autorität durch eine andere ersetzt.

Das Quecksilber-Beispiel: guter Anlass, falsche Schlussfolgerung

Reuther wirft der Google-KI unter anderem vor, seine These falsch wiederzugeben und eine Quecksilbervergiftung ins Spiel zu bringen. In meinem eigenen Test mit der Google-KI konnte ich dieses konkrete Falschzitat allerdings nicht nachvollziehen. Meine Abfrage ergab sinngemäß eine deutlich andere Antwort: Nach Reuthers Analyse seien in Endenich unter anderem Kupfersalmiakliquor, Fowlersche Lösung und Eisenpulver eingesetzt worden; die beschriebenen Symptome passten zu einer schweren Kupfervergiftung beziehungsweise kombinierten Schwermetallbelastung.

Das beweist natürlich nicht, dass Reuthers Screenshot oder Erfahrung falsch ist. KI-Systeme verändern sich, Such- und Antwortsysteme werden laufend angepasst, und schon kleine Unterschiede in Frage, Zeitpunkt, Standort, Modellversion oder Kontext können andere Ergebnisse liefern. Aber genau das ist der Punkt: Aus einer einzelnen KI-Antwort lässt sich kein endgültiges Urteil über “die KI” ableiten.

✨Meine Schlussfolgerung

Das Beispiel zeigt nicht: “KI ist unser Feind.” Es zeigt: Vertraue keiner Antwort blind–weder von einer KI noch von einem Menschen.

KI ist kein Subjekt mit bösem Willen

Große Sprachmodelle sind keine kleinen Dämonen im Rechner. Sie sind auch keine allwissenden Orakel. Vereinfacht gesagt erzeugen sie Text auf Basis von Mustern, Wahrscheinlichkeiten und Kontext. Large Language Models sind neuronale Netze, die auf großen Textmengen trainiert werden und unter anderem Texte erzeugen, zusammenfassen und analysieren können; GPT-Modelle wurden ursprünglich darauf trainiert, das nächste Wort beziehungsweise den nächsten Token vorherzusagen (Wikipedia: Large language model).

Das heißt nicht, dass sie harmlos sind. Ein Werkzeug kann großen Schaden anrichten, wenn es falsch gebaut, falsch eingesetzt oder von falschen Interessen gesteuert wird. Aber das Böse sitzt dann nicht magisch im Modell. Es sitzt in den Zielen, Daten, Regeln, Geschäftsmodellen, politischen Vorgaben und Anwendungen, die Menschen darum herum bauen.

Deshalb überzeugt mich auch die Unterscheidung eines KI-Kritikers in der Partei “dieBasis” nur teilweise, der sinngemäß sagt: ChatGPT, Gemini und ähnliche Systeme seien gar keine “wirkliche KI”, sondern nur Programme zum Spielen, während die echte KI uns aushorche und analysiere.

Ja, die Sorge vor Auswertung, Profilbildung und Überwachung ist berechtigt. Gerade bei Cloud-Diensten, Betriebssystem-Integration, Browser-Assistenten oder Bürosoftware muss man sehr genau hinschauen, welche Daten wohin fließen. Aber auch diese Gefahr ist kein Beweis für eine böse Maschinenintelligenz. Sie ist zunächst ein Beweis dafür, dass technische Systeme in Machtstrukturen eingebettet sind.

Die bessere Frage ist nicht: KI ja oder nein?

Die bessere Frage lautet: Wie frage ich, mit welchem Kontext, mit welchen Gegenfakten und mit welcher Kontrolle?

Eine KI antwortet nicht im luftleeren Raum. Sie reagiert auf das, was ich hineingebe: meine Frage, meine Begriffe, meine Vorannahmen, meine Quellen, meine Korrekturen. Wer eine unpräzise Frage stellt, bekommt häufig eine glatte, aber schwache Antwort. Wer nach Quellen fragt, Widersprüche benennt, Gegenpositionen einbringt und die Antwort Schritt für Schritt prüft, kann deutlich bessere Ergebnisse bekommen.

Das unterscheidet KI gar nicht so sehr von menschlichen Experten. Auch bei einem Arzt, Juristen, Journalisten oder Wissenschaftler kommt es darauf an, was ich frage, welche Informationen ich liefere, welche Interessen im Spiel sind und ob ich bereit bin, nachzuhaken. Der weiße Kittel, der Doktortitel oder der große Medienname ersetzen das eigene Denken genauso wenig wie ein Chatfenster.

Der Unterschied ist nur: Eine KI kann ich oft leichter zu einer zweiten, dritten oder vierten Sichtweise bringen. Ich kann Gegenfakten einwerfen, die Perspektive wechseln, Quellen verlangen, Annahmen prüfen lassen oder eine Antwort bewusst gegen die Wand fahren. Bei einem Menschen ist das oft schwieriger. Nicht, weil Menschen dümmer wären, sondern weil Menschen eben nicht nur mathematisch reagieren. Sie haben Eitelkeiten, Lagerdenken, Karrieren, Gesichtsverlust, Weltbilder und emotionale Bindungen an ihre bisherigen Aussagen.

Informationsflut ist kein Denkfehler, sondern Designproblem

Oft wird KI vorgeworfen, sie gebe eine Antwort, obwohl es viele mögliche Antworten gäbe. Das stimmt–aber es ist nicht automatisch ein Skandal.

Wenn ein System bei jeder Frage sofort alle denkbaren Varianten, Einschränkungen, Minderheitspositionen, Quellenkonflikte, historischen Debatten und Unsicherheiten ausspucken würde, wäre das Ergebnis für die meisten Menschen unlesbar. Gerade in einer Zeit, in der alles schnell gehen soll, würden solche Antworten kaum noch jemand lesen.

Also verdichten KI-Systeme. Sie priorisieren. Sie wählen aus. Sie geben eine plausible Erstfassung. Genau darin liegt der Nutzen–und genau darin liegt die Gefahr. Denn jede Verdichtung kann falsch gewichten, Wichtiges weglassen oder den Eindruck größerer Sicherheit erzeugen, als tatsächlich vorhanden ist.

Die Lösung kann aber nicht sein, KI pauschal zu verteufeln. Die Lösung ist, diese Erstfassung als das zu behandeln, was sie ist: ein Startpunkt, kein Urteilsspruch.

Wovor wir uns wirklich hüten sollten

Gefährlich wird KI dort, wo sie Autorität ersetzt statt Arbeit abzukürzen. Wo Menschen aufhören, Quellen zu prüfen. Wo Verwaltungen, Unternehmen oder Staaten KI-Ausgaben in Entscheidungen verwandeln, ohne Verantwortliche benennen zu können. Wo persönliche Daten in Systeme wandern, deren Betreiber, Speicherorte und Auswertungslogiken der Nutzer nicht kontrolliert. Und wo der Satz “die KI hat gesagt” dieselbe Funktion bekommt wie früher “die Experten sagen”.

Aber auch der umgekehrte Reflex ist gefährlich: “KI ist böse, also ist alles falsch, was sie sagt.” Das ist bequem, aber nicht klüger. Denn dann prüfe ich nicht mehr die konkrete Aussage, sondern bekämpfe ein Feindbild.

✨Prüfkriterium

Nicht entscheidend ist, ob eine Aussage von einer KI oder einem Menschen kommt. Entscheidend ist: Ist sie belegbar, widerspruchsfrei, kontextsensibel und offen für Korrektur?

Fazit: Nicht anbeten, nicht verteufeln

KI ist nicht unser Freund. KI ist aber auch nicht automatisch unser Feind. Sie ist ein mächtiges Werkzeug, das mit Wahrscheinlichkeiten, Daten, Regeln und menschlichen Zielvorgaben arbeitet. Wer sie blind glaubt, macht einen Fehler. Wer sie blind ablehnt, macht ebenfalls einen Fehler.

Für mich bleibt deshalb die einfache Regel: KI darf denken helfen, aber sie darf mir das Denken nicht abnehmen.

Und vielleicht ist genau das die eigentliche Pointe des Schumann-Beispiels: Nicht die KI allein hat ein Problem mit Gewissheit. Wir Menschen haben es auch. Nur merken wir es bei der Maschine schneller.

Quellen

• Gerd Reuther: “Schöne Neue KI-Welt”, TKP, 09.06.2026.
• “Large language model”, Wikipedia, abgerufen am 17.06.2026.