- Googles KI‑Suche buchstabiert falsch: selbst bei simplen Wörtern wie „Google“
- Grundproblem: Sprachmodelle arbeiten mit Wahrscheinlichkeiten, nicht mit echtem Verständnis.
- Fehler treten bei Buchstabenfolgen, Akronymen, Fantasiewörtern und Logikaufgaben auf.
- Auch andere KI Modelle wie Claude zeigen absurde Fehlurteile, etwa wenn es um simple Alltagsentscheidungen geht.
- Der Vorfall zeigt erneut: KI's sind keine verlässlichen Wissenssysteme.
Das ist lustig. Und es ist ernster, als es klingt.
Um zu verstehen, warum das passiert, muss man kurz in die Funktionsweise von Sprachmodellen schauen. Sie denken nicht in Buchstaben. Sie denken in Wahrscheinlichkeiten. Ein Modell wie Gemini hat Unmengen an Text verarbeitet und gelernt, welche Tokens: Wort- oder Satzbausteine, statistisch aufeinander folgen. Wenn es buchstabieren soll, rechnet es: Welcher Buchstabe kommt nach dem nächsten wahrscheinlich? Diese Berechnung produziert meistens das Richtige. Manchmal produziert sie „P" statt zweimal „O": weil „G" und „P" in Trainingsdaten ähnlich häufig nebeneinander vorkommen, und das Modell dieses Muster aufgreift.
Das Modell weiß nicht, wie „Google" geschrieben wird. Es kennt das Wort als Token: als Einheit, die bestimmte Bedeutungen trägt. Die Buchstabenfolge dahinter ist eine andere Ebene, auf der es nicht zuverlässig operiert.
Das ist keine Kleinigkeit, wenn man bedenkt, was Google mit seiner KI-Suche verspricht: verlässliche Antworten, korrektes Wissen, weniger Fehler. Die klassische Suche mit blauen Links hat nie behauptet, die Wahrheit zu kennen: sie hat auf Quellen verwiesen, die der Nutzer selbst prüfen konnte. Die neue KI-Suche stellt Antworten hin, als wären sie Fakten. Der Unterschied ist groß.
Der Buchstabier-Bug ist das sichtbarste Symptom einer Schwäche, die sich durch alle großen Sprachmodelle zieht. Nicht nur Google. Claude hat ähnliche blinde Flecken, auf die Frage, ob man lieber 100 Meter zur Waschanlage fahren oder gehen soll, empfiehlt das Modell zu Fuß zu gehen. Ohne Abwägung, ohne Kontext, ohne zu merken, dass das keine sinnvolle Empfehlung ist. Das Modell gibt eine selbstbewusste Antwort auf eine Frage, die es nicht wirklich versteht.
Bei einer Waschanlage ist das harmlos. Bei einer medizinischen Frage nicht. Bei einer Rechtsfrage nicht. Bei einer sicherheitsrelevanten Entscheidung nicht.
Das ist der eigentliche Kern des Problems: KI-Modelle simulieren Verständnis, ohne es zu besitzen. Sie produzieren flüssige, plausible Antworten, und merken nicht, wenn diese Antworten falsch sind. Der Nutzer muss das merken. Und der Nutzer merkt es nicht immer, besonders wenn die Antwort gut klingt.
Die Serie von KI Suchpannen ist mittlerweile lang. Falsche medizinische Empfehlungen. Erfundene Gesetzestexte. Fehlerhafte Matheaufgaben. Manipulierte Fakten, die so überzeugend formuliert sind, dass sie auf den ersten Blick wie Wahrheiten wirken. Der Buchstabierfehler reiht sich ein, aber weil er so offensichtlich absurd ist, macht er sichtbar, was sonst verborgen bleibt: Das System weiß weniger, als es vorgibt.
Das Vertrauen, das Google für seine Suche aufgebaut hat, basiert auf Jahrzehnten. Menschen glauben Google Ergebnissen auf eine Weise, die sie anderen Quellen nicht entgegenbringen würden. Diese Glaubwürdigkeit auf ein System zu übertragen, das probabilistisch antwortet und dabei manchmal daneben liegt, ist riskant: für Nutzer, die falsche Antworten als Fakten behandeln, und für Google, wenn diese Fehler sichtbar werden.
Was man daraus lernen kann, ist nicht, dass KI grundsätzlich unbrauchbar ist. Viele Aufgaben erledigen Sprachmodelle beeindruckend gut. Text zusammenfassen, Code schreiben, Zusammenhänge erklären: das funktioniert oft gut genug, um nützlich zu sein.
Aber „gut genug" und „verlässlich" sind verschiedene Kategorien. Für eine Suche, die beansprucht, Antworten statt Links zu liefern, reicht gut genug nicht. Dort braucht man Zuverlässigkeit: die Gewissheit, dass das, was präsentiert wird, stimmt.
Diese Gewissheit kann kein Sprachmodell liefern. Es kann Wahrscheinlichkeiten liefern. Es kann plausible Antworten liefern. Es kann meistens richtig liegen.
Aber manchmal buchstabiert es den eigenen Namen falsch. Das ist der Hinweis, dass wir wissen sollten, das KI Fehler machen kann.
Kommentare
Kommentar veröffentlichen
Kommentar