KI hat nicht gelogen. Sie hat zu wenig gesehen.

Anfang November ist eine Website live gegangen, die ich für die H&S Service GmbH gebaut habe, ein Nutzfahrzeug-Zentrum mit LKW-Werkstatt in Niesky in der Oberlausitz. Mit allem, was dazugehört, damit Suchmaschinen und KI-Assistenten sie verstehen: Seitenbeschreibung, strukturierte Daten, Bildbeschreibungen, ein Abschnitt mit Fragen und Antworten. Fachleute sagen dazu SEO und GEO, also Optimierung für Suchmaschinen und für generative KI.

Danach war ich im Auto unterwegs und wollte es genau wissen. Ich habe Grok, den KI-Assistenten von xAI, per Sprachchat gebeten, die Seite auf SEO und GEO zu prüfen.

Das Urteil: alles fehlt

Grok antwortete schnell, freundlich und sehr bestimmt. Die Seite habe keine Meta-Description, kein Schema-Markup und keine Alt-Texte an den Bildern. Ein FAQ-Bereich fehle. Das Impressum liefere einen Fehler 404, die Seite sei also nicht erreichbar. Und für all das hatte Grok gleich eine Erklärung: Die Seite werde per JavaScript im Browser zusammengesetzt, deshalb sähen Suchmaschinen nichts davon.

Das klang fachkundig. Wer sich mit Websites nicht auskennt, hätte an dieser Stelle vermutlich einen Schreck bekommen, und wer die Seite bezahlt hat, erst recht.

Schon vorher hatte Grok nach H&S gesucht und nur den Eintrag im Handelsregister gefunden, mit dem Hinweis, eine Website gebe es nicht. Die Seite war eben erst ein paar Stunden alt. Was eine KI über das Netz weiß, stammt aus Verzeichnissen, die irgendwann zuletzt aktualisiert wurden. Neues ist darin noch nicht angekommen.

Nachgeprüft: fast alles war da

Am Rechner habe ich nachgesehen, zusammen mit Claude, mit dem ich die Seite gebaut hatte. Das Ergebnis:

• Meta-Description: vorhanden.
• Schema-Markup: vorhanden, sogar zweifach, einmal für die Werkstatt (AutoRepair) und einmal für die Fragen und Antworten (FAQPage).
• Alt-Texte: an allen Bildern vorhanden.
• Fragen und Antworten: vorhanden.
• JavaScript: Die Seite wird gar nicht im Browser zusammengesetzt. Sie kommt fertig als HTML vom Server, gebaut mit PHP. Die Erklärung mit dem JavaScript passte also nicht einmal zur Technik.

Wie kommt eine KI zu so einem Urteil? Sicher wissen kann man das von außen nicht, aber eine Vermutung liegt nahe. Meta-Description und Schema-Markup stehen im Kopf der Seite, im Quelltext „head“ genannt. Alt-Texte stehen als Eigenschaft im Bild-Element. Alle drei sieht man im Browser nicht, sie sind für Maschinen gedacht. Viele Werkzeuge, mit denen KI-Assistenten Webseiten abrufen, geben aber nur den sichtbaren Text weiter. Grok hat also wahrscheinlich nur einen Ausschnitt der Seite bekommen. Und dann hat er aus „habe ich nicht gesehen“ geschlossen: „ist nicht da“. Die Erklärung mit dem JavaScript hat er dazugeliefert, weil sie zu diesem Befund passt. Geprüft hat er sie nicht.

Damit bin ich bei dem Satz, um den es in diesem Beitrag geht:

Die KI hat nicht gelogen. Sie hat aus einem zu kleinen Ausschnitt mit voller Überzeugung falsche Schlüsse gezogen.

Ein Punkt war echt

Das Impressum. Grok hatte die Adresse „/impressum“ aufgerufen, ohne die Endung „.php“. Diese Adresse gab es tatsächlich nicht, die Seite lag unter „/impressum.php“. Wer die Adresse von Hand eintippt oder sie irgendwo ohne Endung angibt, landet im Leeren. Inzwischen funktionieren alle Adressen auch ohne Endung, zum Beispiel hs-service-gmbh.de/impressum.

Das finde ich fast den wichtigsten Teil der Geschichte. Die Gesamtdiagnose war falsch, und trotzdem steckte ein echter Fehler darin. Hätte ich Grok einfach geglaubt, hätte ich eine funktionierende Seite umgebaut. Hätte ich die Antwort komplett verworfen, wäre der echte Fehler geblieben. Geholfen hat nur eins: jeden Punkt einzeln prüfen.

Das machen nicht nur Maschinen

Je länger ich darüber nachdenke, desto weniger ist das eine Geschichte über KI. Aus einem zu kleinen Ausschnitt sichere Schlüsse ziehen, das können wir Menschen schon lange.

• Der erste Eindruck. Nach fünf Minuten im Vorstellungsgespräch steht das Urteil fest. Alles, was danach kommt, wird so gedeutet, dass es dazu passt.
• Die Schlagzeile. Ein Beitrag wird geteilt und kommentiert, gelesen wurde nur die Überschrift. Die Empörung ist echt, der Anlass oft ein anderer.
• Das Lehrerzimmer. „Die 8b ist schwierig.“ Wer neu in die Klasse kommt, hat das Urteil schon im Kopf, bevor er den ersten Schüler gesehen hat. Und findet dann auch die passenden Beispiele.
• In der Klassenarbeit. Ein Schüler liest die halbe Aufgabe, erkennt etwas Bekanntes und löst mit großer Sicherheit eine Aufgabe, die so gar nicht gestellt war.
• Bei Fachleuten. Auch Erfahrung schützt nicht davor. Ein Geräusch, das man schon hundertmal gehört hat, verleitet dazu, die Ursache zu nennen, bevor man nachgesehen hat. Erfahrung macht schnell, und schnell heißt manchmal: zu früh.

Das Muster ist immer gleich. Es gibt einen Ausschnitt, der für sich genommen stimmt. Es gibt eine Lücke. Und die Lücke wird nicht als Lücke bemerkt, sondern mit einer plausiblen Erklärung gefüllt. Bei der KI fällt es nur stärker auf, weil sie dabei so ruhig und sicher klingt.

Woran man solche Antworten erkennt

Ein paar Zeichen sind mir an Groks Antwort aufgefallen, und sie gelten für Menschen genauso:

• Große Sicherheit. Kein „vermutlich“, kein „soweit ich sehen kann“. Alles wird als Tatsache vorgetragen.
• Keine Quelle. Es wird nicht gesagt, was genau angesehen wurde, welche Adresse, welcher Teil der Seite.
• Eine Begründung, die technisch klingt. „Rendering-Problem durch JavaScript“ hört sich nach Fachwissen an. Ob es stimmt, wurde nicht geprüft.
• Behauptungen, dass etwas fehlt. „Gibt es nicht“ ist schwerer zu belegen als „gibt es“. Wer etwas nicht gefunden hat, weiß nur, dass er es nicht gefunden hat.
• Alles fällt in eine Richtung. Wenn ein Urteil keinen einzigen Punkt enthält, der gut ist, lohnt sich ein zweiter Blick.

Was hilft

Nachfragen: „Woher weißt du das?“ Bei einer KI genauso wie bei Menschen. Welche Adresse hast du aufgerufen? Was genau hast du gesehen? Zeig mir die Stelle. Oft wird dann schon klar, wie klein der Ausschnitt war.

Stichproben selbst prüfen. Man muss nicht alles nachprüfen, aber ein, zwei Punkte. Ist schon der erste Punkt falsch, steht der Rest auf wackligen Beinen.

Bei Websites: den Quelltext ansehen. Rechtsklick auf die Seite, „Seitenquelltext anzeigen“. Dort sucht man mit der Suchfunktion des Browsers nach „description“, nach „ld+json“ für die strukturierten Daten oder nach „alt=“ für die Bildbeschreibungen. Das dauert eine Minute und braucht keine Programmierkenntnisse. Für die strukturierten Daten gibt es außerdem eigene Prüfwerkzeuge, etwa den Test für Rich-Suchergebnisse von Google.

Eine zweite Quelle. Eine andere KI, ein Mensch, der sich auskennt, ein Prüfwerkzeug. Am besten eine Quelle, die anders arbeitet als die erste und deshalb nicht denselben Ausschnitt sieht.

Prüfen statt glauben oder verwerfen. Auch eine falsche Antwort kann einen richtigen Hinweis enthalten. Das Impressum hat es gezeigt.

Für den Unterricht

Das Muster lässt sich im Unterricht gut erfahrbar machen, auch ohne Technik. Ein paar Ideen:

• Der Ausschnitt. Die Klasse sieht nur einen Teil eines Bildes oder eines Textes und soll ein Urteil abgeben: Was ist hier passiert? Danach kommt das Ganze. Wie sicher waren wir, und warum?
• Die KI prüft, wir prüfen nach. Ein Chatbot bewertet eine Website, zum Beispiel die Schulhomepage. Die Schüler prüfen jede Aussage einzeln im Quelltext und sortieren: stimmt, stimmt nicht, lässt sich nicht prüfen.
• „Woher weißt du das?“ als feste Frage in der Klasse. An die KI, an Mitschüler und auch an die Lehrkraft.

Mehr zum Prüfen von KI-Antworten steht im Beitrag Autokorrektur macht niemanden besser in Rechtschreibung. KI auch nicht.

Am Ende hat mir Grok übrigens geholfen, auch wenn er fast alles falsch gesehen hat. Ein echter Fehler weniger auf der Seite, und eine Geschichte, die sich in Fortbildungen gut erzählen lässt.