Im Zuge des Hinzufügens neuer KI-basierter Suchwerkzeuge zu seinem Hauptprodukt hat sich Google einigen Spott und Klärungsbedarf eingehandelt. Die KI-Übersicht von Google empfahl Nutzern unter anderem den Verzehr von Steinen für eine mineralreiche Ernährung und vorschlug, Käse mittels Klebstoff auf Pizzas zu fixieren. Die skurrilen Antworten basieren, so scheint es, auf Satire und Scherzbeiträgen, darunter ein Artikel von The Onion, der zum täglichen Konsum kleiner Steine riet.
Weniger amüsant war die Antwort auf die Frage nach der Anzahl muslimischer US-Präsidenten, bei der die KI Barack Hussein Obama fälschlicherweise als muslimischen Präsidenten bezeichnete – ein Echo auf falsche Behauptungen, wie sie von einigen politischen Gegnern Obamas verbreitet wurden.
Google betonte, dass die 'überwiegende Mehrheit der KI-Übersichten qualitativ hochwertige Informationen liefere' und verwies auf umfangreiche Tests vor dem Start dieser neuen Funktion. Die Beispiele für Fehlinformationen seien selten gestellt gewesen und in einigen Fällen retuschiert oder nicht reproduzierbar. Das Unternehmen arbeitet an Verbesserungen und passt Inhaltsrichtlinien an.
Die sogenannten 'Halluzinationen' der KI-Systeme stellen eine Herausforderung im Bereich der generativen KI-Modelle dar. Große Tech-Unternehmen wie OpenAI, Meta und auch Google sind darauf bedacht, die Rate dieser Fehlschläge in ihren neuesten Softwareversionen zu reduzieren. Dennoch bleiben derartige Aussetzer ein Thema, das sowohl für Verbraucher*innen als auch für den Business-Kontext von Bedeutung ist.
Für Google, dessen Suchplattform von Milliarden Nutzer*innen für die Verlässlichkeit und Originalquellen-Verknüpfung geschätzt wird, sind solche Anomalien besonders prekär. Alphabet, Googles Mutterkonzern, generiert den Großteil seiner Einnahmen über die Suchmaschine und das damit verbundene Werbegeschäft.
Nach Kritik, insbesondere im Vergleich zu OpenAI und dessen Zusammenarbeit mit Microsoft, drängten interne sowie externe Stimmen Google-CEO Sundar Pichai dazu, den Ausrollprozess KI-orientierter Funktionen zu beschleunigen. Pichai hat daraufhin auf der jährlichen Entwicklerkonferenz Googles eine neue auf KI ausgerichtete Strategie vorgestellt, einschließlich der 'Overviews' für gängige Suchanfragen.
Das Unternehmen reagierte auf Kritik am Gemini-Chatbot, indem es die Bildgenerierungsfunktion vorübergehend stoppte, und Pichai selbst betonte die Notwendigkeit, Genauigkeit und Vertrauen in der Informationsbereitstellung zu gewährleisten.