Google in der Kritik: Gesundheitshinweise in KI-Suchübersichten verborgen

Eine neue Untersuchung hat erhebliche Kritik an Googles Implementierung von KI-Übersichten (AI Overviews) ausgelöst, insbesondere im Hinblick darauf, wie der Suchriese mit medizinischen Informationen umgeht. Einem Bericht von The Guardian zufolge versäumt es Google, kritische Sicherheitswarnungen anzuzeigen, wenn Nutzer zum ersten Mal mit KI-generierten medizinischen Ratschlägen konfrontiert werden. Dieses Versäumnis hat bei Experten für KI-Sicherheit und medizinischem Fachpersonal Alarm ausgelöst, die argumentieren, dass das aktuelle Design eine nahtlose Benutzererfahrung über die Patientensicherheit stellt und Nutzer potenziell irreführenden oder gefährlichen Gesundheitsinformationen aussetzt.

Da die KI die Landschaft der digitalen Informationen weiterhin umgestaltet, war die Integration von generativen Modellen (Generative Models) in Suchmaschinen ein Schwerpunkt der Innovation. Diese jüngste Kontroverse verdeutlicht jedoch das anhaltende Spannungsfeld zwischen dem schnellen Einsatz von KI-Technologien und den strengen Sicherheitsstandards, die für sensible Bereiche wie das Gesundheitswesen erforderlich sind.

Die Untersuchung: Versteckte Warnungen in aller Öffentlichkeit

Der Kern der Kritik entspringt dem Design der Benutzeroberfläche von Googles KI-Übersichten. Wenn ein Nutzer eine gesundheitsbezogene Anfrage stellt – von Symptomprüfungen für Schlaganfälle bis hin zu Fragen zu Herzinfarkten –, erscheint die KI-generierte Zusammenfassung ganz oben in den Suchergebnissen und verdrängt oft traditionelle Weblinks.

Die Untersuchung von The Guardian ergab, dass auf dem ersten Bildschirm, dem sogenannten Bereich „oberhalb der Falz“ (Above the Fold), keine sichtbaren Haftungsausschlüsse zu finden sind, die den Nutzer davor warnen, dass die Informationen von einer KI generiert wurden und ungenau sein können. Um einen Sicherheitshinweis zu sehen, muss ein Nutzer aktiv mit der Benutzeroberfläche interagieren, indem er auf eine Schaltfläche „Mehr anzeigen“ klickt. Selbst dann wird der Disclaimer nicht prominent am Anfang des erweiterten Textes angezeigt. Stattdessen befindet er sich ganz unten im generierten Inhalt, in einer kleineren, helleren Schriftart, die leicht zu übersehen ist.

Der versteckte Disclaimer lautet: „Dies dient nur zu Informationszwecken. Für medizinischen Rat oder eine Diagnose konsultieren Sie einen Fachmann. KI-Antworten können Fehler enthalten.“

Kritiker argumentieren, dass dieses Design ein Maß an Nutzerprüfung voraussetzt, das bei der beiläufigen Websuche selten existiert. Bis ein Nutzer zum Ende einer erweiterten Ansicht gescrollt hat, hat er die Zusammenfassung der KI bereits konsumiert und akzeptiert sie möglicherweise als sachlich richtig, ohne den Vorbehalt zu sehen, dass das System fehleranfällig ist.

Expertenanalyse: Die Gefahren der „reibungslosen“ Gesundheitssuche

Die Entscheidung, Gesundheitshinweise zu verbergen, hat scharfe Rügen von führenden Stimmen aus der KI-Ethik und der medizinischen Forschung nach sich gezogen. Der Konsens unter diesen Experten ist, dass das Fehlen unmittelbarer Reibung – wie etwa eines prominenten Warnhinweises – die Nutzer dazu ermutigt, der maschinengenerierten Ausgabe blind zu vertrauen.

Pat Pataranutaporn, Assistenzprofessor und Technologe am Massachusetts Institute of Technology (MIT), hob die doppelten Gefahren dieser Designentscheidung hervor. Er merkte an, dass KI-Modelle dafür bekannt sind, ein „schmeichlerisches Verhalten“ (Sycophantic Behavior) an den Tag zu legen, indem sie Antworten bevorzugen, die die Anfrage des Nutzers zufriedenstellen, anstatt auf strikte Genauigkeit zu achten. In einem Kontext des Gesundheitswesens kann dieser Wunsch, es dem Nutzer recht zu machen, katastrophal sein.

„Erstens halluzinieren selbst die fortschrittlichsten KI-Modelle heute noch Fehlinformationen... In Kontexten des Gesundheitswesens kann dies wirklich gefährlich sein“, erklärte Pataranutaporn. Er erläuterte weiter, dass Disclaimer als notwendiger „Interventionspunkt“ dienen, um automatisches Vertrauen zu unterbrechen und kritisches Denken anzuregen. Ohne sie könnten Nutzer Symptome falsch interpretieren oder den notwendigen Kontext nicht angeben, was dazu führt, dass die KI irrelevante oder schädliche Ratschläge generiert.

Gina Neff, Professorin für verantwortungsvolle KI an der Queen Mary University of London, pflichtete diesen Bedenken bei und deutete an, dass das Problem eher strukturell als zufällig sei. „KI-Übersichten sind auf Geschwindigkeit ausgelegt, nicht auf Genauigkeit“, stellte Neff fest und implizierte damit, dass das Streben nach einer rationalisierten Benutzeroberfläche die für medizinische Anfragen notwendigen Sicherheitsprotokolle beeinträchtigt hat.

Visuelle Hierarchie und Nutzervertrauen

Die psychologische Wirkung der Platzierung der KI-Übersicht kann nicht hoch genug eingeschätzt werden. Indem Google die KI-Zusammenfassung ganz oben auf der Suchergebnisseite positioniert, signalisiert das Unternehmen implizit, dass dieser Inhalt die relevanteste und autoritativste Antwort ist.

Sonali Sharma, Forscherin am Center for AI in Medicine and Imaging der Stanford University, wies darauf hin, dass diese Platzierung ein „Gefühl der Beruhigung“ erzeugt. Nutzer, die in einem Moment der Angst nach schnellen Antworten suchen – etwa bei der Untersuchung eines plötzlichen Symptoms –, lesen wahrscheinlich die erste Zusammenfassung und hören dort auf. Dieses Verhalten, bekannt als „Satisficing“ (Genügsamkeit), bedeutet, dass sich Nutzer mit der ersten akzeptablen Antwort zufrieden geben, auf die sie stoßen.

„Das Hauptproblem ist, dass diese Google KI-Übersichten ganz oben auf der Suchseite erscheinen und oft etwas bieten, das sich wie eine vollständige Antwort anfühlt“, erklärte Sharma. „Es wird sehr schwierig zu sagen, was genau ist oder nicht, es sei denn, man ist bereits mit der Materie vertraut.“

Wenn der Disclaimer hinter einem Klick und einem Scrollvorgang verborgen ist, existiert er für die Mehrheit der Nutzer, die sich auf den ersten Schnappschuss verlassen, faktisch nicht.

Vergleichende Analyse: Googles Implementierung vs. Sicherheitsstandards

Die folgende Tabelle stellt Googles aktuelle Designentscheidungen den Empfehlungen von Patientenschützern und KI-Ethikern gegenüber.

Googles Verteidigung und anhaltende Kämpfe

Als Reaktion auf die Kritik hat Google betitelt, dass sein System so konzipiert ist, dass es verantwortungsbewusst ist. Ein Sprecher des Unternehmens erklärte, dass KI-Übersichten „Menschen dazu ermutigen, professionellen medizinischen Rat einzuholen“, und häufig die Notwendigkeit ärztlicher Hilfe innerhalb des Zusammenfassungstextes selbst erwähnen. Das Unternehmen bestritt, die Sicherheit herunterzuspielen, und argumentierte, dass der Inhalt informativ sein solle.

Dies ist jedoch nicht das erste Mal, dass Google wegen seiner KI-Suchfunktionen mit Gegenwind konfrontiert wird. Im Januar ergab eine separate Untersuchung, dass Googles KI falsche und irreführende Gesundheitsinformationen generierte, was das Unternehmen dazu veranlasste, KI-Zusammenfassungen für bestimmte medizinische Anfragen zu entfernen. Trotz dieser Anpassungen deutet das Fortbestehen des Problems der versteckten Disclaimer darauf hin, dass die zugrunde liegende Designphilosophie – die Priorisierung einer sauberen, ungehinderten Benutzeroberfläche – weiterhin Vorrang vor expliziten Sicherheitsbarrieren hat.

Die umfassendere Bedeutung von KI im Gesundheitswesen

Die Kontroverse um Googles KI-Übersichten berührt ein grundlegendes Problem beim Einsatz künstlicher Intelligenz: das Konzept von E-E-A-T (Experience, Expertise, Authoritativeness, and Trustworthiness – Erfahrung, Expertise, Autorität und Vertrauenswürdigkeit). Im medizinischen Bereich ist Vertrauenswürdigkeit von größter Bedeutung. Wenn eine Suchmaschine als Vermittler für medizinische Ratschläge fungiert, übernimmt sie ein Maß an Verantwortung, das mit dem eines Herausgebers medizinischer Fachliteratur vergleichbar ist.

Tom Bishop, Leiter der Patienteninformation bei der Blutkrebs-Wohltätigkeitsorganisation Anthony Nolan, forderte dringende Änderungen an der Schnittstelle. Er argumentierte, dass bei Gesundheitsanfragen der Disclaimer das „Erste sein sollte, was man sieht“, und der Schriftgröße des Haupttextes entsprechen sollte.

„Wir wissen, dass Fehlinformationen ein echtes Problem sind, aber wenn es um Gesundheits-Fehlinformationen geht, ist es potenziell wirklich gefährlich“, sagte Bishop. Seine Kommentare spiegeln eine wachsende Forderung wider, Tech-Giganten für die von ihnen geschaffene „Informationsarchitektur“ zur Rechenschaft zu ziehen. Es reicht nicht aus, die korrekten Daten irgendwo im System zu haben; die Präsentation dieser Daten muss die menschliche Psychologie und das Fehlerpotenzial berücksichtigen.

Fazit

Da sich die KI immer tiefer in unser tägliches Leben integriert, unterliegen die Mechanismen, über die wir auf Informationen zugreifen, einem radikalen Wandel. Googles Kampf, die Eleganz der KI-Übersichten mit der komplexen Realität der medizinischen Sicherheit in Einklang zu bringen, dient als warnendes Beispiel.

Für Creati.ai unterstreicht dieser Vorfall die Notwendigkeit von „Sicherheit durch Design“ (Safety by Design). Disclaimer und Schutzmaßnahmen sollten keine nachträglichen Überlegungen oder versteckten Rechtstexte sein; sie müssen integraler Bestandteil der Benutzererfahrung sein, insbesondere wenn es um Gesundheit und Sicherheit geht. Solange diese Warnungen nicht aus dem Schatten geholt und zentral platziert werden, laufen Nutzer weiterhin Gefahr, eine algorithmische Schätzung mit einer ärztlichen Diagnose zu verwechseln.