Der traurige Stand der Suche ist ein unheilvolles Zeichen für das KI-Zeitalter

An einem Samstagabend beschloss ein gelangweilter Technikmanager, mit einer App für künstliche Intelligenz herumzuspielen, von der er gehört hatte. Der Manager, den wir Matthew nennen, begann mit der Art und Weise, wie die meisten Menschen im Internet nach Dingen suchen: Er klappte seinen Laptop auf und tippte den Namen des KI-Unternehmens, Midjourney, in Google ein. Er klickte auf das Top-Ergebnis und mit ein paar weiteren Klicks lud er die App herunter und installierte sie.

Oder er glaubte genau das getan zu haben: Was er tatsächlich anklickte, war eine Anzeige, die Google unabsichtlich an einen als Midjourney getarnten Betrüger verkauft hatte. Matthew, der um Anonymität bat, weil er befürchtet, dass jeder, der auf seinen Computer zugreift, möglicherweise noch über seine persönlichen Daten verfügt, hatte versehentlich einen „Infostealer“ installiert, eine Art Malware, die den Computer eines Opfers nach Benutzernamen und Passwörtern durchsucht und diese dann an Hacker weiterleitet. Dieser, bekannt als Aurora, hatte auf sein Krypto-Wallet, seine Social-Media-Konten und wer weiß was sonst noch zugegriffen. Die Hacker übertrugen den Inhalt von Matthews Coinbase-Wallet – Hunderttausende Dollar in Krypto – an eine Bank, die nicht seine war. „Es ist dein ganzes Leben“, sagt Matthew. „Du fühlst dich so nackt und verängstigt und verletzlich.“

Matthew gibt sich selbst die Schuld, nicht vorsichtiger zu sein, wirft Google aber auch vor, dass ein offensichtlicher Betrug ganz oben auf der Ergebnisseite landet. Das Versagen wurde durch Designentscheidungen verschärft, die den Eindruck erwecken, dass die Google-Suchergebnis-Links absolut objektiv und vertrauenswürdig seien, es aber gleichzeitig schwierig machen, zu erkennen, welche Links vorhanden sind, weil jemand dafür bezahlt hat, sie dort zu platzieren. (Google kennzeichnet Anzeigen als „gesponsert“, die Bezeichnung kann jedoch leicht übersehen werden.)

Matthews Erfahrung wirft seit langem Fragen zu den Kosten der Dominanz des Unternehmens auf dem Suchmaschinenmarkt und seiner offensichtlichen Unfähigkeit, Betrügereien einzudämmen, auf. Und es deutet darauf hin, dass es für Google schwieriger als erwartet sein könnte, Betrügereien und Fehlinformationen von seiner experimentellen (und manchmal sachlich umstrittenen) Chatbot-Suchmaschine fernzuhalten. Bei Google Bard dürfte es noch schwieriger sein, die Herkunft der vom Unternehmen bereitgestellten Informationen zu ermitteln.

Ende Juli war die Anzeige, auf die Matthew geklickt hatte, verschwunden, aber es tauchten immer noch gefälschte Midjourney-Websites ganz oben in den Google-Suchergebnissen auf. „Dass es dennoch in den Ergebnissen auftaucht, ist unverantwortlich“, sagt er. „Ich habe ihnen vertraut, aber es war ein falsches Vertrauen.“ Die gefälschten Midjourney-Einträge verschwanden kurz nach einer Anfrage von Bloomberg Businessweek von Google. Google lehnte es ab, sich zu den gefälschten Einträgen zu äußern, sagt aber, dass es eine Mischung aus menschlichen Prüfern und Software einsetzt, um solche Inhalte zu entfernen, was es verbietet. Außerdem wird darauf hingewiesen, dass im vergangenen Jahr 5,2 Milliarden Anzeigen wegen Verstößen gegen die Unternehmensrichtlinien entfernt wurden. „Während es Bösewichte gibt, die versuchen, unsere Schutzmaßnahmen zu umgehen, sind die Systeme von Google äußerst effektiv, wenn es darum geht, hochwertige Informationen aufzudecken und Spam und bösartiges Verhalten zu bekämpfen“, sagt Ned Adriance, ein Unternehmenssprecher.

Es hätte kein hochentwickeltes Anti-Betrugssystem erfordern dürfen, um herauszufinden, dass die Anzeige, die Google Matthew gezeigt hat, bösartig war. Der Eintrag verwies auf eine Website, die angeblich zu Midjourney gehörte, aber den Buchstaben „o“ im Firmennamen durch eine Null ersetzte, eine bekannte Betrugstaktik. Es gab Threads auf Reddit, die Benutzer vor genau dieser Sache warnten, bevor Matthew klickte, und der demokratische Senator von Connecticut, Richard Blumenthal, warf Google in einem Brief aus dem Jahr 2022 vor, es habe „routinemäßig versäumt, gegen gefährliche Betrügereien, Identitätsdiebstahl und Cyberkriminalität vorzugehen“. Darüber hinaus gibt es für Midjourney nicht einmal eine herunterladbare App; Sie greifen darauf über die Chat-App Discord zu.

Ähnliche Beispiele tauchten im Laufe der Geschichte von Google regelmäßig auf. Ende Juli beispielsweise entdeckte Shmuli Evers, ein Digitaldesigner, dass es Betrügern gelungen war, Google dazu zu bringen, gefälschte Telefonnummern für Delta Air Lines Inc. und andere große Fluggesellschaften anzugeben, um gefälschte Tickets zu verkaufen. Google korrigierte den Fehler, nachdem Evers darüber getwittert hatte, Kritiker behaupten jedoch, das Unternehmen wisse seit langem von ähnlichen Betrügereien mit Telefonnummern. „Solche Entführungen kam es in den letzten 15 Jahren jedes Jahr“, sagt Mike Blumenthal, Mitbegründer von Near Media, das Unternehmen in den Bereichen Digital- und Suchmaschinenmarketing berät. „Google hat die Kosten dieser Betrügereien schon lange auf die Gesellschaft abgewälzt.“

Betrüger hätten Telefonnummern von Floristen, Schlüsseldiensten und Hotels vertauscht, sagt Blumenthal, der bereits 2008 Fälle dokumentiert hat. „Wir dulden diese irreführenden Aktivitäten nicht und überwachen und entwickeln unsere Plattformen zur Betrugsbekämpfung ständig weiter“, sagt Adriance und bezieht sich dabei auf Die Betrügereien der Fluggesellschaft.

Google ist auch einer subtileren Art der Manipulation ausgesetzt. Suchmaschinen-Vermarkter haben – manchmal mit Hilfe von ChatGPT und ähnlichen Diensten – Ergebnisseiten in bestimmten Kategorien mit Junk-Eigenwerbungs-Websites gefüllt, denen oft alles Nützliche fehlt. Das Problem, das Atlantic letztes Jahr als „Das offene Geheimnis der Google-Suche“ bezeichnete, hat dazu geführt, dass Nutzer auf Tricks zurückgreifen, um gefälschte Ergebnisse herauszufiltern. Eine der beliebtesten Taktiken besteht darin, bei jeder Suche das Wort „Reddit“ hinzuzufügen, um zu versuchen, Google dazu zu bringen, sich auf dieses soziale Netzwerk zu konzentrieren, das angeblich eine Überflutung mit Marketing und Spam weitgehend vermieden hat. Ein anderer Ansatz: Ersetzen Sie Google durch TikTok, was zu Ergebnissen führt, die viel weniger Spam verursachen können, wenn Sie nach Restaurants, Rezepten oder Reisetipps suchen. Schließlich gibt es noch Chatbots wie Bard und den, den Microsoft Corp. für seine Bing-Suchmaschine entwickelt hat und von denen einige Prognostiker sagen, dass sie irgendwann die traditionelle Websuche ersetzen könnten.

Laut Google ist die überwiegende Mehrheit seiner Kunden mit der Qualität seiner Suchergebnisse zufrieden, was zumindest teilweise erklärt, warum die Dominanz des Unternehmens in dieser Kategorie seit zwei Jahrzehnten mehr oder weniger unangefochten ist. Laut Similarweb verfügt das Unternehmen über einen Marktanteil von 91 % in Suchmaschinen.

Der Kongress könnte mehr Druck ausüben, indem er Abschnitt 230 des Communications Decency Act reformiert, der Websites vor rechtlicher Haftung im Zusammenhang mit Inhalten schützt, die ihre Benutzer erstellt haben. Solche Maßnahmen würden jedoch stark umstritten sein, und der Kongress hat in den letzten Jahren nicht die Fähigkeit gezeigt, sich mit solchen Fragen zu befassen. Ein wahrscheinlicherer Weg könnte eine Klage des US-Justizministeriums und der Generalstaatsanwälte sein, mit der Google von zwei vor Jahren gekauften Werbenetzwerken getrennt werden soll. Google sagte, die Klage sei ein „Versuch, Gewinner und Verlierer im hart umkämpften Werbetechnologiesektor auszuwählen“.

Es ist unwahrscheinlich, dass diese Regierungsmaßnahmen in den nächsten Jahren gelöst werden. In der Zwischenzeit warnt Matthew Freunde und Verwandte zur Vorsicht. Auch wenn er mit Hilfe des FBI schließlich 90 % seines Geldes zurückbekommen konnte, sagt er, dass er sein Geld von nun an bei herkömmlichen Banken statt in Kryptowährungen anlegt. Er befürchtet jedoch, dass immer noch Menschen auf ähnliche Betrügereien hereinfallen. „An diesem Punkt ist Google so ausgefeilt, dass ich, wenn ich nach etwas Einfachem wie Midjourney suche, erwarte, dass der oberste Link die Midjourney-Website ist“, sagt er. „Es gibt einfach praktische Probleme, die sie nicht lösen.“

Haftungsausschluss:Dieser Artikel erschien zuerst auf Bloomberg und wird im Rahmen einer besonderen Syndizierungsvereinbarung veröffentlicht

Suche / KI / Künstliche Intelligenz / Barde / Google / Betrüger