Die Meta AI-App ist ein Datenschutz-GAU

Von Meta wird eine AI-App zum Download angeboten. Damit kann man deren KI-Lösung nutzen. Aber die AI-App ist eine Katastrophe in Sachen Datenschutz – im dümmsten Fall werden sogar private Chats öffentlich – ganz im Sinne von Meta "wir wissen alles, und machen das auch öffentlich".

Die Meta AI-App

Die Meta AI-App wird als persönlicher KI-Assistent, der den Nutzer versteht im Google Play Store beworben. "Holen Sie sich maßgeschneiderte Antworten, Ratschläge und Inspirationen", heißt es.

Was mir auf der Google Play Store-Seite auffällt: Die Bewertung der App mit nur einem Stern (Wert 2,8), und über 5 Millionen App-Downloads. Spontan ging mir der Spruch: "Millionen Fliegen können nicht irren" (wenn die auf Scheiße stehen) durch den Kopf. Gut, bei deutschsprachigen Benutzern scheint es mit dem Sprachverständnis der App noch zu hapern. Wenn ich es richtig mitbekommen habe, hieß das Teil früher Meta View und arbeitet der Ray-Ban Meta- oder Ray-Ban Stories-Brille zusammen.

Der Datenschutz-GAU

Bei Techcrunch bin ich gestern auf den Beitrag The Meta AI app is a privacy disaster gestoßen, der den Horror aufdeckt. Jeder würde wohl bleich werden, wenn der private Browserverlauf öffentlich im Internet stehen würde. Genau das passiere aber sinngemäß bei der Meta AI-App. Leute glauben private Gespräche in der App zu führen, aber diese Inhalte gehen an den Chatbot, der diese veröffentlicht.

Hintergrund des Ganzen sind die Möglichkeiten der App. Stellen Nutzer der KI eine Frage, haben Sie die Möglichkeit, eine Schaltfläche zum Teilen zu betätigen. Diese Aktion führt den Nutzer dann zu einer Vorschau des Beitrags, der dann veröffentlicht werden kann.  Man hat also irgendwie eine Kontrolle, was privat bleiben soll oder nicht – müsste das aber immer genau kontrollieren und darauf vertrauen, weder selbst Fehler zu machen noch das Metas-Entwicklern Fehler passieren.

Etwas unfaire Dialektik: True Facebook-Login

Gut, ist absolut unfaire Dialektik, aber mir sprang sofort mein Beitrag Facebook Wants to Be Your One True Login aus dem Jahr 2011 ins Gedächtnis. Im Beitrag geht es um die Frage, wie sich Facebook-Nutzer auf der Plattform anmelden. Die geben nicht facebook.com ein, um sich dann auf der Seite anzumelden. Vielmehr tippen sie "Facebook login" im Browser ein und verwenden dann den ersten Treffer der Suchmaschine, um zur vermeintlichen Facebook-Anmeldeseite zu kommen.

2011 befasste sich die Webseite readwriteweb.com in einem kleinen Artikel mit dem Thema, dass Facebook die "einzige Anmeldeseite für das Web" werden wollte. Daher kam dieser Artikel bei einer Suche nach Facebook login als erster Treffer. Plötzlich klickten tausende Vertreter der Gattung Homo erectus auf diesen Link. Sie staunten zwar, das "Facebook" mal wieder das Layout der Anmeldeseite geändert hatte. Dies hielt sie aber nicht davon ab, ein Login im Kommentarbereich zu versuchen. Entsprechend geharschte Kommentare schlugen dann im Kommentarbereich der Seite ein, dass man nun endlich das Facebook-Login freischalten solle, und was der Mist solle, man habe drei Mal das Login erfolglos im Kommentarformular versucht.

Nutzer sind blauäugig – und unappetitlich unterwegs

Zurück zum Kernthema: Einige Nutzer der Meta AI-App sind doch arg blauäugig und scheinen sich nicht bewusst zu sein, dass sie diese oben erwähnten Textkonversationen, Audioclips und Bilder öffentlich mit der Welt teilen.

Die Artikelautorin bei Techcrunch scheint das Smartphone neben dem Bett zu haben. Dazu schrieb sie: "Als ich heute Morgen aufwachte, erwartete ich nicht, eine Audioaufnahme eines Mannes mit Südstaatenakzent zu hören, der fragte: 'Hey, Meta, warum stinken manche Fürze mehr als andere?'" Gut, manche Leute werden von Flatulenzen geplagt, und Meta leidet gelegentlich auch an funktionalen Blähungen.

Die Artikelautorin schreibt, dass sie auf Meta in der App gesehen habe, wie App-Nutzer um Hilfe bei Steuerhinterziehung gebeten haben. Oder sie sah Fragen von Nutzern, ob ihre Familienmitglieder wegen ihrer Nähe zu Wirtschaftsverbrechen verhaftet werden würden. Sie erwähnt den Fall, wo jemand fragt, wie man ein Empfehlungsschreiben für einen Mitarbeiter verfasst, der rechtliche Probleme hat, wobei der Vor- und Nachnamen dieser Person im Chat stand.

Meta AI-App Konversionen, Quelle: Screenshot von Techcrunch

Die Sicherheitsexpertin Rachel Tobac wird zitiert, dass sie neben anderen privaten Informationen auch Beispiele für die Privatadressen von Personen und sensible Gerichtsdaten in den öffentlichen Feeds der Meta AI-App gefunden habe. Meta hat auf Anfragen von Techcrunch nicht reagiert.

Könnte auf Trolling hindeuten, schreibt die Autorin, und merkt an, dass die App binnen Stunden zu einer Kloake mutiert. Aber ich denke, ein Großteil der Leute segelt unter der oben skizzierten "Your true Facebook login"-Flagge und hat keine Ahnung, was mit ihren Fragen so passiert.

Ergänzung: Ich bin noch auf diesen Malwarebytes-Artikel zum gleichen Thema gestoßen. Die beschreiben, wie man die Chats privat halten kann – meine Empfehlung: Einfach auf die App und die AI verzichten.

Das ist übrigens die große Gefahr, die ich bei dem ganzen KI-Zeugs so sehe. Die Leute tippen die unmöglichsten Fragen, was ihnen so gerade in den Sinn kommt, als AI-Prompt in die Formulare ein. Sind sie noch angemeldet, ist der Name bekannt – oder der wird samt Telefonnummer mit in der Frage verwurstelt. Das Modell übernimmt brav alles. Und wenn dann ein Fehler passiert und diese Inhalte publik werden, gibt es einen veritablen Datenschutz-GAU. Zeigt, auf welch schmalem Grad die Zunft gerade wandelt – speziell, da diese Sau auf Teufel komm raus mit irrer Geschwindigkeit durch das Dorf getrieben wird, um nur ja der Erste zu sein.