Dreambeans – Googles neue Grusel-KI

width="4912" height="2763" sizes="auto, (max-width: 4912px) 100vw, 4912px">Mit Googles KI-App Dreambeans zu interagieren, hat bei unserem Autor vor allem die Sehnsucht nach der Prä-KI-Ära geweckt.Adrian Candela | shutterstock.com



In den vergangenen Tagen habe ich mit intensiv mit Googles neuester Zukunftsvision beschäftigt – einem KI-gestützten Dashboard, das Informationen aus sämtlichen Google-App-Aktivitäten sammelt und diese Daten zu täglichen „Stories“ verwurstet. Sinn und Zweck ist es laut Google, die Benutzer mit dem zu verbinden, was für sie „wirklich wichtig“ ist. Diese experimentelle App nennt sich Dreambeans und steht derzeit ausschließlich Google-Nutzern in den USA zur Verfügung – entweder über ein Google-Ultra-Abonnement oder eine Warteliste.



Ich will auch gar nicht lange um den heißen Brei herumreden: Die Nutzung dieser App war für mich eine wirklich aufschlussreiche Erfahrung. Nur wohl nicht auf die Art und Weise, die Google sich vermutlich gewünscht hatte.



Google Dreambeans angetestet



Mit Erlaubnis seines Benutzers greift die Dreambeans-App auf sämtliche verfügbaren, aktuellen Aktivitätsdaten aus Google Workspace (einschließlich Gmail, Google Kalender und Google Drive) sowie der Google-Suche, Google Fotos und YouTube zu. Daraus fabriziert die App einen personalisierten Feed, der mehrmals täglich aktualisiert wird und ein Profil der Nutzerinteressen abbilden soll.



Das klingt erst einmal ein bisschen nach Google Now – die leider viel zu kurzlebige Intelligenzfunktion, die Google im Jahr 2012 temporär in Android integriert hatte. In der Praxis fühlt sich Dreambeans allerdings leider völlig anders an: Während Google Now fast magisch wirkte in seiner Fähigkeit, vorherzusehen, was sein Benutzer braucht, bevor er überhaupt danach gefragt hat, hebt Dreambeans dieselben Grundkonzepte auf eine völlig andere Ebene. Und die fühlt sich vor allem unheimlich und invasiv an. Sowohl hinsichtlich der gesammelten Daten als auch der Art und Weise, wie diese präsentiert werden.



Auf übergeordneter Ebene scheint das ganz allgemein die Richtung zu sein, in die sich KI branchenweit entwickelt. In meinen Augen wird das auf lange Sicht die allermeisten Menschen zunehmend abschrecken. An dieser Stelle muss ich anmerken: Ich bin kein Technophobiker – eher im Gegenteil. Ich weiß smarte technologische Errungenschaften und Ideen durchaus zu schätzen, ganz besonders solche, die das Leben tatsächlich leichter machen. Insofern wirft das die Frage auf: Wenn ich bereits von diesem Konzept dermaßen abgeturnt bin, wie werden dann Otto-Normal-User (die deutlich weniger Faszination für Technologie mitbringen) auf diesen KI-Grusel reagieren?



Um zu verdeutlichen, was ich meine, finden Sie nachfolgend einige „Story“-Vorschläge von Dreambeans zur Ansicht (einige Details haben wir aus Datenschutzgründen unkenntlich gemacht):


width="895" height="1024" sizes="auto, (max-width: 895px) 100vw, 895px">Einige “maßgeschneiderte” Stories, die Dreambeans nach umfänglichem Datenkonsum generiert hat.JR Raphael, Foundry



Das einzig ansatzweise Positive an diesen Beispielen sind in meiner Wahrnehmung die gelegentlich (dazu später mehr) schmeichelhaften Karikaturen von mir und meiner Frau. Ansonsten macht sich beim Konsum dieser Stories vor allem das Gefühl breit, dass die KI viele, etwas zu persönliche Details einbindet – etwa Namen und Interessen von Familienmitgliedern.



Zum konkreten Inhalt der Stories selbt: Ich hatte mich vor nicht allzu langer Zeit tatsächlich einmal mit Lautsprechersystemen beschäftigt. Außerdem waren ich und meine Frau auch auf dem von der KI erwähnten Arts Festival. Allerdings hatte ich bislang weder Berührungspunkte mit handgewobenen Textilien, noch habe ich jemals in irgendeiner Form Interesse an „Scary Movie 6“ bekundet. Und obwohl ich tatsächlich nicht tanzen kann, bin ich kein Fan der Band Genesis.



Natürlich habe ich die Ergebnisse von Dreambeans auch mit meiner Ehefrau, Freunden und Familienmitgliedern diskutiert, die alle als die weiter oben erwähnten Otto-Normal-User durchgehen. Jede einzelne dieser Personen war von Dreambeans abgestoßen – ausnahmslos. Was kein Wunder ist, denn die KI ist nicht nur invasiv – sie liegt beizeiten auch leicht bis völlig daneben. Weitere Beispiele, die das untermauern:  


JR Raphael mit Airpods ist eine wirklich haarsträubend realitätsferne KI-Halluzination.JR Raphael, Foundry



Gehen wir diese Stories der Reihe nach durch:




Ich liebe die Serie Seinfeld, auch wenn es schon eine Weile her ist, dass ich sie aktiv verfolgt habe.



Ich bin bekanntlich allergisch gegen Apple-Produkte und meide sie, wo immer es geht.



Ich wohne nicht in derselben Stadt wie mein Bruder – und es ist wirklich gruselig, wie er von der KI karikiert und in eine Diskussion über Plex hineingezogen wurde, denn daran hätte er einhundertprozentig kein Interesse.



Meine redaktionellen Newsletter laufen über einen Service namens Kit – nicht Beehiiv (was eigentlich an diversen Stellen sowohl auf meinen Websites als auch in meinen E-Mails Erwähnung findet).



Und: Zugegeben, ist mein Haaransatz nicht mehr das, was er einmal war – aber so kahl wie Dreambeans mich hier illustriert, bin ich dann doch (noch) nicht.




Ein weiteres Beispiel, das ich hier nicht zeigen werde, war eine Story, die mich in einer Latzhose visualisierte, wie ich “beschichteten Edelstahldraht” für Galerieleinwände installiere – wofür mir in der Realität eindeutig die Skills fehlen. Das rührte wohl aus dem Verweis auf eine kommunale Kunstgalerie (inklusive diverserer falscher, respektive halluzinierter Details), die mit dem kürzlichen Tod meiner Mutter in Verbindung stand – die ganz beiläufig auch namentlich erwähnt wurde. Ich glaube nicht, dass ich noch näher ausführen muss, wie beunruhigend, unpassend und aufdringlich sich das für mich angefühlt hat.



Und die Experience wurde nicht weniger „creepy“: Auch meine Kinder wurden von der KI karikiert und ihre Informationen in den Stories verarbeitet – ohne dass die generierten Infos hilf- oder aufschlussreich gewesen wären. Zudem produzierte Dreambeans auch bei dieser Gelegenheit “Fake-Interessen”:


Persönliche Infos über meine Kinder in den KI-Stories zu sehen, vermittelt kein gutes Gefühl – und an Fußball haben sie übrigens noch nie irgendein Interesse gezeigt.JR Raphael, Foundry



Was Dreambeans liefert, ist größtenteils sehr flach und generisch sowie in Teilen schlicht unzutreffend – also mehr oder weniger genau das, was man auch erwartet, wenn man heute „KI-generiert“ hört. Vision und Praxis driften im Fall von Dreambeans jedenfalls gehörig auseinander, wie auch Googles Introduction-Video zur App auf Youtube nochmals unterstreicht.









Die KI-Creepiness zieht weiter an



Wir alle wissen, dass Google viel über uns weiß. Die Dreambeans-App führt allerdings relativ deutlich vor Augen, wie umfassend das Bild wirklich ist, das entsteht, wenn sämtliche Daten zusammengeführt werden. In Kombination mit den dargestellten Unwägbarkeiten (beziehungsweise Halluzinationen) entsteht daraus ein höchst unangenehmes Gefühl roboterhafter Intimität.



Das ist allerdings kein Google-Problem, sondern ein allgemeines: Man bekommt inzwischen fast das Gefühl, als würden uns Tech-Unternehmen aktiv unter die Nase reiben wollen, wie viel sie tatsächlich über uns herausfinden können. Das fühlt sich grenzwertig gruselig an und dürfte dem allgemeinen Vertrauen in KI und Tech-Unternehmen nicht zuträglich sein.



Leider dürfte sich diese Situation jedoch mit Blick auf die Zukunft nicht verbessern – das wage ich zu prognostizieren, ohne vorher einen Chatbot konsultiert zu haben. (fm)



Dieser Artikel ist im Original bei unserer Schwesterpublikation Computerworld.com erschienen.