Elon Musk will weniger restriktiv sein als Mitbewerber. Das setzt der US-Unternehmer vor allem auf seiner Plattform X, früher Twitter um. Auch die dortige Künstliche Intelligenz „Grok“ soll weniger Anfragen ablehnen als vergleichbare Angebote von OpenAI, Google oder Microsoft.

Beim neuesten Trend, mit dem Nutzer die Bildgenerierung von „Gork“ auffordern, Fotos von Personen im Bikini zu zeigen, hat die Technik allerdings zu viel Freiraum erhalten. In den letzten Tagen hat „Grok“ auf Nutzeranfragen hin auch sexualisierte Bilder von Minderjährigen erstellt und damit massive Kritik hervorgerufen. Die KI verstößt mit den Bildern auch gegen die eigenen Nutzungsbedingungen, die eine Sexualisierung von Kindern verbieten.

Es seien „Schwachstellen in unseren Sicherheitsvorkehrungen festgestellt“ worden, hieß es in einem Post am Freitagabend auf X. Diese sollten nun „mit größter Dringlichkeit“ behoben werden. „Die Verbreitung von kinderpornografischem Material ist illegal und verboten“, stellte die KI fest. Der KI-Chatbot hatte mit der Generierung anzüglicher Fotos Empörung bei X-Nutzern und massive Kritik ausgelöst.

Bereits an Silvester entschuldigte sich der Chatbot dafür, ein Bild von zwei Mädchen im Teenager-Alter „in sexualisierten Outfits“ erstellt und geteilt zu haben. „Es handelte sich um ein Versagen unserer Sicherheitsvorkehrungen, und ich entschuldige mich für alle dadurch entstandenen Schäden“, schrieb Grok auf X.

In einem weiteren Post hieß es zur Erläuterung, dass es „vereinzelte“ Fälle gegeben habe, „in denen Nutzer KI-generierte Bilder von Minderjährigen in knapper Bekleidung angefordert und erhalten“ hätten. Vertreter von Musks Unternehmen xAI, das Grok entwickelt und X betreibt, reagierten nicht auf eine Anfrage der Nachrichtenagentur Bloomberg nach einer Stellungnahme.

„Put him in a bikini“ – ein fragwürdiger Trend auf X

X-Nutzer können direkt auf der Plattform mit „Grok“interagieren, indem sie dessen Konto in Beiträgen markieren und den Chatbot zur Antwort auffordern. „Grok“ generiert Texte und Bilder, die als Beiträge im sozialen Netzwerk erscheinen. Beim aktuellen Trend, Leuten ein Bikini anzuziehen, tauchen neben ohnehin leicht bekleideten Influencerinnen auch US-Politiker, Nordkoreas Diktatur Kim Jong-un oder Investorenlegende Warren Buffett auf.

Und auch Musk selbst ließ sich von „Grok“ einen Bikini anziehen.

Die vermeintlich witzigen Bilder werden dabei gegen den Willen der betroffenen generiert, darunter auch viele Frauen, die virtuell „ausgezogen“ werden. Das US-Portal „The Atlantic“ schreibt bereits von einer „Pornografie-Maschine“, die Musk geschaffen habe. Zu den größten Geschmacklosigkeiten gehört auch ein KI-generiertes Bild einer politischen Beraterin mit jüdischen Vorfahren, die auf Anforderung eines Nutzers im Bikini vor dem Eingang des Konzentrationslagers Auschwitz gezeigt wurde.

Laut „Politico“ ermittelt die Pariser Staatsanwaltschaft inzwischen zur Verbreitung der sexualisierten Deepfakes. Demnach hatten zwei französische Abgeordnete an die Staatsanwaltschaft gewandt, nachdem Tausende sogenannter Deepfakes von Grok erstellt worden waren.

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke