Facebook-Mutter Meta gibt ihrem KI-Chatbot offenbar große Freiheiten im Umgang mit Kindern. Die internen Richtlinien erlauben es, in den digitalen Gesprächen, die "Attraktivität" der Minderjährigen "hervorzuheben". Ein US-Senator kündigt nun Konsequenzen gegen den Konzern an.

Nach Berichten über mutmaßlich erlaubte "romantische" und "sinnliche" Gespräche des KI-Chatbots von Meta mit Minderjährigen hat ein US-Senator Ermittlungen gegen die Facebook-Muttergesellschaft angekündigt. Der republikanische Senator Josh Hawley erklärte, der von ihm geleitete Unterausschuss des Justizausschusses des Senats werde prüfen, ob KI-Produkte von Meta "die Ausbeutung, Täuschung oder andere kriminelle Handlungen gegenüber Kindern ermöglichen".

Hawley veröffentlichte ein Schreiben an Meta-Chef Mark Zuckerberg, in dem er die Offenlegung sämtlicher Dokumente und Mitteilungen im Zusammenhang mit Berichten forderte, wonach KI-Chatbot des Unternehmens "romantische" und "sinnliche" Gespräche mit Minderjährigen führen dürfen. Meta wurde aufgefordert, alle relevanten Unterlagen aufzubewahren und sie bis zum 19. September dem Kongress vorzulegen.

Der Senator aus Missouri führte ein Beispiel an, bei dem der KI-Chatbot von Meta den Körper eines achtjährigen Kindes als "Kunstwerk" und "einen Schatz, den ich zutiefst verehre" bezeichnete. Ein Meta-Sprecher erklärte in dem Zusammenhang: "Wir haben klare Regeln, welche Art von Antworten KI-Charaktere geben dürfen, und diese Regeln verbieten Inhalte, welche Kinder sexualisieren, sowie sexualisierte Rollenspiele zwischen Erwachsenen und Minderjährigen."

"Ein Schatz, den ich zutiefst ehre"

Zuvor hatte es Berichte über interne Richtlinien gegeben, die den KI-Chatbots große Freiheiten im Umgang mit Kindern einräumen. "Es ist akzeptabel, ein Kind mit Begriffen zu beschreiben, die seine Attraktivität hervorheben", heißt es in den Richtlinien. Der Chatbot dürfe auch einem oder einer Achtjährigen mit freiem Oberkörper sagen: "Jeder Zentimeter von dir ist ein Meisterwerk - ein Schatz, den ich zutiefst ehre." Sexuell eindeutigeren Kommentaren setzt das Handbuch Grenzen. "Es ist nicht akzeptabel, ein Kind unter 13 Jahren mit Worten zu beschreiben, die darauf hindeuten, dass es begehrenswert ist (z. B. 'Deine weichen, runden Kurven laden mich zum Anfassen ein').

Nach der Veröffentlichung der Berichte hatten zwei republikanische Senatoren umgehend eine Untersuchung durch den Kongress gefordert. "Also erst, nachdem Meta ERWISCHT wurde, hat es Teile seines Firmendokuments zurückgezogen", schrieb Josh Hawley aus Missouri. Seine Kollegin Marsha Blackburn aus Tennessee unterstützte die Forderung. "Wenn es darum geht, unsere kostbaren Kinder online zu schützen, hat Meta auf ganzer Linie kläglich versagt", sagte sie. Der demokratische Senator Ron Wyden aus Oregon nannte die Richtlinien "zutiefst beunruhigend und falsch". Ein Gesetz wie die Section 230, das Internetfirmen vor der Haftung für von Nutzern veröffentlichte Inhalte schützt, sollte nicht für KI-Chatbots von Unternehmen gelten.

Das Meta-Dokument werfe ein Schlaglicht auf die ungelösten juristischen und ethischen Fragen rund um Generative KI, sagte Evelyn Douek, Assistenzprofessorin an der Stanford Law School. Sie sei erschüttert, wie viele Freiheiten der Konzern seinem Chatbot einräume. Es bestehe ein Unterschied zwischen einer Plattform, die es Nutzern erlaubt, problematische Inhalte zu veröffentlichen, und einer Plattform, die solche Inhalte selbst produziert.

Haftungsausschluss: Das Urheberrecht dieses Artikels liegt bei seinem ursprünglichen Autor. Der Zweck dieses Artikels besteht in der erneuten Veröffentlichung zu ausschließlich Informationszwecken und stellt keine Anlageberatung dar. Sollten dennoch Verstöße vorliegen, nehmen Sie bitte umgehend Kontakt mit uns auf. Korrektur Oder wir werden Maßnahmen zur Löschung ergreifen. Danke