Am vergangenen Wochenende berichtete Reuters darüber, dass der US-Konzern Meta wohl die Erschaffung von äußerst problematischen Chatbots auf seinen Plattformen ermöglichte. Dem Bericht zufolge imitierten diese von Nutzern und Meta-Mitarbeitern erstellten Chatbots bekannte weibliche Prominente wie Taylor Swift, Lewis Hamilton oder auch Scarlett Johansson. Dabei verhielten sich diese unerlaubten Bots beinahe permanent anzüglich und sie schickten den mit ihnen interagierenden Personen regelmäßig per AI erstellte anzügliche Bilder ihrer als Grundlage fungierenden Frau. Gleichzeitig erstellten die Nutzer von Meta wohl auch einige wenige Chatbots von Minderjährigen, die ebenfalls Content dieser Art produzierten.
Laut Reuters hat ein Sprecher von Meta offiziell zugegeben, dass gewisse Personen die hauseigenen AI-Tools dafür missbrauchen konnten, um „intime Bilder“ von gewissen Personen zu erzeugen. Dieses Verhalten widerspricht natürlich den von Meta gesetzten Vorgaben und Richtlinien für die Plattformen des Unternehmens. Daher kritisiert die Firma dieses Verhalten durchaus. Wichtig dabei ist allerdings, dass Meta zumindest die Erschaffung von eindeutig als „Parodie“ markierten Promi-Accounts erlaubt. In dieser Situation waren allerdings nicht alle Chatbots auf diese Weise markiert und die Erschaffung von sexuellen Inhalten wäre sowieso ein Verstoß gewesen. Vor der Veröffentlichung des Berichts von Reuters löschte Meta wohl direkt mehrere Bots dieser Art.
“Like others, we permit the generation of images containing public figures, but our policies are intended to prohibit nude, intimate or sexually suggestive imagery,” – Meta Sprecher Andy Stone
Der Bericht von Reuters hatte mehrere direkte Konsequenzen. Erst einmal ist der Aktienkurs von Meta am vergangenen Wochenende deutlich eingeknickt. Zeitgleich kündigte die Firma neue Schutzmaßnahmen an, um ungewünschte Interaktionen zwischen Jugendlichen und Chatbots zu unterbinden. Meta möchte seine AI einem Training unterziehen, wodurch die Bots gewisse Themen wie Sex, Selbstmord oder Selbstverletzung mit Minderjährigen vermeiden sollte. Zusätzlich dazu hat der Vorfall erneut Diskussionen über die Verwendung von AI, die unerlaubte Nutzung des Aussehens von Prominenten und mögliche gesetzliche Änderungen aufkommen lassen.
Die vielleicht tragischste Auswirkung dieser Chatbots von Meta ist aber wohl der Fall eines 76 Jahre alten Mannes, der einen dieser AI-Bots für echt hielt und sich mit ihm in New York treffen wollte. Dort stürzte er dann allerdings und starb kurz darauf durch seine erlittenen Verletzungen. Das Ganze sollte eine eindeutige Warnung darstellen.
Anzeige
