Meta ändert AI-Vorschläge nach übergriffigen persönlichen Fragen
TL;DR
Meta ändert die Prompt-Vorschläge seines AI-Chatbots, nachdem ein virales Video gezeigt hat, wie Meta AI nach persönlichen Informationen über die kleinen Töchter einer Frau fragte. Zuerst hatte Futurism darüber berichtet. Die Instagram-Nutzerin Kalie Robins hatte einen Clip von sich und ihrem Kind auf Facebook geteilt, darunter schlug Meta AI die Frage „Wer ist das mitfahrende Kind? “ vor.
Nauti's Take
Positiv: Meta hat schnell reagiert und den Fehler öffentlich eingeräumt, das ist bei Datenschutzpannen keine Selbstverständlichkeit. Kontextbezogene Vorschläge haben durchaus Potenzial, Leute zu nützlichen Funktionen zu führen.
Das Problem liegt im Design: Ein System, das automatisch Fragen zu Kindern in Videos erzeugt, zeigt, dass Guardrails vor dem Launch offenbar zu kurz gekommen sind. Eltern sollten prüfen, welche AI-Funktionen auf ihren Accounts aktiv sind.
Quellen