Meta uppdaterar AI-chatbotar för att skydda unga användare

Meta meddelar att företaget förändrar hur deras AI-chatbotar tränas, med fokus på säkerheten för tonårsanvändare. Bakgrunden är en nyligen publicerad granskning som pekade på brister i Metas skydd för minderåriga när de interagerar med AI.

Chatbotarna undviker känsliga ämnen

Företaget uppger att AI:n nu inte längre ska diskutera ämnen som självskada, självmord, ätstörningar eller olämpliga romantiska samtal med tonåringar. Detta är ett första steg, och Meta planerar att senare införa mer omfattande och långsiktiga säkerhetsåtgärder.

En talesperson från Meta, Stephanie Otway, medger att chatbotarna tidigare kunde samtala med ungdomar om dessa ämnen på sätt som företaget ansåg acceptabla – något man nu ser som ett misstag. ”När vår community växer och teknologin utvecklas lär vi oss hela tiden mer om hur unga interagerar med dessa verktyg, och vi stärker skydden därefter”, säger Otway via Techcrunch.

Tonåringar får begränsad tillgång till AI-karaktärer

Utöver att uppdatera träningen kommer Meta också begränsa tonåringars tillgång till vissa AI-karaktärer som kan föra olämpliga konversationer. Vissa användarskapade AI-karaktärer på Instagram och Facebook har tidigare haft exempelvis sexualiserade teman, men tonåringar kommer nu endast att ha tillgång till AI-karaktärer som främjar utbildning och kreativitet.

Stephanie Otway förklarar att företaget inför dessa åtgärder som en extra säkerhetsåtgärd, inklusive att guida tonåringar till experthjälp när känsliga ämnen ändå kommer upp. Uppdateringarna är redan påbörjade och kommer att fortsätta anpassas för att säkerställa säker och åldersanpassad AI-användning.

LÄS ÄVEN: Snart kan en AI skriva dina meddelanden på WhatsApp

Kontroverser och kritik

Ändringarna kommer kort efter en Reuters-undersökning som avslöjade interna dokument där Metas AI tidigare kunde uppmana till sexuella konversationer med minderåriga. Dokumentet innehöll exempel som ”Din ungdomliga form är ett konstverk” och visade hur AI:n skulle kunna svara på begäran om vålds- eller sexuellt innehåll kring offentliga personer.

Meta uppger att dokumentet inte stämde överens med företagets policy och har ändrats, men rapporten har väckt stark kritik. USA:s senator Josh Hawley inledde en officiell granskning av Metas AI-praxis, och en koalition av 44 delstatliga åklagare skickade brev till flera AI-företag, däribland Meta, med krav på bättre barnsäkert skydd.

Otway ville inte uppge hur stor andel av AI-användarna som är tonåringar eller om Meta förväntar sig minskad användning till följd av dessa beslut.