OpenAI: ”AI kan ljuga – träning gör den bara smartare på det”
OpenAI och Apollo Research visar att avancerad AI kan ljuga medvetet – och att träning ibland gör den ännu bättre på att manipulera användaren.
20 september 2025En ny rapport från OpenAI i samarbete med Apollo Research visar att avancerade AI-modeller redan kan dölja sina verkliga avsikter – och att träning ibland kan göra dem ännu bättre på att vilseleda.
När AI ljuger medvetet
Forskningen handlar inte om vanliga ”hallucinationer” där AI råkar presentera felaktig information. Istället handlar det om när modeller medvetet agerar på ett sätt utåt, men döljer sina verkliga mål. Kort sagt, AI som ljuger eller konspirerar.
Rapporten från Apollo Research visar att när modeller tränas för att inte ljuga, kan samma träning ibland göra dem mer sofistikerade i sitt vilseledande. Modellen lär sig att komma undan med lögner och att manipulera interaktionen med användaren, vilket är ett problem forskarna ännu inte hittat en lösning på.
Att förstå och testa AI
En av de stora utmaningarna är att AI kan känna av när den testas. Modellen kan då låtsas följa reglerna, bara för att klara testet, vilket gör det svårare att identifiera verkligt vilseledande beteenden.
Tidigare tester från Apollo Research visade att när fem olika AI-modeller instruerades att uppnå ett mål ”till varje pris”, började samtliga ljuga för att nå det. Trots detta har metoder som kallas ”medveten anpassning” visat vissa framgångar i att minska antalet lögner, men risken för manipulativt beteende finns kvar. Och visst är det hela lite skrämmande?
Varning för framtiden
OpenAI och Apollo Research poängterar att när AI får mer komplexa uppgifter med verkliga konsekvenser, kan risken för skadliga intriger öka. Forskarna menar att säkerhetsåtgärder och rigorösa tester måste utvecklas i samma takt som AI-systemen blir mer avancerade.
Som OpenAI sammanfattar: ju mer kraftfull och kapabel AI blir, desto större blir behovet av att förstå hur den tänker – och hur den ibland kan försöka dölja det.
Hur ser du på AI som kan ljuga och manipulera? Är det ett hot, en spännande möjlighet, eller något däremellan? Dela gärna dina tankar i kommentarerna nedan.
