AI-sårbarheter skjuter i höjden – hoten ökar kraftigt

Antalet sårbarheter relaterade till artificiell intelligens har ökat med 210 procent under det senaste året, enligt bug bounty-plattformen Hacker One. Samtidigt har organisationers användning av AI inom säkerhetsprogram vuxit med 270 procent, vilket visar att tekniken både erbjuder möjligheter och nya risker.

Prompt injection – det snabbast växande hotet

Den typ av attacker som ökar mest är så kallad prompt injection, där användarinmatning manipulerar AI-modeller. Antalet verifierade rapporter inom denna kategori har skjutit i höjden med 540 procent jämfört med 2024, vilket gör det till det mest akuta problemet just nu.

Bioniska hackare och autonoma AI-agenter

Hacker One noterar även att 70 procent av säkerhetsforskare nu använder AI-verktyg i sitt arbete. Företaget beskriver detta som framväxten av ”bioniska hackare”. Ett annat nytt fenomen är autonoma hackbots – AI-agenter som självständigt kan utföra säkerhetstester. Under året har dessa lämnat in över 560 giltiga rapporter, något som kan signalera starten på en ny kapprustning inom cybersäkerhet.

---

Läs även

Läckta personuppgifter från Miljödata sprids nu på Darknet

Framtidens säkerhetslandskap

Rapporten understryker att medan AI erbjuder kraftfulla verktyg för att skydda system, skapar tekniken samtidigt nya typer av sårbarheter som företag måste hantera. Experter menar att förståelsen och hanteringen av dessa risker kommer bli allt viktigare framöver.

• Läs rapporten hos Hacker One i sin helhet ➞