Google tar nya steg för att säkra AI – lanserar CodeMender och AI-bonusprogram

Google presenterar nu flera nya initiativ för att stärka säkerheten inom artificiell intelligens. Bland nyheterna finns lanseringen av CodeMender, en AI-driven agent som automatiskt förbättrar kodsäkerheten, ett uppdaterat Secure AI Framework 2.0 och ett nytt AI Vulnerability Reward Program (AI VRP) för att belöna forskare som hittar säkerhetsbrister i AI-system.

CodeMender: AI för proaktiv kodsäkerhet

Med CodeMender tar Google ett stort steg mot autonomt skydd mot sårbarheter. Verktyget använder avancerade modeller från Gemini-serien för att analysera kod och automatiskt identifiera och åtgärda kritiska säkerhetsproblem.

Bland funktionerna finns:

• Rotorsaksanalys: Identifierar grundorsaken till en sårbarhet, inte bara ytsymtomen.
• Självvaliderande patchar: Genererar och applicerar kodfixar, som granskas av automatiska peer-review-agenter innan slutgiltig verifiering sker.
• Skalbar säkerhet: Förkortar tiden till patchning i öppna källkodsprojekt och ökar den övergripande cybersäkerheten.

AI Vulnerability Reward Program – forskare i centrum

Google stärker samarbetet med den globala säkerhetsforskarkåren genom det nya AI VRP, som klargör vilka AI-relaterade säkerhetsproblem som omfattas och hur belöningar ges. Programmet erbjuder tydliga regler och belöningstabeller, vilket förenklar rapporteringen och ökar incitamenten för att upptäcka och rapportera kritiska brister.

Tidigare AI-relaterade problem som låg under Googles Abuse VRP har flyttats över till det nya AI VRP, vilket skapar större tydlighet för forskare och säkerhetsproffs.

Secure AI Framework 2.0 – säkra AI-agenter

Det uppdaterade SAIF 2.0 tar ett helhetsgrepp på riskerna med autonoma AI-agenter. Bland nyheterna finns:

• Agent risk map: Verktyg för att kartlägga AI-agenter och deras potentiella hot.
• Säkerhetsprinciper: Agenter ska ha tydliga mänskliga kontroller, begränsade befogenheter och synliga handlingar.
• Branschdelning: Riskdata doneras till Coalition for Secure AI Risk Map för att höja säkerheten inom hela industrin.

Framtiden: AI som säkerhetsförstärkare

Googles arbete går utöver att bara hantera hot; företaget vill använda AI för att aktivt stärka cybersäkerheten. Genom samarbeten med myndigheter som DARPA och initiativ som CoSAI (Coalition for Secure AI) ska AI bli ett verktyg som ger säkerhetsförsvarare ett avgörande övertag.

Med CodeMender, AI VRP och SAIF 2.0 visar Google hur artificiell intelligens kan användas för proaktivt skydd och säkerhet, samtidigt som företaget etablerar nya standarder för ansvarsfull AI-användning.

• Här kan du läsa hela pressmeddelandet från Google (engelska) ➞