ISO 42001 definierar ett AI Management System (AIMS) som ska hjälpa organisationer använda AI kontrollerat, ansvarigt och spårbart.

Samcert berättar om Shadow-AI exempelvis när en anställd klistrar in konfidentiell information i ett öppet AI-verktyg. Problemet är att dessa data lämnar företagets säkerhetszon. De kan hamna i träningsdata för nästa språkmodell. Eller exponeras för tredje part. Eller lagras på servrar utanför EU – redan det ett regelproblem.

Det görs antagligen inte illvilligt. Personen kanske försöker lösa en uppgift snabbt – skriva en rapport, översätta en text, skapa en presentation. Men utsätter omedvetet företaget för risker.

Fenomenet har exploderat enligt konsulten Samcert och föreslår riskanalyser och möjlighetsanalys som försvar.

Samcert säger sig vara först i Skandinavien att certifiera sig enligt ISO 42001.