Dataklassificeringsramverk för företags-AI: Kontrollera vad som flödar genom dina lokala modeller

Varför dataklassificering är grunden för styrd AI

De flesta organisationer som driftsätter AI lokalt gör det för att de behöver kontroll över känsliga data. Men att köra modeller inom den egna infrastrukturen innebär inte automatiskt att data hanteras korrekt. Utan ett klassificeringsramverk kan ett lokalt AI-system fortfarande exponera konfidentiell information för obehöriga användare, blanda sekretessbelagda och publika data i samma hämtningspipeline, eller logga känsligt innehåll i granskningsspår som är tillgängliga för fel roller.

Dataklassificering tillhandahåller reglerna som bestämmer vilken information som kan matas in i ett AI-system, hur den får bearbetas, vem som får se resultaten och var de lagras. För organisationer som verkar under EU:s AI-förordning, GDPR eller sektorsspecifika regleringar som PSD2 eller NIS2 är dessa regler inte valfria. De utgör grunden för att visa att AI-systemen hanterar data på ett kontrollerat, dokumenterat och granskningsbart sätt.

Utmaningen är att traditionella dataklassificeringsscheman utformades för dokument och databaser, inte för de dynamiska flerstegspipelines som kännetecknar moderna AI-arbetsbelastningar. När en användare ställer en fråga till en AI-agent som hämtar dokument, genererar inbäddningar, dirigerar mellan modeller och anropar externa verktyg måste dataklassificering tillämpas i varje steg.

Bygga en klassificeringstaxonomi för AI-arbetsbelastningar

Ett praktiskt dataklassificeringsramverk för företags-AI opererar vanligtvis på fyra till fem nivåer. En vanlig struktur använder nivåerna Publik, Intern, Konfidentiell och Begränsad, även om de exakta benämningarna bör matcha organisationens befintliga informationssäkerhetspolicy. Nyckeln är att utvidga denna taxonomi så att den täcker AI-specifika datatyper: prompter, hämtade dokumentfragment, inbäddningar, modellsvar, agentverktygens in- och utdata, utvärderingsdataset och granskningsloggar.

Varje klassificeringsnivå bör definiera tydliga regler för tre domäner. För det första, intagskontroller: vilka data som får matas in i vilka modeller och pipelines. Till exempel kan Begränsade data som personliga hälsouppgifter eller finansiella kontouppgifter enbart bearbetas av en dedikerad lokal liten språkmodell utan extern anslutning, medan Interna data kan flöda genom en generell företags-LLM. För det andra, bearbetningskontroller: huruvida data får användas för finjustering, lagras i vektordatabaser eller cachas i semantiska svarslager. För det tredje, utdatakontroller: vem som kan ta emot AI-genererade svar som producerats från klassificerat källmaterial och vilken redigering eller filtrering som måste tillämpas före leverans.

Denna taxonomi bör dokumenteras, versionshanteras och granskas minst årligen eller när nya AI-användningsfall introduceras. Den bör ägas gemensamt av intressenter inom dataskydd, informationssäkerhet och AI-styrning.

Tillämpa klassificering genom AI-pipelinen

Ett klassificeringsramverk är bara användbart om det tillämpas på systemnivå, inte bara i policydokument. I praktiken innebär detta att bygga in tillämpningspunkter i AI-arkitekturen.

I intagslagret bör dokument som kommer in i en RAG-pipeline taggas med sin klassificeringsnivå innan de delas upp och omvandlas till inbäddningar. Denna metadata måste bestå genom vektordatabasen så att hämtningsfrågor kan filtreras efter den begärande användarens behörighetsnivå. Ett behörighetsmedvetet hämtningssystem säkerställer att en användare med Intern behörighet inte kan hämta fragment från Konfidentiella dokument, även om dessa fragment är semantiskt relevanta för frågan.

I inferenslagret bör modelldirigering beakta dataklassificering. En plattform som VDF AI kan stödja dirigeringsregler som skickar Begränsade förfrågningar till isolerade lokala SLM:er medan Interna förfrågningar tillåts använda mer kapabla företags-LLM:er. Detta förhindrar att känsliga data når modeller som körs i mindre kontrollerade miljöer.

I utdatalagret bör svarsfiltrering och redigeringsmekanismer granska AI-utdata för klassificerad information före leverans. Detta är särskilt viktigt för agentbaserade arbetsflöden där en AI-agent kan komponera ett svar genom att kombinera information från flera källor med olika klassificeringsnivåer.

I loggningslagret måste granskningsspår själva klassificeras. Loggar som innehåller prompter eller svar härledda från Begränsade data måste lagras med lämpliga åtkomstkontroller och bevarandepolicyer. Detta är ett område som många organisationer förbiser: granskningsspåret som är utformat för att bevisa regelefterlevnad kan i sig bli en dataskyddsrisk om det inte klassificeras korrekt.

Scenario: En finansiell organisation implementerar AI-dataklassificering

Tänk dig en europeisk bank som driftsätter en lokal AI-assistent för sina efterlevnadsanalytiker. Assistenten använder RAG för att svara på frågor om regulatoriska inlämningar, interna revisionsrapporter och sammanfattningar av kundtransaktioner. Utan dataklassificering behandlar systemet alla dokument lika, vilket potentiellt kan tillåta en junior analytiker att få AI-genererade sammanfattningar som refererar till revisionsresultat på styrelsenivå eller individuella kunders transaktionsmönster.

Med ett klassificeringsramverk på plats taggar banken regulatoriska inlämningar som Interna, revisionsrapporter som Konfidentiella och kundtransaktionsdata som Begränsade. RAG-pipelinen filtrerar hämtningar baserat på analytikerns roll. Modelldirigering skickar Begränsade förfrågningar till en dedikerad SLM som körs i en isolerad beräkningsmiljö utan nätverksutgång. Svarsloggar för förfrågningar som involverar Begränsade data lagras i en separat, åtkomstkontrollerad granskningsdatabas med en förkortad bevarandeperiod i linje med GDPR:s dataminimeringsprinciper.

Detta tillvägagångssätt garanterar inte full regelefterlevnad, men det skapar den tekniska grunden för att visa kontrollerad datahantering för interna revisorer, dataskyddsombud och tillsynsmyndigheter.

Integration med EU:s AI-förordning och GDPR-krav

EU:s AI-förordning kräver att högrisk-AI-system implementerar lämpliga datastyrningsåtgärder, inklusive kontroller av datakvalitet, relevans och representativitet. Dataklassificering stöder direkt dessa krav genom att säkerställa att träningsdata, utvärderingsdata och driftsdata hanteras, märks och hanteras enligt dokumenterade policyer.

Under GDPR stöder dataklassificering principen om ändamålsbegränsning genom att säkerställa att personuppgifter som matas in i en AI-pipeline enbart bearbetas för det dokumenterade ändamålet kopplat till dess klassificeringsnivå. Det stöder även dataminimering genom att möjliggöra att onödiga datakategorier utesluts från AI-bearbetning.

För organisationer som följer ISO/IEC 27001 är dataklassificering redan ett kärnkrav i informationssäkerhetsledningssystemet. Att utvidga denna klassificering till AI-arbetsbelastningar är en naturlig utveckling som visar mogna säkerhetsrutiner för revisorer och certifieringsorgan. Likaså förväntar sig ISO/IEC 42001 för AI-ledningssystem dokumenterade kontroller av datahantering genom hela AI-livscykeln.

Nyckeln är att behandla dataklassificering inte som en separat AI-styrningsövning utan som en utvidgning av det befintliga informationssäkerhetsramverket.

Hur Sysart hjälper till att utforma dataklassificering för AI

Sysart Consulting samarbetar med företag för att utvärdera deras nuvarande dataklassificeringsrutiner, identifiera luckor när dessa ramverk tillämpas på AI-arbetsbelastningar och utforma tillämningsarkitekturer som integrerar med lokala AI-plattformar. Detta inkluderar kartläggning av befintliga klassificeringstaxonomier mot AI-pipelinesteg, design av behörighetsmedveten hämtning för RAG-system, definition av modelldirigering baserad på datakänslighet samt etablering av klassificerad granskningslogghantering.

Resultatet är en AI-infrastruktur där dataklassificering inte är en eftertanke utan en strukturell egenskap hos systemet. När regulatorer, revisorer eller styrelseledamöter frågar hur känsliga data hanteras i era AI-system är svaret inbyggt i själva arkitekturen.

Utvald bild av Kvistholt Photography på Unsplash.