Guide til EU AI Act – hvorfor gælder AI-forordningen for alle organisationer?

Kunstig intelligens ændrer måden, vi arbejder på, hurtigere end nogen tidligere teknologisk revolution. EU’s AI Act indfører fælles regler for hele Europa. Essensen er enkel: AI kan udvikles og anvendes, men ikke på hvilken som helst måde. AI, der understøtter forretning og arbejder til gavn for mennesker, skal være transparent, retfærdig og sikker.

Hvem bærer ansvaret, hvis beslutninger træffes af maskiner? Hvordan ved vi, om vi taler med en maskine eller et andet menneske? Har intelligente maskiner brug for menneskelig overvågning? Den hurtige udvikling af AI-teknologi udfordrer os til at tage stilling til mange spørgsmål.

AI skal være sikker og retfærdig for alle. Dette princip er kernen i verdens første AI-lovgivning, EU AI Act. Hver organisation skal sikre, at den anvendte AI-teknologi er sikker og bruges ansvarligt.

EU’s AI-forordning kræver, at medarbejdere uddannes, så alle forstår de anvendte AI-systemers funktionsprincipper, ved hvordan de bruges ansvarligt og kan vurdere potentielle risici og forstyrrelser.

Forordningen har ikke til formål at begrænse innovation, men at skabe tillid. Målet er at sikre, at kunstig intelligens er til for mennesker. Reglerne definerer, hvordan AI udvikles, implementeres og overvåges, så menneskers rettigheder, sikkerhed og lighed altid er udgangspunktet.

Sikkerheden i kunstig intelligens skabes som en del af organisationskulturen: hvordan mennesker anvender teknologi, hvordan beslutninger begrundes, og hvor gennemsigtige processerne er. Sikkerhed og retfærdighed bygges på mange niveauer – fra det operationelle til det strategiske.

Fejl sker, og det er menneskeligt. Men at minimere risikoen for fejl er kernen i AI-forordningen. Hvad sker der for eksempel, hvis en medarbejder bruger en AI-applikation på en måde, der fører til et alvorligt databrud, eller hvis et nyt kundesystem afslører bias, der påvirker mange menneskers liv? Det er afgørende, at risici er forudset, og at håndteringen af dem er dokumenteret på forhånd.

Risikostyring i forbindelse med kunstig intelligens kræver ofte tæt samarbejde i organisationen, for eksempel mellem ledelse, IT og HR. Systemopsætning og informationsstyringsmodeller er primært tekniske løsninger, mens træning af medarbejdere ofte er en del af HR og kompetenceudvikling. Ved kortlægning af risici og sikring af transparens er det værdifuldt at involvere hele organisationen i processen.

Reguleringen guider os til at vurdere både anvendelsen og konsekvenserne. Risiciene vurderes ud fra, i hvilken grad brugen af AI kan påvirke menneskers grundlæggende rettigheder, sikkerhed, sundhed eller levegrundlag.

Kunstig intelligens er ikke i sig selv hverken god eller farlig. Det er i arbejdet, at hver medarbejder vælger, hvordan og hvor AI bruges. Microsoft 365 Copilot er en general purpose AI (GPAI). Den kan bruges til mange formål: skrivning, idéudvikling, problemløsning og beslutningstagning – men også til uetisk brug, som fx at vildlede mennesker.

Hver medarbejder bør have et mentalt ”trafiklys” i baghovedet. I det daglige arbejde ligger ansvaret både hos arbejdsgiver og den enkelte medarbejder.

Ansvarlig brug af AI – trafiklysmodel:

🔴 forbudt brug, der bryder med menneskerettigheder eller organisationens retningslinjer
🟡 kræver vurdering og omtanke, fx hvis det vedrører personer eller beslutninger
🟢 tilladt og sikker brug, men med krav om transparens

Det første og vigtigste skridt mod sikker og ansvarlig brug af AI er at træne medarbejderne. Udviklingen mod en AI-native organisation i en tid præget af kunstig intelligens begynder med en medarbejderstab, der har stærke AI-kompetencer. Dette kræver investering i kompetenceudvikling og i at dele den viden, der opnås. Samarbejde på tværs af teams og fagligheder danner grundlaget for en succesfuld anvendelse af kunstig intelligens.

Ifølge EU’s AI-forordning (artikel 4) er det arbejdsgiverens ansvar at sikre, at medarbejderne har tilstrækkelige AI-kompetencer i deres arbejde. Med andre ord har arbejdsgiveren pligt til at sikre, at alle, der bruger kunstig intelligens, har en tilstrækkelig forståelse af AI’s funktionsprincipper, anvendelser, begrænsninger og risici. Det handler om at kunne stille de rigtige spørgsmål: Kan jeg bruge dette i mit arbejde? Hvem kan det påvirke? Og hvem bærer det endelige ansvar? Tilstrækkelig kompetence afhænger af den enkelte jobfunktion. For eksempel har rekrutteringsansvarlige, undervisere, sælgere, ledere og analytikere behov for forskellige typer AI-kompetencer. Derfor bør træningen også være rollebaseret.

I praksis kan medarbejdernes AI-kompetencer og modenhed udvikles ved at tilbyde træning i alsidig og ansvarlig brug af Microsoft 365 Copilot. Udover fælles træning for alle kan de nødvendige AI-kompetencer i den enkelte rolle styrkes gennem målrettet, rollebaseret træning.

• Træning af medarbejdere

• Opdaterede AI-retningslinjer

• Informationsstyringsmodel og informationssikkerhed

• Risikovurdering og dokumentation af risikostyring

• AI-strategi

Det er også vigtigt, at organisationen har klare AI-retningslinjer, der definerer, hvilke AI-applikationer der er tilladt, og hvordan de må anvendes. På den måde styres brugen af kunstig intelligens i forskellige use cases, arbejdsopgaver og processer, samtidig med at organisationens risikostyring holdes inden for klare rammer. Med andre ord begynder udviklingen af fremtidens AI-native organisation med klare AI-retningslinjer og træning af medarbejderne.

Afslutningsvis er det vigtigt at huske, at AI anvendes af helt almindelige mennesker. I en AI-native organisation er kunstig intelligens en naturlig del af hver medarbejders arbejdsdag. Vidensdeling, fælles læring og løbende træning skaber grundlaget for at udnytte mulighederne i kunstig intelligens effektivt og sikkert. Over tid opstår en fælles forståelse og kontrollerede, sikre arbejdsmetoder.

Microsoft 365 Copilot og Microsoft 365 Copilot Chat er ISO 42001-certificerede AI-systemer. Certificeringen muliggør en kontrolleret og sikker anvendelse, der understøtter forretningsmål. Microsoft 365 Copilot Chat bruger ikke organisationens data til at træne AI-modeller, og organisationens data deles ikke uden for organisationen. Microsoft 365 Copilot er sikker – også ved håndtering af følsomme eller fortrolige oplysninger. Alle samtaler og data forbliver inden for organisationen.

Sikker og retfærdig brug af kunstig intelligens er alles ansvar. Selvom mange processer og daglige opgaver kan automatiseres, kræver opretholdelse af sikkerhed menneskelig overvågning. Det er vigtigt, at den endelige beslutningskompetence i vigtige forhold ikke ubemærket overgår til AI-systemer, men at mennesker anvender deres faglige vurdering. Det er mennesker, der sætter retningen – og mennesker, der træffer de vigtige beslutninger.