Publicerad
Författare
Lizette Olofsson, Emeli Olaison
AI-förordningen (EU AI Act) är EU:s nya regelverk för artificiell intelligens. Förordningen är en produktlagstiftning och omfattar alla som utvecklar eller tillhandahåller och använder AI-system inom EU. Lagstiftningen är människocentrerad och delar in AI i olika risknivåer beroende på hur stor risk systemet bedöms ha utifrån människors hälsa, säkerhet och grundläggande rättigheter. De olika risknivåerna är; förbjuden användning, hög-risk, begränsad risk eller minimal risk. Ju högre risk ditt AI-system har desto mer omfattande krav ställs. Vilka skyldigheter som påverkar din organisation beror också på vilken roll du har i AI-värdekedjan, de vanligaste rollerna är leverantör (utvecklare) och tillhandahållare (användare) av AI-systemet.
AI blir allt vanligare på dagens arbetsplatser – från rekrytering och schemaläggning till analys av prestationer. Tekniken kan bidra till effektivare processer och frigöra tid, men den påverkar också arbetsmiljön på nya sätt. För medarbetare kan AI innebära både stöd och oro: stöd genom enklare administration men oro och stress om transparens och rättvisa saknas. Därför är det viktigt att arbetsgivare ser AI, inte bara som ett verktyg utan också, som en faktor som på olika sätt påverkar arbetsmiljön. HR-system som används för rekrytering, urval, befordran eller uppföljning av anställda kan klassas som hög risk enligt AI-förordningen. Om du är ”leverantör” av ett HR-system med dessa funktioner ställs omfattande krav på bland annat riskhanteringssystem, teknisk dokumentation, cybersäkerhet, information till användare, kvalitetsledningssystem och registrering av systemet i en EU-databas. Och, om du är ”tillhandahållare” av (har köpt in och använder) ett HR-system med ovan nämnda funktioner måste du bland annat säkerställa att personalen som använder systemet har tillräcklig AI-kunnighet och följer leverantörens instruktioner, ha funktion för mänsklig kontroll, övervakning och incidenthantering på plats, informera fack och medarbetare samt vid behov genomföra en konsekvensbedömning enligt GDPR.
Förordningen har redan antagits och trädde i kraft i augusti 2024. Tillämpning av de olika delarna i lagstiftningen kommer att ske stegvis under de närmaste åren. Dessa regler har redan trätt ikraft:
AI-system som anses innebära en oacceptabel risk är förbjudna sedan 2 februari 2025. Hit hör sådan teknologi som innebär oacceptabla risker för människors hälsa säkerhet och grundläggande rättigheter. Detta inkluderar bland annat manipulerande eller vilseledande tekniker, utnyttjande av sårbarheter, social poängsättning och känsloigenkänning på arbetsplatsen.
Företag som tillhandahåller eller använder AI-system ska säkerställa att deras personal har nödvändig kunskap för att använda och hantera systemet på ett ansvarsfullt sätt. Det betyder att till exempel rutiner, policys och utbildningar ska vara på plats för att säkerställa en tillräckligt hög förståelse för ansvarsfull användning av AI-systemen i organisationen.
Med AI för allmänna ändamål avses generativ AI, det vill säga AI som skapar nytt innehåll som texter, bilder och video. Generativ AI byggs in i många av de AI-system som idag används våra organisationer och reglerna omfattar bland annat att säkerställa transparens, upphovsrätt samt trygghet och säkerhet. Syftet är att skapa trygghet kring kraftfulla AI-modeller som kan påverka många sektorer.
Reglerna för vissa hög-risk-system, inklusive HR-system, börjar tillämpas i augusti 2026. Det kan låta långt bort men att anpassa både system, rutiner och organisation tar tid. Därför är det klokt att börja förberedelserna redan nu.
AI-förordningen innebär skärpta krav och större ansvar för HR-organisationer, men det är också en chans att bygga förtroende. Genom att visa att ni arbetar ansvarsfullt med AI kan ni stärka ert varumärke, skapa en trygg arbetsmiljö, använda teknologi i framkant som gynnar innovation. På så sätt blir regelefterlevnad inte bara en skyldighet, utan också en möjlighet och konkurrensfördel.
Detta är del 1 av 3 i en serie gästbloggar från Wisepoint. Wisepoint är juristbyrån med fokus på AI-juridik och etik. De kan hjälpa dig inom alla juridiska områden som berör ditt AI-projekt! Om du vill veta mer om hur ditt företag kan förbereda sig för AI-förordningen eller om du söker rådgivning inom AI och regelefterlevnad, kontakta Wisepoint för att boka en konsultation med deras experter! De erbjuder även kurser inom AI-juridik.
