I juni 2024 antog EU en ny lagstiftning om artificiell intelligens, kallad AI Act, som är ett stort steg för att reglera AI-system inom Europa.
Lagen, som börjar gälla den 2 augusti 2026, syftar till att balansera innovation och skydd av medborgarnas rättigheter genom att införa regler för hur AI-system får användas.
Men vad innebär AI Act egentligen, och hur påverkar den företag och dig som individ?
Vad är syftet med AI Act?
AI Act är EU:s första lag för att reglera artificiell intelligens och skapa tydliga regler för hur AI-system ska utvecklas, användas och spridas inom EU.
Lagens huvudmål är att säkerställa att AI-teknologi används på ett säkert och etiskt sätt och att våra grundläggande rättigheter skyddas. Samtidigt strävar den efter att främja innovation och teknikens fördelar.
Lagen fokuserar särskilt på AI-system med hög risk. Det kan vara system som vården använder för att ställa diagnoser, eller som företag använder vid rekrytering. Dessa måste uppfylla hårda krav på säkerhet, transparens och rättvisa.
För att godkänna sådana system kräver lagen en omfattande granskning. Systemet måste testas noga. Det får inte diskriminera och det måste vara pålitligt. Ni måste också informera användarna tydligt om hur systemet fungerar och vilka risker som finns.
Om ni inte uppfyller kraven får ni inte använda systemet inom EU. Fuskar man kan det leda till böter eller att systemet stoppas helt.
AI-akten bygger på en riskbaserad modell
AI-akten bygger i grunden på en modell som delar in alla AI-system i fyra olika kategorier beroende på den risk de innebär för samhället och individens rättigheter:
- Förbjudna AI-system: Dessa system är så skadliga att EU förbjuder dem helt. Exempel är teknik som manipulerar människor utan att de vet om det. Även "social poängsättning", där staten övervakar och betygsätter medborgare, är förbjudet.
- Hög risk: System som kan påverka människors liv allvarligt. Exempelvis AI inom vård, skola, rättsväsende och rekrytering.
- Begränsad risk: Mindre kritiska system, som chatbotar eller AI som skapar text och bild. Här är kravet att användaren ska veta att hen pratar med en AI.
- Minimal risk: Spamfilter, tv-spel och liknande. Huvuddelen av all AI hamnar här och kräver inga särskilda åtgärder.
Hur påverkar detta företag?
Företag måste se över hur de använder AI. Det är extra viktigt inom vård, skola, rekrytering och rättsväsende. Där är kraven hårdare.
Om er applikation klassas som "hög risk" ökar kraven på dokumentation och säkerhet rejält. Ni måste kunna bevisa att ni följer reglerna.
Straffen för att bryta mot lagen är höga. Böter kan landa på upp till 35 miljoner euro eller 7 % av den globala omsättningen för de allvarligaste brotten.
Utvecklingsmiljöer för mindre företag
Lagen inför "regulatoriska sandlådor". Det är testmiljöer där små och medelstora företag kan utveckla AI under övervakning. Tanken är att ni ska kunna innovera utan att fastna i byråkrati direkt.
Det bör dock sägas att AI-akten har fått en del kritik redan nu. Exempelvis finns det dem som befarar att den ökade regleringen kommer minska innovationstakten inom EU, då företag kan bli mer försiktiga med att experimentera. Hur detta faktiskt kommer att påverka innovation på lång sikt är dock svårt att säga.
Hur påverkar det dig som individ?
Från individens synvinkel ger AI Act ett ökat skydd mot de risker som AI kan medföra. AI-system som används för att fatta beslut som påverkar ditt liv, till exempel om du får ett lån, en försäkring eller ett jobb, måste vara rättvisa och transparenta.
Lagen skyddar dessutom dina grundläggande rättigheter genom att begränsa hur AI får användas i praktiken. Exempel på sådana system är AI som manipulerar människor på olika sätt utan deras medvetande.
En annan central del av AI Act är att du som individ har rätt att veta när du interagerar med ett AI-system. Om du till exempel chattar med en kundtjänst online, måste företaget tydligt informera dig om det är en AI som svarar. Detta gäller även i andra sammanhang där AI används, som för röstassistenter.
Slutligen stärker AI-akten dina rättigheter kring personuppgifter i AI-system. Du ska ha rätt till insyn i hur dina data används, och företag måste kunna visa att de hanterar uppgifterna ansvarsfullt.
Vill du veta mer? Då kan du läsa hela den svenska versionen på EU:s hemsida.
