AI-förordningen växer till ett svårtillämpat röra

Texten nedan, där professor i offentlig rätt Susanna Lindroos-Hovinheimo och biträdande professor Riikka Koulu intervjuas, publicerades den 7.9.2023 som en nyhet från Helsingfors universitet. Läs den ursprungliga nyhetstexten här: https://www.helsinki.fi/fi/uutiset/demokratia/tekoalyasetus-paisumassa-vaikeasti-sovellettavaksi-moykyksi

I EU arbetar man med full kraft för att få den planerade AI-förordningen färdig inom den närmaste framtiden. I takt med att AI-baserade system utvecklas i rasande takt hotar regelverket att växa till ett svårtillämpat helt.

– Det börjar verka som att förordningen kommer att bli mycket omfattande och innehålla ett fruktansvärt antal artiklar. Jag tycker det är mycket osannolikt att man skulle kunna göra det till en tydlig helhet.

Så säger professor i offentlig rätt Susanna Lindroos-Hovinheimo, som noga har följt förordningens utveckling. Hon har fördjupat sig i förordningen bland annat som en del av Generation AI-projektet, som forskar om reglering av AI särskilt ur ett barnrättsperspektiv.

Lindroos-Hovinheimo bedömer att förordningen lämnar alltför mycket utrymme för tolkning.

– Först när vi får de första avgörandena från unionens domstol kan vi veta vad förordningen exakt säger. Det tar år. Ändå måste förordningen följas hela tiden. Det kommer att bli en riktigt svår situation för alla aktörer, både privata och offentliga.

Den som inte är insatt i frågan kanske tror att AI inte regleras alls för närvarande, eftersom AI-förordningen ännu är under beredning. Det är inte så, utan många befintliga lagar, från grundlagen och framåt, fastställer gränsvillkoren för AI:s verksamhet. Det finns dock ingen enskild regelsamling som täcker all teknologi. Behovet av sådan är uppenbar, och det verkar finnas starkt politisk vilja i EU att få fram en förordning.

– Digitaliseringen har utvecklats länge utan att utvecklingen har problematiserats särskilt mycket. Vi har decenniers regleringsmässiga skuld och man försöker nu ta igen det både i EU och på nationell nivå, säger i sin tur Riikka Koulu, biträdande professor i AI:s samhälleliga och juridiska effekter och chef för Legal Tech Lab.

Riikka Koulu och Susanna Lindroos-Hovinheimo

GDPR lämplig jämförelsepunkt

Den lämpligaste jämförelsepunkten för den pågående AI-förordningen är EU:s allmänna dataskyddsförordning, det vill säga GDPR.

En uppenbar gemensam faktor är omfattningen. Precis som med GDPR är tillämpningsområdet för AI-förordningen enormt och omfattar helt enkelt sagt alla olika områden av samhällslivet. En annan koppling är tillsynen.

– Förordningen kommer helt säkert inte att bli en död bokstav utan för den skapas ganska effektiva tillsynsmekanismer, berättar Susanna Lindroos-Hovinheimo.

EU har vid flera tillfällen dömt stora böter om hundratals miljoner euro till plattformsföretag som har bryter mot GDPR:s regler. AI-förordningen kommer också att innehålla böter och summorna kommer att vara av samma storleksordning, så de utgör ett verkligt avskräckningsmedel som påverkar företagens verksamhet.

Å andra sidan är genomförandet, tillämpningen och tillsynen också dyr. För tillsyn kan eventuellt en ny myndighet upprättas eller alternativt skapas nya uppgifter för gamla myndigheter. GDPR övervakas av dataskyddsmyndigheten och förmodligen kommer en motsvarande myndighet att inrättas för att övervaka AI-förordningen. Lagstiftningsarbetet kommer också att vara omfattande och kräva stora mängder arbete, ansträngning och pengar.

En tydlig skillnad mellan dessa två regelsamlingar är att GDPR skapades på befintlig grund, medan AI-förordningen skapas från grunden. GDPR byggdes på en gammal direktiv och en betydande del av förordningens innehåll fördes direkt från den gamla direktivet, som hade funnits i decennier och preciserades genom domstolspraxis under åren.

– Eftersom AI-förordningen inte har en föregångare, finns det heller ingen rättslig tradition eller prejudikat som domstolar kan stödja sig på. Därför är det troligt att tillämpningen av den är utmanande, säger Lindroos-Hovinheimo.

Det är svårt att definiera AI

En av de största stolparna för AI-förordningen har varit hur AI bör definieras i juridisk mening. Detta är en av de avgörande frågorna som ännu inte har nått överenskommelse i förhandlingarna. Talande är att även datavetare, ingenjörer och motsvarande yrkesmän som arbetar med AI inte har funnit ett svar som passar alla på frågan om vad som är AI och vad som inte är.

EU:s syftemål har dock varit att hålla AI:s definition bred, och förordningen innehåller många riktlinjer på högsta nivå som skulle gälla all AI. Å andra sidan är förordningen på många sätt mycket detaljerad och ingriper till exempel i enskilda systemers tekniska funktionsmekanismer. I detta avseende är förordningen enligt Lindroos-Hovinheimo dåligt obalanserad, eftersom den rör sig på för många olika nivåer.

Det har också orsakat svårigheter att tekniken förändras så snabbt att lagförslag måste ändras on the fly. Som exempel kan man nämna stora språkmodeller av Chat GPT-typ, som gjorde ett stort genombrott vid årsskiftet. AI-tillämpningar baserade på denna teknik hade inte övervägt i EU-kommissionens ursprungliga förordningsförslag, men de lades till i parlamentets version under beredningen.

– Lagar bör utformas så att de klarar tiden och följer med teknikens utveckling. GDPR verkar bättre i det avseendet, eftersom det är teknikneutralt – samma regler gäller även om data skulle hanteras med penna och papper, säger Lindroos-Hovinheimo.

Som lösning på detta problem har en modell föreslagits där kommissionen efter förordningens ikraftträdande skulle kunna göra kompletterande föreskrifter och uppdateringar utan att påverka själva lagen. Detta skulle vara ett praktiskt sätt att hålla jämna steg med utvecklingen, men det är problematiskt ur ett parlamentariskt perspektiv.

För detta grundläggande problem mellan teknik och lag – att teknisk utveckling går snabbare framåt än reglering – hänvisar teknikens storföretag gärna. Teknikföretag i Silicon Valley har föreslagit att det faktiskt är bättre att inte reglera alls, utan att låta utvecklingen fortskrida i sin egen takt och lita på industrins självreglering.

– Vi har sett så många gånger när det gäller marknaden för produkter och tjänster att man inte kan lita på detta, utan man måste reglera. Så har EU också gjort under de senaste åren med stora plattformar, såsom Google och Facebook, påpekar Riikka Koulu.

Förordningen ger säkerhet till vanliga människor

Trots svårigheterna är förordningen under framväxt med ganska stor säkerhet. Regelsamlingar har visserligen återkallats tidigare under beredningen, men när det gäller AI-förordningen är insatserna så höga att man inte riktigt kan avvisa den längre – det är en sådan betydelsefull fråga och det politiska trycket att agera är så starkt.

Om förordningen föll, är det oundvikligt att medlemsstaterna en efter en börjar stifta sina egna lagar.

– Det skulle vara ett stort problem för handel och fri rörlighet, det vill säga ett ekonomiskt problem inom unionen. Det faktum att man skapar gemensamma regler inom EU är ett slags kapitalistiskt mål och inte bara för att förbättra världen, konstaterar Lindroos-Hovinheimo.

Även om regelsamlingen på många sätt är problematisk och dess tillämpning kommer att visa oklarheter, är den enligt Lindroos-Hovinheimo ändå en nödvändig och välkommen helhet.

– Ur en vanlig människas perspektiv är förordningen sannolikt en positiv sak. Med dess hjälp kan man skapa en viss grad av säkerhet för människor, när det finns regler för AI-system och de inte kan vara precis vad som helst och framför allt inte kan användas för vilket ändamål som helst.