AI & Juridiken – Del 1

Artificiell intelligens slår just nu igenom med full kraft i vårt samhälle. Men vad är AI? Hur hänger AI ihop med digitaliseringen av samhället? Vad innebär det i ett rättsligt perspektiv om vi i vår organisation använder eller planerar att börja använda AI? Vilka rättsregler är tillämpliga vid utveckling och användning av AI? Hur ser de befintliga och kommande regelverken ut på AI-området? Vilken rättspraxis finns? Och, vad behöver man tänka på som jurist, upphandlare eller utvecklare när organisationen ska börja använda AI?

Vi inleder utbildningen med att förklara vad AI är, där vi går igenom dess historia, bakgrundoch definition, centrala begrepp, såsom maskininlärning, algoritmer och automatisering, AI-värdekedjan samt samhälleliga aspekter kring AI och digitaliseringen. Att behärska det tekniska språket och förstå vad de olika koncepten betyder är det första steget, om vi ska kunna prata om dess risker, som exempelvis diskriminerande AI, och möjligheter ur ett rättsligt perspektiv.

Därefter går vi igenom de befintliga rättsreglerna som blir generellt tillämpliga vid utveckling, upphandling och användning av AI. Vi berör bland annat immaterialrätt, dataskydd, upphandlingsrätt och IT-avtalsrätt. Vi berör även rättsregler som är särskilt tillämpliga för offentlig sektor, såsom sekretess, offentlighet, bevarande och regelverken kring automatiserat beslutsfattande. 

Under eftermiddagen kommer vi gå igenom aktuell rättspraxis relaterad till AI och framför allt beskriva ett rättsfall från Göteborg där Charlotta inom ramen för sin forskning testade hur domstolarna de facto hanterade algoritmer som bevismedel. Genom att stämma Göteborgs stad för en olaglig, och felaktig, användning av en algoritm för skolplaceringar kunde hon visa på att den enskilde medborgaren står rättslös i relation till den offentliga institutionensom tillämpat ett algoritmiskt beslutsfattande, då det är närmast omöjligt att bevisa innehållet av ett algoritmiskt system som man inte har tillgång till. Vi kommer även beröra hur det juridiska arbetet påverkas av AI, och prata om några AI-baserade arbetsverktyg.

Vi avslutar dagen med några praktiska case, där deltagarna får arbeta med ett konkret fall och överväga vilka rättsliga frågor som behöver beaktas och vilka åtgärder som behöver vidtas i den aktuella situationen. Dagen avrundas med en genomgång av gruppernas slutsatser.