Sedan slutet av 2010-talet har EU arbetat intensivt för att driva på utvecklingen och användningen av digitala tekniker och artificiell intelligens (AI) inom samhällets samtliga sektorer. Vanja Carlsson har studerat de policies som blivit resultatet och pekar på några av konsekvenserna.
EU:s arbete för att driva utvecklingen inom området digitala tekniker och artificiell intelligens har genererat en stor mängd policies och mål vilket inkluderar bland annat det omfattande finansieringsprogrammet The Digital Europe Programme. En viktig strategi har varit att bjuda in stora teknikföretag för att i samarbete med EU:s institutioner arbeta med att utforma inriktningen för digitalisering och AI som ett specifikt politikområde. Politikens formulering och beslutsfattande kring AI-tekniken och dess implementering väcker, särskilt inom ramen för den offentliga sektorn, frågor om statusen för offentliga och demokratiska principer. En genomgång av EU:s AI- och digitaliseringspolitik visar att det senaste decenniets framväxt av politikområdet har förändrat förutsättningarna för flera demokratiska principer och att förändringen kan tolkas som ett uttryck för en förskjutning av makt och inflytande från offentlig till privat sektor.
På samma gång som IT-branschen har tilldelats en central roll i politikskapandet, såväl i termer av producent och leverantör av tekniken som uttalad samarbetspartner till den politiska makten, är juridiska regleringar som syftar till att säkerställa demokratiska aspekter i teknikutvecklingen få. Istället förespråkas att hänsyn till grundläggande demokratiska rättigheter, transparens, demokratisk delaktighet och ansvarsutkrävande ska främjas av företagens goda vilja och genom att göra användandet av ”etiska riktlinjer” till konkurrensfördelar. Teknikutvecklare uppmanas att värna demokratin, utöva ansvar och ta hänsyn till grundläggande rättigheter i deras design och produktion.
Även om frågor som har med etik och demokrati att göra får förhållandevis stort utrymme i EU:s policies inom AI och digitalisering, så är tillväxt det dominerande perspektivet. EU-institutionerna är exempelvis noga med att understryka att demokratiska principer, så som transparens och möjlighet till ansvarsutkrävande, inte bör försvaras på bekostnad av möjligheten för teknikföretagen att skydda sina egna affärshemligheter och branschens möjligheter till innovation och flexibilitet i produktionen ska inte behöva hämmas av offentliga regelverk. Policyformuleringarna är i allmänhet vaga i frågor om hur ägande, makt och kontroll över tekniska system, modeller och data ska fördelas och undvikandet av lagliga kontroller av exempelvis datautvinning och datainsamling vittnar om att motstridiga intressen finns mellan den offentliga och privata sektorn.
Samtidigt som AI-teknik generellt antas lösa diverse problem kring bristande effektivitet och dålig service inom offentlig sektor, betonas att det också finns potentiella och allvarliga demokratiska risker med att individer diskrimineras, rankas och bedöms av tekniken. Inom EU läggs här stora förhoppningar på att framtagande av etiska riktlinjer ska lösa den här typen av problem så länge riktlinjerna beaktas under utvecklingen av tekniska produkter. I strävan efter att demokratiska värden och grundläggande rättigheter ska integreras i teknikproduktionen, förespråkas en metod som kallas ”Ethics-by-design” (ibland ”Values-by-design”). Metoden går ut på att teknikföretagen ser till att ta hänsyn till etiska och/eller demokratiska perspektiv redan vid designstadiet i produktionen.
Men hur, mer konkret, tänker man sig att dessa önskvärda värden och perspektiv ska integreras i produktdesignen? Svaret är genom ett gott rekryteringsarbete. Demokratiska och etiska perspektiv förväntas understödjas av att företagen har en bred och mångfaldig bas med anställda från olika samhällsgrupper, där kvinnor, äldre och minoriteter pekas ut som särskilt viktiga. För att minska risken för att programmering av algoritmer får en negativ påverkan på demokrati, så som systematisk bortsortering eller förfördelning av en viss samhällsgrupp vid automatiserat beslutsfattande, uppmuntras alltså företag att rekrytera personal från marginaliserade samhällsgrupper. Metoden bygger på ett antagande om att personalens egna erfarenheter av att exempelvis vara kvinna per automatik leder till att hänsyn till kvinnor kommer att tas i beaktande vid produktframställningen. Metoden lyfts också fram som viktig för att öka det demokratiska deltagandet i teknikutvecklingen. ”Ethics-by-design”-metoden resulterar alltså i en situation där demokratiska dilemman och problem inom digital teknikproduktion ska lösas genom medveten Human Resource Management (HRM) inom företag, snarare än genom offentliga regleringar och de offentliga institutionernas arbete.
Rekrytering av marginaliserade grupper i industriell produktdesign förväntas således generera demokratisk legitimitet i termer av demokratiskt deltagande och inflytande. Istället för att offentliga institutioner tar fullt ansvar för demokratin genom verkligt demokratiska processer, flyttas här ansvaret över till företagens HR-avdelningar, vilka naturligtvis inte är etablerade institutioner för demokratiskt deltagande och ansvarsutkrävande. Även om den tekniska industrin förbinder sig att respektera och förmedla demokratiska värderingar, kan den privata sektorn – där lönsamhetskravet alltid i sista instans är överordnat andra värden – aldrig utgöra en demokratisk grund och därför aldrig heller representera allmänheten. I slutändan riskerar EU:s AI- och digitaliseringspolitik att urholka den demokratiska grunden för framtida digitala tekniska förändringar i Europa.
Artikelförfattare: Vanja Carlsson är universitetslektor vid Förvaltningshögskolan, Göteborgs universitet och postdoktor i statsvetenskap vid Karlstads universitet.