På senare år har AI allt oftare diskuterats i samband med mänskliga rättigheter, diskriminering och etik.
Just nu pågår en lagstiftningsprocess i EU för att harmonisera AI i unionen, EU IA Act. Lagen ska bland annat säkra att de grundläggande rättigheterna respekteras, exempelvis icke-diskriminering.
Diskriminering kan ske vid exempelvis insamling av biometriska data för ansiktsigenkänning och övervakning. Det kan också handla om storskalig språkinlärning.
Finns risken att fördomsfulla normer och föreställningar byggs in i algoritmer?
Förra året avslöjades att twitters beskärnings-algoritm favoriserade ljushyade personer.
Skönhetsfilter för sociala medier är enormt populära – och ofta modellerade efter ett västerländskt skönhetsideal.
Lagstiftning tar tid. Nästa år är Sverige ordförandeland i EU. Då får regeringen en ansvar för förhandlingarna om lagen.
Det liggande förslaget är kritiserat av bland annat AI Sweden, nationellt center för AI som finansieras av regeringen.
AI Sweden menar att de högre kraven på säkerställd icke-diskriminering, högrisk-AI, kan hämma teknisk utveckling, tillväxt och innovation.
Vi som arbetar med antidiskriminering behöver kunna hantera algoritmer och AI utifrån diskrimineringslagen.
Några frågor är: Hur transparenta blir systemen? Hur kan det bevisas att diskriminering har skett genom algoritmer? Hur ska de analyseras?
För att lära mer har vi bjudit in juristen och forskaren Charlotta Kronblad som drivit ett ärende som handlar om algoritmisk diskriminering.