Vad är bias i AI?

Problemet med bias i artificiell intelligens är något som varje organisation och individ måste ta på allvar, eftersom detta kan skapa förutsättningar för olika fördomsfulla resultat och dåliga beslut. AI-system fattar beslut baserat på de data som matats in i systemet. Systemet gör detta genom att lära sig mönster från de inmatade uppgifterna. De resultat som genereras från systemet baseras på kvaliteten på de data som systemet har arbetat med. Bias i de data som matas in i systemet kommer att generera dåliga resultat och leda till dåliga besluts processer.

Bias i artificiell intelligens är också känt som maskininlärningsbias eller algoritm bias. Maskininlärnings bias har beskrivits av BMC Software som ett systematiskt fel som uppstår i själva maskininlärnings modellen på grund av felaktiga antaganden i maskininlärnings processen. Tekniskt sett kan vi definiera bias som felet mellan den genomsnittliga modellens förutsägelse och den verkliga sanningen. Andra källor har också beskrivit bias i AI som förekomsten av osanna, orättvisa eller fördomsfulla resultat som orsakas av algoritmer, vilket händer till följd av fördomsfulla designval eller fördomsfulla data som matas in i systemet.

Det finns olika former av bias som inkluderar men inte är begränsade till: Sampling bias, etikettbias, databis, prejudiciell bias, algoritmbias och många andra. Sampling bias kan till exempel leda till minskad representation eller ökad representation av vissa grupper i data. Resultaten som genereras från AI-modeller som tränas med dessa fördomsfulla data kommer att resultera i dåliga val och dåliga beslutsprocesser. Dessa dåliga val kan ibland innebära marginalisering av vissa grupper av människor, ras, kön eller etnicitet. Sampling bias å andra sidan är mycket olika från databis, som är den vanligaste typen av bias. I fallet med databis kan AI-system som lär sig mönster eller genererar resultat från fördomsfulla data till exempel ge resultat som återspeglar eller felaktigt projicerar orättvisa resultat eller fördelar i samhället. Dessa felaktiga resultat kan leda till stigmatisering av vissa grupper samt felmärkning av vissa yrken, kön eller raser. Denna stigmatisering kan ytterligare sakta ner antagandet av orsaker som jämlikhet – vilket samhället har arbetat för att uppnå under många år.

AI-bias kan leda till ojämn tillgång till medicinska resurser, fördomsfulla resultat i domstolsfall, minskat offentligt förtroende, diskriminerande och juridiska konsekvenser, dåliga beslutsfattande processer, etiska bekymmer, marginalisering av grupper, undertryckande av röster från vissa marginaliserade grupper, hämmande mångfald i åsikter och andra diskriminerande resultat. Men den kontinuerliga granskningen av AI-system för att förstå om bias finns, byggandet av transparenta system som förklarar hur beslut fattas för användare, användning av algoritmer för att minska bias för att minska bias i maskininlärningsmodeller – är några av de sätt genom vilka AI-bias kan mildras.

Utvecklare, användare, maskininlärningsexperter samt branschexperter bör alla samarbeta för att förstå datakällor, säkerställa att ren data matas in i AI-system, säkerställa att alla grupper är ordentligt representerade och även säkerställa att nuvarande bias tas itu med från olika perspektiv – för att kunna minska bias i AI.