Mistä vinouma syntyy?
Kolmesta päälähteestä: koulutusdata heijastaa historian vääristymiä (jos ala on ollut miesvaltainen, data yhdistää pätevyyden miehiin), data ei edusta kaikkia ryhmiä tasaisesti, ja mallin tavoitteet on asetettu mittareilla, jotka suosivat enemmistöä. Tunnetuin yritysesimerkki on Amazonin rekrytointityökalu, joka uutisoitiin 2018: malli oppi historiadatasta syrjimään naishakijoita, ja työkalusta luovuttiin.
Mitä EU:n tekoälyasetus vaatii vinoumien hallinnalta?
Rekrytoinnin, luotonannon ja vastaavien henkilövaikutteisten järjestelmien käyttö luokitellaan tekoälyasetuksessa korkean riskin käytöksi, jolloin vaaditaan muun muassa datan laadunhallintaa, ihmisvalvontaa ja dokumentaatiota. Käytännön vähimmäistaso jokaiselle yritykselle: tiedä missä prosesseissa tekoäly vaikuttaa ihmisiin, testaa tuloksia eri ryhmillä ja pidä ihminen päätöksentekijänä. Kokonaisuutta käsittelemme riskienhallinnan oppaassa.