Kriittinen tekoälytutkimus on jo vuosia korostanut sitä, ettei tekoäly poista valtarakenteita ja epätasa-arvoisuutta vaan pikemminkin nämä toistuvat ja jopa kertautuvat tekoälypohjaisissa järjestelmissä. Uskonnon kontekstissa tekoälyä on tutkittu vasta vähän. Miten kaupalliset kuvantunnistuspalvelut onnistuvat uskonnollisten kuvien luokittelemisessa ja kuinka käy, kun kuvissa esiintyy mustia ihmisiä, kysyvät Helsingin yliopiston humanistis-yhteiskuntatieteellisen instituutin väitöskirjatutkija Anton Berg ja uskonnon- ja mediatutkimuksen professori Katja Valaskivi.
Tekoälyyn liitetään suuria toiveita, joista tärkeimpiä on ajatus ihmisyhteisöissä esiintyvien niin kutsuttujen ”vinoumien”, kuten epätasa-arvoisen päätöksenteon, ja rasismin tai seksismin, oikaisemisesta. Kriittinen tekoälytutkimus on tuottanut luotettavaa tietoa siitä, että näin ei tapahdu, vaan usein tekoäly päätyy toistamaan koulutusdatassa esiintyviä vinoumia. Klassinen esimerkki tästä on 2015 julkiseen keskusteluun noussut tapaus, jossa Googlen kuvantunnistusalgoritmin todettiin kategorisoivan mustat ihmiset gorilloiksi. Tämän selitettiin johtuvan siitä, että algoritmien koulutusdatassa oli kuvia vain lähinnä valkoisista ihmisistä.
Aiempi tutkimus onkin tarkastellut ilmiötä sukupuolen, rodun ja luokan näkökulmasta, mutta uskontoa ja tekoälyä on tutkittu vasta vähän. Meneillään olevassa tutkimuksessa tarkastelemme sitä, miten Googlen, Amazonin ja Microsoftin tarjoamat kaupalliset kuvantunnistuspalvelut luokittelevat kuvia, joissa esiintyy uskonnollista sisältöä, ja kuinka onnistuminen vaihtelee sen mukaan, millainen ihonväri kuvissa esiintyvillä ihmisillä on.
Tutkimusprosessista
Kokosimme ohjelmointia ja hakusanoja hyväksi käyttäen Googlen kuvahausta 2482 kuvaa, joissa esiintyy uskonnollista sisältöä. Tämän jälkeen kuville tehtiin joitakin tilastollisia analyysejä, kuten kuvantunnistuspalveluiden tuottamien erilaisten sanojen frekvenssien laskenta, sekä aineiston jakaumien tarkastelu. Seuraavaksi analysoimme kuvat laadullisesti. Huomiomme kiinnittyi erityisesti kuvantunnistuspalveluiden kykyyn tunnistaa kuvien uskonnolliset piirteet sekä mitkä olivat näiden luokitusten luotettavuusprosentit. Toisin sanoen tarkastelimme sitä, antoivatko palvelut uskonnollista kuvastoa esittäville kuville uskontoon viittaavia luokituksia ja olivatko niiden antamat arviot luokituksen luotettavuudesta samanlaisia riippumatta kuvassa esiintyvästä uskontoperinteestä, ihmisten ihonväristä tai sukupuolesta.
Sekulaari, kristillinen ja muita vinoumia
Vaikka tutkimus on vielä kesken, voimme jo luotettavasti sanoa, että tutkimamme kuvantunnistuspalvelut eivät tunnista uskontoa kovin hyvin. Lisäksi niiltä tuntuu puuttuvan käsitteellinen avaruus, eli sanasto luokitella uskontoa. Kaikkiaan palvelut antoivat tutkimillemme kuville 9092 luokitusta, mutta vain 85 näistä liittyi uskontoon. Maailma siis näyttäytyi palveluille sekulaarina. Luokittelukyky oli kuitenkin selkeästi parempi kristillisiä ”korkeakirkollisia” tilanteita esittäviä kuvia tunnistaessa. Lisäksi palvelut yhdistivät kuvat useimmiten kristinuskoon liittyvään käsitteistöön riippumatta uskontoperinteestä. Mainitusta 85 uskontoon liittyvästä luokittelusanasta 30 (35%) oli kristinuskoa kuvaavia.
Esimerkkikuva 1: Sanapilvi kuvantunnistuspalvelujen antamista luokittelutunnisteista. Suuremmalla kirjoitettuja sanoja esiintyy aineistossa useammin kuin pienellä kirjoitettuja.
Rasismia, seksismiä ja valtahierarkioita
Tuloksemme linkittyvät aiempiin tutkimuksiin, joissa on raportoitu kuvantunnistusjärjestelmien vaikeuksista tunnistaa ihonväriltään muita kuin valkoisia ihmisiä. Esimerkiksi uskonnollisia auktoriteetteja esittävien kuvien osalta palvelut suoriutuvat luokittelussa parhaiten kohdatessaan perinteisissä eurooppalaisissa kirkollisissa konteksteissa otettuja valkoihoisten ihmisten kuvia (esimerkkikuva 2).
Palvelut paitsi tunnistavat väärin kuvia, joissa esiintyy mustia ihmisiä uskonnollisissa yhteyksissä, ne myös yleensä tuottavat näille kuville vähemmän luokittelusanoja ja ovat niiden luotettavuudesta epävarmempia. Tällä tavoin palvelut tuottavat mustaihoisia ihmisiä kuvissa kohdatessaan eräänlaista äänettömyyttä, tyhjyyttä ja poissaoloa tunnistamisen sijaan. Kuvia luokitellessaan palvelut toistavat yhtäältä kristillisten kirkkojen keskinäistä valtahierarkiaa ja toisaalta vahvistavat käsitystä kristinuskosta ”valkoisena” uskontona.
 |  |
| Google konenäön tunnisteet: Smile (94%) Beard (80%) Event (73%) Collar (67%) Curtain (66%) Happy (63%) Formal wear (63%) Fashion accessory (59%) Tradition (58%) Sharing (56%) | Azuren konenäön tunnisteet: Clothing (99%) Vestment (99%) Person (98%) Clergy (95%) Priest (94%) Auxiliary bishop (94%) Metropolitan bishop (94%) Cardinal (93%) Pope (92%) Presbyter (92%) Ritual (92%) Worship (92%) Elder (91%) Pray (90%) Tradition (89%) |
Ratkaisuja etsimässä
Teknologia ei sinänsä poista epätasa-arvoisuutta, rasismia, seksismiä ja stereotypioita vaan pikemminkin toistaa ja vahvistaa niitä. Ongelmat johtuvat osittain käytetystä koulutusdatasta, mutta on syytä olettaa järjestelmissä olevan vikaa laajemminkin. Luokittelut, joita kuvantunnistuspalvelut kuville antavat, ovat kulttuurisia kehystyksiä, jotka samaan aikaan tuottavat merkityksiä uskonnosta ja valaisevat kulttuurisia käsityksiä opetusdatassa ja palvelujen koodin taustalla. Olennaista olisikin tutkia teknologiaa muiden ihmisen tuottamien kulttuuri-ilmiöiden tavoin ja lisätä ymmärrystä teknologian sosiaalisen tuottamisen, käytön ja soveltamisen tapojen merkityksestä.
Tekoälyn ”vinoumista” on olemassa tutkimusta jo niin paljon, että on sinisilmäistä olettaa, etteivät esimerkiksi kuvantunnistuspalveluja tarjoavat ja kehittävät yritykset olisi niistä tietoisia. On mahdollista, ettei yrityksissä vallitse lainkaan yksimielisyyttä tasa-arvoisuudesta toivottavana poliittisena päämääränä. Yritysten tarjoamilla tuotteilla ja palveluilla on kuitenkin dramaattinen vaikutus ihmisyhteisöjen ja yksilöiden elämään. Kansainväliset aloitteet, jotka pyrkivät rajaamaan yritysten pääsyä käyttäjien dataan ja mahdollistavat akateemiselle tutkimukselle nykyistä laajemmat mahdollisuudet tutkia yritysten prosesseja, ovat toivottuja askelia kohti ongelmien ratkaisua.
Lisäksi tarvitaan maailmanlaajuista monitieteellistä kriittistä akateemista tutkimusta myös uskonnon kontekstissa. Jos vinoumat ovat nykyistä laajemmin ja julkisemmin tiedossa, tulee niiden tarkastelu ja haastaminen mahdolliseksi myös arkisessa käytössä. Kriittinen tekoälyn tutkimus on osaltaan tärkeää pyrkimyksille kohti oikeudenmukaisempaa ja puolueettomampaa teknologiaa kaikille.