Näin algoritmien eettisiin ongelmiin voidaan tarttua
Itseoppivilla algoritmeilla voi olla odottamattomia ja eettisesti kyseenalaisia vaikutuksia. Facebookissa oli taannoin mahdollista kohdentaa mainoksia antisemitistisille kohderyhmille. Jos media ei olisi nostanut Facebookin vinoa mainosalgoritmia esiin, voisi rasistisia mainoksia ehkä vieläkin ostaa. Jotta algoritmien ongelmiin voidaan puuttua, on hyvä olla tietoinen, miten algoritmeja rakennetaan, ja miten niitä käänteismallinnetaan. Tämän lisäksi ongelmallisia algoritmeja tulisi jollakin tapaa ilmiantaa.
Käsittelen tässä blogisarjani toisessa osassa, miten jokainen meistä voi vaikuttaa algoritmeihin, jos niissä ilmenee eettisiä ongelmia tai vinoumia. Blogisarjan ensimmäisessä osassa käsittelen, miten algoritmit näyttäytyvät meille, ja minkälaisia odottamattomiakin vaikutuksia niillä voi olla. Kirjoitus on julkaistu lokakuussa 2019.
Lue myös
blogini tekoälyn vaikutuksista arkeen, työelämään ja yhteiskuntaan.
Koska algoritmit ovat yritysten omistuksessa ja koodit niiden liikesalaisuutta, halukkailla ei ole mahdollisuutta avata ja tarkastella niitä (Willson). Algoritmeilla voi vinoumien takia olla tahattomia seuraamuksia (Pantzar). Niistä voi nimittäin tulla ihmisiä syrjiviä.
Microsoftin Tay-niminen chatbotti oppi rasistiksi vuorokaudessa, Twitterissä käymiensä keskusteluiden pohjalta. Googlen kuvatunnistusalgoritmi tunnisti afroamerikkalaisen gorillaksi. Facebook epäsi rekisteröitymisen Amerikan intiaaneilta heidän epäuskottavien nimiensä perusteella. Facebookin mainostyökalussa oli jonkin aikaa mahdollista kohdentaa mainoksia antisemitistisille kohderyhmille, koska tekoäly oli tunnistanut kyseisen ryhmän intressit (Laaksonen). Amazon huomasi rekrytointirobottinsa kehittelyvaiheessa, että robotista oli tullut naisia syrjivä. Robottia oli opetettu yrityksen omalla, kymmenen vuotta kattavalla rekrytointidatalla. Amazon päätti tämän jälkeen lakkauttaa koko projektin. Tapaus antaa rivien välistä viitteitä siitä, että Amazon oli harjoittanut rekrytoinnissaan pitkäaikaista naisten syrjintää. Tinderin patentista selvisi, että Tinder yhdistää vanhempia rikkaita miehiä, nuoriin vähemmän koulutettuihin naisiin. Naiset saivat Applen luottokorttiin miehiä pienemmän luottorajan.
Syrjinnän voidaan olettaa lisääntyvän algoritmien yleistymisen myötä. On ongelmallista, ettei algoritmien kehittelystä ja oppimisesta puhuta tarpeeksi. Olemme tästä syystä usein tietämättömiä algoritmien vinoumista (Laaksonen). Vaikka algoritmit oppivat itsenäisesti, on joku aina rakentanut ne (Nelimarkka). Algoritmien ongelmat liittyvät ennen kaikkea harkitsemattomiin datavalintoihin. Koneälyn oppiminen tehdään myös liian pienellä tietomassalla. (Koponen). Jos koneälylle annettu oppimismateriaali on vinoutunutta, oppii konekin syrjiväksi. Joku kurssimme luennoitsijoista totesi mielenkiintoisesti, että algoritmit ovat yhtä fiksuja tai tyhmiä kuin mekin.
Digitaalista teknologiaa tulisi Digitaalinen media ja yhteiskunta -kurssin luennoitsijoiden mukaan kehitellä monitieteellisesti niin, että sekä ihminen, kone että vuorovaikutus otetaan huomioon (social shaping). Minna Ruckenstein ehdottaa, että humanismi tulisi yhdistää teknologiaan, jotta teknologiaa tehtäisiin ihmislähtöisesti. Piilaaksossa tämä on jo ymmärretty, sillä siellä palkataan esimerkiksi filosofeja, mutta teknokraattisessa Suomessa ei. Diversiteetin ylläpito on hänestä ehdottomasti tärkeää. (Ruckenstein.) Suvi Uski peräänkuuluttaa, että teknologia tarvitsee psykologeja, sillä kaikki ovat käyttäjiä, ja siksi kaikki ihmiset tulisi tuntea. Jos koodarin ihmiskuva eroaa merkittävästi käyttäjästä, ollaan ongelmissa. (Uski.) Matti Nelimarkka toivoo osaltaan teknologian ja sosiologian yhdistämistä (Nelimarkka).
Algoritmien etiikan vartiointi on tänä päivänä tarpeellista (Ruckenstein), sillä algoritmeilla voi olla vaihtoehtoisia totuuksia (Koponen). Algoritmien ei voida sanoa olevan eettistä, jos niitä ei ymmärrä. Algoritmit eivät ole läpinäkyviä. Emme tiedä niiden taustamotiiveja, emmekä taustalla toimivan tekoälyn tietolähteitä. Niitä tulee siksi itse testata. Tätä kutsutaan käänteismallinnuksi (reverse engineering). (Koponen.) Algoritmien toiminta tulee ymmärtää myös siksi, että voi ryhtyä tarvittavaan vastarintaan, jos vinoumia ilmenee (Eranti).
Algoritmit ovat monikerroksisia, joten niiden avaaminen ei sinänsä kerro mitään kovin mielekästä. Kokeileminen on toimivampi ratkaisu. Voit tarkistaa, mitä algoritmin takana tapahtuu, kun teet jonkin toiminnon. Voit esimerkiksi kokeilla, onko Uberin kautta tilattu taksi aina halvempi kuin muiden taksifirmojen. Selvitä myös, miten Uberin reititys toimii. Erannin omassa kokeilussa selvisi, että Uberin algoritmi ymmärsi kyllä isot tiet, muttei pieniä. Tästä syystä Uberin käyttö ei aina ollut halvempaa kuin muiden taksipalveluiden. (Eranti.)
Mitä sitten tulisi tehdä, jos löytää vinouman algoritmista? Algoritmeja pystyy joskus huijaamaan (Eranti), mutta tehokkaampi keino, on nostaa algoritmien ongelmat esille jollakin keinolla. Mikäli kohteena on Facebookin kaltainen suuri monikansallinen yritys, toimivin ratkaisu on varmasti tuoda epäkohta esiin julkisesti somen tai median välityksellä. Facebook kun ei ole tunnettu siitä, että yritys vastaisi pienempien asiakkaidensa, saatikka käyttäjiensä, huoliin.
Mieti, oletko valmis reagoimaan, jos törmäät algoritmiseen epäoikeudenmukaisuuteen? Nykypäivänä sinun tulisi reagoida! Algoritmi saattaa tällä kertaa estää kyvykkään naisen palkkauksen, koska algoritmi tunnistaa hänet naiseksi. Seuraavaksi rekrytointialgoritmi voi sorsia johtajahaussa vaikkapa sinipukuista miestä, koska algoritmi yhdistää sinisen värin blue collar -työhön. Mitä, jos tämä tapahtuisi sinulle?
The End.
Blogisarjan ensimmäisessä osassa käsittelen, miten algoritmit näyttäytyvät meille, ja minkälaisia odottamattomiakin vaikutuksia niillä voi olla. Lue myös blogini tekoälyn vaikutuksista arkeen, työelämään ja yhteiskuntaan.
Eranti, V. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 7.
Koponen, J. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 6.
Laaksonen, S.-M. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 6.
Nelimarkka, M. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 3.
Pantzar, M. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 1.
Ruckenstein, M. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 1.
Uski, S. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 2.
Willson, M. (2017). Algorithms (and the) everyday. Information, Communication & Society.
Yle (19.12.2016). Näin sinua ohjataan Facebookissa ja internetissä.
Tiedosta, että algoritmeissa voi olla vinoumia
Otamme algoritmit tavallisesti vastaan kritiikittä ja annettuina, emmekä jää syvällisemmin niitä pohtimaan tai vastustamaan. Algoritmien taustalla on kuitenkin iso bisneslogiikka. Ne ovat yritysten omistuksessa, ja niiden tarkoituksena on tuoda yrityksille taloudellista menestystä. (Laaksonen.) Algoritmit ja tekoäly ovat tällä hetkellä yksi suurista liiketoiminnan megatrendeistä. Siksi algoritmien käyttö tulee vielä yleistymään, ja samoin niiden aiheuttamat ongelmat.Koska algoritmit ovat yritysten omistuksessa ja koodit niiden liikesalaisuutta, halukkailla ei ole mahdollisuutta avata ja tarkastella niitä (Willson). Algoritmeilla voi vinoumien takia olla tahattomia seuraamuksia (Pantzar). Niistä voi nimittäin tulla ihmisiä syrjiviä.
Microsoftin Tay-niminen chatbotti oppi rasistiksi vuorokaudessa, Twitterissä käymiensä keskusteluiden pohjalta. Googlen kuvatunnistusalgoritmi tunnisti afroamerikkalaisen gorillaksi. Facebook epäsi rekisteröitymisen Amerikan intiaaneilta heidän epäuskottavien nimiensä perusteella. Facebookin mainostyökalussa oli jonkin aikaa mahdollista kohdentaa mainoksia antisemitistisille kohderyhmille, koska tekoäly oli tunnistanut kyseisen ryhmän intressit (Laaksonen). Amazon huomasi rekrytointirobottinsa kehittelyvaiheessa, että robotista oli tullut naisia syrjivä. Robottia oli opetettu yrityksen omalla, kymmenen vuotta kattavalla rekrytointidatalla. Amazon päätti tämän jälkeen lakkauttaa koko projektin. Tapaus antaa rivien välistä viitteitä siitä, että Amazon oli harjoittanut rekrytoinnissaan pitkäaikaista naisten syrjintää. Tinderin patentista selvisi, että Tinder yhdistää vanhempia rikkaita miehiä, nuoriin vähemmän koulutettuihin naisiin. Naiset saivat Applen luottokorttiin miehiä pienemmän luottorajan.
Syrjinnän voidaan olettaa lisääntyvän algoritmien yleistymisen myötä. On ongelmallista, ettei algoritmien kehittelystä ja oppimisesta puhuta tarpeeksi. Olemme tästä syystä usein tietämättömiä algoritmien vinoumista (Laaksonen). Vaikka algoritmit oppivat itsenäisesti, on joku aina rakentanut ne (Nelimarkka). Algoritmien ongelmat liittyvät ennen kaikkea harkitsemattomiin datavalintoihin. Koneälyn oppiminen tehdään myös liian pienellä tietomassalla. (Koponen). Jos koneälylle annettu oppimismateriaali on vinoutunutta, oppii konekin syrjiväksi. Joku kurssimme luennoitsijoista totesi mielenkiintoisesti, että algoritmit ovat yhtä fiksuja tai tyhmiä kuin mekin.
Digitaalista teknologiaa tulisi Digitaalinen media ja yhteiskunta -kurssin luennoitsijoiden mukaan kehitellä monitieteellisesti niin, että sekä ihminen, kone että vuorovaikutus otetaan huomioon (social shaping). Minna Ruckenstein ehdottaa, että humanismi tulisi yhdistää teknologiaan, jotta teknologiaa tehtäisiin ihmislähtöisesti. Piilaaksossa tämä on jo ymmärretty, sillä siellä palkataan esimerkiksi filosofeja, mutta teknokraattisessa Suomessa ei. Diversiteetin ylläpito on hänestä ehdottomasti tärkeää. (Ruckenstein.) Suvi Uski peräänkuuluttaa, että teknologia tarvitsee psykologeja, sillä kaikki ovat käyttäjiä, ja siksi kaikki ihmiset tulisi tuntea. Jos koodarin ihmiskuva eroaa merkittävästi käyttäjästä, ollaan ongelmissa. (Uski.) Matti Nelimarkka toivoo osaltaan teknologian ja sosiologian yhdistämistä (Nelimarkka).
Algoritmeja voi tutkia käänteismallinnuksella
Sosiaalisen median uutisvirrat olivat alussa kronologisia, joten jokainen tiesi tarkkaan, miksi näki sisällön. Tänä päivänä syiden tarkistelu on merkittävästi hankalampaa, sillä algoritmien taustamotiivit ja tiedonlähteet ovat salaisia. (Koponen.) Algoritmien läpinäkyvyys on suuri ongelma. Usein algoritmien vaikutukset näkyvät vasta jälkikäteen. (Eranti.) Esimerkiksi Facebook-mainoksen näkemisen syyn voi tarkistaa vasta mainoksen nähtyään (Koponen). Facebookilla ei ole yleisiä mainosasetuksia, koska mainoksen näkemiseen liittyy paljon monisyisempi prosessi. Siihen voi liittyä esimerkiksi sukupuoli, ikä, tykkäys, kiinnostuksen kohde, postattu kuva-aihe tai jokin muu vaikeasti selvitettävä toiminta.Algoritmien etiikan vartiointi on tänä päivänä tarpeellista (Ruckenstein), sillä algoritmeilla voi olla vaihtoehtoisia totuuksia (Koponen). Algoritmien ei voida sanoa olevan eettistä, jos niitä ei ymmärrä. Algoritmit eivät ole läpinäkyviä. Emme tiedä niiden taustamotiiveja, emmekä taustalla toimivan tekoälyn tietolähteitä. Niitä tulee siksi itse testata. Tätä kutsutaan käänteismallinnuksi (reverse engineering). (Koponen.) Algoritmien toiminta tulee ymmärtää myös siksi, että voi ryhtyä tarvittavaan vastarintaan, jos vinoumia ilmenee (Eranti).
Algoritmit ovat monikerroksisia, joten niiden avaaminen ei sinänsä kerro mitään kovin mielekästä. Kokeileminen on toimivampi ratkaisu. Voit tarkistaa, mitä algoritmin takana tapahtuu, kun teet jonkin toiminnon. Voit esimerkiksi kokeilla, onko Uberin kautta tilattu taksi aina halvempi kuin muiden taksifirmojen. Selvitä myös, miten Uberin reititys toimii. Erannin omassa kokeilussa selvisi, että Uberin algoritmi ymmärsi kyllä isot tiet, muttei pieniä. Tästä syystä Uberin käyttö ei aina ollut halvempaa kuin muiden taksipalveluiden. (Eranti.)
Mitä sitten tulisi tehdä, jos löytää vinouman algoritmista? Algoritmeja pystyy joskus huijaamaan (Eranti), mutta tehokkaampi keino, on nostaa algoritmien ongelmat esille jollakin keinolla. Mikäli kohteena on Facebookin kaltainen suuri monikansallinen yritys, toimivin ratkaisu on varmasti tuoda epäkohta esiin julkisesti somen tai median välityksellä. Facebook kun ei ole tunnettu siitä, että yritys vastaisi pienempien asiakkaidensa, saatikka käyttäjiensä, huoliin.
Mieti, oletko valmis reagoimaan, jos törmäät algoritmiseen epäoikeudenmukaisuuteen? Nykypäivänä sinun tulisi reagoida! Algoritmi saattaa tällä kertaa estää kyvykkään naisen palkkauksen, koska algoritmi tunnistaa hänet naiseksi. Seuraavaksi rekrytointialgoritmi voi sorsia johtajahaussa vaikkapa sinipukuista miestä, koska algoritmi yhdistää sinisen värin blue collar -työhön. Mitä, jos tämä tapahtuisi sinulle?
The End.
Blogisarjan ensimmäisessä osassa käsittelen, miten algoritmit näyttäytyvät meille, ja minkälaisia odottamattomiakin vaikutuksia niillä voi olla. Lue myös blogini tekoälyn vaikutuksista arkeen, työelämään ja yhteiskuntaan.
Lähteet
van Dijck, J. (2013). The Culture of Connectivity: A Critical History of Social Media. Oxford University Press.Eranti, V. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 7.
Koponen, J. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 6.
Laaksonen, S.-M. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 6.
Nelimarkka, M. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 3.
Pantzar, M. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 1.
Ruckenstein, M. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 1.
Uski, S. (2017). Digitaalinen media ja yhteiskunta -luennot, osa 2.
Willson, M. (2017). Algorithms (and the) everyday. Information, Communication & Society.
Yle (19.12.2016). Näin sinua ohjataan Facebookissa ja internetissä.
Kommentit
Lähetä kommentti