REPAIR tutkii algoritmisten järjestelmien murtumia ja etsii tapoja korjata ja uudistaa niitä
Algoritmisia järjestelmiä hyödynnetään yhä enemmän päätöksenteossa ja julkisissa palveluissa. Hyvin toimiessaan ne yhdistävät ihmisten ja koneiden vahvuuksia sekä tukevat yhteiskunnan suotuisaa kehitystä. Automaattista päätöksentekoa ja tekoälyä hyödyntävät järjestelmät ovat kuitenkin alttiita erilaisille murtumille ja haavoittuvaisuuksille sitoessaan yhteen erilaisia toimijoita ja muuttamalla toimintatapoja.
”Tutkimuksemme taustana on laajempi yhteiskunnallinen murtuma, joka liittyy siihen, ettei teknologian sosioteknistä luonnetta tunnisteta riittävästi, kun automaattista päätöksentekoa ja tekoälyä koskevia aloitteita viedään eteenpäin,” sanoo tutkimuskonsortion johtaja, professori Minna Ruckenstein. Käytännössä tämä tarkoittaa, ettei julkisten palveluiden digitalisaatiota edistettäessä huomioida, että teknologisten järjestelmien tukemana luodaan käsityksiä kansalaisesta, yhteiskunnallisista arvoista, osallisuudesta ja yhteistoiminnan muodoista, organisoitumisen tavoista ja koko yhteiskunnasta.
Algoritmisten systeemien murtumat ja uudet alut (REPAIR) -hankkeessa tutkitaan, mitä teknologiaan liittyvät murtumat ovat, mitä niistä voi oppia, ja miten algoritmisia järjestelmiä voisi korjata ja uudistaa tavalla, joka ottaa lähtökohdaksi hyvinvointiyhteiskunnan keskeiset arvostukset. Hanke kuuluu strategisen tutkimuksen neuvoston Turvallisuus ja luottamus algoritmien aikakaudella (SHIELD) -ohjelmaan, ja sen toiminta alkoi syksyllä 2022. Tekoälyyn liittyvissä keskusteluissa puhutaan eettisistä periaatteista, kuten avoimuudesta, yksityisyydestä, yhdenvertaisuudesta ja luottamuksesta. Näiden arvojen kytkeminen algoritmisten järjestelmien kehitystyöhön on kuitenkin tehtävä, joka vaatii sekä teknologian että ihmisten ja yhteiskunnan syvällistä ymmärrystä. REPAIR-hankkeen tutkimus avaa sääntelyn ja hallinnan malleja ja organisaatioiden käytäntöjä, joiden avulla yhdenvertaisuutta ja luottamusta voidaan käytännössä edistää.
Tutkimuskonsortioon kuuluvat Helsingin yliopisto, Tampereen yliopisto, Lappeenrannan teknillinen yliopisto ja Demos Helsinki. Monitieteinen konsortio tuo sosiaalipolitiikan, johtamisen ja organisaatioiden, teknologian antropologian, vakuutussosiologian, kulutustutkimuksen, oikeustieteen, käytännöllisen filosofian ja data-analytiikan näkökulmaa algoritmisten järjestelmien tutkimiseen ja kehittämiseen. Hankkeen tutkijat tekevät myös pitkäjänteistä yhteistyötä esimerkiksi Digi- ja väestöviraston (DVV), Kelan, Rikosseuraamuslaitoksen (RISE), Solitan ja Duodecimin kanssa. Yhteisten työpajojen avulla tutkitaan esimerkiksi lääkärien
suhdetta Apotti-toiminnanohjausjärjestelmään ja etsitään tapoja hyödyntää Utrecht Data Schoolissa kehitettyä datan ja algoritmien käytön eettisyyttä tukevaa päätöksenteon mallia.1
Luottamusta on ylläpidettävä
Yksi REPAIR-hankkeen ohjaavista käsitteistä on luottamus. Suomi on toistuvasti maailman kärjessä, kun mitataan yhteiskunnallisen luottamuksen tasoa toisiin ihmisiin ja instituutioihin. Tämä tarkoittaa käytännössä esimerkiksi sitä, että suurin osa kansalaisista ei suhtaudu epäluuloisesti digitalisaatioon tai julkisen sektorin tiedonkeruun tarpeisiin.
“Luottamusta ei kuitenkaan tule pitää annettuna vaan yhteiskunnan muuttuessa sitä on aktiivisesti vaalittava. Digitaalisen teknologian avulla ihmisiä ja heidän kokemaansa luottamusta horjutetaan, ja toisaalta teknologiaa käytetään tukemaan uudenlaisia luottamusverkostoja. Tutkimme esimerkkitapausten avulla tätä kaksitahoisuutta”, Ruckenstein summaa.
Tutkimuksen näkökulmasta on kiinnostavaa, että luottamusta ylläpitävät käytännöt ja infrastruktuurit havaitaan usein vasta silloin, kun ne eivät toimi halutulla tavalla. Tämä tarkoittaa, että luottamus tulee näkyväksi sen vajeissa. Hyvänä esimerkkinä viime vuosien julkinen kuohunta sosiaali- ja terveyspalveluissa käytettävien tietojärjestelmien ympärillä. Arkiset kokemukset tietojärjestelmien sietämättömyydestä ovat tuttuja julkiselta sektorilta, esimerkiksi vankiloista ja oppilaitoksista. Tietoturvaan keskittyminen jättää huomiotta sen, että algoritmisten järjestelmien toiminnallisuudet muuttavat työn tekemisen tapoja, ja ihmisten organisoitumista tavalla, joka asettaa uudenlaisia paineita jaetuille arvoille ja luottamukselle.
Ihmistyö näkyväksi
Digitalisaatioprojekteissa ja -kokeiluissa toistuvat samat virheet ja puutteet, koska ihmisnäkökulmaa ei oteta tarpeeksi huomioon. Vasta jälkikäteen ymmärretään, miten paljon esimerkiksi uuden tietojärjestelmän käyttöönotto ja kehittäminen vie työaikaa.
“Algoritmisten systeemien esitetään usein toimivan ikään kuin itsekseen, ilman ihmisen ohjausta, vaikka niiden taustalla tai rinnalla on aina ihmistyötä. Tämä tuottaa toistuvan murtuman, ihmistyötä aliarvioidaan ja siihen ohjataan liian vähän resursseja”, Ruckenstein selittää.
REPAIR-hankkeessa tehdään näkyväksi ihmistyötä, jotta sen luonne ymmärrettäisiin ja siihen ohjattaisiin tarvittavat resurssit. Julkisella sektorilla chattibotit käyvät yksinkertaisia keskusteluja asiakkaiden kanssa. Hyvin toimiessaan botit helpottavat puhelinpalvelun ruuhkaa. Yllättäviin tapahtumiin (esimerkiksi pandemia tai Venäjän hyökkäys Ukrainaan) ja uudenlaisiin kyselyihin botit eivät kuitenkaan osaa itsenäisesti reagoida, vaan niitä on koulutettava. Ihmistyön tarve ei siis katoa automatisaation myötä vaan se muuntuu toisenlaiseksi. Samaan tapaan tietojärjestelmien käyttöönotot, ja uudistukset vievät käyttäjien työaikaa ja sitä kautta
organisaatioiden resursseja. Ihmiset työskentelevät oman työnsä ohessa myös tietojärjestelmille.
Murtumat toimivat REPAIR-hankkeessa lähtökohtina algoritmisten järjestelmien kehitystyöhön. Se mikä on yhtäältä murtuma, on toisaalta mahdollisuus oppia ja uudistaa.
