Our Comments on Finland’s Plans to Expand the Use of AI in Public Advisory Services

Monet julkishallinnon neuvontapalvelut voidaan laskea EU:n tekoälyasetuksen (AI Act) mukaan ns. korkean riskin sovelluksiksi, sillä neuvontapalveluilla voi olla merkittäviä vaikutuksia yksilöiden mahdollisuuksiin saavuttaa olennaista tietoa tai päästä heille tärkeiden palvelujen äärelle. Esimerkkinä tästä ovat maahanmuuttajien kotoutumiseen tarkoitetut tiedot ja palvelut, joita olemme hankkeessamme tutkineet: maahanmuuttajat ovat haavoittuvassa asemassa ja heillä on usein puutteellinen ymmärrys Suomen julkisten palvelujen rakenteesta ja tarjoamista mahdollisuuksista. Lisäksi joidenkin maahanmuuttajien digitaalisen lukutaidon puute voi muodostaa esteen digitaalisten tai tekoälypalveluiden käyttämiselle. Toisin sanoen, palveluautomaatio julkishallinnon kontekstissa vaikuttaa usein asiakkaan perusoikeuksien toteutumiseen. Neuvonnan saatavuutta ja laatua tulisi kehittää erityisesti yhdenvertaisuusperiaatetta huomioiden koko palveluautomaation elinkaaren aikana.

Näin ollen keskeinen asia tekoälyn käytössä julkishallinnossa on sen toiminnan oikeellisuuden ylläpidon ja valvonnan vaatimat henkilöresurssit. Tekoäly ei ole vain ohjelmistopaketti, jonka voi asentaa ja jättää vuosiksi käyttöön, vaan sen laatua tulee jatkuvasti valvoa ja sen tekemiä virheitä tulee korjata, kuten AI Act velvoittaa. Valvontaa vaatii niin tekoälyn antamien vastausten fakutaalinen oikeellisuus, näiden vastausten tarkoituksenmukaisuus ja sopivuus asiakkaan kannalta kuin monikielisiin palveluihin liittyvien käännöspalvelujen tarkoituksenmukaisuus. Tämä vaatii, että tällaiselle valvonnalle osoitetaan resursseja jo palvelun suunnitteluvaiheessa (vrt. Human-centered AI). Resurssien ollessa tiukalla, ei tällaiseen valvontaan usein ole varaa osoittaa uusia henkilöresursseja, vaan tehtävä pyritään tekemään jo olemassa olevilla henkilöstöllä.

Olemassa olevien palveluhenkilöiden työn tukeminen tekoälyllä on kokemuksemme mukaan toimiva konsepti, koska se tehostaa henkilöstön työtä siten, että he voivat valvoa tekoälyn toimintaa tekoälyn vapauttamalla ajalla. Esimerkiksi jos palvelutapaamisesta tehdään yhteenveto tekoälyn avulla, voi palveluhenkilö tarkistaa sen ennen sen antamista asiakkaalle. Yhteenveto voi näin parantaa palvelun laatua, vähentäen uusintakäyntien tarvetta ja vapauttaen henkilöstön aikaa esimerkiksi niiden henkilöiden kasvokkaiselle palvelulle, joille digitaalinen palvelu ei sovi. Valvontaa suorittavilla henkilöillä tulee olla täsmäkoulutus tähän tehtävään, jotta he ymmärtävät tekoälyyn liittyvät vaarat. Palvelusuunnittelun tulee edelleen ottaa huomioon se, että työn muuttuessa rutiiniksi on valvonnan tarkkuudesta helppo lipsua. 

Toiminnan ylläpito ja valvonta on näin otettu osaksi palvelumuotoilua; toimiva valvonta ei ole ylimääräinen tehtävä, kun valvontaa suorittava henkilö näkee valvonnan hyödyn omassa työssään. Samalla taataan, että vastuu palvelun oikeellisuudesta jää palveluhenkilöstölle eikä tekoälylle tule sellaista oikeudellista vastuuta, jonka AI Act kieltää.

Suositus: 
Lakiin kirjataan vaatimus tekoälyn jatkuvasta valvonnasta (ns. human-in-the-loop) osana palvelumuotoilua sekä asetetaan vaatimus riittävästä koulutuksesta valvontaa suorittaville henkilöille.

Maahanmuuttajille suunnattujen tekoälypalveluiden kehittämisessä yhteiskehittelyn (co-design) eri muodot ovat välttämätön menetelmä, sillä ne varmistavat palveluiden vastaavuuden kohderyhmän todellisiin tarpeisiin, kielelliseen ja kulttuuriseen moninaisuuteen sekä osallisuuteen. Pelkkään tehokkuuteen ja esimerkiksi kasvokkaisen palvelun vähentämiseen keskittyvä suunnittelu ei riitä, vaan kokonaisvaltaisemman huolenpidon näkökulmien – kuten käyttäjien haavoittuvuuksien, luottamuksen rakentamisen ja pitkäaikaisen tuen – monipuolinen huomioiminen on ratkaisevaa. Muuten palvelut voivat johtaa käyttäjien syrjäytymiseen, lisääntyneisiin tukitarpeisiin ja lopulta suurempiin yhteiskunnallisiin kustannuksiin pitkällä aikavälillä.

Suositus: 
Lakiin kirjataan vaatimus intressiryhmien kuulemisesta ja heidän osallistamisesta prosesseihin, joissa tekoälypalveluita kehitetään.

Uusia tietojärjestelmiä hankittaessa on houkuttelevaa ulkoistaa palvelut kansainvälisille suuryrityksille niiden näennäisen luotettavuuden ja edullisuuden vuoksi. Tällainen ulkoistaminen aiheuttaa kuitenkin riippuvuuden palvelun tuottajan ja ostajan välille, mikä nykyisessä globaalissa ilmapiirissä on riski sekä palvelun hinnan että saatavuuden kannalta. 

Oman osaamisen kehittäminen ja tietojen säilyttäminen omissa käsissä ovat lähestymistapoja tällaisten riskien vähentämiseksi. Tekoälypalveluita suunniteltaessa on siis tehtävä riskianalyysiä odotettavissa olevista hinnan nousuista epävakailla markkinoilla, hinnan nousun todennäköisyydestä riippuvuuden muuttuessa monopoli-asetelmaksi, lopullisen kustannuksen epävarmuudesta kun pilvipalvelujen hinnoittelu lasketaan käytön mukaan, eikä siitä ole luotettavaa ennustetta saatavilla, mahdollisten muiden maiden poliittisten päätösten vaikutuksesta palvelujen saatavuuteen, sekä korvaavien palveluiden käyttöönoton kustannuksista, mikäli alkuperäisen palvelun hinta, ehdot tai saatavuus muuttuvat. 

Keskeinen vaihtoehto epäterveiden riippuvuuksien vähentämiseksi on välttää tekoälyn ostamista suoraan suuryrityksiltä ja sen sijaan käyttää avoimen lähdekoodin tekoälymallia:
– omalla tietokoneklusterilla, jota oma IT-osasto hallinoi,
– ulkoistetulla (eurooppalaisella) pilvipalvelulla, jota oma IT-osasto hallinoi, tai
– ulkoistetulla (eurooppalaisella) pilvipalvelulla, jota hallinoi erillinen (eurooppalainen) IT-yritys (vrt. Model-as-a-Service, MaaS).

Jokainen näistä lähestymistavoista vähentää toimittajariippuvuuden aiheuttamaa riskiä vaihtelevissa määrin. 

Suositus: 
Lakiin kirjataan vaatimus riskienhallintasuunnitelmasta, joka sisältää 1. suunnitelman palveluntarjoajien vaihtamiselle tarvittaessa, 2. kriteerit ja mekanismit, joilla tällainen päätös vaihtamisesta tehdään, ja 3. miten se rahoitetaan. Lisäksi julkishallinnon tulee teknisesti pystyä ohjaamaan ja valvomaan heidän palveluihinsa liittyviä järjestelmiä ja heillä tulee olla siihen riittävä osaaminen. 

Kansallisella tasolla olisi suotavaa, että lakiin kirjataan vaatimus toimintaverkostosta, joka kykenee jakamaan ja koordinoimaan eri kunnissa tapahtuvaa kehitystä tekoälyn hyödyntämisessä kunnallisissa palveluissa. Tämä vahvistaisi tasa-arvon toteutumista eri puolilla Suomea ja tukisi pienten kuntien kehitystarpeita nopeasti kehittyvässä teknologisessa toimintaympäristössä. Lisäksi tämä varmistaisi, että kaikilla julkishallinnon yksiköillä olisi saatavilla riippumaton osapuoli takaamaan sellaisen teknisen osaamisen, joka vaaditaan tekoälyn käyttöönotossa ja käytössä.