Kukaan ei tiedä, miten tekoäly toimii
Tekoälyjärjestelmät ovat usein monimutkaisia, ja niiden toimintaperiaatteita voi olla vaikea hahmottaa. Myytti siitä, että tekoälyn toimintaa ei voisi ymmärtää, ei kuitenkaan täysin pidä paikkaansa. Ihmiskeskeisen suunnittelun ja viranomaisvalvonnan saralla otetut askeleet ovat pyrkineet lisäämään tekoälyjärjestelmien toimintalogiikan läpinäkyvyyttä. Tekoälyjärjestelmiä on mahdollista rakentaa siten että ne ovat sekä tehokkaita että vastuullisia, jolloin ne esimerkiksi noudattavat eettisiä normeja. Jos tekoälyä käytetään arkaluonteisten päätösten tekemiseen ja henkilötietojen käsittelyyn, käyttäjän tulee huomioida ja ymmärtää toiminnan eettiset puolet.
Ajatus siitä, että tekoälyn toimintaa ei voisi ymmärtää, johtuu joidenkin koneoppimismallien, erityisesti syväoppimisalgoritmien, monimutkaisuudesta. Nämä järjestelmät käsittelevät valtavia tietomääriä ja oppivat niistä ilman selkeitä, vaiheittaisia sääntöjä. Vaikeaselkoisia malleja on pyritty tekemään ymmärrettävämmiksi kehittämällä selitettäviä tekoälymalleja (explainable AI, XAI). Selitettävän tekoälyn tekniikat auttavat pilkkomaan tekoälyn avulla tehtäviä päätöksiä ymmärrettäviin osiin, jolloin on mahdollista jäljittää, mitkä datan ominaisuudet ovat vaikuttaneet tiettyyn lopputulokseen. Läpinäkyvyys on erityisen tärkeää aloilla, joilla käsitellään arkaluonteisia tietoja, kuten terveydenhuollossa ja rahoituksessa. Läpinäkyvät koneoppimismallit voivat auttaa ymmärtämään, miten vaikkapa tietty diagnoosi tai lainapäätös on syntynyt. Tällaiset tekoälyjärjestelmät eivät toimi läpäisemättömänä ”mustana laatikkona” vaan tarjoavat tulkittavia tuloksia, mikä lisää luottamusta niiden toimintaan ja vähentää epävarmuutta.
Tekoälyä hyödyntävää vastuullista ja oikeudenmukaista päätöksentekoa edistää myös se, että tekoälyjärjestelmiä suunnitellaan ihmiskeskeisen tekoälyn (human-centric AI, HCAI) periaatteiden mukaisesti. Tässä mallissa tekoälyä ei suunnitella ainoastaan tehtävien optimointiin, vaan sen tarkoituksena on työskennellä ihmisten rinnalla ja tukea yhteisten tavoitteiden ja arvojen saavuttamista. Esimerkiksi terveydenhuollossa PathAI tarjoaa diagnostiikka-apua analysoimalla kudosnäytteitä, mutta lopulliset hoitopäätökset tekee lääkäri. Vastaavasti finanssialalla Zest AI auttaa arvioimaan luottokelpoisuutta, mutta ihmisanalyytikko varmistaa, että päätökset ovat oikeudenmukaisia ja syrjimättömiä.
Vastuullisuus- ja läpinäkyvyyskysymykset ovat erityisen keskeisiä silloin, kun tekoäly käsittelee arkaluonteisia tietoja. Tekoälyä käytetään henkilötietojen käsittelyyn esimerkiksi automaattisessa luottotietojen pisteytyksessä tai kohdennetussa mainonnassa. Jotta käyttäjät ymmärtäisivät selkeästi, miten ja millaisia henkilötietoja näihin käytetään, tekoälyjärjestelmien odotetaan paljastavan, miten käyttäjien henkilötiedot vaikuttavat tekoälyn tekemiin päätöksiin. Myös EU:n yleisen tietosuoja-asetuksen perusteella yksilöille on kerrottava heitä koskevien automatisoitujen päätösten taustalla olevasta logiikasta.
Tekoälyjärjestelmien läpinäkyvyyden edistämiseen on haluttu puuttua ohjauksen lisäksi myös sääntelyllä. Sääntelypuitteet erityisesti Euroopan unionissa korostavat tekoälyn avoimuutta ja vastuullista käyttöä. Sääntelyllä on pyritty esimerkiksi vähentämään riskiä, että tekoälyjärjestelmien käyttämät henkilötiedot päätyisivät vääriin käsiin. On kuitenkin epäselvää, kuinka hyvin tällaista lainsäädäntöä pystytään valvomaan ja toimeenpanemaan. On tärkeä ymmärtää, että läpinäkymättömyys ei ole tekoälyteknologiaan välttämättömästi kuuluva ominaisuus.14 Tämän takia ajatus siitä, että tekoälyn toimintaa ei voi ymmärtää, on myytti. Jos vain halutaan, tekoälyjärjestelmiä voidaan suunnitella siten, että niiden toiminta on linjassa ihmisten arvojen ja oikeudellisten periaatteiden kanssa.
Marja Alastalo, Kamrul Faisal, Essi Iisakka, Megumi Iwata, Jari Laru, Iiris Lehto, Sanna Merikanto-Tolonen, Marianne Mäkelin, Kati Mäkitalo, Matti Tedre, Henriikka Vartiainen & Teppo Vesikukka
