Tekoäly osaa, hallusinoi ja ajattelee kuin ihminen
Generatiiviselle tekoälylle perustuvien sovellusten toimintaa kuvataan usein käyttäen sanoja, joilla tyypillisesti viitataan ihmisten toimintaan. Sovelluksen sanotaan tietävän tai uskovan asioita, samoin sen sanotaan osaavan asioita ja ajattelevan.13 Helposti sanomme sen myös tarkoittavan tai aikovan jotakin. Tätä tukee myös tekoälysovellusten ulosanti: sovellus kertoo tietävänsä asioita ja sanoo olevansa pahoillaan, kun on väärässä. Voimme keskustella luonnollisesti tekoälysovelluksen kanssa kaikenlaisista asioista, ja sen ulosanti on kieliopillisesti korrektia. Vaikka vastaavanlaiseen vuorovaikutukseen eivät ole aikaisemmin kyenneet kuin ihmiset, tällaisia inhimillistäviä puhetapoja ei kuitenkaan ole syytä ottaa liian vakavasti.
Tekoälysovelluksella ei ole ihmisen kaltaista mieltä. Sovellus ei ole tietoinen, se ei ajattele eikä sillä ole tunteita. Kysyttäessä tekoälysovellus antaa kyllä hienon määritelmän sille, mitä on olla pahoillaan, mutta tämä ei tarkoita, että se kykenisi tämänkaltaisiin – tai ylipäätään minkäänlaisiin – tunteisiin. Ei, vaikka se usein sanookin olevansa pahoillaan. Tämä on vain sille opetettu kielellinen ilmaisutapa, kun käyttäjä esimerkiksi huomauttaa virheestä. Tekoälysovellus on opetettu luomaan illuusio luontevasta ja aidosta vuorovaikutuksesta, ja siksi se antaa inhimillisen vaikutelman. Tämä on hyödyllistä, sillä ihmiset kokevat vuorovaikutuksen ihmisen kaltaisen olion kanssa helpoksi. Käyttäjän ei tarvitse miettiä, kuinka kielimalli oikeasti toimii ja kuinka sen kanssa voisi kommunikoida. Ongelmalliseksi tämä asetelma muodostuu vasta sitten, jos kuvittelemme, että sovelluksen takana on todellinen henkilö, jolla on aitoja tunteita, aikomuksia tai vakaumuksia. Tai jos ajattelemme tekoälyn olevan oraakkeli, joka tietää kaikki asiat, vaikka ”tietämys” tosiasiassa pohjautuu sovellukselle syötettyyn opetusaineistoon.
Inhimillistäminen edistää siis vuorovaikutusta tekoälysovelluksen kanssa, mutta kun pohditaan, kuinka sovellus oikeasti toimii, on ihmisen kaltaisen mielen olettaminen vain haitaksi. Hyvä esimerkki tästä on ajatus siitä, että sovellus hallusinoi silloin, kun se tuottaa virheellisiä tai outoja vastauksia. Ihmisistä puhuttaessa hallusinaatiolla tarkoitetaan mielen tuottamia todentuntuisia aistikokemuksia. Kirjaimellisessa mielessä tekoälysovelluksella ei voi olla hallusinaatiota: sillä ei ole mieltä, aistikokemuksia eikä käsitystä totuudellisuudesta. Se vain tuottaa hölynpölyä tai satuilee. Vaikka tiedostaisimme kaiken tämän, on puhe hallusinaatioista silti harhaanjohtavaa, sillä se synnyttää vaikutelman, että kyseessä olisi poikkeuksellinen häiriö. Ihmiselle hallusinaatiot nimittäin ovat poikkeama normaalista mielen toiminnasta. Sen sijaan generatiiviselle tekoälylle kyse on pikemminkin normaalista toiminnasta. Sovelluksen pohjana toimiva perustamalli on viime kädessä vain ohjelma, joka ennustaa, millaisia kielellisiä ilmauksia tietyssä tekstiyhteydessä todennäköisimmin esiintyy, ja tätä mallia hyödyntävä chat-sovellus on hienosäädetty tuottamaan mahdollisimman uskottavalta kuulostavia vastauksia. Sovellus ei siis varsinaisesti tiedä asioita, ja siksi yllättävää ei ole sen satuilu vaan pikemminkin se, kuinka vähän sitä tapahtuu.
