AI:n käyttäminen strategisissa päätöksissä on törkeän iso riski

Ongelma ei ole se, etteikö AI kykenisi tuottamaan uskottavia suunnitelmia ja päätöksiä, vaan se, että AI on mielistelevä järjestelmä, joka on optimoitu tuottamaan hyviä keskusteluja, ei hyviä päätöksiä.

Erityisen haavoittuvassa asemassa ovat AI-myönteiset yrittäjät ja johtajat, joilla ei ole luotettavaa neuvonantajaa tai sparrauskumppania. Jos hallitus toimii yrityksessä vain nimellisesti tai yhtiökumppaneilla ei ole kykyä tai halua osallistua aktiivisesti päätöksentekoon, AI voi tuntua taivaanlahjalta.

On helppoa, kun voi vain tiputtaa dokumentit ja suunnitelmat AI:n analysoitavaksi. AI esittää pari fiksulta tuntuvaa tarkentavaa kysymystä ja alkaa sitten tuottaa järkevältä kuulostavia argumentteja. Kyselet hieman lisäkysymyksiä, saat keskustelun elähdyttämänä pari uutta mielenkiintoista ideaa ja keskustelet niistä yhdessä AI-järjestelmän kanssa. Ennen kuin tajuatkaan, sinulla on selkeältä ja loogiselta tuntuva suunnitelma.

Mutta jos nukut yön yli, neuvot alkavat tuntua hieman oudoilta. Suositukset ovat ylioptimistisia, niissä on loogisia ristiriitoja, aikataulut eivät tunnu realistisilta ja kustannukset on aliarvioitu. Pieniä yksityiskohtia, joista on kasvanut isoja päätelmiä.

AI:n kanssa puuhastellessa vaarallisimmat ongelmat eivät ole hallusinointi tai mielistely, vaikka nekin ovat tyypillisiä ongelmia. Oikeasti yrittäjälle ja johtajalle vaarallisia ongelmia on kolme:

1. Konteksti-ikkunan saastuminen. LLM-mallit tekevät töitä sen perusteella, mitä niille syötetään. Asia, joka voi tuntua sinulle mitättömältä, saattaa nousta AI:n omassa päätöksenteossa merkittävään asemaan ja saastuttaa koko päättelyketjun. Yksittäisessä dokumentissa oleva sivumaininta nousee merkitykseltään korkeammaksi, ja sitten koko ketju toimintasuunnitelmaan saakka perustuu kontekstistaan irrotettuun yksittäiseen sivulauseeseen.
2. Enemmistön tyrannia. LLM on optimoitu antamaan suosituimman vastauksen, koska se on tilastollisesti yleisin onnistuminen koulutusdatassa. Tämä tarkoittaa sitä, että LLM antaa vastauksia, jotka toimivat hyvin USA:n markkinoilla mutta heikosti Suomessa. Ongelma on erityisen vaarallinen juuri siksi, että vastaus kuulostaa asiantuntevalta ja on kieliopillisesti moitteeton, mutta sen taustalla oleva markkinakonteksti on täysin eri. Vastaus on siis oikein, mutta ei sinulle.
3. Hätäily. LLM hyppää suoraan kysymykseen vastaamiseen miettimättä, onko kysymys itsessään oikea tai edes relevantti. Jos yrittäjä kysyy, miten voi laajentaa liiketoimintaa uudelle liiketoiminta-alueelle, LLM antaa hyviä vastauksia, vaikka sen ei vielä pitäisi. Olennaista olisi selvittää ensin, onko liiketoiminnan laajentaminen juuri nyt kokonaisuutena edes järkevää.

Noita ongelmia voi onneksi minimoida, mutta tärkeintä on, että tiedostaa niiden olemassaolon. Vähintään kannattaa käydä suunnitelmat läpi luotetun neuvonantajan kanssa ennen kuin painaa liipaisimesta.

Olen oikeastaan ollut vähän hämmentynyt siitä, miten vähän AI on syönyt omaa tekemistäni. Luulisi, että työni sulaisi AI-aikakautena ensimmäisenä, kun asiakkaat saavat AI:lta oikein hyviä vastauksia liikkeenjohdollisiin kysymyksiin.

Todellisuus kuitenkin on, ettei työni ole aikaisemminkaan ollut pelkkää vastauksien antamista, vaan oikeiden kysymysten muotoilua yhdessä asiakkaan kanssa.

Ja se on työ, jota on todella hankala siirtää AI:lle.

Onko sulla mennyt AI:n kanssa keskustellessa joku päätös vihkoon?