Tekoälyrajapintojen vertailu yrityskäyttöön

Tekoälyrajapintoja ei vertailla hintalistan riveiltä vaan omalla aineistolla. Tässä laskutapa, jolla saat oman kuukausikustannuksesi selville ennen kuin sitoudut, vertailukriteerit hinnan ulkopuolelta ja se, miksi suomenkielinen teksti maksaa tokeneina enemmän kuin englanti.

Tekoälyrajapintoja ei vertailla hintalistan riveiltä. Vertailu tehdään omalla aineistolla: otat kaksikymmentä oikeaa asiakasviestiä, ajat ne toimittajan omalla token-laskurilla, lasket keskiarvon ja kerrot kuukauden viestimäärällä. Vasta sen jälkeen hinnastoluku tarkoittaa jotain. Ja koska suomenkielinen teksti pilkkoutuu useampaan tokeniin kuin sama asia englanniksi, suomi maksaa saman rajapinnan läpi enemmän kuin englanti — kuinka paljon enemmän, sen näet vain mittaamalla omat viestisi. Älä usko kertoimia, joita joku kertoo ulkoa.

Tekoälyrajapinta eli tekoäly-api on maksullinen liitos, jonka kautta oma ohjelmasi lähettää tekstiä kielimallille ja saa tekstiä takaisin. Laskutus tapahtuu lähes aina tokeneina: teksti pilkotaan pieniksi paloiksi, ja maksat sekä sisään menevistä että ulos tulevista paloista. Tämä kuulostaa yksinkertaiselta ja on se juuri siksi petollista. Kaksi toimittajaa voi näyttää hinnastossa lähes samalta ja maksaa käytössä kaksinkertaisen eron, koska laskuun vaikuttaa enemmän se, mitä lähetät, kuin se, mitä yksikköhinta on.

Tällä sivulla on kaksi asiaa. Ensimmäinen on laskutapa, jolla saat oman kuukausikustannuksesi selville ennen kuin sitoudut mihinkään. Toinen on vertailukriteeristö, jolla erotat toimittajat toisistaan silloinkin, kun hinta on sama. Hintoja ei ole tällä sivulla yhtään, ja syy on kerrottu heti alla.

Miksi tällä sivulla ei ole yhdenkään toimittajan hintoja

Tekoälyrajapintojen hinnat muuttuvat nopeammin kuin verkkosivut ehtivät vanhentua. Yksikköhinnat laskevat, uusia malleja tulee, vanhoja poistuu, ja sama tuotenimi voi tarkoittaa eri asiaa puolen vuoden päästä. Jos kirjoittaisimme tähän luvun, se olisi väärin ennen kuin ehdit lukea sen — ja väärä hintaluku on lukijalle kalliimpi kuin ei lukua lainkaan.

Siksi tämä sivu opettaa laskutavan eikä lukuja. Sinä poimit hinnat itse, samana päivänä kun laskelman teet, suoraan toimittajan omasta hinnastosta. Se on ainoa oikea lähde. Hinnat muuttuvat usein — lue luku aina toimittajan omasta hinnastosta samana päivänä kun laskit, ja kirjoita laskelmaan näkyviin, minä päivänä luku on otettu. Kun laskelmaa katsotaan puolen vuoden päästä, päivämäärä kertoo heti, kannattaako se tehdä uudelleen.

Sama koskee mallien nimiä. Puhumme tässä mallityypeistä, emme tuotenimistä: suuret yleismallit, kevyet halpamallit, avoimen painon mallit joita voi ajaa itse, sekä eurooppalaiset toimittajat. Jokaisella on oma paikkansa, eikä yksikään niistä ole lähtökohtaisesti parempi kuin toinen. Oikea valinta riippuu tehtävästä, ja useimmiten oikea vastaus on käyttää useampaa: halpaa mallia rutiiniin ja kalliimpaa niihin harvoihin kohtiin, joissa laatu ratkaisee.

Miksi suomi maksaa enemmän tokeneina kuin englanti?

Suomi maksaa saman tekoälyrajapinnan läpi enemmän kuin englanti, ja tämä on se kohta, jonka englanninkieliset vertailut jättävät kertomatta. Syy on tokenisaattorissa. Kielimalli ei käsittele kirjaimia eikä sanoja vaan tokeneita, ja tokenisaattori on erillinen osa, joka pilkkoo tekstin paloihin tilastollisesti: usein esiintyvät merkkijonot saavat oman tokeninsa, harvinaiset pilkotaan useampaan palaan. Valtaosa aineistosta, jolla nämä tokenisaattorit on rakennettu, on englanninkielistä. Suomessa on lisäksi kaksi piirrettä, jotka pahentavat asiaa: yhdyssanat kirjoitetaan yhteen pitkiksi merkkijonoiksi, ja taivutuspäätteitä on paljon, jolloin sama sanavartalo on tokenisaattorille kymmeniä eri merkkijonoja.

Kielimalli ei käsittele kirjaimia eikä sanoja vaan tokeneita. Tokenisaattori on erillinen osa, joka pilkkoo tekstin paloihin, ja se on rakennettu tilastollisesti: usein esiintyvät merkkijonot saavat oman tokeninsa, harvinaiset pilkotaan useampaan palaan. Valtaosa aineistosta, jolla nämä tokenisaattorit on rakennettu, on englanninkielistä. Siitä seuraa, että tavalliset englanninkieliset sanat menevät usein yhtenä tokenina läpi, kun taas suomenkielinen teksti pilkkoutuu tiheämmin.

Suomessa on kaksi piirrettä, jotka pahentavat asiaa. Yhdyssanat kirjoitetaan yhteen, joten sana kuten "kanta-asiakasjärjestelmä" on yksi pitkä merkkijono, jota tokenisaattori ei ole nähnyt kokonaisena ja jonka se pilkkoo useaan osaan. Toiseksi taivutuspäätteitä on paljon: sama sanavartalo esiintyy kymmenissä muodoissa, ja jokainen muoto on tokenisaattorille eri merkkijono. Sama asiasisältö vie siis suomeksi enemmän tokeneita kuin englanniksi, ja koska maksat tokeneista, sama työ maksaa enemmän.

Miten mittaat oman token-määräsi?

Oman token-määrän mittaaminen on koko sivun tärkein työvaihe, ja se vie noin tunnin. Tarvitset kaksikymmentä oikeaa asiakasviestiä ja toimittajan oman token-laskurin, joita suurin osa toimittajista tarjoaa ilmaiseksi. Poimi viestit sähköpostista, chatista tai lomakkeista sellaisenaan ja alkuperäisillä sanamuodoilla — älä kirjoita esimerkkiviestejä itse, koska asiakkaat kirjoittavat pidempään ja eri sanoilla kuin sinä. Aja viestit laskurin läpi ja laske keskiarvo sekä suurin arvo. Mittaa järjestelmäkehote erikseen, arvioi vastauksen pituus kolmella käsin kirjoitetulla esimerkillä, ja kerro lopuksi kuukauden todellisella viestimäärällä. Nyt sinulla on kaikki, mitä laskelma tarvitsee.

1. Poimi 20 oikeaa asiakasviestiä Sähköpostista, chatista tai lomakkeista, sellaisenaan ja alkuperäisillä sanamuodoilla. Älä kirjoita esimerkkiviestejä itse: asiakkaat kirjoittavat pidempään, epäselvemmin ja eri sanoilla kuin sinä. Ota mukaan sekä lyhyet että ne kaksi ärsyttävän pitkää.
2. Aja ne toimittajan token-laskurin läpi Merkitse jokaisen viestin token-määrä ylös. Jos vertailet kahta toimittajaa, aja samat 20 viestiä molempien laskurilla — luvut eroavat, koska tokenisaattorit ovat eri.
3. Laske keskiarvo Yhteenlaskettu määrä jaettuna kahdellakymmenellä. Tämä on yhden asiakasviestin keskimääräinen syöte. Katso myös suurin arvo: se kertoo, mihin lasku venyy pahimmillaan.
4. Mittaa järjestelmäkehote erikseen Kehote eli se ohjeteksti, jolla kerrot mallille miten sen pitää vastata. Aja se saman laskurin läpi. Tämä luku on tärkeämpi kuin miltä näyttää, ja syy on seuraavassa luvussa.
5. Arvioi vastauksen pituus Kirjoita käsin kolme tyypillistä vastausta sen mittaisina kuin haluat mallin vastaavan, ja aja nekin laskurin läpi. Ulostulo hinnoitellaan lähes aina eri hinnalla kuin syöte, joten se tarvitaan omana lukunaan.
6. Kerro kuukauden viestimäärällä Ota todellinen viestimäärä viime kuukaudelta, älä toivottua. Nyt sinulla on kaikki, mitä laskelma tarvitsee.

Kustannuslaskelma per 1000 asiakasviestiä

Tuhannen asiakasviestin kustannus lasketaan kuudesta itse mitatusta luvusta ja kahdesta hinnastoluvusta. Alla oleva taulukko on laskupohja eikä hinta-arvio. Syöterivit ovat asiakasviestin keskipituus, järjestelmäkehote, mukaan liitetty tausta-aineisto ja keskustelun historia, ja ne lasketaan yhteen yhden viestin kokonaissyötteeksi. Vastauksen pituus on oma rivinsä, koska ulostulo hinnoitellaan lähes aina eri hinnalla kuin syöte. Molemmat kerrotaan tuhannella ja sen jälkeen toimittajan yksikköhinnalla. Yksikköhinnat ovat taulukossa tarkoituksellisesti kirjaimia: sijoita niiden tilalle toimittajan tämänhetkinen luku siltä päivältä, jona lasket, ja merkitse päivämäärä laskelmaan näkyviin.

Oikean sarakkeen token-luvut ovat esimerkkejä havainnollistamista varten, eivät sinun lukujasi eivätkä markkinan keskiarvo. X ja Y ovat paikanpitäjiä: sijoita niiden tilalle toimittajan tämänhetkinen luku hinnastosta. Vasta silloin lopputulos tarkoittaa jotain. Jos toimittaja hinnoittelee eri valuutassa, muunna kurssi samalta päivältä ja merkitse sekin ylös.

Huomaa mitä esimerkkilaskelma näyttää rakenteesta. Varsinainen asiakasviesti on pienin osa syötettä. Kehote, tausta-aineisto ja historia ovat yhdessä moninkertaiset siihen nähden. Kun siis mietit, mistä kustannus syntyy, kysymys ei ole asiakkaista vaan siitä, mitä sinä lähetät heidän viestinsä mukana.

Kaksi piilokustannusta, jotka yllättävät

Ensimmäinen on järjestelmäkehote. Se on se ohjeteksti, jossa kerrot mallille yrityksen nimen, sävyn, mitä se saa luvata ja mitä ei. Sitä kirjoitetaan kerran, joten sitä on helppo ajatella kertakustannuksena. Se ei ole. Kehote lähetetään joka ainoalla kutsulla, ja maksat siitä joka kerta. Kolmen sivun huolellinen ohjeistus voi olla moninkertaisesti pidempi kuin asiakkaan kysymys, jolloin suurin osa laskustasi tulee tekstistä, jota kukaan asiakas ei koskaan näe. Tämä on tavallisin syy siihen, että lasku on isompi kuin arvio.

Toinen on keskusteluhistoria. Kielimallilla ei ole muistia. Jotta se osaa vastata jatkokysymykseen, koko aiempi keskustelu lähetetään uudelleen jokaisella kierroksella. Kymmenen viestin keskustelussa alkupää on siis lähetetty ja maksettu kymmenen kertaa. Syöte kasvaa keskustelun edetessä, ja pitkä keskustelu maksaa selvästi enemmän kuin sama määrä erillisiä kysymyksiä.

Molempiin on sama korjaus: mittaa, älä arvaa. Kun tiedät kehotteen token-määrän, näet heti, kannattaako sitä lyhentää. Ja kun tiedät historian kasvun, osaat päättää, montako kierrosta pidät mukana ennen kuin tiivistät tai nollaat keskustelun. Nämä ovat molemmat asetuksia, ei uudelleenrakennuksia.

Vertailukriteerit: mitä kysyt toimittajalta

Hinta on tekoälyrajapinnan vertailussa vain yksi rivi yhdeksästä. Kysy toimittajalta kirjallisesti myös hinnoittelumallin rakenne, tietojen käsittelyn sijainti ja EU-lukitus, käytetäänkö lähettämääsi aineistoa mallien kouluttamiseen, tyypillinen vasteaika sinun kokoisellasi syötteellä, käyttörajat ja se mitä rajan ylityksestä seuraa, nykyisen malliversion elinkaari ja varoitusaika sen poistumisesta, suomen kielen laatu omilla viesteilläsi testattuna, mahdollisuus ajaa avoimen painon mallia itse, ja se kuinka paljon koodia pitäisi muuttaa toimittajan vaihtuessa. Jokainen näistä maksaa rahaa myöhemmin, jos sitä ei kysytä nyt. Säilytä vastaukset kirjallisina.

Kaksi viimeistä riviä liittyvät toisiinsa. Jos rakennat liitoksen niin, että malli ja toimittaja ovat vaihdettavissa yhdestä asetuksesta, säilytät valinnanvapauden. Se tarkoittaa käytännössä, että kehotteet, aineisto ja logiikka ovat omassa koodissasi eivätkä toimittajan hallintapaneelissa. Tämä on halpaa tehdä alussa ja kallista jälkikäteen.

Milloin tekoälyrajapintaa EI kannata ostaa

Tekoälyrajapintaa ei kannata ostaa neljässä tilanteessa, ja tämä luku on tässä siksi, että se on useammin oikea vastaus kuin miltä näyttää. Ensimmäinen on se, että sääntöpohjainen logiikka tai tavallinen hakutoiminto riittää: kielimalli on silloin kalliimpi, hitaampi ja epävarmempi kuin kymmenen riviä koodia. Toinen on liian pieni volyymi, jolloin säästöä ei synny mutta ylläpito, lasku ja seuranta jäävät. Kolmas on tilanne, jossa väärä vastaus maksaa enemmän kuin ihmisen aika — tai jossa jokainen vastaus pitää joka tapauksessa tarkistaa. Neljäs on se, ettei kukaan aio seurata kulutusta. Käydään ne läpi järjestyksessä.

Ensinnäkin: kun sääntöpohjainen logiikka tai tavallinen hakutoiminto riittää. Jos tehtävä on "etsi tästä listasta se rivi, jossa lukee X" tai "jos summa ylittää tuhat euroa, lähetä hyväksyntä", kielimalli on väärä työkalu. Se on kalliimpi, hitaampi ja epävarmempi kuin kymmenen riviä koodia, joka tekee saman asian samalla tavalla joka kerta. Kielimalli kannattaa vasta, kun syöte on vapaata tekstiä, jota ei voi luetteloida etukäteen.

Toiseksi: kun volyymi on niin pieni, ettei säästöä synny. Jos käsittelet viisi viestiä viikossa, automaatio ei säästä työaikaa mitattavasti, mutta se tuo mukanaan liitoksen ylläpidettäväksi, laskun maksettavaksi ja toimittajan seurattavaksi. Laske säästö euroina ennen kuin rakennat: viestimäärä kertaa säästetyt minuutit kertaa tuntihintasi. Jos luku on pienempi kuin rakentamisen ja ylläpidon kustannus, vastaus on ei.

Kolmanneksi: kun väärä vastaus maksaa enemmän kuin ihmisen aika. Kielimalli tuottaa sujuvan vastauksen myös silloin, kun sillä ei ole tietoa, eikä se kerro olevansa epävarma. Jos väärä vastaus tarkoittaa väärää lääkeohjetta, väärää sopimusehtoa tai väärää verotulkintaa, oikea käyttö on ohjaaminen ja tiedon hakeminen, ei neuvominen. Sama pätee, jos jokainen vastaus pitää joka tapauksessa tarkistaa ihmisellä: silloin et poistanut työtä, vaan lisäsit siihen tarkistusvaiheen.

Neljänneksi: kun kukaan ei aio seurata, mitä rajapinta tekee. Käytön määrä kasvaa huomaamatta, ja ilman kulukattoa ja hälytystä lasku huomataan vasta kuukauden lopussa. Jos et aio katsoa kulutusta viikoittain ensimmäisen kuukauden ajan, älä ota rajapintaa tuotantoon.

Testiajo, joka ratkaisee valinnan

Kun olet karsinut kaksi tai kolme vaihtoehtoa, älä valitse taulukosta vaan aja lyhyt testi. Se maksaa muutamia euroja ja kertoo enemmän kuin mikään vertailu. Käytä samoja kahtakymmentä oikeaa asiakasviestiä, samaa järjestelmäkehotetta ja samaa tausta-aineistoa, niin että ainoa muuttuja on toimittaja ja malli. Kirjaa jokaisesta vaihtoehdosta neljä lukua: token-määrä sisään, token-määrä ulos, vasteaika sekunteina ja hyväksyttävien vastausten osuus. Lue vastaukset itse suomen kielen kannalta ja kysy, lähettäisitkö tekstin asiakkaalle sellaisenaan. Testaa lopuksi kymmenellä kysymyksellä, joihin aineistossa ei ole vastausta, ja katso myöntääkö malli tietämättömyytensä.

1. Käytä samoja 20 viestiä Samat oikeat asiakasviestit, sama järjestelmäkehote, sama tausta-aineisto. Ainoa muuttuja on toimittaja ja malli.
2. Kirjaa neljä lukua per vaihtoehto Token-määrä sisään, token-määrä ulos, vasteaika sekunteina ja hyväksyttävien vastausten osuus. Neljäs on ainoa, joka vaatii sinun lukevan vastaukset itse.
3. Lue vastaukset suomen kielen kannalta Taivutukset, yhdyssanat, sävy. Kysy itseltäsi, lähettäisitkö tämän asiakkaalle sellaisenaan. Ero toimittajien välillä näkyy tässä nopeammin kuin missään mittarissa.
4. Testaa kymmenellä ilkeällä kysymyksellä Kysy jotain, mitä aineistossa ei ole. Katso, myöntääkö malli ettei tiedä vai keksiikö se vastauksen. Tämä ero maksaa myöhemmin enemmän kuin yksikköhinta.
5. Laske kuukausikustannus mitatuista luvuista Käytä yllä olevaa laskupohjaa ja hinnastolukua samalta päivältä. Merkitse päivämäärä laskelmaan.
6. Aseta kulukatto ja hälytys ennen tuotantoa Lähes jokainen toimittaja tarjoaa kuukausikaton ja sähköposti-ilmoituksen. Aseta ne ennen ensimmäistä oikeaa käyttäjää, älä sen jälkeen.

Jos rakennat asiakaspalveluun vastaavaa toteutusta, samat luvut pätevät siihen suoraan — kirjoitimme aiheesta erikseen sivulla chatbot yritykselle. Ja jos haluat, että joku käy laskelman läpi kanssasi ja sanoo suoraan myös silloin, kun oikea vastaus on ettei rajapintaa kannata ottaa, teemme sitä työtä: tekoälykonsultointi. Hinnat lukevat hinnastossa, eivät tarjouksessa.

Usein kysyttyä

Lue seuraavaksi

• Luo QR-koodi yrityskäyttöön: staattinen vai dynaaminen koodi
• Yrityssovelluksen kehittämisen hinta
• WordPress-ylläpidon hinta ja mitä siihen oikeasti kuuluu
• WordPressin hakukoneoptimointi: neljä asetusta, jotka ratkaisevat teknisen puolen
• Webhotellin vaihto ilman katkoa: testaa uusi palvelin ennen kuin kukaan asiakas näkee mitään

Lue myös: Tietosuojaseloste-malli pienyritykselle · Liiketoimintasuunnitelman pohja ja laskelmat · IT-konsultointi pienyritykselle · Tekoälykonsultointi pienyritykselle · Digitalisaatio pienyritykselle · Liikkeenjohdon konsultointi pienelle yritykselle · Google-yritysprofiili: tee itse ilmaiseksi tai anna meidän hoitaa se · Sähköposti yritykselle: mitä nimi@firma.fi maksaa ja miten se otetaan käyttöön