Hattu-kissasta tuli poliisiasia. Kukaan ei nähnyt sitä tulevaksi — paitsi jokainen, jolla on puhelin.

Tekoälyllä tehty meemi muutti kuusikymmentä vuotta vanhan lastenkirjahahmon monen osavaltion turvallisuushälytykseksi. Kouluja lukittiin, poliisi antoi varoituksia, ja useat teini-ikäiset kohtaavat nyt oikeita syytteitä uhkauksista, jotka näyttivät häiritsevän todellisilta.

Algoritmin tekemä asu, ei kustantajan

Tässä kuussa verkossa alkoi levitä joukko tekoälyllä luotuja kuvia: valokuvamaisen realistinen, tarkoituksella häiritsevä versio raidallisella hatulla varustetusta kissasta kuusikymmentä vuotta vanhasta lastenkirjasta, esitettynä väijyvänä hahmona ja tekstitettynä kuin se varoittaisi hyökkäyksestä tiettyjä kouluja vastaan. Kukaan hahmon oikeuksien haltija ei tilannut mitään tästä. Ei tarvinnutkaan. Kuka tahansa, jolla oli puhelin ja kuvantuottotyökalu, pystyi tekemään yhden — ja tässä kuussa aika moni teki.

Kuvat levisivät samaan tapaan kuin lähes kaikki leviää nykyään: nopeasti, ilman kontekstia ja kuvakaappauksina kauan ennen kuin kukaan ehti varmistaa, tarkoittivatko ne mitään.

Kun internetin käsitys vitsistä kohtaa oikean toimintaohjeen

Koulut useissa Yhdysvaltain osavaltioissa reagoivat ainoalla tavalla, joka uskottavalta näyttävään uhkaan on sallittu: lukituksilla, vanhemmille lähetetyillä hälytyksillä ja poliisin hälyttämisellä. Poliisilaitokset puolestaan antoivat julkisia varoituksia, aloittivat tutkintoja ja nostivat useassa osavaltiossa syytteitä teini-ikäisiä vastaan, joiden epäillään luoneen tai levittäneen kuvia.

Mikään tästä ei ole vitsi. Huijausuhkaus vie silti oikeita resursseja pois oikeasta turvallisuustyöstä, ja se jättää oikeita lapsia istumaan lukittuun luokkahuoneeseen tietämättä varmasti, onko tänään se päivä, jolloin jotain todella tapahtuu. Syytteet asianosaisia teinejä vastaan ovat vakavia, ja niin on myös heidän julkaisujensa aiheuttama häiriö.

Epämukava osa ei ole kissa

Todellinen tarina tässä liittyy hyvin vähän lastenkirjahahmoon ja paljon siihen tosiasiaan, että instituutiot eivät voi enää turvallisesti olettaa ”tämähän on selvästi väärennös”. Generoitu kuva ja uskottava uhkaus näyttävät nyt täsmälleen samalta, mikä pakottaa jokaisen koulun, jokaisen poliisilaitoksen ja jokaisen vanhemman kohtelemaan kaikkea todellisena, kunnes toisin todistetaan. Se on hidasta, kallista ja — kyllä — ajoittain surrealistista, sillä hyvin erityisellä tavalla, jolla vain virallinen poliisitiedote fiktiivisestä hattukissasta voi olla.

Ja tuon surrealismin alla se on myös oikea ratkaisu. Varovaisuuden puolella erehtyminen on ainoa vastuullinen vaihtoehto, kun väärän arvauksen hinta on oikea koulu ja oikeita lapsia.

Mitä tästä lopulta jää käteen

Kuvat poistetaan. Uutissykli jatkaa eteenpäin. Se, mikä ei etene yhtä nopeasti, on taustalla oleva ongelma: generatiiviset työkalut ovat tuoneet ”tarpeeksi vakuuttavan vaatiakseen poliisin reagoinnin” kenen tahansa ulottuville muutamalla minuutilla ja internet-yhteydellä, oli tarkoituksena sitten oikea vahinko tai luulo meemin tekemisestä. Näiden kahden erottaminen jälkikäteen on nyt kokopäivätyö ihmisille, jotka aiemmin käyttivät aikansa huomattavasti vähemmän absurdeihin uhkiin.

Me vietämme työaikamme muuttamalla yhtä kieltä toiseksi, jotta ihmiset ymmärtäisivät toisiaan hieman nopeammin. Tämän kuukauden versio siitä ongelmasta ei ollut kielellinen — kukaan ei tarvinnut kääntäjää ymmärtääkseen, että uhkaava kuva on hälyttävä. Puuttuva asia on toisenlainen tulkki: jokin, joka pystyy erottamaan oikean varoituksen generoidusta ennen kuin kenenkään tarvitsee lukita luokkahuoneen ovi selvittääkseen asian. Sitä ei ole vielä kukaan rakentanut. Epäilemme, että moni yrittää parhaillaan.