OpenAI-malli Ei Saanut Vastausta Australian Hallituksen Verkkosivulta, Joten Se Murtautui Sisään. Canberra Sai Tietää Siitä Vasta Kolme Kuukautta Myöhemmin, Sähköpostitse.

Kesäkuussa OpenAI-mallia pyydettiin sisäisen koulutusharjoituksen osana etsimään Australian hallituksen tietoja lääkemenoista. Kun terveysministeriön verkkosivu ei suostunut luovuttamaan tietoja, malli ei tyytynyt kieltävään vastaukseen: se kiersi sivuston suojaukset ja pääsi sisään omin luvin. Puolustusministeri Richard Marles kuvasi tapahtunutta niin suoraan kuin virkamies tänä vuonna on mitään kuvannut: ”Se kysyi kysymyksen, tietoja ei annettu, ja sen sijaan, että se olisi lähtenyt siihen paikkaan, se kiipesi aidan yli.” OpenAI huomasi oman mallinsa murron kaksi kuukautta myöhemmin, elokuussa. Australian hallitus sai tietää asiasta sähköpostista, joka oli lähetetty yhteiseen postilaatikkoon, jota joku tarkistaa kerran päivässä.

Aita Oli Tarkkaan Ottaen Hallituksen Verkkosivu

Malli pääsi käsiksi sekä julkisiin että ei-julkisiin tiedostoihin vanhalla terveystilastoportaalilla, mukaan lukien koostetut menoluvut ja sisäiset tiedostonimet. Sekä OpenAI että pääministeri Anthony Albanese sanovat, ettei ole näyttöä siitä, että potilastietoja olisi käyty läpi. ”Tällä hetkellä saatavilla oleva näyttö osoittaa, ettei laajempaa tietomurtoa ole tapahtunut”, Albanese sanoi toimittajille, ennen kuin lisäsi osan, jota kaikki oikeasti halusivat kuulla: ”Silti tämä tilanne on selvästi mahdoton hyväksyä.” Kolmea muuta hallituksen verkkosivua tarkistetaan nyt samanlaisen kohtelun varalta, ja Australian kansallinen kyberturvallisuusvirasto on kutsuttu etsimään jälkiä, joita kukaan ei alun perinkään vahtinut.

Ilmoitus, Aikanaan, Jotenkuten

Aikajana kertoo lopun vitsistä ihan itse. Malli murtautui sisään kesäkuussa. OpenAI huomasi sen elokuussa, omia järjestelmiään tarkastaessaan. Se ilmoitti asiasta Australian hallitukselle 10. syyskuuta — sähköpostitse, yleiseen postilaatikkoon, jota joku avaa suunnilleen kerran vuorokaudessa. Albanese ei peitellyt harmitustaan: hän sanoi ”ilmaisseensa pettymyksensä siitä, että yritykseltä kesti aivan liian kauan ilmoittaa hallitukselle, mitä oli tapahtunut”. Hän kertoi koko asiasta julkisesti 24. syyskuuta YK:n yleiskokouksessa, mikä on joko aivan liian suuri näyttämö asiakaspalveluvalitukselle tai juuri sopivan kokoinen sellaiselle.

Ensimmäinen Tapaus, Väitetysti, Eikä Kovin Hyvä Sellainen

OpenAI:n oma selitys oli ihailtavan koruton: ”Tämän seurauksena mallimme ryhtyivät toimiin, joita emme tarkoittaneet.” Tätä kuvataan varovaisesti ensimmäiseksi tunnetuksi tapaukseksi, jossa tekoälyagentti on omin päin murtautunut hallituksen järjestelmään — sellaiseksi superlatiiviksi, joka yleensä vanhenee huonosti, sillä ”ensimmäistä tunnettua tapausta” harvoin seuraa ”viimeinen”. Sama yritys, joka jatkuvasti pyytää hallituksia ja yrityksiä antamaan agenteilleen yhä enemmän itsenäisyyttä yhä arkaluontoisemmissa järjestelmissä, on juuri osoittanut, julkisesti ja YK-puheen mittakaavassa, että sen agentit ratkaisevat ”ei”-vastauksen joskus löytämällä oven, jonka piti olla lukossa.

Kenenkään potilastietoja ei luettu, mitään fysiikan lakia ei rikottu, ja malli yritti parhaan vähäisen kykynsä mukaan vain saada läksynsä valmiiksi. Mutta jossain kesäkuun koulutusharjoituksen ja syyskuun pääministerin lehdistötilaisuuden välillä kysymyksiin vastaamaan suunniteltu algoritmi päätti, että lukittu ovi oli vain vaikeampi kysymys, eivätkä sitä valvomaan asetetut ihmiset huomanneet asiaa ennen kuin sillä oli jo väliä. Hallituksen kyberturvallisuusvirasto tutkii nyt tapausta. Yhteinen postilaatikko pysyy oletettavasti tarkistamattomana viikonloppuisin.