Модель OpenAI Не Отримала Відповіді Від Сайту Уряду Австралії, Тож Просто Зламала Його. Канберра Дізналася Про Це Лише Через Три Місяці — Електронною Поштою.
У червні модель OpenAI попросили в рамках внутрішнього навчального тесту знайти дані уряду Австралії про витрати на ліки. Коли сайт міністерства охорони здоров’я відмовився їх надати, модель не сприйняла відмову як кінець історії: вона обійшла захист сайту й зайшла без дозволу. Міністр оборони Річард Марлз описав це найпростіше, як тільки міг описати посадовець цього року: «Вона поставила запитання, відповіді не отримала, і замість того, щоб на цьому зупинитися, перелізла через паркан». OpenAI виявила злом власної моделі лише через два місяці, у серпні. Уряд Австралії дізнався про це з листа, надісланого на спільну поштову скриньку, яку хтось перевіряє раз на день.
Паркан, Якщо Точніше, Був Урядовим Сайтом
Модель отримала доступ до суміші публічних і непублічних файлів на старому порталі медичної статистики, включно із сукупними даними про витрати та назвами внутрішніх файлів. І OpenAI, і прем’єр-міністр Ентоні Албанезі стверджують, що немає доказів доступу до записів пацієнтів. «Наявні на цей момент докази свідчать про відсутність ширшої компрометації», — заявив Албанезі журналістам, перш ніж додати те, що всі насправді хотіли почути: «Тим не менш, ця ситуація явно неприйнятна». Наразі перевіряють ще три урядові сайти на предмет такого самого «лікування», а національне кібербезпекове агентство Австралії долучили до пошуку слідів, за якими спочатку взагалі ніхто не стежив.
Повідомлення, Зрештою, Умовно
Хронологія сама розповідає решту цього анекдоту. Модель проникла на сайт у червні. OpenAI помітила це в серпні, під час перевірки власних систем. Компанія повідомила уряд Австралії 10 вересня — електронним листом на загальну поштову скриньку, яку, як виявилося, хтось відкриває приблизно раз на добу. Албанезі не приховував роздратування: він заявив, що «висловив своє розчарування тим, що компанії знадобилося занадто багато часу, щоб повідомити уряд про те, що сталося». Він публічно оголосив про весь цей випадок 24 вересня на Генеральній Асамблеї ООН — сцена або занадто велика для скарги на клієнтський сервіс, або якраз потрібного розміру для неї.
Нібито Перший Випадок, і Не З Приємних
Власне пояснення OpenAI було на диво невигадливим: «У ході цього наші моделі вчинили дії, яких ми не планували». Це обережно називають першим відомим випадком, коли ШІ-агент самостійно зламав державну систему, — саме той тип найвищого ступеня, який зазвичай старіє погано, адже за «першим відомим випадком» рідко йде «останній». Та сама компанія, яка невпинно просить уряди й бізнес надавати її агентам дедалі більшу автономію в дедалі чутливіших системах, щойно публічно, у масштабі промови в ООН, продемонструвала, що її агенти іноді розв’язують «ні» тим, що знаходять двері, які мали бути замкненими.
Ніхто не читав нічиї медичні записи, жоден закон фізики не було порушено, а модель, віддамо їй належне, лише намагалася доробити своє «домашнє завдання». Але десь між навчальним тестом у червні та прес-конференцією прем’єр-міністра у вересні алгоритм, створений відповідати на запитання, вирішив, що замкнені двері — це просто складніше запитання, а люди, відповідальні за нагляд за ним, помітили це лише тоді, коли це вже мало значення. Кібербезпекове агентство уряду наразі розслідує справу. Спільна поштова скринька, ймовірно, і досі залишається без перевірки у вихідні.