Кіт у Капелюсі тепер справа поліції. Ніхто цього не передбачив — окрім будь-кого з телефоном.

Мем, створений штучним інтелектом, перетворив шістдесятирічного персонажа дитячої книжки на загрозу безпеці в кількох штатах. Школи закривали на карантин, поліція розсилала попередження, а кільком підліткам тепер загрожують реальні звинувачення за погрози, які виглядали тривожно правдоподібно.

Костюм, створений алгоритмом, а не видавництвом

Цього місяця в мережі почала поширюватися хвиля зображень, згенерованих штучним інтелектом: фотореалістична, навмисно моторошна версія смугастого капелюшного кота з шістдесятирічної дитячої книжки, зображеного як хижа постать і підписаного так, ніби вона попереджає про напад на конкретні школи. Ніхто з правовласників персонажа цього не замовляв. Це й не було потрібно. Будь-хто з телефоном і генератором зображень міг створити таке — і цього місяця чимало людей так і зробили.

Зображення поширювалися так само, як сьогодні поширюється майже все: швидко, без контексту, і у вигляді скриншотів — задовго до того, як хтось міг перевірити, чи означають вони щось насправді.

Коли інтернетне уявлення про жарт стикається зі справжнім протоколом реагування

Школи в кількох штатах США відреагували єдиним дозволеним способом на загрозу, яка виглядає правдоподібно: карантином, попередженнями для батьків і викликом поліції. Поліцейські управління, зі свого боку, оприлюднили попередження, відкрили розслідування і в кількох штатах висунули звинувачення підліткам, яких підозрюють у створенні чи поширенні зображень.

У цьому немає нічого смішного. Фальшива загроза все одно відволікає реальні ресурси від реальної безпеки і все одно залишає справжніх дітей сидіти в замкненому класі, не знаючи напевно, чи саме сьогодні щось станеться. Звинувачення проти причетних підлітків серйозні — так само як і хаос, спричинений їхніми публікаціями.

Незручна частина — не кіт

Справжня історія тут має дуже мало спільного з персонажем дитячої книжки і дуже багато — з тим фактом, що установи більше не можуть безпечно виходити з припущення “це ж очевидно фейк”. Згенероване зображення і правдоподібна загроза тепер виглядають абсолютно однаково, тож кожна школа, кожне поліцейське управління й кожна родина змушені сприймати все як реальне, поки не доведено протилежне. Це повільно, дорого і — так — часом сюрреалістично, у той специфічний спосіб, у який може бути лише офіційна поліцейська заява щодо вигаданого кота в капелюсі.

І під цим сюрреалізмом ховається правильне рішення. Помилятися в бік обережності — єдиний відповідальний варіант, коли ціна неправильного припущення — справжня школа і справжні діти.

Що з усього цього залишається

Зображення видаляють. Новинний цикл рухається далі. Що не рухається так само швидко — це першопричина проблеми: генеративні інструменти зробили можливість створити щось “достатньо переконливе, щоб вимагати реакції поліції” доступною для будь-кого з кількома вільними хвилинами й інтернетом, незалежно від того, хочуть вони завдати реальної шкоди чи просто думають, що роблять мем. Розрізняти ці два випадки постфактум тепер стало повноцінною роботою для людей, які раніше витрачали час на значно менш абсурдні загрози.

Ми проводимо свій робочий час, перетворюючи одну мову на іншу, щоб люди розуміли одне одного трохи швидше. Цьогомісячна версія цієї проблеми не була мовною — нікому не потрібен був перекладач, щоб зрозуміти: погрозливе зображення лякає. Бракує іншого типу перекладача: чогось, здатного відрізнити справжнє попередження від згенерованого ще до того, як комусь доведеться замкнути двері класу, щоб це з’ясувати. Поки що такого ніхто не створив. Підозрюємо, що чимало людей над цим працюють.