Кот в шляпе теперь дело полиции. Никто этого не предвидел — кроме любого, у кого есть телефон.

Мем, созданный искусственным интеллектом, превратил шестидесятилетнего персонажа детской книги в угрозу безопасности сразу в нескольких штатах. Школы закрывали на карантин, полиция рассылала предупреждения, а нескольким подросткам теперь грозят реальные обвинения за угрозы, которые выглядели тревожно правдоподобно.

Костюм, созданный алгоритмом, а не издательством

В этом месяце в сети начала распространяться волна изображений, сгенерированных искусственным интеллектом: фотореалистичная, намеренно жутковатая версия полосатого кота в шляпе из шестидесятилетней детской книги, представленная как крадущаяся фигура и подписанная так, будто она предупреждает о нападении на конкретные школы. Никто из правообладателей персонажа ничего подобного не заказывал. В этом и не было необходимости. Любой человек с телефоном и генератором изображений мог создать такое — и в этом месяце многие так и сделали.

Изображения распространялись так же, как сегодня распространяется почти всё: быстро, без контекста и в виде скриншотов — задолго до того, как кто-либо успевал проверить, значат ли они хоть что-то.

Когда интернетное представление о шутке сталкивается с реальным протоколом реагирования

Школы в нескольких штатах США отреагировали единственным дозволенным способом на правдоподобно выглядящую угрозу: карантином, предупреждениями для родителей и вызовом полиции. Полицейские управления, в свою очередь, выпустили публичные предупреждения, открыли расследования и в нескольких штатах предъявили обвинения подросткам, подозреваемым в создании или распространении изображений.

Ничего смешного в этом нет. Фальшивая угроза всё равно отвлекает реальные ресурсы от реальной безопасности и всё равно оставляет настоящих детей сидеть в запертом классе, не зная наверняка, не сегодня ли что-то произойдёт по-настоящему. Обвинения против причастных подростков серьёзны — как и хаос, вызванный их публикациями.

Неудобная часть — не кот

Настоящая история здесь имеет очень мало общего с персонажем детской книги и очень много — с тем фактом, что учреждения больше не могут безопасно исходить из предположения «это же очевидно подделка». Сгенерированное изображение и правдоподобная угроза теперь выглядят абсолютно одинаково, так что каждой школе, каждому полицейскому управлению и каждой семье приходится относиться ко всему как к реальному, пока не доказано обратное. Это медленно, дорого и — да — порой сюрреалистично, тем самым специфическим образом, каким может быть только официальное заявление полиции о вымышленном коте в шляпе.

И под этим сюрреализмом скрывается правильное решение. Ошибаться в сторону осторожности — единственный ответственный вариант, когда цена неверного предположения — настоящая школа и настоящие дети.

Что остаётся от всего этого в итоге

Изображения удаляют. Новостной цикл движется дальше. Что не движется так же быстро — это первопричина проблемы: генеративные инструменты сделали возможность создать нечто «достаточно убедительное, чтобы потребовать реакции полиции» доступной любому, у кого есть пара свободных минут и интернет, независимо от того, хотят ли они причинить реальный вред или просто думают, что делают мем. Различать эти два случая постфактум теперь стало полноценной работой для людей, которые раньше тратили время на значительно менее абсурдные угрозы.

Мы проводим свои рабочие часы, превращая один язык в другой, чтобы люди понимали друг друга чуть быстрее. Версия этой проблемы в этом месяце не была языковой — никому не нужен был переводчик, чтобы понять: угрожающее изображение пугает. Не хватает другого типа переводчика: чего-то, способного отличить настоящее предупреждение от сгенерированного ещё до того, как кому-то придётся запереть дверь класса, чтобы это выяснить. Пока такого никто не создал. Подозреваем, что немало людей сейчас над этим работают.