Как работает отравление ИИ?

ИИ-скрейперы встречаются в Интернете по всюду. Именно они предоставляют данные языковым моделям, которые обучаются на массиве публично доступной информации. Но пользователям Сети давно надоела наглость IT-компаний, и некоторые начали бороться с ИИ, «отравляя» данные. Портал makeuseof.com рассказал, как работают яды, направленные на искусственный интеллект, и действительно ли они эффективны.

На данный момент существуют два основных типа отравления ИИ, и они работают по-разному. О первом, т.н. контентном направлении, слышало большинство пользователей, поскольку о нем чаще говорили в новостях с самого начала бума искусственного интеллекта.

Контентное отравление подразумевает добавление специально испорченного слоя в любой образец медиа до того, как ИИ извлечет данные путем скрейпинга, или подачу целиком испорченного контента. Так, один из самых популярных инструментов, Nightshade, добавляет в изображения невидимый пиксель шума, чтобы языковая модель обучилась не тому художественному стилю.

А второй популярный вариант — тарпит, который не затрагивает непосредственно контент. Тарпиттинг, или намеренное замедление, считается защитной мерой против ИИ-скрейпинга, которая заманивает ботов в бесконечный лабиринт случайно сгенерированного мусорного контента, призванного впустую тратить время и ресурсы. Подобные «ямы» находятся посередине между ИИ-ботом и сайтом, отслеживая подозрительные подключения по знакомым паттернам.

Поскольку по Сети ежедневно рыщет огромное множество ИИ-моделей, владельцы платформ и сервисов пользуются довольно широким рядом инструментом для тарпиттинга. Например, Nepenthes, названный в честь плотоядного цветка-кувшиночника, тайком заманивает ботов в бесконечный цикл гиперссылок, скармливающих ИИ бессмысленные данные. Iocaine работает как обратный прокси, выдающий ботам отравленные ссылки при перехвате скрейпинга.

Но не каждая отрава для искусственного интеллекта разработана инди-девелоперами. Cloudflare встроила похожую идею в собственный продукт — AI Labyrinth, который уже начал использоваться крупными издательствами, вроде AP и Conde Nast. Он не блокирует ботов, что может отпугнуть тех, кто его отправил, но перенаправляет его в лабиринт из сгенерированных ИИ страниц, где бот будет впустую прожигать вычислительные мощности.

При этом важно понимать, что два подхода к защите от скрейпинга используют очень разные методы — и, соответственно, приводят к разным результатам. Прямое отравление контента вживляет защиту от ИИ непосредственно в файл. Если он копируется, репостится, скрейпится и распространяется любым другим способом, защита сохраняется. Но отравление индивидуальных файлов нельзя назвать чудовищно эффективным, потому что оно ограничено в масштабах. Тарпиттинг же защищает сайт или сервис целиком, предоставляя защиту всему, что хранится на сервере, но если данные вдруг покинут защищенное пространство, то ИИ смогут пользоваться ими, как угодно.

Конечно, отравление ИИ-модели многими воспринимается как благородное дело; защита от скрейпинга всех доступных в Сети данных действительно была важной, но лишь в начале бума искусственного интеллекта. Проблема в том, что доказать широкую эффективность ядов невозможно. Большинство крупных ИИ-компаний либо редко комментируют это явление, либо просто игнорируют его. OpenAI — одна из немногих корпораций, признавших, что ее боты сталкиваются с попытками отравления, но это ни о чем не говорит. К тому же, специалисты таких компаний активно очищают данные, прежде чем отдавать их моделям; Интернет не подается в языковые модели напрямую именно по этой причине.