Художники начали "травить" ИИ
Мы уже привыкли к мантре, что искусственный интеллект, подобно неудержимой силе природы, поглощает все данные, до которых может дотянуться. Миллиарды изображений, текстов и звуков, созданных людьми, без спроса и компенсации становятся топливом для генеративных моделей. Художники, фотографы и писатели оказались в роли беззащитных доноров, чью кровь переливают корпорациям, чтобы те создавали все более совершенных цифровых двойников. Напоминает атаку призраков в последней части "Властелина колец".
Проект Nightshade, разработанный командой ученых из Чикагского университета, — это первый мощный и асимметричный ответ на эту проблему, потому что по факту это технологическое оружие, которое позволяет творцам дать сдачи. Nightshade — это инструмент для «отравления данных» (data poisoning). Художник, прежде чем опубликовать свою работу в сети, обрабатывает ее с помощью этой программы, она вносит в изображение незаметные для человеческого глаза изменения на уровне пикселей. Для ИИ-модели, которая попытается «съесть» это изображение, оно становится ядом.
Например, если обработать изображения собак, модель, обучившись на них, может начать генерировать кошек вместо собак по запросу «собака», или создавать искаженные, деформированные образы. Эффект накапливается, чем больше «отравленных» изображений попадает в обучающий набор данных, тем сильнее деградирует модель. Перед нами цифровое партизанское движение, друзья.
Nightshade появился не на пустом месте, но как ответ на экзистенциальную угрозу для креативных индустрий. Когда любая модель может за секунды скопировать уникальный стиль художника, над которым тот работал десятилетиями, ценность этого стиля обнуляется. Проект, ставит своей целью не уничтожить ИИ, а восстановить баланс сил.
Инструмент (в связке с другим их проектом, Glaze) делает невозможным для ИИ точное воспроизведение стиля конкретного художника. Для компаний становится рискованно и дорого без разбора парсить весь интернет. Проще и безопаснее лицензировать контент у авторов, чем рисковать «отравлением» своих многомиллионных моделей, художники перестают быть пассивными жертвами, и получают инструмент, который дает им рычаг в переговорах с технологическими гигантами.
Судя по миллионам загрузок и поддержке со стороны крупнейших творческих гильдий, это борьба, которую креативный класс намерен как минимум активно вести, и по возможности выиграть.
