Инструмент Nightshade даёт отпор генераторам изображений на базе ИИ

До сих пор единственными вариантами для фотографов бороться с компаниями, развивающими генераторы изображений, было подать на них в суд или надеяться, что они примут во внимание просьбу не использовать работы без согласия автора.  Всё это, к сожалению, остаётся малоэффективным, однако теперь у фотографов появился шанс дать реальный отпор ИИ.

Бен Чжао, профессор компьютерных наук Чикагского университета и ярый критик методов сбора данных для обучения ИИ, рассказал, о новом инструменте его команды, получившем название «Nightshade». Он способен вывести из строя любую модель, использующую изображения для обучения ИИ и является одной из немногих агрессивных попыток на сегодняшний день предложить фотографам шанс защитить свои работы.

«Можно представить, что Nightshade добавляет маленькую ядовитую таблетку внутрь фотографии таким образом, что это буквально пытается сбить обучающую модель с толку относительно того, что на самом деле изображено», - говорит Чжао.

Инструмент вносит изменения на уровне пикселей, которые не повлияют на человеческое восприятие, но нарушат работу ИИ. Например, на фотографии цветка обработанной с помощью Nightshade человек так и будет видеть цветок, в то время как ИИ распознает нечто совершенно другое.

Команда провела эксперимент на одном из популярных генераторов изображений Stable Diffusion XL, «скормив» ему порядка 300 образцов с «отравленными» пикселями. В результате на запрос нарисовать собаку генератор выдавал изображение кошки, машины превращались в коров, сумочки – в тостеры, а шляпы - в торты.

Как видно для наиболее эффективного результата требуются сотни изображений, тем не менее, это работает и может заставить всех, кто разрабатывает новые генераторы на базе ИИ, дважды подумать, прежде чем использовать обучающие данные, почерпнутые из Интернета. Кроме того, у Nightshade будет открытый исходный код, благодаря чему другие разработчики смогут улучшать его.

«Я хотел бы создать мир, в котором у ИИ есть пределы, у ИИ есть ограничения, у ИИ есть этические границы, а также существуют программные инструменты, заставляющие ИИ считаться с этим положением» - говорит Бен Чжао.

Что касается использования Nightshade, то он будет интегрирован в качестве дополнения к инструменту Glaze, который также был разработан командой Бена Чжао и позволяет художникам маскировать от ИИ стили своих работ.

Источник: NPR