Соцсети и браузеры добавят функцию фильтрации ИИ-контента в течение года — VisionLabs

МОСКВА, 14 дек — РИА Новости. Социальные сети, мессенджеры и браузеры в течение года будут вынуждены ввести фильтры, которые позволят скрывать изображения и видео, сгенерированные нейросетями, чтобы не потерять пользователей, таким мнением с РИА Новости поделился директор по продуктам VisionLabs Михаил Кузнецов.

"Социальные сети, браузеры и мессенджеры на фоне роста ИИ-контента будут вынуждены вводить фильтры, которые позволят скрывать видео и изображения, созданные нейросетями​​​. Ранее возможность фильтровать ИИ-контент добавил Pinterest — в настройках теперь можно скрыть такие изображения", — сказал Кузнецов.

"В течение года другие социальные сети также будут вынуждены прибегать к схожим механизмам, иначе мы увидим перетекание пользователей на новые платформы, которые предложат возможность общаться человеку с человеком без "прокладки" в виде алгоритмов", — добавил он.

Эксперт предположил, что платформы могут использовать ИИ-фильтры как способ дополнительной монетизации — например, включать контент без ИИ в подписку. В будущем на любых площадках, где есть функция поделиться контентом, будут встроены детекторы сгенерированного контента или реализован инструмент, куда можно будет сбросить материал и проверить его подлинность.

Сейчас сложно реализовать такой механизм с технической точки зрения, отметил Кузнецов: для алгоритмов нет четкого разделения между полностью созданным искусственным интеллектом и отредактированным с помощью ИИ контентом. "Это одна из причин, почему проверки студенческих работ на ИИ-плагиат терпят крах одна за другой", — добавил эксперт.

"В случае с текстом есть два ключевых параметра: предсказуемость (perplexity) — насколько "шаблонно" звучит текст, и вариативность (burstiness) — разнообразие длины и структуры. Но, как и с изображениями и видео, которые подверглись тщательной ИИ-редактуре, есть нюансы. Точный процент ИИ-вовлеченности (например, 20%) определить почти невозможно — инструменты дают лишь приблизительную оценку", — отметил Кузнецов.

Источник: mfd.ru