Хотя технологии распознавания контента, сгенерированного ИИ
Хотя технологии идентификации контента, сгенерированного ИИ, развиваются, по-прежнему сложно сделать окончательное заключение с помощью одного единственного инструмента. В настоящее время наиболее широко используются следующие методы и подходы.
1. Технология цифровых водяных знаков
SynthID: Технология, разработанная Google DeepMind, которая встраивает цифровые «водяные знаки» — незаметные для человеческого глаза или уха — в изображения, аудио, видео и текст. Это позволяет надежно идентифицировать контент, сгенерированный искусственным интеллектом.
C2PA (Content Authentication Information): международный стандарт, который фиксирует историю контента (автор, история правок, использование ИИ и т. д.) в виде метаданных. В настоящее время этот стандарт поддерживается всё большим числом платформ и инструментов.
2. Вероятностное обнаружение (AI-детекторы)
Существует множество инструментов, таких как ChatGPT и Gemini, которые рассчитывают «вероятность того, что текст был написан ИИ». Эти инструменты обучаются на больших объемах текстов, написанных как людьми, так и сгенерированных ИИ, и анализируют статистические закономерности (такие как выбор лексики и структурные тенденции).
Однако эти инструменты могут ошибочно идентифицировать «текст, написанный человеком» как сгенерированный ИИ (ложные срабатывания), поэтому они не являются надежными на 100 %.
3. Проверка метаданных и контекста
Помимо технического обнаружения чрезвычайно важна «проверка фактов», которая включает в себя проверку достоверности источника, даты публикации, а также обеспечение отсутствия несоответствий в контенте с учетом сезонных факторов, освещения или исторического контекста. В случае особо важной информации рекомендуется сверять её с официальными инструментами проверки и достоверными источниками.
Текущее состояние и выводы
По мере развития технологий генерации контента с помощью ИИ технологии обнаружения оказываются в постоянной «игре в кошки-мышки».» Поэтому вместо того, чтобы полагаться на одну-единственную технологию, новейшим рекомендуемым стандартом стал «многоуровневый подход», сочетающий проверку данных водяных знаков, перекрёстную проверку метаданных и логическое, объективное обоснование информации.
Проще говоря, хотя с технической точки зрения полностью обойти цифровые водяные знаки чрезвычайно сложно, в настоящее время ведутся исследования и обсуждаются методы уклонения от обнаружения в определённых условиях.
Теперь мы расскажем о возможностях и ограничениях «обхода» с помощью современных технологий.
1. Распространённые подходы к обходу
Невидимые цифровые водяные знаки, встраиваемые генеративным ИИ, часто добавляют идентифицирующую информацию, внося крошечные изменения в отдельные части данных. В ответ на это предпринимаются попытки уничтожить эти водяные знаки путем введения «шума» с помощью следующих операций:
Для текста: были предложены методы нарушения статистических закономерностей водяных знаков посредством масштабного переписывания людьми, перевода или регенерации (переписывания) с использованием другой модели.
Для изображений и видео: Примеры включают изменение разрешения, применение фильтров, добавление шума, сжатие (например, сжатие JPEG) и кадрирование.
2. Почему «полное устранение» затруднительно?
Высокая устойчивость: Современные технологии водяных знаков (такие как «SynthID» от Google) разработаны с учётом устойчивости к распространённым манипуляциям, таким как кадрирование, сжатие и цветовая коррекция, и спроектированы таким образом, чтобы информация не исчезала при незначительных изменениях.
Игра в кошки-мышки: по мере развития технологий удаления водяных знаков улучшаются и возможности моделей искусственного интеллекта по их обнаружению, а также продолжают разрабатываться более надежные методы встраивания.
Фрагментация информации: Водяные знаки часто распределяются «голографически» по всему набору данных, поэтому даже если вы обрежете часть изображения или несколько строк текста, все равно сохраняется высокая вероятность того, что останутся следы, указывающие на то, что данные были сгенерированы ИИ.
3. Риски и меры предосторожности
Принудительная обработка данных в попытке обойти водяные знаки может привести к следующим неблагоприятным последствиям:
Ухудшение качества: Качество самого результата — например, появление шума на изображении или неестественные формулировки в тексте — значительно ухудшается.
Надёжность обнаружения: Чем больше пытаются полностью удалить водяной знак, тем сильнее разрушается исходная структура данных; с другой стороны, возникает риск, что контент будет идентифицирован как сгенерированный ИИ на основе других индикаторов, таких как «искусственная манипуляция».
В заключение можно сказать, что, хотя водяные знаки не являются «абсолютно невозможными для удаления», в настоящее время крайне сложно надёжно избежать обнаружения, сохранив при этом качество контента на приемлемом уровне.