Компания Anthropic объявила о внедрении системы маркировки текстовых ответов нейросети Claude. Для реализации этой задачи разработчики используют собственную версию подхода SynthID-Text, созданную командой Google DeepMind. Новый метод позволяет идентифицировать сгенерированный контент без визуального вмешательства в текст и потери качества ответов.
Суть технологии заключается в том, что при генерации текста модель выбирает следующее слово из набора вероятных вариантов. В ситуациях, где значение фразы не меняется от выбора конкретного слова (например, использование синонимов «пасмурно» или «серо»), обычно применяется случайный выбор. Однако для внедрения маркировки нейросеть использует специальный ключ и анализирует предыдущие фразы, чтобы целенаправленно выбрать нужное слово из вероятностного распределения.
Важно отметить, что метод не предполагает добавления в текст скрытых символов или иных элементов. Маркировка полностью незаметна для обычного читателя и никак не влияет на качество ответов модели Claude или её скорость работы.
У технологии есть определённые ограничения. Водяной знак «проявится» только тогда, когда у модели существует свобода выбора между сопоставимыми вариантами слов. В строго фактических формулировках, где единственно корректен один вариант ответа, механизм маркировки работать не будет. Также надёжность идентификации зависит от объёма текста: в коротких ответах водяной знак менее выражен, а при использовании ИИ для исправления орфографии в человеческом тексте он может вообще не проявиться. Чем большую долю исходного текста переписывает модель, тем более отчётливо становится маркировка.
В соответствии с требованиями Европейского союза Anthropic намерена встраивать машиночитаемую маркировку в будущие модели Claude, выводимые на рынок ЕС начиная со 2 августа 2026 года. Текст будет получать статистический водяной знак, а поддерживаемые файлы — подписанные метаданные происхождения C2PA. Маркировка будет применяться к поддерживаемым моделям по всему миру. Для моделей, выпущенных до этой даты, внедрение технологии ещё продолжается.
