Вступление

Прежде чем вы начнете читать статью, хочу сказать несколько слов о том, почему вообще решил взяться за эту тему.

Последнее время в ролевом комьюнити практически невозможно открыть комментарии под любой публикацией, посвященной искусственному интеллекту, и не наткнуться на очередной спор. Кто-то утверждает, что способен определить ИИ по одному абзацу, кто-то доверяет результатам онлайн-детекторов, а кто-то всерьез говорит о скрытых цифровых подписях, которые якобы оставляет ChatGPT.

Чем чаще я сталкивался с подобными обсуждениями, тем сильнее понимал одну простую вещь: большинство аргументов строится не на исследованиях или официальных публикациях, а на личном опыте, слухах и информации, которая многократно пересказывается без какой-либо проверки. Одни и те же утверждения кочуют из статьи в статью, из видео в видео, постепенно превращаясь в общеизвестные факты, хотя далеко не все из них соответствуют действительности.

Не так давно я уже публиковал материал, посвященный использованию искусственного интеллекта в текстовых ролевых играх. В той статье речь шла не о том, можно или нельзя использовать нейросети, а о том, в каких случаях их применение действительно может быть оправдано, а где они начинают подменять собой авторское творчество. Однако во время подготовки материала я понял, что практически любой разговор об ИИ рано или поздно сводится к одному вопросу: «А можно ли вообще определить, что текст написал искусственный интеллект?»

Именно тогда я решил разобраться в этой теме настолько глубоко, насколько это возможно.

На подготовку этой статьи ушло немало времени. Мне хотелось не просто пересказать популярные мнения, а разобраться, что об этом говорят разработчики языковых моделей, какие исследования уже опубликованы, как работают современные AI-детекторы и действительно ли существуют те самые «цифровые подписи», о которых так часто говорят в интернете.

Надеюсь, после прочтения у вас останется не только ответ на вопрос, вынесенный в заголовок, но и более полное понимание того, почему вокруг этой темы до сих пор возникает столько споров.

Глава 1. Почему вообще возникла проблема определения искусственного интеллекта?

Еще несколько лет назад вопрос о том, был ли текст написан человеком или искусственным интеллектом, практически не возникал. Несмотря на то, что технологии машинного обучения существовали уже давно, они оставались инструментом преимущественно для исследователей и крупных технологических компаний. Генерируемые ими тексты были ограничены по качеству, легко узнавались и редко использовались в повседневной жизни.

Ситуация кардинально изменилась в конце 2022 года после публичного запуска ChatGPT. Впервые миллионы пользователей получили свободный доступ к языковой модели, способной за считанные секунды написать эссе, подготовить деловое письмо, придумать сюжет художественного произведения, составить программный код или ответить на сложный вопрос практически на любую тему. Вслед за ChatGPT появились Claude, Gemini, Copilot и другие большие языковые модели (Large Language Models, LLM), которые сделали генеративный искусственный интеллект частью повседневной работы миллионов людей.

Вместе с популярностью подобных систем возникла и новая проблема. Если раньше авторство текста практически не вызывало сомнений, то теперь определить его происхождение стало значительно сложнее. Но можно ли установить, что конкретный текст был создан искусственным интеллектом, а не человеком?

Причины такого интереса различаются в зависимости от сферы применения.

В образовательной среде преподаватели стремятся убедиться, что студент самостоятельно выполнил задание и действительно владеет изучаемым материалом. Для них использование генеративного ИИ связано прежде всего с вопросами академической добросовестности и объективной оценки знаний.

В профессиональной сфере работодатели сталкиваются с другой задачей. Во многих компаниях тестовые задания используются для оценки практических навыков кандидатов. Если значительная часть работы была выполнена нейросетью, работодателю становится сложнее понять, какими компетенциями обладает сам соискатель и насколько самостоятельно он способен решать профессиональные задачи.

Не менее актуальной эта тема стала и для творческих сообществ. Художники обсуждают использование генеративных моделей при создании изображений, писатели спорят о допустимости ИИ в литературе, а в сообществах текстовых ролевых игр регулярно возникают дискуссии о том, можно ли считать полностью сгенерированные анкеты и посты проявлением авторского творчества.

Именно в ролевом сообществе вопрос определения искусственного интеллекта приобрел особую остроту. Для многих проектов важны не только грамотность текста, но и индивидуальный стиль автора, его способность раскрывать персонажа, выстраивать повествование и взаимодействовать с другими ролевиками. Поэтому неудивительно, что администраторы (и не только) все чаще пытаются найти способы отличить текст, написанный участником, от текста, полностью созданного языковой моделью.

На первый взгляд кажется, что подобная задача давно должна быть решена. В интернете существуют десятки сервисов, обещающих определить использование искусственного интеллекта за несколько секунд. Кроме того, можно встретить множество советов, предлагающих искать характерные слова, необычные знаки препинания, шаблонные конструкции или даже скрытые цифровые подписи.

Однако современные исследования показывают, что ситуация значительно сложнее.

На сегодняшний день не существует метода, который позволял бы со стопроцентной уверенностью установить происхождение любого текста. Практически все существующие способы анализа основаны на статистических моделях и позволяют лишь оценить вероятность использования искусственного интеллекта, но не доказать этот факт.

К аналогичному выводу приходят авторы исследования The False Positives and False Negatives of Generative AI Detection Tools, отмечая, что современные системы распознавания демонстрируют как ложноположительные результаты (когда человеческий текст ошибочно определяется как созданный ИИ), так и ложноотрицательные (когда текст, созданный нейросетью, принимается за человеческий). Это означает, что существующие инструменты нельзя рассматривать как абсолютно достоверный способ определения происхождения текста.

Следовательно, прежде чем пытаться определить, написал текст человек или искусственный интеллект, необходимо разобраться, какие представления об ИИ соответствуют действительности, а какие являются распространенными заблуждениями. Вокруг современных языковых моделей сформировалось множество мифов: одни уверены, что ChatGPT всегда пишет одинаково, другие считают, что нейросети оставляют скрытые цифровые подписи, третьи полностью доверяют результатам AI-детекторов. Но насколько подобные утверждения соответствуют современным исследованиям? Именно этому будут посвящены следующие главы статьи.

Глава 2. Миф №1: «У ChatGPT есть собственный стиль»

Пожалуй, самое распространенное убеждение, связанное с искусственным интеллектом, звучит так: «Текст ChatGPT всегда можно узнать по стилю». В интернете регулярно публикуются списки характерных признаков: «нейросети любят писать "Важно отметить..."», «ИИ всегда использует длинные тире», «ChatGPT слишком грамотный», «у него слишком правильная структура», «он никогда не выражает собственное мнение». Подобные утверждения можно встретить в социальных сетях, на форумах и даже в рекомендациях некоторых преподавателей или администраторов сообществ.

Но действительно ли у искусственного интеллекта существует собственный, легко узнаваемый стиль?

Чтобы ответить на этот вопрос, необходимо понять, как вообще работают современные большие языковые модели.

Почему ChatGPT не пишет по шаблону

Вопреки распространенному мнению, ChatGPT не хранит готовые тексты и не выбирает наиболее подходящий ответ из огромной базы данных. Принцип его работы значительно сложнее.

Во время генерации ответа модель последовательно прогнозирует следующий токен — часть слова или целое слово — опираясь на весь предыдущий контекст. Процесс повторяется тысячи раз, пока не будет сформирован весь текст.

Именно этот принцип описан в техническом отчете GPT-4:

На первый взгляд подобное объяснение может показаться слишком техническим, однако именно оно позволяет понять, почему невозможно говорить о единственном «стиле ChatGPT». Поскольку модель заново рассчитывает каждое следующее слово, один и тот же запрос не привязан к одному конкретному ответу.

Если попросить языковую модель несколько раз написать вступление к одной и той же статье, она, скорее всего, создаст несколько различных вариантов. Они будут отличаться не только отдельными словами, но и структурой, последовательностью аргументов, примерами и общей манерой изложения. Даже небольшое изменение формулировки запроса способно привести к совершенно другому результату. Кроме того, итоговый текст зависит от множества факторов: выбранной модели, объема контекста, инструкций пользователя и параметров генерации. Именно поэтому два человека, задав практически одинаковый вопрос, могут получить совершенно разные ответы.

Откуда тогда появился «стиль ChatGPT»?

Если универсального стиля не существует, почему многие уверены, что способны распознать текст нейросети с первого взгляда? Ответ кроется сразу в нескольких причинах.

Во-первых, ранние версии языковых моделей действительно чаще использовали одни и те же вводные конструкции. Фразы вроде «Важно отметить...», «Следует учитывать...» или «Таким образом...» регулярно встречались в ответах первых публичных генераторов. Со временем эти выражения стали восприниматься как своеобразная визитная карточка искусственного интеллекта.

Однако современные модели значительно лучше адаптируются к запросам пользователя. Если попросить написать разговорным языком, ответ будет похож на обычную переписку. Если выбрать публицистический стиль, текст станет эмоциональнее. При запросе академического изложения модель, напротив, будет использовать более формальную лексику и строгую структуру. Иными словами, стиль определяется не моделью как таковой, а поставленной перед ней задачей.

Во-вторых, важную роль играет особенность человеческого восприятия, известная как предвзятость подтверждения (confirmation bias). Человек склонен замечать информацию, которая подтверждает уже сложившееся мнение, и значительно реже обращает внимание на примеры, ему противоречащие.

Представим администратора ролевого проекта, который убежден, что ChatGPT постоянно использует выражение «Важно отметить...». После проверки нескольких текстов он действительно начинает замечать эту фразу всякий раз, когда подозревает использование ИИ. При этом десятки аналогичных оборотов в текстах, написанных людьми, остаются без внимания. В результате формируется впечатление, будто определенные слова принадлежат исключительно нейросетям, хотя в действительности они давно являются частью делового, публицистического и научного стиля.

Можно ли определить ИИ по словам и речевым оборотам?

На сегодняшний день научные исследования не подтверждают существование набора слов или конструкций, по которым можно было бы достоверно определить происхождение текста. Более того, современные AI-детекторы вообще не анализируют отдельные слова как основной критерий оценки. Вместо этого они работают со статистическими характеристиками текста: оценивают вероятность появления слов, разнообразие конструкций, распределение токенов и другие математические показатели. Это означает, что сами разработчики систем распознавания не считают отдельные фразы надежным признаком использования искусственного интеллекта.

По этой причине утверждения вроде «если автор написал "таким образом", значит это ChatGPT» или «длинное тире выдает нейросеть» нельзя рассматривать как объективный метод проверки. Такие выводы основаны преимущественно на личных наблюдениях и отдельных примерах, но не подтверждаются современными исследованиями.

Глава 3. Миф №2: «Искусственный интеллект оставляет цифровую подпись»

Если миф о «типичном стиле ChatGPT» постепенно теряет популярность, то теория о скрытых цифровых подписях продолжает активно распространяться. В социальных сетях, на форумах и даже в некоторых образовательных сообществах можно встретить утверждения о том, что любой текст, созданный искусственным интеллектом, содержит специальную метку или код, позволяющий безошибочно определить его происхождение.

Иногда такие подписи описывают как невидимые символы, иногда — как особую последовательность слов, а иногда утверждают, что существуют программы, способные обнаружить подобные метки за несколько секунд.

На первый взгляд подобная теория выглядит вполне правдоподобно. Если искусственный интеллект способен создавать тексты, почему бы разработчикам не встроить в них специальную систему идентификации?

Однако при более детальном рассмотрении становится ясно, что в подобных утверждениях смешиваются сразу несколько совершенно разных технологий.

Что обычно называют «цифровой подписью»?

Прежде всего необходимо разобраться с терминологией.

В привычном понимании цифровая подпись — это скрытая информация, позволяющая подтвердить происхождение документа или установить его автора. Именно поэтому многие предполагают, что подобная технология существует и для текстов, созданных языковыми моделями.

Однако в области генеративного искусственного интеллекта специалисты практически не используют термин digital signature применительно к текстам.

Вместо него чаще встречаются совершенно другие понятия:

Content Credentials — система подтверждения происхождения цифрового контента с использованием стандарта C2PA;

Watermarking — статистические водяные знаки, встроенные в процесс генерации текста;

Metadata — метаданные, сопровождающие цифровой файл.

Хотя все эти технологии действительно существуют, они решают разные задачи и не являются той самой «секретной подписью», о которой часто говорят в интернете. Что говорит OpenAI? Чтобы разобраться в вопросе, логично обратиться к официальной позиции разработчиков ChatGPT. В публикации Advancing content provenance for a safer, more transparent AI ecosystem компания OpenAI рассказывает о развитии технологий подтверждения происхождения цифрового контента. В документе подробно описываются Content Credentials, стандарт C2PA и технология SynthID, позволяющие сохранять сведения о происхождении изображений, аудио и других цифровых материалов. При этом OpenAI отдельно подчеркивает:

Эта формулировка имеет важное значение. Компания прямо признает, что универсального метода подтверждения происхождения контента не существует. Именно поэтому OpenAI использует сочетание нескольких технологий, каждая из которых имеет собственные ограничения. Не менее показательной является другая официальная публикация — Understanding the source of what we see and hear online. В ней говорится:

Важно обратить внимание, что речь идет именно об изображениях, аудио и видео. В публикации не утверждается, что каждый текст ChatGPT автоматически получает скрытую цифровую подпись, которую можно обнаружить после копирования.

А как же водяные знаки?

После этого закономерно возникает следующий вопрос: Если цифровых подписей нет, почему ученые говорят о водяных знаках? Ответ заключается в принципе работы этой технологии. В отличие от привычной цифровой подписи, водяной знак (watermark) не представляет собой скрытый набор символов или невидимый код. Во время генерации текста модель слегка изменяет вероятность выбора отдельных слов. Для читателя результат выглядит совершенно естественно, однако при наличии специального алгоритма можно проверить, присутствует ли в тексте определенная статистическая закономерность. Именно поэтому исследователи называют подобные методы статистическими водяными знаками, а не цифровыми подписями.

Авторы исследования A Statistical Framework of Watermarks for Large Language Models отмечают, что обнаружение подобных водяных знаков обычно требует специального алгоритма проверки и, как правило, секретного ключа, известного разработчику модели. Это означает, что обычный пользователь не может открыть документ и увидеть подобную метку. Более того, существенное редактирование текста, перевод на другой язык или глубокое перефразирование способны нарушить статистические закономерности, на которых основаны подобные методы. Именно поэтому современные исследования рассматривают watermarking как перспективное направление развития технологий подтверждения происхождения контента, а не как универсальный способ определения автора любого текста.

Почему миф продолжает существовать?

Причина заключается в том, что разные технологии часто смешиваются в одно понятие. Когда пользователи слышат слова Content Credentials, метаданные, водяные знаки, цифровые сертификаты или статистическая маркировка, все они постепенно превращаются в упрощенное объяснение: «ChatGPT оставляет скрытый код.» На самом деле это неверно. Content Credentials работают с происхождением цифровых файлов. Метаданные могут сопровождать документ, если они не были удалены при сохранении или копировании. Статистические водяные знаки требуют специального алгоритма обнаружения и подходят далеко не для всех моделей. А вот универсального скрытого кода, присутствующего в каждом тексте ChatGPT и доступного для проверки любым пользователем, на сегодняшний день не существует.

Глава 4. Как работают AI-детекторы и почему они ошибаются

После появления ChatGPT в конце 2022 года рынок AI-детекторов начал стремительно развиваться. Сегодня существует множество сервисов, обещающих определить происхождение текста всего за несколько секунд: GPTZero, ZeroGPT, Copyleaks, Turnitin, Winston AI и десятки других. Их реклама нередко создает впечатление, что достаточно загрузить текст в специальную программу — и она с высокой точностью сообщит, был ли использован искусственный интеллект. Однако реальность значительно сложнее. Главное заблуждение заключается в том, что AI-детекторы якобы способны определить автора текста. На самом деле ни один подобный сервис не знает, кто написал документ, когда он был создан и каким образом редактировался. Детектор видит только конечный текст и пытается оценить, насколько его статистические характеристики похожи на тексты, обычно создаваемые языковыми моделями. Именно поэтому AI-детектор не отвечает на вопрос «Кто написал этот текст?». Он отвечает на совершенно другой вопрос: «Насколько этот текст похож на те, которые обычно генерируют большие языковые модели?» Это принципиальная разница, которую часто упускают из виду.

Что именно анализируют AI-детекторы?

Хотя алгоритмы большинства коммерческих сервисов остаются закрытыми, общий принцип их работы хорошо известен. Как правило, детекторы анализируют не содержание текста, а его статистические характеристики. Среди них: предсказуемость выбора слов; разнообразие синтаксических конструкций; длина предложений; частота повторения определенных языковых моделей; распределение слов и токенов.

Одними из наиболее известных показателей являются perplexity и burstiness.

Perplexity можно условно перевести как «степень предсказуемости текста». Если последовательность слов оказывается слишком ожидаемой, алгоритм может сделать вывод, что подобный текст похож на результаты работы языковой модели.

Burstiness, напротив, отражает разнообразие текста. В человеческой речи обычно встречается сочетание коротких и длинных предложений, неожиданные переходы между мыслями и изменение темпа повествования. Первые поколения языковых моделей действительно писали более однообразно, поэтому многие детекторы начали использовать этот показатель как один из критериев оценки.

Однако современные модели значительно отличаются от своих предшественников. GPT-4, Claude, Gemini и другие системы способны создавать гораздо более разнообразные тексты, что существенно снижает эффективность подобных методов анализа.

Почему разные сервисы показывают разные результаты?

Практически каждый, кто проверял текст сразу в нескольких AI-детекторах, замечал любопытную закономерность: один сервис может показать 8% вероятности использования ИИ, другой — 54%, а третий — 96%. Если анализируется один и тот же текст, почему результаты настолько отличаются?

Причина заключается в том, что каждый разработчик использует собственную модель оценки. Компании обучают алгоритмы на разных наборах данных, применяют различные критерии классификации и самостоятельно определяют, при каком уровне сходства текст следует считать «вероятно созданным ИИ». При этом большинство разработчиков не публикует полное описание своих алгоритмов, поэтому объективно сравнить точность разных сервисов невозможно.

Именно поэтому противоречивые результаты не являются исключением — наоборот, они закономерны.

Что говорят независимые исследования?

После появления большого количества AI-детекторов ученые начали проверять, насколько надежны подобные инструменты в реальных условиях. Одной из наиболее известных работ стало исследование Testing of Detection Tools for AI-Generated Text. Авторы протестировали двенадцать популярных AI-детекторов, а также коммерческие системы Turnitin и PlagiarismCheck, используя тексты, написанные людьми, материалы, сгенерированные ChatGPT, машинные переводы и документы после ручного редактирования.

Исследователи пришли к выводу, что существующие инструменты не могут считаться достаточно надежными для определения происхождения текста. Более того, даже относительно небольшое редактирование значительно снижало эффективность многих сервисов.

Похожие выводы содержатся и в исследовании Evaluating the efficacy of AI content detection tools in differentiating between human and AI-generated text, авторы которого отмечают нестабильность результатов при анализе как человеческих текстов, так и материалов, созданных современными языковыми моделями.

Почему высокий процент не является доказательством?

Именно здесь возникает самая распространенная ошибка. Если AI-детектор показывает 95% вероятности использования искусственного интеллекта, многие воспринимают это как окончательный вердикт. Однако подобная интерпретация неверна.

Высокий процент означает лишь то, что по мнению конкретного алгоритма текст статистически похож на материалы, которые использовались при обучении этого детектора. Он не означает, что сервис знает автора текста. Он не означает, что сервис видел процесс его написания. Он не означает, что существует скрытая цифровая подпись, подтверждающая использование ChatGPT.

Проще говоря, AI-детектор оценивает вероятность, а не устанавливает факт. Именно поэтому возможны ситуации, когда самостоятельно написанная человеком работа получает высокий процент вероятности ИИ, тогда как существенно переработанный текст, первоначально созданный нейросетью, определяется как человеческий.

Почему даже OpenAI отказалась от собственного детектора?

Одним из наиболее показательных примеров ограниченности подобных технологий стала история AI Classifier, разработанного самой OpenAI. В июле 2023 года компания официально объявила о прекращении поддержки сервиса, объяснив это недостаточной точностью результатов.

В публикации говорится:

Этот пример особенно показателен. Если даже разработчики ChatGPT отказались от собственного детектора, признав его недостаточно надежным, ожидать абсолютной точности от сторонних сервисов тем более не приходится.

Глава 5. Что делать, если AI-детектор показал высокий процент?

После знакомства с принципами работы современных AI-детекторов возникает закономерный вопрос: как следует интерпретировать их результаты на практике?

Представим ситуацию. Автор самостоятельно написал статью, ролевую анкету или пост. Спустя некоторое время работа проходит проверку в одном из популярных AI-детекторов, который показывает 90–100% вероятности использования искусственного интеллекта. Для многих подобный результат выглядит как окончательное доказательство. Однако, как уже было показано в предыдущей главе, подобный вывод нельзя считать обоснованным.

Современные AI-детекторы не способны определить автора текста. Они оценивают лишь статистическое сходство между анализируемым материалом и теми текстами, на которых были обучены их алгоритмы. Именно поэтому высокий процент следует рассматривать не как доказательство, а как повод для более внимательного анализа.

Если подобная ситуация возникла в образовательной организации, на работе или в ролевом сообществе, наиболее разумным решением становится не спор о процентах, а обсуждение самого текста. Во многих случаях автор способен объяснить логику повествования, рассказать, почему были выбраны именно такие формулировки, показать черновики, историю редактирования документа или промежуточные версии работы. Подобные материалы зачастую позволяют гораздо точнее оценить происхождение текста, чем любой автоматический анализ. Не менее важно учитывать и обратную сторону проблемы.

Использование искусственного интеллекта далеко не всегда означает, что вся работа была выполнена нейросетью. На практике ИИ нередко применяется как вспомогательный инструмент – для поиска идей, исправления грамматических ошибок, проверки структуры текста, подбора формулировок или перевода отдельных фрагментов. Во многих профессиональных сферах подобный подход уже рассматривается как одна из современных форм работы с информацией. Именно поэтому при обсуждении происхождения текста значительно важнее ответить не на вопрос «использовался ли искусственный интеллект вообще?», а на вопрос «какую роль он сыграл при создании работы?»

Полностью сгенерированный текст, опубликованный без каких-либо изменений, принципиально отличается от материала, в котором автор использовал нейросеть как один из множества рабочих инструментов, а затем самостоятельно переработал результат, проверил факты и дополнил его собственными идеями. Именно эту мысль все чаще подчеркивают исследователи и специалисты в области академической добросовестности.

Современные рекомендации предлагают использовать AI-детекторы исключительно как вспомогательный источник информации. Их результаты могут стать поводом для дополнительной проверки, но не должны рассматриваться как самостоятельное доказательство нарушения.

Поэтому, если AI-детектор показывает высокий процент вероятности использования искусственного интеллекта, наиболее обоснованным решением будет не немедленное вынесение обвинений, а комплексная оценка ситуации. Анализ содержания работы, возможность автора объяснить собственный текст, наличие черновиков и история его создания позволяют сделать значительно более надежные выводы, чем результат любого отдельного алгоритма.

Заключение

Несмотря на стремительное развитие технологий, на сегодняшний день не существует универсального способа достоверно определить, был ли конкретный текст написан человеком или языковой моделью. Современные исследования показывают, что многие распространенные представления об определении ИИ основаны скорее на мифах, чем на подтвержденных фактах.

Языковые модели не обладают единым стилем письма, а существование универсальной цифровой подписи, по которой можно распознать любой ИИ-текст, не подтверждается ни официальными публикациями OpenAI, ни научными исследованиями. AI-детекторы также не определяют автора текста — они лишь оценивают вероятность того, что его статистические характеристики похожи на материалы, созданные языковыми моделями.

Это не означает, что анализ происхождения текста невозможен. Однако любой вывод должен строиться на совокупности факторов, а не на результате одного сервиса или субъективном впечатлении от стиля автора. Более того, сам факт использования искусственного интеллекта далеко не всегда свидетельствует о нарушении — во многих сферах нейросети уже стали полноценным рабочим инструментом.

Технологии генерации и их обнаружения продолжают развиваться одновременно, поэтому в будущем могут появиться более точные методы анализа. Пока же заявления вроде «этот текст точно написан ИИ» следует воспринимать критически. До появления действительно надежных способов проверки любые подобные выводы остаются лишь вероятностной оценкой, а наиболее надежными инструментами по-прежнему остаются критическое мышление, проверка фактов и понимание ограничений современных технологий.

Ну, а меня зовут Неро.

Вы ведь в курсе?

В тенях больше нет укрытия.