Как вывести ИИ на чистую воду — 3 отличия текста, написанного нейросетью

Искусственный интеллект проникает во все сферы нашей жизни. Например, текст и иллюстрации для сайта могут быть созданы нейросетью. В чем опасность такого творчества и как отличить «человеческий» пост от написанного с помощью ИИ.

Нейросети, базирующиеся на алгоритме обработки естественного языка GPT, способны на любые словесные экзерсисы – от написания поста в блог до создания пьес для театра.
Причем эти технологии доступны практически каждому: достаточно воспользоваться ChatGPT, задать тему и ключевые параметры и на выходе получить готовый текст.

Но увы, результат не всегда получается оптимальным, и у текстов, созданных ИИ, есть ряд проблем.

• Дезинформация. Тексты, написанные с помощью технологий ИИ, могут выглядеть правдоподобно, но это не значит, что они отражают достоверные факты. Нейросети не обладают критическим мышлением человека, потому ИИ может собрать из интернета как верные, так и ложные сведения и «слепить» из них дезинформирующий текст. И такая особенность ИИ может быть использована хакерами.
• Низкое качество текста и плагиат. Хотя ИИ вполне эффективно компилирует информацию, ее изложение часто оставляет желать лучшего: в тексте могут быть нарушения логики, стиля или присутствовать сухое перечисление фактов. Кроме того, ИИ просто переформулирует данные, не переосмысляя их – и этот механический рерайт часто определяется программами для проверки уникальности как плагиат.
• Плохая индексация в поисковых системах. Поисковые системы уже начали борьбу с генерируемым контентом. Например, Google отслеживает тексты, похожие на созданные автоматически, считает их бесполезными и отправляет такой сайт на более низкие строки в поисковой выдаче.
• Негативное восприятие читателями. Да, всех забавляют эксперименты с генерацией контента при помощи ИИ, но большинство читателей предпочитают тексты, написанные людьми. И хотя по прогнозу Алана Тьюринга, однажды машине удасться обмануть человека, пока что пользователи подмечают несоответствия и не доверяют сгенерированным текстам.

Кстати, многие люди интуитивно распознают «искусственные» тексты. Но если вы хотите знать наверняка, что перед вами работа нейросети, то обратите внимание на следующие моменты.

1. Повторяющиеся слова и фразы
   Зачастую ИИ «добивает» текст до заданного объема, механически повторяя нужные слова и даже целые предложения. Чаще всего первые абзацы даются ему неплохо, а вот затем он может добавлять повторяющийся контент.

2. Отсутствие логики и грамматические ошибки
   ИИ составляет текст механически, потому в нем могут отсутствовать логические переходы между абзацами, зато почти наверняка найдутся незавершенные или бессвязные предложения.

   Также нейросеть может случайно повторить орфографическую ошибку из источника информации или неверно расставить знаки препинания.

   С другой стороны, излишне правильная грамматика также может быть признаком «искусственного» текста.

3. Много фактов, мало комментариев
   ИИ способен вложить в текст максимум фактов, но не умеет их комментировать. Если статья пестрит сведениями, но комментария к ним нет, вероятно, это была нейросеть.
   То же относится и к выражению эмоций: ИИ может механически добавить в текст слова, обозначающие эмоции, но почти наверняка они будут не к месту.

Как выявить текст, написанный нейросетью?

Для выявления творений искусственного интеллекта, можно задействовать программы для проверки на плагиат. И, конечно, вам на помощь придет ПО для обнаружения такого контента: выходной детектор GPT-2, GLTR (Giant Language Model Test Room) и GPTZero.

Кроме того, ИИ хуже работает с синонимами, ему бывает сложно заменить слово.

Часть этого текста была написана нейросетью. Какая?