Как вывести ИИ на чистую воду — 3 отличия текста, написанного нейросетью
Искусственный интеллект проникает во все сферы нашей жизни. Например, текст и иллюстрации для сайта могут быть созданы нейросетью. В чем опасность такого творчества и как отличить «человеческий» пост от написанного с помощью ИИ.
Нейросети, базирующиеся на алгоритме обработки естественного языка GPT, способны на любые словесные экзерсисы – от написания поста в блог до создания пьес для театра. Причем эти технологии доступны практически каждому: достаточно воспользоваться ChatGPT, задать тему и ключевые параметры и на выходе получить готовый текст.
Но увы, результат не всегда получается оптимальным, и у текстов, созданных ИИ, есть ряд проблем.
Дезинформация. Тексты, написанные с помощью технологий ИИ, могут выглядеть правдоподобно, но это не значит, что они отражают достоверные факты. Нейросети не обладают критическим мышлением человека, потому ИИ может собрать из интернета как верные, так и ложные сведения и «слепить» из них дезинформирующий текст. И такая особенность ИИ может быть использована хакерами.
Низкое качество текста и плагиат. Хотя ИИ вполне эффективно компилирует информацию, ее изложение часто оставляет желать лучшего: в тексте могут быть нарушения логики, стиля или присутствовать сухое перечисление фактов. Кроме того, ИИ просто переформулирует данные, не переосмысляя их – и этот механический рерайт часто определяется программами для проверки уникальности как плагиат.
Плохая индексация в поисковых системах. Поисковые системы уже начали борьбу с генерируемым контентом. Например, Google отслеживает тексты, похожие на созданные автоматически, считает их бесполезными и отправляет такой сайт на более низкие строки в поисковой выдаче.
Негативное восприятие читателями. Да, всех забавляют эксперименты с генерацией контента при помощи ИИ, но большинство читателей предпочитают тексты, написанные людьми. И хотя по прогнозу Алана Тьюринга, однажды машине удасться обмануть человека, пока что пользователи подмечают несоответствия и не доверяют сгенерированным текстам.
Кстати, многие люди интуитивно распознают «искусственные» тексты. Но если вы хотите знать наверняка, что перед вами работа нейросети, то обратите внимание на следующие моменты.
Повторяющиеся слова и фразы Зачастую ИИ «добивает» текст до заданного объема, механически повторяя нужные слова и даже целые предложения. Чаще всего первые абзацы даются ему неплохо, а вот затем он может добавлять повторяющийся контент.
Отсутствие логики и грамматические ошибки ИИ составляет текст механически, потому в нем могут отсутствовать логические переходы между абзацами, зато почти наверняка найдутся незавершенные или бессвязные предложения.
Также нейросеть может случайно повторить орфографическую ошибку из источника информации или неверно расставить знаки препинания.
С другой стороны, излишне правильная грамматика также может быть признаком «искусственного» текста.
Много фактов, мало комментариев ИИ способен вложить в текст максимум фактов, но не умеет их комментировать. Если статья пестрит сведениями, но комментария к ним нет, вероятно, это была нейросеть. То же относится и к выражению эмоций: ИИ может механически добавить в текст слова, обозначающие эмоции, но почти наверняка они будут не к месту.
Как выявить текст, написанный нейросетью?
Для выявления творений искусственного интеллекта, можно задействовать программы для проверки на плагиат. И, конечно, вам на помощь придет ПО для обнаружения такого контента: выходной детектор GPT-2, GLTR (Giant Language Model Test Room) и GPTZero.
Кроме того, ИИ хуже работает с синонимами, ему бывает сложно заменить слово.
Часть этого текста была написана нейросетью. Какая?
Как вывести ИИ на чистую воду — 3 отличия текста, написанного нейросетью
Искусственный интеллект проникает во все сферы нашей жизни. Например, текст и иллюстрации для сайта могут быть созданы нейросетью. В чем опасность такого творчества и как отличить «человеческий» пост от написанного с помощью ИИ.
Нейросети, базирующиеся на алгоритме обработки естественного языка GPT, способны на любые словесные экзерсисы – от написания поста в блог до создания пьес для театра.
Причем эти технологии доступны практически каждому: достаточно воспользоваться ChatGPT, задать тему и ключевые параметры и на выходе получить готовый текст.
Но увы, результат не всегда получается оптимальным, и у текстов, созданных ИИ, есть ряд проблем.
Кстати, многие люди интуитивно распознают «искусственные» тексты. Но если вы хотите знать наверняка, что перед вами работа нейросети, то обратите внимание на следующие моменты.
Повторяющиеся слова и фразы
Зачастую ИИ «добивает» текст до заданного объема, механически повторяя нужные слова и даже целые предложения. Чаще всего первые абзацы даются ему неплохо, а вот затем он может добавлять повторяющийся контент.
Отсутствие логики и грамматические ошибки
ИИ составляет текст механически, потому в нем могут отсутствовать логические переходы между абзацами, зато почти наверняка найдутся незавершенные или бессвязные предложения.
Также нейросеть может случайно повторить орфографическую ошибку из источника информации или неверно расставить знаки препинания.
С другой стороны, излишне правильная грамматика также может быть признаком «искусственного» текста.
Много фактов, мало комментариев
ИИ способен вложить в текст максимум фактов, но не умеет их комментировать. Если статья пестрит сведениями, но комментария к ним нет, вероятно, это была нейросеть.
То же относится и к выражению эмоций: ИИ может механически добавить в текст слова, обозначающие эмоции, но почти наверняка они будут не к месту.
Как выявить текст, написанный нейросетью?
Для выявления творений искусственного интеллекта, можно задействовать программы для проверки на плагиат. И, конечно, вам на помощь придет ПО для обнаружения такого контента: выходной детектор GPT-2, GLTR (Giant Language Model Test Room) и GPTZero.
Кроме того, ИИ хуже работает с синонимами, ему бывает сложно заменить слово.
Часть этого текста была написана нейросетью. Какая?