Публикации автора

В статье рассматривается возможность использования нейросетей в качестве полноценных научных и справочных источников. Делается вывод о том, что существенной преградой для использования нейросетей в отмеченном выше аспекте является их ориентация на синтез текстов - заполнение готовых форм с опорой на ключевые слова без осуществления глубокого анализа с выявлением иерархии исследуемых явлений и установления их более тонких особенностей. В сгенерированных текстах данная черта находит свое проявление в трех типах галлюцинаций. Галлюцинации первого типа (реминисцентного) основаны на ассоциациях с конкретными текстами и фактами. Галлюцинации второго типа (свободно-ассоциативные) возникают вследствие ассоциаций со словами, содержащимися в запросе. Третья группа (основанный на типовых рядах) характеризуется заполнением номинациями (зачастую неверно выбранными) позиций в готовых шаблонах, что хорошо заметно на примерах путеводителей, созданных нейросетями и ставших основным материалом для данной статьи. Галлюцинации первой и второй групп возникают при обработке запросов, связанных с фактами, обладающими широкой известностью, тогда как галлюцинации третьей группы чаще проявляют себя при изложении малоизвестных фактов. В работе подчеркивается важность критического подхода к фактам, изложенным в сгенерированных текстах.