Использование нейросетей в профессиональной деятельности документоведа

Современный темп работы документоведа существенно возрос из‑за постоянного увеличения объемов документов, повышения требований к обработке информации и необходимости соблюдения множества нормативных актов. В этих условиях специалисты вынуждены прибегать к инструментам искусственного интеллекта (далее – ИИ), чтобы успевать выполнять задачи. Но одно дело, когда это использование ИИ-сервисов, которые помогают автоматизировать распознавание текста (OCR), классификацию и маршрутизацию документов, извлечение ключевых данных и даже предварительное согласование[1], и сосем другое – когда ИИ-сервисы отсутствуют, и специалист обращается к ИИ-ботам для решения задач.

Давайте разберемся, как же все-таки работать с ИИ-ботами и стоит ли им доверять.

Что говорит закон

Использование нейросетей допустимо законодательством. К примеру, в сфере регулирования защиты информации установлено, что при любом использовании ИИ необходимо соблюдать общие требования к обработке информации и защите данных[2].

В сфере образования разработан ГОСТ Р 71657-2024[3], который устанавливает создание фрагментов текстов научных статей или отчетов на основе имеющихся данных и шаблонов. В стандарте прописан аспект этичного применения систем ИИ: «Окончательную редакцию как текста научной публикации в целом, так и его любых фрагментов должен формулировать исследователь самостоятельно, проанализировав предложенные системой генерации текста варианты фрагментов текста». Этот аспект берем во внимание, потому что он применим на практике в любой деятельности.

К примеру, некое ООО получило судебный штраф за то, что включило в текст жалобы ссылки на несуществующие судебные дела. Документ был составлен с помощью ИИ, а представитель общества не проверил информацию на соответствие действительности.

О чем нам это говорит? ИИ полезен для ускорения работы (составления черновиков, структурирования текста, подбора формулировок). Но он:

• может «выдумывать» факты;
• не гарантирует актуальность данных;
• не несет юридической ответственности;
• не знает нюансы работы вашей организации, локальные нормативные акты и манеру руководства.

Даже если специалист не связан с судебными документами, суд может запросить любой документ из деятельности организации.

Учитывая вышеизложенное, можно сказать, что типичная ошибка при использовании нейросетей – не анализировать и не редактировать то, что выдает ИИ.

Особенности ИИ-текста 

Расскажем об особенностях ИИ-текстов и рассмотрим, как их распознавать.

• Нейротексты в основном структурированы по следующему принципу:

Таким образом, текст выглядит кратким, в официально-деловом стиле, легко распознаваемым.

• Часто в ответах ИИ-ботов (общий текст или вступительная часть) используются такие слова и словосочетания, как «ключевой», «важно/важный», «не только…, но и…», «алгоритм», «Таким образом», «в современном мире» и т.д.
• Ответы теоретического характера, поскольку ИИ генерирует текст на основе статистических закономерностей в обучающих данных. Он не понимает тему в человеческом смысле, а подбирает наиболее вероятные слова и конструкции для заданной темы.

Исходя из этих особенностей, можем предположить, что текст, представленный ниже, составлен ИИ (очевидные признаки выделены курсивом).

Здесь мы наблюдаем ответ, который в целом отвечает запросу. Но при этом содержание ответа не конкретизировано. Например, будет нецелесообразно вписать этот ответ ИИ в локальный нормативный акт или в рабочую памятку. Другие нюансы также не учтены ввиду отсутствия конкретики запроса – для чего и кому нужны правила ведения переписки.