Microsoft Word вскоре получит ИИ-юридического агента — звучит как удобный помощник, пока не вспоминаешь, насколько плохо подобные эксперименты уже заканчивались. Новый Legal Agent способен проверять договоры, предлагать правки, сопоставлять версии и отмечать потенциально опасные положения прямо в Word. На первый взгляд это выглядит практично и экономит время, но история с генеративными инструментами, которые галлюцинируют и «придумывают» дела, ссылки и цитаты из воздуха, уже приводила реальных людей к реальным проблемам в суде.
Функции Legal Agent в Word: что реально доступно
Microsoft уточняет, что Legal Agent появляется через Copilot в Word у участников программы Frontier в США. На текущем этапе он работает в настольной версии Word для Windows. Отдельно ничего устанавливать не нужно, хотя некоторым пользователям может потребоваться перезапустить Word, чтобы агент отобразился.
Legal Agent ориентирован на проверку контрактов и деловых документов. По словам Microsoft, он умеет анализировать договор пункт за пунктом по юридическому плейбуку, проводить ревью соглашения целиком, сравнивать редакции, выделять риски и обязательства, а также предлагать корректировки в режиме отслеживания изменений. При этом он сохраняет исходное форматирование, таблицы, списки и историю переговоров.
Компания также пытается снизить вероятность очевидного «кошмара» для пользователей и для себя. Среди встроенных мер — выдача цитат, привязанных к исходным формулировкам, чтобы рецензент мог проверять рекомендации перед применением, а также заметные дисклеймеры: сервис не дает юридических советов, может ошибаться и в любом случае требует проверки квалифицированным юристом, прежде чем на что-либо полагаться.
Почему юристам все равно стоит сохранять осторожность
Уже есть примеры того, как ИИ «срывается» в юридической практике: в 2023 году двух юристов из Нью-Йорка наказали и обязали выплатить штраф $5 000 после того, как они подали документ в суд с фейковыми делами, сгенерированными ChatGPT. Бывший адвокат Дональда Трампа Майкл Коэн также признал, что неосознанно передал своему представителю выдуманные ссылки на судебные дела, созданные Google Bard. Коэна не оштрафовали, но судья назвал ситуацию унизительной и подчеркнул необходимость скептически относиться к ИИ при подготовке юридических материалов.
И это далеко не единичные истории: судьи задавали вопросы или наказывали адвокатов в разных делах, где использовались ИИ-помощники при подготовке документов; кроме того, один французский дата-сайентист и юрист обнаружил сотни судебных документов с фейковыми цитатами и несуществующими источниками за последний год.
Основная сложность в том, что проблема галлюцинаций по-прежнему не решена. ИИ-чатботы способны выдавать уверенно звучащие ответы, которые частично или полностью неверны. В юридической сфере это особенно рискованно: придуманная ссылка или несуществующее дело может попасть в процессуальный документ и привести к серьезным последствиям.
Microsoft заявляет о множестве защитных механизмов в Legal Agent, призванных снизить вероятность таких ошибок. Однако практика уже зафиксирована в судебных материалах: ИИ способен ускорять рутину и помогать с ревью, но ответственность за проверку фактов по-прежнему остается на юристе.
