AI-агенты для финансов: как оставить платежи и проводки за границей контура

Автор: Виталий Дильдин · Опубликовано 22 июля 2026 года

Короткий ответ

Финансовый AI-агент полезен в первом пилоте, когда он не «ведёт финансы», а выполняет один ограниченный переход: находит основание, извлекает поля в черновик, сопоставляет разрешённые записи или собирает очередь отклонений. Его результат должен позволять специалисту быстро вернуться к документу, строке и правилу. Платёж, проводка, изменение реквизита, лимита или справочника не становятся следствием убедительного текста: это отдельные операции с собственной авторизацией.

Слово «агент» здесь важно. В отличие от чата, такая система может сама выбирать следующий шаг и вызывать инструмент: читать хранилище, создавать черновик или передавать задачу. Поэтому до запуска фиксируют не только промпт, но и разрешённый вопрос, источники, доступные функции, пределы вывода, человека для проверки, условия остановки и журнал. Хорошее правило для старта: агент готовит артефакт, человек принимает решение, а downstream-система выполняет действие только через отдельный контролируемый маршрут.

Иллюстрация создана с помощью ИИ как редакционная метафора проверки черновика. Это не фотография реальной финансовой организации, платёжной операции, документа или результата.

Материал отвечает на границу агентного контура. Если нужно сначала выбрать задачу, сравните сценарии ИИ для финансового отдела. Если задача уже выбрана и требуется встроить её в процесс, используйте план контролируемого финансового пилота.

Контракт финансового агента

Начните не с доступа к учётной системе, а с одной карточки контракта. Она делает заметным то, что часто прячут за фразой «пусть агент сверит документы». Какая именно версия документа? Что считается расхождением? Кому доступен результат? Может ли он изменить что-либо сам? Без ответов задача остаётся темой для презентации, а не проверяемым контуром.

NIST AI RMF предлагает рассматривать риск через функции Govern, Map, Measure и Manage. Это добровольная рамка, а не готовая финансовая процедура. В прикладном контексте она помогает идти в правильном порядке: назначить роли и пределы, описать контекст и последствия, проверить измеримыми тестами, затем решить, как реагировать на обнаруженные риски. NIST отдельно говорит о документировании того, что система знает о своих границах и как человек использует и контролирует её выход.

Не смешивайте основание и интерпретацию. Агент может показать: «в строке отсутствует номер заказа» или «две версии правила расходятся». Он не должен превращать это в вывод «счёт можно оплатить», если такая связь не закреплена правилами, полномочиями и отдельной проверкой. Уверенность формулировки не равна подтверждённому основанию.

Граница прав и действий

В финансовом процессе полезно разложить работу на уровни. Каждый следующий уровень требует нового контракта и отдельного теста; прошлый успех не выдаёт разрешение на следующий.

Для финансовых организаций Банк России публиковал рекомендации по безопасному использованию ИИ в финансовой сфере. Их применимость зависит от статуса организации, процесса и конкретных требований; это не универсальная юридическая инструкция для любой компании. Но практическая граница полезна шире: чем выше возможный ущерб и необратимость действия, тем меньше оснований подключать его к первому агентному пилоту.

Техническое ограничение должно жить не только в системной инструкции. Если у агента есть сервисная роль, способная записывать проводки, запрет «не записывай» не заменяет отсутствие функции или отдельную авторизацию. OWASP в актуальном перечне рисков LLM-приложений выделяет prompt injection, improper output handling и excessive agency. Внутренний документ, письмо или текст из формы могут содержать попытку изменить поведение системы; поэтому недоверенный текст не может сам расширять права, выбирать получателя действия или обходить схему проверки.

Пошаговый запуск

1. Выберите один обратимый результат

Подходят: карточка расхождения, черновик извлечённых реквизитов, пояснение отклонения со ссылками или сводка незавершённых документов. Не начинайте с оплаты, проводки, изменения контрагента либо рассылки внешнего подтверждения. Результат должен быть полезен, даже если его никто не отправит дальше.

2. Соберите ограниченный корпус

Опишите точный источник: конкретную папку, выгрузку или тип документа, владельца, период и версию. Не подключайте одновременно файловый архив, почту, мессенджер и общие диски «для полноты». Чем шире корпус, тем сложнее увидеть устаревшее правило, лишнее поле и незаметную инструкцию внутри файла.

3. Разделите агента и действие

Дайте агенту только чтение и создание черновика. Проверяющий сотрудник видит исходные данные, основания и пометки неизвестного. Внешнее действие остаётся в системе, где уже действуют роли, лимиты, схема и подтверждение. Это позволяет измерить полезность подготовки, не проверяя на реальных деньгах цену ошибки.

4. Заранее опишите эскалацию

Нужны не общие слова «передать человеку», а причины и маршрут: нет источника, две версии расходятся, реквизиты отличаются, превышен порог, вход не того типа, текст требует выполнить действие. В карточке эскалации оставьте запрос, ссылку на источник, причину и владельца очереди. Не переносите в журнал больше данных, чем нужно для разбора.

5. Запустите теневой режим

Пусть агент создаёт результат параллельно действующему ручному процессу. Специалист отмечает не абстрактную «точность», а верность основания, существенные исправления, ложные срабатывания, пропуски и корректные отказы. Чек-лист здоровья AI-систем помогает проверить доступы, логи и резервный маршрут, но не заменяет оценку финансового процесса.

6. Проверьте остановку

Отзовите разрешение на источник, отключите инструмент, подайте дубликат и повторите один запрос. Ожидаемый результат — остановка или ручная очередь, а не догадка из старого кэша. Зафиксируйте, кто замечает сбой, кто решает о перезапуске и как восстанавливается незавершённая работа.

Практические сценарии

Черновик сверки счёта и заказа. Агент читает только разрешённые поля счёта, заказа и приёмки, выдаёт таблицу совпадений и расхождений со ссылками. Он не меняет статус документа и не выбирает, кого оплатить. Бухгалтер проверяет исключения и сам решает следующий шаг.

Пояснение отклонения от бюджета. Вход — согласованная выборка строк и период. Выход — черновой комментарий, в котором факты, расчёты и предположения разделены. Финансовый аналитик проверяет цифры и причинность: корреляция в строках не даёт агенту права объявить причину или менять лимит.

Пакет для платёжного календаря. Агент собирает заметки о сроках и неполных данных, не создавая платёж. В ручную очередь попадают записи без основания, с конфликтующими реквизитами или с неизвестным приоритетом. Полезность измеряется тем, насколько понятнее стала проверка, а не количеством автоматически «закрытых» платежей.

Проверка и журнал

NIST рекомендует тестировать AI-системы до развёртывания и регулярно во время эксплуатации. Профиль NIST для генеративного ИИ отдельно выделяет governance, тестирование до запуска, происхождение контента и раскрытие инцидентов. Перевод на рабочий язык прост: сохраните версию набора тестов, ожидаемый выход, основание и решение о том, что делать с найденной ошибкой.

Минимальный тестовый набор включает обычный документ, дубликат, пропуск обязательного поля, два конфликтующих правила, неверные реквизиты, документ с инструкцией «игнорируй правила» и запрос повторить операцию. Для каждого заранее определите один из результатов: черновик, расхождение, отказ или эскалация. Такой набор тестирует не только красивый средний случай, но и способность контура не расширяться от неудобного входа.

В журнале достаточно связать идентификатор запуска, версию агента и источника, разрешённый вызов функции, ссылку на результат, решение человека и причину остановки. Не копируйте в технический журнал весь документ или избыточные персональные данные. При изменении корпуса, роли, модели или функции снова прогоните набор: это новая версия системы, а не мелкая настройка.

Ошибки и ограничения

Дать агенту один общий сервисный аккаунт. Тогда роль агента шире роли пользователя, а история теряет автора решения. Проверяйте полномочия там, где совершается действие.

Считать подсветку исключения решением. Сигнал помогает начать проверку, но не подтверждает оплату, проводку или изменение реквизита.

Тестировать только удобные счета. Дубликаты, конфликтующие версии и неполные поля важнее демонстрации, в которой все документы идеальны.

Смешать данные и команды. Инструкция внутри загруженного документа — это данные для обработки, не команда, расширяющая инструменты агента.

Мерить эффект только скоростью. Быстрый черновик без основания может ускорить ошибку. Отдельно смотрите на исправления, отказы, эскалации и стоимость ручной проверки. Экономическую оценку строят по собственным данным; для этого есть калькулятор ROI, а не чужой процент экономии.

Материал не заменяет бухгалтерскую, юридическую, платёжную или информационно-безопасностную оценку. Если сценарий затрагивает обязательство, деньги, отчётность, права клиента или персональные данные, границу и требования нужно оценить в конкретном контексте.

Частые вопросы

Может ли агент сам сформировать платёж?

Он может подготовить черновой пакет, если такой результат разрешён контрактом. Само формирование или отправка платёжной операции — отдельный контур с полномочиями, контролями и проверкой; он не следует автоматически из качества черновика.

Достаточно ли попросить модель не менять данные?

Нет. Запрет должен поддерживаться архитектурой: агент не получает функцию записи либо вызов проходит независимую авторизацию, схему и ручное решение.

Когда можно добавить действие?

После того как один выход стабильно проверяется, понятны классы ошибок, работает эскалация, журнал и отзыв доступа. Добавляйте одну функцию, новый набор тестов и отдельного владельца за раз.

Что делать с документом, который просит нарушить инструкцию?

Рассматривать его как недоверенный вход: агент не должен исполнять такую команду. Зафиксируйте случай в тестах и передайте документ владельцу процесса или специалисту по безопасности.

Следующий шаг

Заполните одну карточку: вход, разрешённый артефакт, основание, недоступное действие, человек-проверяющий, эскалация и остановка. Затем выберите один финансовый сценарий и не расширяйте права, пока ограниченный контур не пройдёт теневой тест.