Новости и разборы
Извлечение данных из документов: Clairic, Deep Review и мой путь от 50 % до 99,9 % без правки
Clairic от Cloudflare, Deep Review от Google и Agreement Analyzer: что изменилось в извлечении данных из документов и как мои парсеры дошли до 99,9 % без правки.
За одну неделю октября вышли три новости об обработке документов: Cloudflare показал Clairic, модель, которая достаёт из текста типизированные значения за один проход, Google открыл Deep Review для проверки длинных документов, а OpenAI рассказал, как юристы Sullivan & Cromwell проверяют договоры агентами, которые спорят друг с другом. Я делаю парсеры страховых смет и актов с 2023 года и прошёл путь от половины документов без ручной правки до 99,9 %, поэтому читаю эти новости с одной мыслью: что из этого сократило бы мне тот путь.
Что вышло
Cloudflare 19 октября представил Clairic, превью модели извлечения на Workers AI, с обещанием открыть веса. Идея идёт от «System One»-моделей, которые месяцем раньше ввела TypeSafe: модель отвечает за один проход, без рассуждений и без генерации токенов, платят только за вход, ответ обычно быстрее секунды. На вход текст и до четырёх картинок плюс список полей с типами: текст, число, дата, время, длительность, список, оценка, прогноз. На выход по каждому полю значение заданного типа с оценкой уверенности, а если ответа в документе нет, null. Ошибаться модель, по словам Cloudflare, может.
Google Research 14 октября открыл Deep Review, систему проверки сложных документов, выросшую из Paper Assistant Tool. За год её прогнали более чем на 16 000 рукописей для конференций STOC, ICML, NeurIPS и ICLR, теперь она принимает PDF и текст из любой области, включая юридические и финансовые документы. Устройство: документ режется на логические сегменты, каждому выделяется свой бюджет вычислений, затем отдельные агенты проверяют сегменты параллельно, имея доступ ко всему документу.
OpenAI 15 октября рассказал про Agreement Analyzer в Sullivan & Cromwell. Партнёр Джон Савва начал с однопользовательского прототипа на Codex. Юрист загружает проект договора, добавляет прецеденты фирмы и плейбук с позициями клиента, инструмент делает несколько кругов проверки и возвращает меморандум с правками, которые юрист принимает или отклоняет. Отдельно описана схема, где одни агенты формулируют замечания, а другие их оспаривают, и в результате видно, что устояло после спора, что отброшено и что осталось непроверенным. Савва настаивает, что у любого утверждения о рыночной практике должен быть виден источник.
Что это значит для компании, где документы переносят руками
Возьмём прокат автомобилей. Каждую неделю приходят счета от СТО за ремонт, акты осмотра и документы страховой после ДТП. Менеджер открывает PDF, скан или фото с телефона, находит сумму, VIN и дату и перепечатывает в таблицу. Ошибка в одной цифре VIN всплывает через месяц, когда страховая возвращает документ.
Все три новости про одну проблему: как получить из документа значение, которому можно доверять, и как понять, когда доверять нельзя. Clairic отвечает на неё типом, уверенностью и честным null. Deep Review и Agreement Analyzer отвечают отдельным слоем проверки, который спорит с первым выводом. Вывод для владельца: нужна связка «извлечение плюс проверка плюс путь обратно к человеку». Без третьего элемента первые два будут тихо портить базу.
Как я проходил этот путь с 2023 года
Для компании в сфере PDR в США я делаю парсеры страховых смет, актов и оценок повреждений из PDF, сканов и фотографий, а фото-парсеры читают VIN. Страховые документы доходят до 60–70 страниц. Основа на Python: OpenCV готовит изображение и расчерчивает на нём виртуальные линии, текст читает Tesseract, таблицы из PDF достаёт Camelot, Pandas чистит и структурирует. Главную работу делает моя логика, которая знает, как устроены эти документы.
С середины 2023-го парсеры в работе, около половины документов проходили без ручной правки. В 2024-м я перешёл на новые способы распознавания, и без правки проходило около 75 %. В 2025-м добавил новые извлекаемые данные и расчёты, доля выросла примерно до 95 %. В 2026-м подключил AI-валидаторы, три разных сервиса, Anthropic, OpenAI и Gemini, каждый под свою задачу, и выпустил релизную версию: около 99,9 % документов без ручной правки. Человек делает финальную проверку. Парсеры освобождают около 60 часов ручной работы в неделю.
Типизированный ответ с уверенностью и null в Clairic это ровно то, чего мне не хватало в 2023 году, когда половина документов уходила на ручную правку без сигнала «здесь я не уверен». Схема «одни агенты предлагают, другие оспаривают» у Sullivan & Cromwell по смыслу то же, что мои валидаторы, только у меня роль спорщиков играют разные сервисы с разными задачами. Clairic на своих сметах я не проверял и обещать за него ничего не буду.
Что я бы сделал
- Собрать по 30–50 реальных образцов каждого типа документа и замерить, сколько минут уходит на один руками.
- Выписать поля, которые нужны дальше, и куда они идут: в CRM, в смету, в отчёт.
- Там, где структура стабильна, извлекать кодом; модель подключать на остатке. У каждого значения должна быть уверенность, а у документа путь обратно к человеку.
- Проверять вторым инструментом, отдельным от того, который извлекал. Расхождения писать в журнал.
- Считать долю документов без правки каждый месяц и ждать постепенного роста. У меня это заняло три года, и обещать цифры до разбора образцов я не буду.
Связанные материалы
Где AI помогает разобрать документы и как проверять результат: статья AI в обработке данных: извлечение и проверка. Направления: Python для документов и повторяемой обработки и AI в процессе, где результат можно проверить. Кейсы: парсеры смет, актов и фото с VIN и технический партнёр PDR-компании в США. По той же теме: AI решает, человек подтверждает, где хранить сканы на 70 страниц и фото машины и что случилось у нас, когда парсеры освободили 60 часов в неделю. Раньше я писал, как сохранить смысл таблиц и диаграмм при поиске по PDF. Если у вас документы до сих пор перепечатывают в таблицу, расскажите, какие это документы и куда должны попадать данные: Обсудить задачу.