Предложена новая компактная (0.8B) сквозная (end-to-end) модель OvisOCR2 (https://huggingface.co/ATH-MaaS/OvisOCR2) на базе Qwen3.5-0.8B для парсинга документов, преобразующая изображения страниц в Markdown с сохранением текста, формул, таблиц, визуальных областей и порядка чтения.

Реальные данные размечали специализированными OCR-парсерами (PaddleOCR-VL-1.5, MinerU2.5-Pro), унифицируя в Markdown через правила, жёстко фильтруя и выборочно проверяя вручную. Синтетические данные включали порождённые из трудных примеров HTML-шаблоны, агентное разнообразие контента и структуры, рендеринг страниц и извлечение точной Markdown-разметки из того же HTML-источника, дополненные циклическим контролем качества.

Обучение проводилось с применением SFT на смеси реальных и синтетических данных для получения базовой политики, а далее использовался RL (GRPO) на 4B-ветке с многокомпонентной наградой (текст оценивали по расстоянию редактирования, формулы по CDM, таблицы по TEDS) на основе текущей стратегии и отфильтрованных сложных примеров. С помощью дистилляции на основе текущей стратегии (обратной KL Top-k) поведение стабильно перенесли с 4B RL-учителя на 0.8B студента. Под конец объединили модели, усредняя веса нескольких кандидатов.

В результате первая сквозная модель SOTA, обогнавшая пайплайновые методы, продемонстрировала общий балл 96.58 на OmniDocBench v1.6 и лучший показатель Avg3 75.06 на PureDocBench в категориях чистых и цифровых документов, заняв первое место. Внутренний бенчмарк присвоил ей наивысший общий балл и лидерство на всех уровнях сложности, особенно на подвыборках рукописных документов и сложных таблиц (минимальный процент пропущенных таблиц).

Показана новая открытая модель lift (https://huggingface.co/datalab-to/lift) на 9B для извлечения структурированного JSON из PDF и изображений по JSON-схеме под лицензиями Apache 2.0 (код) и OpenRAIL-M (веса, бесплатно для исследований, личного пользования и стартапов с бюджетом менее $5M).

Набранные 90.2% точности по полям на бенчмарке из 225 документов (примерно 11 000 полей) сделали её лучшей среди небольших локально развёрнутых моделей, а стандартная скорость 9.5 с на документ оказалась быстрее конкурентов при высокой точности.

Обработка многостраничных документов (включая значения на стыке страниц) происходит за один проход всегда с выдачей валидного JSON согласно схеме и придерживаясь "воздержания по умолчанию", оставляя поле null, если данных нет, чтобы избежать галлюцинаций.

Запланировали в будущем повысить точность, улучшить работу с длинными документами и более плотно поддерживать схемы.

В результате локально развёрнутого сравнения 90.2% у lift, 81.5% у NuExtract3 (4B) и 76.3% у Qwen3.5-9B.

Базой выбрали DeepSeek OCR, включающий DeepEncoder с высокой компрессией и MoE-архитектуру с 3B параметров, из которых 0.5B активны.

Архитектура R-SWA даёт каждому токену видеть все референс-токены (визуальные и промт) и лишь последние n выходных токенов (по умолчанию 128), поэтому KV-кеш постоянен и визуальные признаки не "размываются", так как исключены из переходов состояний.

Сейчас истинно неограниченный парсинг упирается в длину входной обработки, хотя в будущем планируют удлинить контекст и встроить механизм динамической подгрузки этих данных. Притом R-SWA перспективно для ASR, перевода и других задач с длинным горизонтом.

В результате общая оценка набрала 93% на OmniDocBench v1.5 (+6% к базовому DeepSeek OCR). Была реализована возможность однопроходного парсинга десятков страниц документа при фиксированном KV-кеше и постоянной скорости декодирования, а при 6K токенов вывода скорость (TPS) на 35% выше, чем у DeepSeek OCR, за счёт устранения линейного роста затрат.