Media is too big
VIEW IN TELEGRAM
Что умеет?
✂️ Не требует разрезать PDF на десятки частей — модель рассчитана на длинные последовательности и может распознавать десятки страниц за один запуск.
Подходит для:
* обучения по электронным книгам;
* оцифровки архивов;
* подготовки данных для RAG;
* поиска информации в больших PDF;
* создания собственных AI-баз знаний.
Клонируем проект:
git clone https://github.com/baidu/Unlimited-OCR
cd Unlimited-OCR
Устанавливаем зависимости:
pip install torch torchvision transformers pymupdf pillow matplotlib einops addict easydict psutil
from transformers import AutoModel, AutoTokenizer
model = AutoModel.from_pretrained(
"baidu/Unlimited-OCR",
trust_remote_code=True
)
Простой пример распознавания PDF:
model.infer_multi(
tokenizer,
prompt='<image>Multi page parsing.',
image_files=pdf_to_images('your_doc.pdf', dpi=300),
output_path='your/output/dir',
image_size=1024,
max_length=32768,
no_repeat_ngram_size=35, ngram_window=1024,
save_results=True,
)
Ключевая особенность — возможность обрабатывать длинные документы целиком без традиционного разбиения на страницы, что упрощает конвейер обработки и ускоряет работу с большими объемами данных.
#python #soft #github
Please open Telegram to view this post
VIEW IN TELEGRAM
👍29🔥10❤6