Інженери тонуть у документації: технічні карти, звіти, інструкції, схеми. РОЗУМ — мій десктоп-помічник, який читає твої файли й відповідає по них українською, з посиланнями на джерело.
Як працює RAG простими словами
- Завантажуєш документи по розділах (PDF, DOCX, Excel).
- Система ріже їх на шматки, рахує ембедінги й кладе у векторну базу.
- На запит вона знаходить найрелевантніші шматки і дає їх моделі як контекст.
- Відповідь приходить із цитатами — видно, звідки взято, аж до сторінки.
Чому локально
Найважливіше — приватність. Документи не покидають комп'ютер. Є два режими:
- Локальний GPU (Ollama) — повністю офлайн, нуль витоку.
- Хмара (Groq) — коли треба швидше/розумніше на складних запитах.
Стек
Python + FastAPI, інтерфейс через pywebview (нативне вікно), SQLite для метаданих, локальні ембедінги. Пошук по сотнях сторінок — за секунди замість ручного гортання.
Кому це треба
Будь-кому, хто працює з великими наборами документів і не хоче віддавати їх у чужу хмару: інженерам, юристам, бухгалтерам, дослідникам.