Gabay sa RAGFlow: Paano i-install ang open-source RAG engine, maglagay ng mga documento, at pigilan ang AI sa pag-imbento

Panimula: Nang Basahin ng AI ang isang PDF na Parang Gulo-gulo

May napanood akong totoong kaso: Gustong gumawa ng panloob na knowledge base ng isang kumpanya, kaya nagpasok sila ng mahigit tatlong daang PDF ng manual ng produkto sa isang RAG system. Bilang resulta, nang sumagot ang AI, ikinabit nito ang mga numero sa table sa ibang talata, at tinukoy ang copyright notice sa footer bilang pangunahing teksto. Nang tanungin ito ng "Ano ang power ng A model?", may kumpiyansa itong sumagot ng numerong para talaga sa B model. Napangiti na lang nang mapait ang engineer na namamahala at sinabing ang problema ay hindi ang pagiging tanga ng modelo, kundi ang "ang dokumento ay hindi man lang binasa nang maayos."

Ito ang tunay na mahirap sa RAG — hindi ang pag-konekta sa modelo, kundi ang tamang pagputol-putol ng mga dokumentong kumplikado ang layout, may mga table, o scanned file, sa mga pirasong kayang kainin ng modelo. Ang pangunahing pokus ng RAGFlow ay eksaktong ito. Dadalhin ka ng artikulong ito para aktwal itong i-install, magpakain ng mga dokumento, at hayaan itong maglakip ng mga pinagmulan (sources).

Ano ang RAGFlow

Ang RAGFlow ay isang open-source RAG (Retrieval-Augmented Generation) engine na ginawa ng InfiniFlow, at ang source code nito ay naka-publish sa GitHub. Kung hindi ka pa sigurado kung ano ang RAG, mas mabuting basahin muna ang ating Ano ang RAG para mas madaling maintindihan — sa madaling salita, hahayaan muna nitong maghanap ang AI sa iyong tumpok ng data bago sumagot, at sasagot ito batay sa mga nahanap nito, sa halip na manghula lang gamit ang memorya.

Ang pinagkaiba ng RAGFlow sa iba pang tool sa RAG ay ang tinatawag nitong DeepDoc na "Deep Document Understanding". Ang mga karaniwang tool sa pagbasa ng PDF ay sapilitang kumukuha lang ng text, at kapag naging kumplikado ang layout, magugulo na ito. Naiintindihan ng RAGFlow ang istruktura ng layout — kung saan ang pamagat, kung saan ang table, kung saan ang talata, at pati ang mga scanned file (image-type PDFs) ay kayang iproseso sa pamamagitan ng OCR. Sinusuportahan nito ang maraming format tulad ng Word, presentations, Excel, plain text, images, scanned files, structured data, at mga web page.

Ang isa pang mahalagang punto ay ang maitutunton na citation (traceable citation). Kapag sumasagot ito, mamarkahan nito ang batayan ng sagot, na nagbibigay-daan sa iyong makita na "ang pangungusap na ito ay mula sa aling talata ng aling dokumento," na lubos na nagpapababa ng posibilidad na mauto ka ng AI. Isinasama rin nito ang Agent orchestration na ginagawa ng mga platform tulad ng Dify, na sumusuporta sa pagbuo ng RAG, mga tool, at MCP sa isang visual workflow.

Para saan ito magagamit

• Panloob na Knowledge Base ng Kumpanya: Magpasok ng mga manual ng produkto, SOP, at mga template ng kontrata. Magtatanong ang mga empleyado gamit ang natural language, at may kalakip na pinagmulan ang mga sagot.
• Customer Service Q&A Backend: Ikonekta ang mga FAQ at teknikal na dokumento para magsilbing utak ng chatbot.
• Pananaliksik at Pagsusuri: Ang mga dokumentong may kumplikadong layout tulad ng mga legal na desisyon, financial report, at thesis na nangangailangan ng tumpak na citation ay eksaktong tumatama sa kalakasan ng DeepDoc.
• Personal na Pangalawang Utak: Itapon ang iyong mga naipong tala at e-book sa loob ng maraming taon upang maging isang knowledge base na nakakausap.

Kung gusto mong maunawaan kung paano buuin ang kabuuang RAG system, maaari mo itong basahin kasama ang Gabay sa Pagpapatupad ng RAG.

Paano Gamitin: Unang Paggamit

Ang RAGFlow ay naka-deploy gamit ang Docker. Hindi masyadong mahirap ang proseso, ngunit mayroon itong mga kinakailangan sa makina, kaya tingnan muna ang mga espesipikasyon.

1. Kumpirmahin ang mga Kinakailangan sa Sistema

Inirerekomenda ng opisyal: CPU na may hindi mababa sa 4 cores, RAM na hindi mababa sa 16GB, hard drive na hindi mababa sa 50GB, Docker 24 pataas, Docker Compose v2.26 pataas. Napakahalaga ng patakarang ito sa RAM — kailangan nitong magpatakbo ng vector retrieval engine, at kung kulang ang RAM, magka-crash ito nang paulit-ulit. Huwag ding isiping pilitin ito sa isang maliit na makina na may 4GB.

2. I-clone ang Project at Simulan

Pagkatapos i-clone mula sa GitHub, pumunta sa direktoryo ng docker at simulan:

bash
git clone https://github.com/infiniflow/ragflow.git
cd ragflow/docker
docker compose up -d

Sa unang pagpapatakbo, kukuha ito ng maraming image, kaya uminom muna ng kape habang naghihintay. Pagkatapos tumakbo, gamitin ang docker ps para kumpirmahing gumagana ang mga container.

3. Buksan ang Backend at Itakda ang mga Modelo

Pagkatapos gumana ng serbisyo, buksan sa browser ang http://IP_ng_iyong_host (default port 80). Magrehistro ng account para mag-login, pagkatapos ay pumunta sa mga setting para punan ang API key ng modelo — ang hakbang na ito ay hindi maaaring laktawan. Ang RAGFlow mismo ay walang kasamang modelo; kailangan mong sabihin dito kung aling LLM (para sa pagsagot) at kung aling embedding model (para sa pag-convert ng text patungo sa vectors) ang gagamitin. Maaari kang maglagay ng OpenAI, iba't ibang cloud model, o kumonekta sa lokal na Ollama.

4. Bumuo ng Knowledge Base at Magpakain ng mga Dokumento

Gumawa ng Knowledge Base at i-upload ang iyong mga PDF at Word. Narito ang mahalagang bahagi: pagkatapos mag-upload, kailangan mong pumili ng chunk method. Nagbibigay ang RAGFlow ng iba't ibang template para sa iba't ibang uri ng dokumento — mga karaniwang dokumento, thesis, libro, batas, presentasyon, table, Q&A pairs, at iba pa. Malaki ang pagkakaiba sa kalidad ng pagputol kapag tama ang napiling template. Pagkatapos pumili, i-click ang parse, at patatakbuhin nito ang DeepDoc upang hatiin ang dokumento sa mga piraso.

5. Suriin ang Resulta ng Pagputol (Chunking)

Ito ang pinakamahalagang gamitin sa RAGFlow: pagkatapos i-parse, i-visualize nito ang mga resulta ng pagputol para makita mo, at makikita mo kung ano ang hitsura ng bawat piraso at kung aling bahagi ng orihinal na teksto ito tumutugma. Kung nalaman mong nasira ang pagkakaputol — halimbawa, naputol ang isang table — maaari mo itong manu-manong isaayos. Huwag nang mag-reklamo na abala ito; direktang tinutukoy ng hakbang na ito kung tumpak ang mga susunod na sagot.

6. Bumuo ng Chat Assistant at Subukan ang Q&A

Kapag walang problema sa mga chunk, gumawa ng Chat, ikabit ang Knowledge Base na ito, at maaari ka nang magsimulang magtanong. Kapag sumasagot ito, maglalakip ito ng pinagmulan ng citation, at kung i-click mo ito, tatalon ito sa orihinal na bahagi ng teksto.

Mga Advanced na Tip

Hatiin ang mga Template sa Iba't Ibang Knowledge Base Batay sa Uri ng Dokumento: Huwag maglagay ng mga legal na kontrata at presentasyon ng produkto sa parehong knowledge base gamit ang parehong template. Napakalaki ng pagkakaiba ng layout, at magkaiba ang lohika ng pagputol. Ang paggawa ng magkahiwalay na base at pagpili ng kanya-kanyang template ay magpapataas nang malaki sa katumpakan.

Sulitin ang Hybrid Retrieval: Sabay na ginagawa ng RAGFlow ang vector retrieval at BM25 keyword retrieval, at idinaragdag pa ang re-rank. Ang purong vector retrieval ay madalas na hindi nakakakuha nang wasto ng mga query tulad ng "mga eksaktong pangalan, numero ng piyesa, numero ng artikulo", at ang keyword retrieval ay eksaktong pumupuno roon. Narito na ito bilang default, ngunit maaari mong ayusin ang timbang (weight).

Kumonekta sa Ollama para Magpatakbo ng Lokal na Modelo: Para sa mga nagmamalasakit sa privacy ng data at ayaw ipadala ang mga dokumento ng kumpanya sa cloud, maaari mong ituro ang parehong LLM at embedding model sa lokal na Ollama, at patakbuhin ang buong sistema nang offline. Ang kapalit ay ang pangangailangan para sa mas magandang hardware.

I-string sa Sariling Sistema Gamit ang API: Nagbibigay ang RAGFlow ng API, kaya maaari mo itong ituring bilang backend retrieval layer, gamitin ang iyong sariling interface sa frontend, o ikonekta ito sa umiiral na sistema ng customer service. Para sa mas kumplikadong workflow, maaari mo ring gamitin ang function nitong Agent orchestration, na magkatulad ang konsepto sa Pagbuo ng AI Agent.

Mga Karaniwang Mali at Pag-iingat

• Masyadong Maliit na RAM para sa Sapilitang Pag-install: Ang 16GB ay ang pinakamababa at hindi rekomendasyon. Mas mababa rito, paulit-ulit na mag-i-crash ang container, at dito madalas ma-stuck ang mga baguhan nang hindi alam ang dahilan.
• Nakalimutang Itakda ang Embedding Model: Maraming tao ang nagtakda lamang ng LLM para sa pagsagot at nakalimutan ang embedding model. Bilang resulta, ang mga dokumento ay hindi man lang na-vectorize nang maayos, at hindi ito makakasagot nang wasto kahit anong itanong. Kailangang itakda ang pareho.
• Random na Pinili ang Chunk Template o Hindi Sinuri: Gumamit ng default na template para magpakain ng PDF na kumplikado ang istruktura, tapos nagreklamo na pangit ang sagot — malamang na ang problema ay nasa pagputol. Siguraduhing tingnan ang visualized na resulta, at ayusin kung nasira.
• Pag-akala na 100% Tama Dahil May Citation: Ang traceable citation ay para "mapatunayan mo", hindi "garantiya na tama". Binabawasan ng citation ang panganib ng hallucination, ngunit maaari pa ring maling mabasa ng modelo ang mga piraso. Mangyaring manu-manong suriin ang pinagmulan para sa mga mahalagang sitwasyon. Para sa higit pang pag-unawa kung bakit nagsisinungaling ang AI, tingnan ang Ano ang AI Hallucination.
• Hindi Maayos na Pinag-isipan ang Privacy ng Data: Kapag gumagamit ng mga cloud model, ipapadala ang mga piraso ng iyong dokumento sa tagagawa ng modelo. Mangyaring dumaan sa solusyon ng lokal na modelo para sa sensitibong data.

Puna ng TheAI學院

Maraming tool sa merkado ang kayang kumonekta sa RAG, ngunit karamihan sa kanila ay nakasentro sa "paano kumonekta sa modelo, paano mag-imbak ng mga vector," habang ipinapalagay na ang mga dokumento ay malinis na mababasa. Sa praktikal na aplikasyon, ang pagsusuri ng dokumento (document parsing) ang dahilan kung bakit nag-e-error ang siyamnapung porsyento ng mga proyekto. Inilaan ng RAGFlow ang lakas nito sa DeepDoc at chunk visualization, na katumbas ng pag-amin at direktang pagharap sa pinakamaruming gawaing ito. Para sa mga koponan na gumagawa ng panloob na knowledge base at nababaliw na sa mga table at scanned file, tama ang desisyong ito.

Kapag matagal ka nang gumagawa ng RAG, mauunawaan mo ang isang pahayag: Ang kalidad ng sagot ay hindi nananalo sa lakas ng modelo, kundi sa kung ang dokumento ba ay binasa nang maayos. Ipinusta ng RAGFlow ang taya nito rito, at tama ang naging taya nito.

Tandaan na ito ay isang tool na naka-orient sa engineering; kailangan mong malaman ang Docker at magkaroon ng disenteng makina, hindi ito isang cloud service na magagamit mo agad pagka-install. Kung ikaw ay isang indibidwal na gustong simpleng subukan ang RAG, maaaring medyo mataas ang hadlang; ngunit kung gusto mong i-deploy ito nang sarili, panatilihin ang kontrol, at humawak ng mga kumplikadong dokumento, karapat-dapat itong gugulan ng isang hapon para i-install at paglaruan.

Mga Pinagmulan ng Datos

• Opisyal na Website ng RAGFlow
• RAGFlow GitHub