RAG on premise su PDF aziendali: documenti in LAN senza cloud

Perché il RAG sui PDF conta in azienda

Le imprese accumulano conoscenza in PDF: contratti, procedure, capitolati, bilanci, manuali tecnici, fascicoli HR. Far «parlare» quei documenti con un LLM è il caso d’uso tipico del RAG (Retrieval-Augmented Generation): prima recuperi i pezzi pertinenti, poi chiedi al modello di rispondere citando quella base documentale.

Il punto critico non è solo la qualità della risposta. È dove avvengono indicizzazione e ricerca. Caricare PDF riservati su un assistente cloud significa esportare il contenuto (o embedding derivati) fuori dal perimetro aziendale. Un RAG in sede tiene file, chunk e vettori sulla postazione o nella LAN — e usa l’LLM locale (o un gateway controllato) solo per generare la risposta.

Cos’è il RAG, in pratica

Senza RAG, il modello risponde con ciò che «sa» dai parametri di addestramento: utile per cultura generale, debole su policy interne e versioni aggiornate dei vostri file.

Con il RAG il flusso tipico è:

In TuaGPT® questo percorso è nativo sul client Windows: DocumentProcessor, chunk configurabili, embeddings locali (runtimenx), SQLite e toggle «Abilita contesto RAG» in chat. I dettagli operativi sono nella guida completa; qui ci concentriamo sul perché in azienda conviene farlo in sede e su come impostarlo senza errori tipici.

RAG cloud vs RAG in sede sui PDF

Casi d’uso tipici sui PDF aziendali

• Legale e compliance — «Quali clausole di recesso compaiono nei contratti Q3?» senza caricare i fascicoli su un chatbot pubblico.
• HR — policy, CCNL interni, circolari: risposte coerenti con i documenti vigenti, non con «internet generico».
• Manuali tecnici e ISO — procedure operative, istruzioni di sicurezza, checklist di audit.
• Commerciale e R&D — capitolati, offerte, brevetti e note di progetto tenuti fuori dal cloud pubblico.
• Supporto interno — FAQ aziendali basate sul corpus PDF aggiornato, non su slide obsolete in chat.

Come TuaGPT gestisce i PDF in RAG

Dal client apri RAG Avanzato, carichi file o cartelle (anche con drag & drop), elabori: testo → chunk → embeddings → indice. In chat attivi il contesto RAG e fai la domanda in linguaggio naturale.

Parametri che in azienda conviene tarare subito:

• Dimensione chunk — in genere 800–1500 per PDF testuali; pezzi troppo grandi «annacquano» la rilevanza.
• Overlap — 100–200 caratteri aiutano a non spezzare frasi e tabelle a metà.
• Max risultati — 8–15 chunk di contesto è un buon punto di partenza.
• Soglia similarità — tipicamente 0,25–0,40: troppo bassa = rumore; troppo alta = «non trovo nulla».
• Modello di embedding — obbligatorio per la ricerca semantica; configurabile dalla Dashboard modellinx (es. multilingual MiniLM).

PDF scansionati? Serve OCR (Tesseract, IT+EN): senza testo estraibile non c’è RAG efficace, solo file «ciechi».

Buone pratiche per un corpus PDF pulito

1. Seleziona la fonte di verità — indicizza versioni ufficiali, non bozze sparse sul Desktop.
2. Evita duplicati — due PDF quasi uguali confondono ranking e risposte.
3. Nomina i file in modo leggibile — il nome documento compare nei risultati e aiuta l’utente a verificare la fonte.
4. Separa i perimetri — HR, legale e commerciale su indici/postazioni diverse se le policy lo richiedono.
5. Rivaluta dopo cambi di chunk/embedding — usa Reset/rielaborazione quando cambi i parametri principali.
6. Verifica con il test di ricerca — prima della chat, controlla chunk e punteggi sulla query campione.
7. Non mischiare tutto in un unico «mega-indice» se il team ha diritti diversi: meglio meno documenti, più pertinenti.

Team e TuaGate: condividere senza spostare i vettori

Quando più colleghi devono interrogare gli stessi PDF, la tentazione è «mettere tutto su un server vettoriale in cloud». Con TuaGPT® + TuaGate® la condivisione è pensata diversamente: il proprietario registra le risorse; chi interroga riceve risultati aggregati; i vettori restano sul client che detiene i file.

È un modello adatto a LAN aziendali e a requisiti di minimizzazione: in rete circolano metadati e snippet pertinenti, non l’intero database embeddings.

Per governance, autenticazione e audit del gateway, vedi anche il ruolo di TuaGate nella governance AI.

Errori frequenti (e come evitarli)

• PDF solo immagine senza OCR — il modello «non vede» il contenuto testuale.
• Chunk enormi + pochi risultati — contesto rumoroso e risposte vaghe.
• Embedding non configurato — ricerca semantica assente o degradata.
• Domande troppo generiche — «dimmi tutto sui contratti» funziona male; meglio domande operative e filtrate.
• Corpus non aggiornato — l’AI risponde bene… sulla versione sbagliata del PDF.
• Usare il cloud «perché è più semplice» su documenti che la policy classifica come riservati — il risparmio di setup costa in rischio e audit.

Come iniziare in una mattinata

1. Prepara 10–30 PDF «ufficiali» di un solo ambito (es. procedure o contratti tipo).
2. Installa/configura embeddingnx e, se serve, OCR.
3. Indicizza con chunk medi e overlap moderato; testa 5 query reali del team.
4. Collega l’LLM via TuaGate® o motore locale (Ollama / LM Studio).
5. Solo dopo il pilota: allarga il corpus e, se serve, attiva la condivisione team.

Conclusione

Il RAG sui PDF aziendali non è un «chatbot che legge file»: è un sistema di retrieval che decide quali pezzi di conoscenza entrare nel prompt. Farlo in sede con TuaGPT® significa tenere documenti e vettori sotto controllo, usare parametri di chunking sensati e — se serve collaborare — condividere tramite TuaGate® senza esportare l’indice intero.

Per studi, uffici e team regolamentati, è spesso la differenza tra un’AI utile e un’AI accettabile in audit.