RAG – Retrieval-Augmented Generation: l'AI che ragiona sui tuoi dati

RAG è la tecnica che trasforma un LLM generico in un sistema capace di rispondere usando dati specifici, aggiornati e proprietari — senza dover ri-addestrare il modello da zero.

Cos'è il RAG

RAG (Retrieval-Augmented Generation) è un'architettura che combina due componenti: un sistema di recupero (retrieval) e un modello generativo (LLM). Prima di rispondere a una domanda, il sistema cerca nella base di conoscenza i documenti più rilevanti — usando embedding vettoriali e un vector database — e li passa al modello come contesto aggiuntivo.

Il modello genera la risposta basandosi su quei documenti, non solo su ciò che ha imparato durante il pre-training. Il risultato: un LLM che sa rispondere su dati aziendali interni, documentazione tecnica, normative aggiornate — tutto senza un costoso processo di fine-tuning.

Come funziona il retrieval

I documenti vengono convertiti in vettori numerici (embedding) che ne rappresentano il significato semantico. Quando arriva una query, anche questa viene convertita in vettore e il sistema trova i documenti con la distanza vettoriale più piccola — cioè il significato più simile. Questo recupero semantico è molto più potente di una semplice ricerca per parole chiave.

RAG vs fine-tuning: quando quale

Fine-tuning è utile quando si vuole cambiare il comportamento del modello in modo permanente — stile, tono, conoscenza di un dominio molto specifico. RAG è preferibile quando i dati cambiano frequentemente, il volume è elevato, o si vuole tracciabilità sulle fonti delle risposte. In molti casi la scelta giusta è usarli insieme.

Come uso RAG nel percorso AI Solution Architect

RAG è una delle architetture su cui investo più tempo nel percorso ITS. L'ho usato per costruire pipeline che combinano retrieval su documenti con LLM per la generazione: chunking del testo, scelta degli embedding, configurazione del vector store, costruzione del prompt con il contesto recuperato.

Le decisioni che contano sono spesso quelle meno visibili: come si dividono i documenti in chunk, quale modello di embedding si usa, come si gestisce il caso in cui il retrieval non trova nulla di rilevante. In integrazione con Knowledge Graph (GraphRAG), il retrieval diventa ancora più preciso su dati con struttura relazionale complessa.

Tecnologie correlate

Hai un progetto che usa RAG?

Ho appena concluso l'ITS e cerco un ruolo a tempo pieno. Scrivimi: rispondo sempre.

Scrivimi Vedi i progetti