AI generativa applicata

I modelli linguistici di grandi dimensioni sono potenti ma generici. Prompt Engineering, RAG e Knowledge Graph sono le tecniche per renderli utili su problemi specifici, con dati reali.

Tre tecniche, un obiettivo

Un LLM (Large Language Model) senza adattamento è uno strumento generico: sa tutto un po', ma non sa nulla in modo profondo e aggiornato. Usarlo su un problema reale — rispondere su documenti aziendali, ragionare su una knowledge base specifica, navigare relazioni complesse tra entità — richiede una delle tre tecniche (o una loro combinazione): Prompt Engineering, RAG, Knowledge Graph.

Prompt Engineering

Il Prompt Engineering è l'arte e la tecnica di formulare le istruzioni per un modello linguistico in modo da ottenere output precisi, affidabili e controllati. Non è una competenza banale: la stessa domanda formulata in modo diverso può produrre risultati radicalmente diversi.

Zero-shot e few-shot

Zero-shot: istruire il modello senza esempi. Few-shot: fornire esempi di input-output nel prompt per guidare il formato e la qualità della risposta. Il few-shot prompting è efficace quando il comportamento desiderato è difficile da descrivere ma facile da mostrare.

Chain of Thought

Chiedere al modello di ragionare passo per passo prima di rispondere. Questa tecnica migliora significativamente le prestazioni su problemi che richiedono reasoning: matematica, logica, analisi multi-step. Il ragionamento esplicito è più verificabile e più robusto dell'output diretto.

System prompt e ruolo

Definire un contesto di sistema preciso — il ruolo del modello, i limiti della risposta, il formato atteso, le istruzioni di sicurezza — prima di ogni interazione. La qualità del system prompt determina la qualità baseline di ogni risposta successiva.

Gestione dell'allucinazione

I modelli possono generare informazioni false con sicurezza. Le tecniche di grounding — fornire contesto nel prompt, chiedere citazioni, istruire il modello a dire "non so" — riducono questo rischio. RAG è la soluzione strutturale.

RAG — Retrieval-Augmented Generation

RAG è l'architettura che combina un modello linguistico con una base di conoscenza esterna. Invece di fidarsi della conoscenza parametrica del modello (quello che ha imparato durante il training), il sistema recupera i documenti rilevanti al momento della query e li fornisce al modello come contesto. Il modello risponde basandosi su quei documenti, non sulla sua memoria.

Step 1

Indicizzazione

I documenti della knowledge base vengono suddivisi in chunks, convertiti in embeddings vettoriali (rappresentazioni numeriche del significato semantico) e salvati in un vector database (es. Pinecone, Weaviate, ChromaDB).

Step 2

Retrieval

Alla ricezione di una query, il sistema la converte in embedding e cerca i chunks semanticamente più simili nel vector database. I top-k risultati vengono recuperati.

Step 3

Augmented Generation

I chunks recuperati vengono inclusi nel prompt come contesto. Il modello genera la risposta basandosi su quei documenti specifici, riducendo le allucinazioni e rendendo le risposte verificabili e aggiornabili.

RAG è la risposta strutturale al problema dell'aggiornamento: invece di ri-addestrare il modello ogni volta che la knowledge base cambia, si aggiorna il database di documenti. La conoscenza è separata dal modello, aggiornabile in modo indipendente.

CAG — Cache-Augmented Generation, l'alternativa al RAG

Il RAG non è l'unica architettura possibile. Il CAG (Cache-Augmented Generation) precarica la conoscenza rilevante direttamente nel contesto del modello invece di recuperarla dinamicamente a ogni query — nessuna fase di retrieval separata, quindi nessun rischio di recuperare i documenti sbagliati, ma un limite pratico quando la base di conoscenza cresce oltre la finestra di contesto del modello.

Per la tesi finale ho progettato e messo a confronto direttamente le due architetture su uno stesso problema — un assistente conversazionale per l'orientamento a corsi ITS e universitari — misurando accuratezza, latenza e comportamento al crescere del catalogo. Il dettaglio è nella sezione Progetti.

Knowledge Graph

Un Knowledge Graph è una struttura dati che rappresenta entità (persone, concetti, oggetti) e le relazioni tra loro come un grafo orientato. Dove un documento RAG rappresenta la conoscenza come testo non strutturato, un Knowledge Graph la rappresenta come rete di relazioni esplicite e navigabili.

Neo4j è il database a grafo più diffuso per questo uso. Consente query su relazioni complesse — "trova tutti i clienti che hanno acquistato prodotto X e che hanno anche un contratto di supporto attivo" — che sarebbero difficili o impossibili in un database relazionale.

Quando usare un Knowledge Graph

Quando il dominio è ricco di relazioni tra entità: reti di persone, gerarchie di prodotti, dipendenze tra processi, ontologie di concetti. Il grafo permette di navigare queste relazioni in modo naturale e di rispondere a domande che richiedono reasoning su connessioni multiple.

GraphRAG

La combinazione di Knowledge Graph e RAG — GraphRAG — permette di sfruttare sia la struttura delle relazioni che il contenuto testuale. Il retrieval avviene sul grafo (usando le relazioni come filtri), il contesto recuperato viene usato dal modello per generare la risposta.

Ti interessa costruire un sistema RAG o un agente AI?

Ho concluso l'ITS Tech Talent Factory e cerco un ruolo a tempo pieno. Scrivimi.

Contattami Vedi i progetti