Ricerca File vs RAG Personalizzato: Quando Usare Ciascuno
In questa pagina
Obiettivi
- Comprendere il RAG gestito da OpenAI (File Search)
- Confrontare File Search con una pipeline RAG personalizzata
- Scegliere l’approccio giusto per il tuo caso d’uso
File Search: Il RAG Gestito da OpenAI
Hai appena costruito ogni strato di una pipeline RAG, lezione dopo lezione. File Search fa tutto questo per te. È uno strumento integrato nelle API Responses di OpenAI che gestisce automaticamente il chunking, gli embedding, l’archiviazione vettoriale e la ricerca: carichi i tuoi file ed esegui le query. Questa lezione non è un rifiuto di quanto visto prima, ma una domanda onesta che devi porti prima di scrivere qualsiasi codice: qual è il giusto livello di astrazione per il tuo progetto?
Tutto inizia con un vector store, il contenitore che ospita i tuoi documenti indicizzati. Lo crei, carichi i file uno per uno e attendi il completamento dell’indicizzazione prima di eseguire query. Questa attesa non è cosmetica: l’indicizzazione è asincrona e una query lanciata troppo presto vedrà solo una parte del corpus.
from openai import OpenAI
client = OpenAI()
# 1. Create a vector store
vector_store = client.vector_stores.create(
name="product-documentation"
)
print(f"Vector store created: {vector_store.id}")
# 2. Upload files
files = ["user_guide.pdf", "faq.md", "changelog.txt"]
for file in files:
with open(file, "rb") as f:
file_obj = client.files.create(file=f, purpose="assistants")
client.vector_stores.files.create(
vector_store_id=vector_store.id,
file_id=file_obj.id
)
print(f" Uploaded: {file}")
# Wait for indexing to complete
import time
while True:
vs = client.vector_stores.retrieve(vector_store.id)
if vs.file_counts.completed == vs.file_counts.total:
break
time.sleep(2)
print("Indexing complete")
L’esecuzione di una query richiede quindi una singola chiamata: dichiari lo strumento file_search con l’ID dello store e il modello decide quando recuperare le informazioni. La parte interessante è leggere le annotazioni, che contengono le citazioni dei file. Questo ti permette di mostrare le fonti all’utente, un comportamento che dovevi implementare manualmente nella pipeline personalizzata.
# Query with File Search
response = client.responses.create(
model="gpt-5.6-terra",
input="What are the new features in v3.2?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id]
}]
)
print(response.output_text)
# Access cited sources
for annotation in response.output:
if hasattr(annotation, "annotations"):
for ann in annotation.annotations:
if ann.type == "file_citation":
print(f" Source: file {ann.file_citation.file_id}")
Due impostazioni ti permettono di affinare il comportamento senza uscire dallo strumento gestito. max_num_results imposta il numero di chunk recuperati e score_threshold filtra i risultati con punteggio basso, esattamente come la soglia di rilevanza che applicavi dopo il reranking.
response = client.responses.create(
model="gpt-5.6-terra",
input="How do I configure SSO?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id],
"max_num_results": 10, # Number of chunks to retrieve
"ranking_options": {
"ranker": "auto", # Automatic ranker
"score_threshold": 0.3 # Relevance threshold
}
}]
)
Cosa ti offre File Search e cosa ti toglie
L’argomento decisivo a favore di File Search è la totale assenza di infrastruttura: nessun database vettoriale da provisioningare, backuppare o monitorare. Il chunking viene eseguito per te e ottimizzato da OpenAI; aggiornare il corpus è semplice come aggiungere o rimuovere un file; le citazioni sono generate automaticamente e i formati comuni sono supportati nativamente: PDF, DOCX, MD, TXT, HTML, JSON, tra gli altri. Un team senza competenze infrastrutturali può mettere online una base di conoscenza in un pomeriggio.
Il rovescio della medaglia di questa comodità è la perdita di controllo su ogni anello della catena. Non scegli la dimensione dei chunk, quindi il compromesso precisione/contesto della Lezione 12 ti sfugge di mano. La ricerca è puramente semantica: niente ricerca ibrida, quindi i riferimenti ai prodotti e i codici di errore esatti rimangono fragili. Inoltre, non puoi integrare Cohere o un cross-encoder fatto in casa per il reranking. Aggiungi a questo altre tre considerazioni strategiche: l’archiviazione vettoriale viene fatturata oltre alle chiamate API, i tuoi dati risiedono sui server di OpenAI e l’indicizzazione copre solo il testo.
Una pipeline personalizzata inverte questo elenco termine per termine. Padroneggi chunking, embedding, ricerca, reranking e prompting; combini ricerca semantica e lessicale; mescoli provider di modelli o mantieni tutto on-premise se i tuoi dati lo richiedono; e soprattutto, ottimizzi ogni componente indipendentemente misurandone l’effetto. Questo controllo ha un costo: codice da scrivere e mantenere, un database vettoriale da amministrare e competenze specifiche. Chunking, valutazione e reranking non si improvvisano, ed è esattamente ciò che questo corso tratta.
Matrice Decisionale
| Criterio | File Search | RAG Personalizzato |
|---|---|---|
| Prototipazione rapida | ✅ Ideale | ⚠️ Più lenta |
| Controllo del chunking | ❌ | ✅ |
| Ricerca ibrida | ❌ | ✅ |
| Dati sensibili | ⚠️ Su OpenAI | ✅ On-premise |
| Costo su larga scala | ⚠️ Può essere elevato | ✅ Prevedibile |
| Manutenzione | ✅ Zero | ⚠️ Da gestire |
| Prestazioni massime | ⚠️ Buone | ✅ Ottimizzabili |
Architettura Ibrida: Il Meglio di Entrambi i Mondi
La scelta non deve essere definitiva e non dovrebbe esserlo. L’approccio più conveniente dal punto di vista dei costi è iniziare con File Search per validare che il tuo caso d’uso regga, per poi passare a una pipeline personalizzata il giorno in cui incontri un limite identificato. Incapsulare entrambi dietro un unico metodo respond rende questo passaggio indolore per il resto della tua applicazione.
class HybridRAG:
"""Start with File Search, switch to custom if needed."""
def __init__(self, mode: str = "file_search"):
self.client = OpenAI()
self.mode = mode
def respond_file_search(self, question: str, vs_id: str) -> str:
response = self.client.responses.create(
model="gpt-5.6-terra",
input=question,
tools=[{
"type": "file_search",
"vector_store_ids": [vs_id]
}]
)
return response.output_text
def respond_custom(self, question: str, pipeline) -> str:
result = pipeline.respond(question)
return result["response"]
def respond(self, question: str, **kwargs) -> str:
if self.mode == "file_search":
return self.respond_file_search(
question, kwargs["vs_id"]
)
else:
return self.respond_custom(
question, kwargs["pipeline"]
)
Quando la migrazione diventa necessaria, segue un ordine preciso:
- Esporta i tuoi file dal vector store
- Implementa il chunking adattato al tuo contenuto
- Genera gli embedding con
text-embedding-3-large - Indicizza in un database vettoriale (Qdrant, Pinecone, ecc.)
- Aggiungi il reranking e la ricerca ibrida
- Valuta con il tuo dataset di test
- Confronta le metriche con File Search prima di effettuare il switch
L’ultimo passo è quello più spesso saltato, ed è l’unico che giustifica tutto il resto: senza un confronto quantitativo, potresti aver sostituito un sistema gestito decente con uno fatto in casa inferiore, plus l’onere della manutenzione.
Punti chiave
- File Search è ideale per prototipare rapidamente un sistema RAG senza infrastruttura
- Una pipeline RAG personalizzata offre controllo totale e prestazioni ottimizzabili
- Inizia con File Search, migra verso una soluzione personalizzata quando incontri dei limiti
- Criteri decisionali: controllo, dati sensibili, costo, prestazioni