Iskanje po datotekah proti prilagojenemu RAG: kdaj uporabiti kaj
Na tej strani
Cilji
- Razumevanje OpenAI-jevega upravljanega RAG (File Search)
- Primerjava orodja File Search s prilagojenim cevovodom RAG
- Izbira pravega pristopa za tvoj primer uporabe
File Search: OpenAI-jev upravljani RAG
Pravkar si gradivo za gradivom zgradil vsako plast cevovoda RAG. Orodje File Search vse to opravi namesto tebe. Gre za orodje, vgrajeno v API OpenAI Responses, ki samodejno obravnava razčlenjevanje na dele (chunking), vdelavo (embedding), shranjevanje vektorjev in iskanje: naložiš svoje datoteke in zastaviš poizvedbo. Ta lekcija ni zavrnitev prejšnjih korakov, temveč iskreno vprašanje, ki si ga moraš postaviti pred pisanjem kakršne koli kode: katera raven abstrakcije je prava za tvoj projekt?
Vse se začne s shrambo vektorjev (vector store), vsebnikom, ki gosti tvoje indeksirane dokumente. Ustvariš jo, vanjo naložiš datoteke eno za drugo in nato počakaš, da se indeksiranje konča, preden začneš s poizvedbami. To čakanje ni zgolj kozmetično: indeksiranje je asinhrono in poizvedba, zagnana prezgodaj, bo videla le del korpusa.
from openai import OpenAI
client = OpenAI()
# 1. Create a vector store
vector_store = client.vector_stores.create(
name="product-documentation"
)
print(f"Vector store created: {vector_store.id}")
# 2. Upload files
files = ["user_guide.pdf", "faq.md", "changelog.txt"]
for file in files:
with open(file, "rb") as f:
file_obj = client.files.create(file=f, purpose="assistants")
client.vector_stores.files.create(
vector_store_id=vector_store.id,
file_id=file_obj.id
)
print(f" Uploaded: {file}")
# Wait for indexing to complete
import time
while True:
vs = client.vector_stores.retrieve(vector_store.id)
if vs.file_counts.completed == vs.file_counts.total:
break
time.sleep(2)
print("Indexing complete")
Poizvedba nato zahteva le en klic: deklariraš orodje file_search z ID-jem shrambe in model se sam odloči, kdaj pridobiti informacije. Zanimiv del je branje opomb (annotations), ki vsebujejo citate datotek. To ti omogoča prikaz virov uporabniku – vedenje, ki si ga moral v prilagojenem cevovodu implementirati ročno.
# Query with File Search
response = client.responses.create(
model="gpt-5.6-terra",
input="What are the new features in v3.2?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id]
}]
)
print(response.output_text)
# Access cited sources
for annotation in response.output:
if hasattr(annotation, "annotations"):
for ann in annotation.annotations:
if ann.type == "file_citation":
print(f" Source: file {ann.file_citation.file_id}")
Dve nastavitvi ti omogočata fino prilagajanje vedenja brez zapuščanja upravljanega orodja. max_num_results določa število pridobljenih delov (chunks), score_threshold pa filtrira rezultate z nizko oceno, popolnoma tako kot prag ustreznosti, ki si ga uporabil po ponovnem razvrščanju (reranking).
response = client.responses.create(
model="gpt-5.6-terra",
input="How do I configure SSO?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id],
"max_num_results": 10, # Number of chunks to retrieve
"ranking_options": {
"ranker": "auto", # Automatic ranker
"score_threshold": 0.3 # Relevance threshold
}
}]
)
Kaj ti File Search daje in kaj ti vzame
Odločilni argument za File Search je popolna odsotnost infrastrukture: ni treba zagotavljati, varnostno kopirati ali nadzorovati vektorske zbirke podatkov. Razčlenjevanje na dele opravi in optimizira OpenAI, posodabljanje korpusa je tako preprosto kot dodajanje ali odstranjevanje datoteke, citati se ustvarijo samodejno, običajne oblike pa so podprte naravno – PDF, DOCX, MD, TXT, HTML, JSON in druge. Ekipa brez strokovnega znanja o infrastrukturi lahko vzpostavi bazo znanja v enem popoldnevu.
Druga stran tega udobja je izguba nadzora nad vsako povezavo v verigi. Ne izbiraš velikosti delov, zato je kompromis med natančnostjo in kontekstom iz lekcije 12 izven tvojih rok. Iskanje je zgolj semantično: brez hibridnega iskanja, zato so sklici na izdelke in točne kode napak še vedno krhki. Prav tako ne moreš vključiti Cohere ali doma izdelanega navzkrižnega kodirnika (cross-encoder) za ponovno razvrščanje. Temu dodaj še tri strateške vidike: shranjevanje vektorjev se zaračunava poleg klicev API-ja, tvoji podatki so na strežnikih OpenAI in indeksiranje zajema le besedilo.
Prilagojen cevovod ta seznam obrača člen za členom. Obvladaš razčlenjevanje, vdelavo, iskanje, ponovno razvrščanje in pozivanje (prompting); združuješ semantično in leksikalno iskanje; mešaš ponudnike modelov ali pa vse obdržiš v lastnem okolju (on-premise), če to zahtevajo tvoji podatki; in kar je najpomembneje, vsako komponento neodvisno optimiziraš z merjenjem njenega učinka. Ta nadzor ima svojo ceno: kodo je treba napisati in vzdrževati, upravljati je treba vektorsko zbirko podatkov, potrebno je strokovno znanje – razčlenjevanje, evalvacija in ponovno razvrščanje niso stvari, ki bi jih lahko improviziral, kar je pravzaprav bistvo tega tečaja.
Matrika odločanja
| Merilo | File Search | Prilagojen RAG |
|---|---|---|
| Hitro prototipiranje | ✅ Idealno | ⚠️ Počasneje |
| Nadzor nad razčlenjevanjem | ❌ | ✅ |
| Hibridno iskanje | ❌ | ✅ |
| Občutljivi podatki | ⚠️ Na OpenAI | ✅ On-premise |
| Stroški pri obsegu | ⚠️ Lahko visoki | ✅ Predvidljivi |
| Vzdrževanje | ✅ Nično | ⚠️ Za upravljanje |
| Največja zmogljivost | ⚠️ Dobra | ✅ Optimizirljiva |
Hibridna arhitektura: najboljše iz obeh svetov
Izbira ne mora biti dokončna in tudi ne bi smela biti. Najbolj stroškovno učinkovit pristop je začeti s File Search, da preveriš, ali tvoj primer uporabe drži vodo, nato pa preklopiti na prilagojen cevovod tisti dan, ko naletiš na identificirano omejitev. Če obe možnosti encapsuliraš za eno samo metodo respond, je ta preklop za preostanek tvoje aplikacije neboleč.
class HybridRAG:
"""Start with File Search, switch to custom if needed."""
def __init__(self, mode: str = "file_search"):
self.client = OpenAI()
self.mode = mode
def respond_file_search(self, question: str, vs_id: str) -> str:
response = self.client.responses.create(
model="gpt-5.6-terra",
input=question,
tools=[{
"type": "file_search",
"vector_store_ids": [vs_id]
}]
)
return response.output_text
def respond_custom(self, question: str, pipeline) -> str:
result = pipeline.respond(question)
return result["response"]
def respond(self, question: str, **kwargs) -> str:
if self.mode == "file_search":
return self.respond_file_search(
question, kwargs["vs_id"]
)
else:
return self.respond_custom(
question, kwargs["pipeline"]
)
Ko migracija postane potrebna, sledi natančnemu vrstnemu redu:
- Izvozi svoje datoteke iz shrambe vektorjev
- Implementiraj razčlenjevanje, prilagojeno tvoji vsebini
- Ustvari vdelave z
text-embedding-3-large - Indeksiraj v vektorski zbirki podatkov (Qdrant, Pinecone itd.)
- Dodaj ponovno razvrščanje in hibridno iskanje
- Ovrednoti s svojim testnim naborom podatkov
- Primerjaj metrike s File Search pred preklopom
Zadnji korak je tisti, ki ga najpogosteje preskočijo, in je edini, ki upravičuje vse ostalo: brez količinske primerjave si morda zamenjal soliden upravljani sistem s slabšim domačim izdelkom, poleg tega pa si prevzel še dodatno breme vzdrževanja.
Ključne ugotovitve
- File Search je idealen za hitro prototipiranje sistema RAG brez infrastrukture
- Prilagojen cevovod RAG ponuja popoln nadzor in optimizirljivo zmogljivost
- Začni s File Search, preidi na prilagojeno rešitev, ko naletiš na omejitve
- Merila za odločitev: nadzor, občutljivi podatki, stroški, zmogljivost