Търсене на файлове срещу персонализиран RAG: Кога да използвате кое
На тази страница
Цели
- Да разберете управлявания RAG на OpenAI (File Search)
- Да сравните File Search с персонализиран RAG конвейер
- Да изберете правилния подход за Вашия случай на употреба
File Search: Управляваният RAG на OpenAI
Току-що изградихте всеки слой на RAG конвейера, урок след урок. File Search прави всичко това вместо Вас. Това е инструмент, вграден в API за отговори (Responses API) на OpenAI, който автоматично обработва разделянето на части (chunking), вграждането (embedding), векторното съхранение и търсенето: Вие качвате файловете си и задавате въпроси. Този урок не е отричане на предходното, а честен въпрос, който трябва да си зададете, преди да напишете какъвто и да е код: кое е правилното ниво на абстракция за Вашия проект?
Всичко започва с векторно хранилище (vector store) – контейнерът, който съдържа Вашите индексирани документи. Вие го създавате, качвате файловете в него един по един и след това изчаквате приключването на индексирането, преди да изпълните заявка. Този цикъл на изчакване не е козметичен: индексирането е асинхронно и заявка, стартирана твърде рано, ще види само част от корпуса.
from openai import OpenAI
client = OpenAI()
# 1. Create a vector store
vector_store = client.vector_stores.create(
name="product-documentation"
)
print(f"Vector store created: {vector_store.id}")
# 2. Upload files
files = ["user_guide.pdf", "faq.md", "changelog.txt"]
for file in files:
with open(file, "rb") as f:
file_obj = client.files.create(file=f, purpose="assistants")
client.vector_stores.files.create(
vector_store_id=vector_store.id,
file_id=file_obj.id
)
print(f" Uploaded: {file}")
# Wait for indexing to complete
import time
while True:
vs = client.vector_stores.retrieve(vector_store.id)
if vs.file_counts.completed == vs.file_counts.total:
break
time.sleep(2)
print("Indexing complete")
Самото заявяване става с едно единствено извикване: декларирате инструмента file_search с ID на хранилището и моделът решава кога да извлече информация. Интересната част е четенето на анотациите, които съдържат цитатите на файловете. Това Ви позволява да показвате източниците на потребителя – поведение, което трябваше да реализирате ръчно в персонализирания конвейер.
# Query with File Search
response = client.responses.create(
model="gpt-5.6-terra",
input="What are the new features in v3.2?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id]
}]
)
print(response.output_text)
# Access cited sources
for annotation in response.output:
if hasattr(annotation, "annotations"):
for ann in annotation.annotations:
if ann.type == "file_citation":
print(f" Source: file {ann.file_citation.file_id}")
Две настройки Ви позволяват да финализирате поведението, без да напускате управлявания инструмент. max_num_results задава броя на извлечените части, а score_threshold филтрира резултатите с нисък резултат, точно както прагът за релевантност, който приложихте след повторното класиране (reranking).
response = client.responses.create(
model="gpt-5.6-terra",
input="How do I configure SSO?",
tools=[{
"type": "file_search",
"vector_store_ids": [vector_store.id],
"max_num_results": 10, # Number of chunks to retrieve
"ranking_options": {
"ranker": "auto", # Automatic ranker
"score_threshold": 0.3 # Relevance threshold
}
}]
)
Какво Ви дава File Search и какво Ви отнема
Решаващият аргумент в полза на File Search е пълната липса на инфраструктура: няма векторна база данни, която да предоставяте, архивирате или мониторите. Разделянето на части се извършва вместо Вас и се оптимизира от OpenAI, актуализирането на корпуса е толкова просто, колкото добавянето или премахването на файл, цитатите се генерират автоматично, а често срещаните формати се поддържат нативно – PDF, DOCX, MD, TXT, HTML, JSON, наред с други. Екип без експертиза в инфраструктурата може да пусне база знания онлайн за един следобед.
Обратната страна на това удобство е загубата на контрол над всяка връзка във веригата. Вие не избирате размера на частите, така че компромисът между прецизност и контекст от Урок 12 е извън Вашия контрол. Търсенето е чисто семантично: няма хибридно търсене, така че препратките към продукти и точните кодове за грешки остават крехки. Също така не можете да включите Cohere или собствен кръстосан енкодер (cross-encoder) за повторно класиране. Към това добавете още три стратегически съображения: векторното съхранение се таксува допълнително към API повикванията, Вашите данни се намират на сървърите на OpenAI и индексирането обхваща само текст.
Персонализираният конвейер обръща този списък дума по дума. Вие контролирате разделянето на части, вграждането, търсенето, повторното класиране и промптите; комбинирате семантично и лексикално търсене; смесвате доставчици на модели или държите всичко локално (on-premise), ако данните Ви го изискват; и най-вече, оптимизирате всеки компонент независимо, като измервате неговия ефект. Този контрол идва с цената на код за писане и поддръжка, векторна база данни за администриране и експертиза – разделянето на части, оценяването и повторното класиране не се импровизират, което е точно това, което този курс разглежда.
Матрица за вземане на решения
| Критерий | File Search | Персонализиран RAG |
|---|---|---|
| Бързо прототипиране | ✅ Идеално | ⚠️ По-бавно |
| Контрол над разделянето на части | ❌ | ✅ |
| Хибридно търсене | ❌ | ✅ |
| Чувствителни данни | ⚠️ При OpenAI | ✅ Локално (On-premise) |
| Разходи в мащаб | ⚠️ Може да са високи | ✅ Предвидими |
| Поддръжка | ✅ Нулева | ⚠️ За управление |
| Максимална производителност | ⚠️ Добра | ✅ Оптимизируема |
Хибридна архитектура: Най-доброто от двата свята
Изборът не трябва да бъде окончателен и не бива да бъде такъв. Най-рентабилният подход е да започнете с File Search, за да валидирате, че Вашият случай на употреба е жизнеспособен, и след това да преминете към персонализиран конвейер в деня, в който достигнете идентифициран лимит. Обвиването на двете зад един единствен метод respond прави този преврат безболезнен за останалата част от Вашето приложение.
class HybridRAG:
"""Start with File Search, switch to custom if needed."""
def __init__(self, mode: str = "file_search"):
self.client = OpenAI()
self.mode = mode
def respond_file_search(self, question: str, vs_id: str) -> str:
response = self.client.responses.create(
model="gpt-5.6-terra",
input=question,
tools=[{
"type": "file_search",
"vector_store_ids": [vs_id]
}]
)
return response.output_text
def respond_custom(self, question: str, pipeline) -> str:
result = pipeline.respond(question)
return result["response"]
def respond(self, question: str, **kwargs) -> str:
if self.mode == "file_search":
return self.respond_file_search(
question, kwargs["vs_id"]
)
else:
return self.respond_custom(
question, kwargs["pipeline"]
)
Когато миграцията стане необходима, тя следва точен ред:
- Експортирайте файловете си от векторното хранилище
- Внедрете разделяне на части, адаптирано към Вашето съдържание
- Генерирайте вграждания с
text-embedding-3-large - Индексирайте във векторна база данни (Qdrant, Pinecone и др.)
- Добавете повторно класиране и хибридно търсене
- Оценете с Вашия тестов набор от данни
- Сравнете метриките с File Search, преди да превключите
Последната стъпка е тази, която най-често се пропуска, и тя е единствената, която оправдава всичко останало: без количествено сравнение, може да сте заменили една прилична управлявана система с по-лоша собствена разработка, плюс тежестта от поддръжката.
Ключови изводи
- File Search е идеален за бързо прототипиране на RAG система без инфраструктура
- Персонализираният RAG конвейер предлага пълен контрол и оптимизируема производителност
- Започнете с File Search, мигрирайте към персонализиран, когато достигнете лимити
- Критерии за решение: контрол, чувствителни данни, разходи, производителност