Стратегии за валидиране и повторни опити
На тази страница
Валидиране: Последната линия на защита преди продукцията
Дори при използване на персонализирани структурирани изходи, валидирането остава от съществено значение. Схемата гарантира структурата, но не и семантичната съгласуваност. Полето price може да съдържа -999.0: валиден тип float, който идеално отговаря на схемата, но няма никакъв смисъл за цена.
Разликата е ясна. Pydantic и Zod обработват структурното валидиране автоматично: задължителни полета, типове полета, ограничения за изброими стойности (enum) и вложени структури. Не е необходимо да пишете никакъв код за това. Семантичното валидиране обаче е изцяло Ваша отговорност. Това включва числови граници (цена, по-голяма от нула, резултат между 0 и 1), съгласуваност между полетата (общата сума трябва да е равна на сбора на редовете), формати на низове (наистина валиден имейл, правилно форматирана дата) и бизнес логика (срок на падеж, по-късен от датата на фактурата).
Вграждане на бизнес правила в схемата
Pydantic Ви позволява да вградите тези проверки директно в модела, правейки ги неразделна част от структурата. @field_validator обработва отделни полета – например, гарантиране, че количеството е положително или единичната цена не е отрицателна. @model_validator(mode="after") се изпълнява веднъж след попълването на всички полета, позволявайки проверки между полетата, като например verifiesране дали посочената обща сума съвпада с количеството × единична цена в рамките на един цент.
from pydantic import BaseModel, Field, field_validator, model_validator
class InvoiceLine(BaseModel):
description: str
quantity: float
unit_price: float
total: float
@field_validator("quantity")
@classmethod
def quantity_positive(cls, v):
if v <= 0:
raise ValueError(f"Quantity must be positive, got: {v}")
return v
@field_validator("unit_price")
@classmethod
def price_non_negative(cls, v):
if v < 0:
raise ValueError(f"Unit price cannot be negative: {v}")
return v
@model_validator(mode="after")
def check_total(self):
expected = round(self.quantity * self.unit_price, 2)
if abs(self.total - expected) > 0.01:
raise ValueError(
f"Inconsistent total: {self.total} != {self.quantity} x {self.unit_price} = {expected}"
)
return self
Zod изразява същата логика, използвайки вградени ограничения като .positive() и .nonnegative() за полетата, и .refine() за правила между обекти, приложими към целия обект.
import { z } from "zod";
const InvoiceLineSchema = z
.object({
description: z.string(),
quantity: z.number().positive("Quantity must be positive"),
unitPrice: z.number().nonnegative("Price cannot be negative"),
total: z.number(),
})
.refine(
(data) => Math.abs(data.total - data.quantity * data.unitPrice) < 0.01,
{ message: "Total does not match quantity x unit price" }
);
Повторен опит с обратна връзка
Когато валидирането се провали, най-ефективният шаблон е да изпратите грешката обратно към модела, за да може той да се коригира сам. Функцията по-долу свързва три проверки в ред на важност: пълен отговор, непразен обект и спазване на бизнес правилата. При неуспех, тя добавя грешния отговор и съобщението за грешка към разговора, предоставяйки на следващия опит точен диагностичен контекст. Обърнете внимание на копирането на списъка със съобщения в началото на функцията – без него бихте замърсили историята на разговора на извикващия код.
from mistralai.client import Mistral
from pydantic import BaseModel, ValidationError
import json
def extract_with_retry(
client: Mistral,
messages: list,
schema,
max_retries: int = 3,
model: str = "mistral-large-latest"
):
"""Extraction with retry and structured error feedback."""
conversation = list(messages) # Copy to avoid modifying the original
for attempt in range(max_retries):
try:
response = client.chat.parse(
model=model,
messages=conversation,
response_format=schema,
temperature=0,
max_tokens=2048
)
# Check that the response is complete
if response.choices[0].finish_reason != "stop":
raise ValueError(
f"Incomplete response (finish_reason={response.choices[0].finish_reason})"
)
parsed = response.choices[0].message.parsed
if parsed is None:
raise ValueError("Parsed response is None")
# Additional semantic validation
validate_business_rules(parsed)
return parsed
except (ValidationError, ValueError) as e:
error_msg = str(e)
print(f"Attempt {attempt + 1}/{max_retries} failed: {error_msg}")
if attempt < max_retries - 1:
# Add feedback to context
raw = response.choices[0].message.content if response else ""
conversation.append({"role": "assistant", "content": raw})
conversation.append({
"role": "user",
"content": f"Your response contains an error: {error_msg}. Please correct it."
})
else:
raise RuntimeError(
f"Failed after {max_retries} attempts. Last error: {error_msg}"
)
Каскада от резервни планове
Повторният опит не решава всичко: понякога един документ е твърде нетипичен за схемата. Вместо да се провалите рязко, деградирайте постепенно. Първият опит използва персонализирани структурирани изходи – най-надеждната опция. Ако това се провали, преминете към JSON Mode, който е по-гъвкав, и след това предайте изхода през model_validate() – това запазва ограниченията на схемата, без да разчита на модела да ги генерира перфектно. Като последна мярка, функцията връща None, оставяйки извикващия код да реши между ръчно поставяне в опашка или изоставяне на задачата.
def extract_with_fallback(client, text, schema, system_prompt):
"""Extraction with fallback cascade."""
# Attempt 1: Custom Structured Output (best)
try:
return extract_with_retry(
client,
[
{"role": "system", "content": system_prompt},
{"role": "user", "content": text}
],
schema,
max_retries=2,
model="mistral-large-latest"
)
except RuntimeError:
print("Custom parse failed, falling back to JSON Mode")
# Attempt 2: JSON Mode (more flexible)
try:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": system_prompt + "\nReturn valid JSON."},
{"role": "user", "content": text}
],
response_format={"type": "json_object"},
temperature=0
)
raw = json.loads(response.choices[0].message.content)
return schema.model_validate(raw) # Attempt Pydantic validation
except Exception:
print("JSON Mode failed, falling back to manual extraction")
# Attempt 3: Return partial object or error
return None
Спрете крана навреме
Във високочестотен конвейер прекъсването на API превръща повторния опит в усилвател: всеки документ се проваля три пъти, сметката Ви се утроява, а латентността скача. Circuit breaker (прекъсвач на веригата) следи грешките в плъзгащ се прозорец и блокира обажданията, след като се премине праг – пет грешки за шестдесет секунди в показаната тук конфигурация. Успехът затваря веригата и изчиства брояча.
from collections import deque
from time import time
class CircuitBreaker:
def __init__(self, failure_threshold=5, window_seconds=60):
self.failures = deque()
self.threshold = failure_threshold
self.window = window_seconds
self.is_open = False
def record_failure(self):
now = time()
self.failures.append(now)
# Clean up errors outside the window
while self.failures and self.failures[0] < now - self.window:
self.failures.popleft()
if len(self.failures) >= self.threshold:
self.is_open = True
def record_success(self):
self.is_open = False
self.failures.clear()
def can_proceed(self) -> bool:
if not self.is_open:
return True
# Check if the window has passed
now = time()
while self.failures and self.failures[0] < now - self.window:
self.failures.popleft()
if len(self.failures) < self.threshold:
self.is_open = False
return True
return False
# Usage
breaker = CircuitBreaker(failure_threshold=5, window_seconds=60)
def safe_extract(client, text, schema):
if not breaker.can_proceed():
raise RuntimeError("Circuit open—too many recent errors")
try:
result = extract_with_retry(client, [...], schema)
breaker.record_success()
return result
except RuntimeError:
breaker.record_failure()
raise
Направете го видимо
Цялата тази механика остава сляпа без следи. Записвайте в дневника (log) всяко обаждане с неговата продължителност и участващата схема, независимо дали е успешно или не. Тези данни Ви позволяват по-късно да определите дали деградацията произтича от проблем с модела, тип документ или промяна в подканата (prompt).
import logging
import time
logger = logging.getLogger("structured_output")
def monitored_extract(client, text, schema, **kwargs):
start = time.time()
try:
result = extract_with_retry(client, [...], schema, **kwargs)
duration = time.time() - start
logger.info(f"Extraction succeeded in {duration:.2f}s — schema={schema.__name__}")
return result
except Exception as e:
duration = time.time() - start
logger.error(f"Extraction failed in {duration:.2f}s — schema={schema.__name__} — {e}")
raise
Ключови изводи
- Структурното валидиране (типове) е автоматично; семантичното валидиране (логика) е Ваша отговорност
- Повторният опит с обратна връзка е най-ефективният шаблон: изпратете грешката обратно към модела
- Внедрете каскада от резервни варианти: Персонализиран > JSON Mode > стойност по подразбиране
- Във високопроизводителна продукционна среда използвайте circuit breaker, за да предотвратите каскади от грешки
- Записвайте в дневника всяко обаждане за мониторинг и диагностика