Estratégias de Validação e Nova Tentativa
Nesta página
Validação: A Última Linha de Defesa Antes da Produção
Mesmo com Saídas Estruturadas Personalizadas, a validação continua a ser essencial. O esquema garante a estrutura, não a coerência semântica. Um campo price pode conter -999.0: um número de vírgula flutuante válido que corresponde perfeitamente ao esquema, mas que não faz qualquer sentido para um preço.
A distinção é clara. O Pydantic e o Zod tratam automaticamente da validação estrutural: campos obrigatórios, tipos de campos, restrições de enumeração e estruturas aninhadas. Não precisa de escrever qualquer código para isto. A validação semântica, no entanto, é inteiramente da sua responsabilidade. Isto inclui limites numéricos (um preço superior a zero, uma pontuação entre 0 e 1), consistência entre campos (o total deve ser igual à soma das linhas), formatos de cadeia de caracteres (um e-mail genuinamente válido, uma data corretamente formatada) e lógica de negócio (uma data de vencimento posterior à data da fatura).
Incorporação de Regras de Negócio no Esquema
O Pydantic permite incorporar estas verificações diretamente no modelo, tornando-as inseparáveis da estrutura. @field_validator lida com campos individuais — por exemplo, garantindo que uma quantidade é positiva ou que um preço unitário não é negativo. @model_validator(mode="after") é executado assim que todos os campos são preenchidos, permitindo verificações entre campos, como verificar se o total declarado corresponde à quantidade × preço unitário dentro de um cêntimo.
from pydantic import BaseModel, Field, field_validator, model_validator
class InvoiceLine(BaseModel):
description: str
quantity: float
unit_price: float
total: float
@field_validator("quantity")
@classmethod
def quantity_positive(cls, v):
if v <= 0:
raise ValueError(f"Quantity must be positive, got: {v}")
return v
@field_validator("unit_price")
@classmethod
def price_non_negative(cls, v):
if v < 0:
raise ValueError(f"Unit price cannot be negative: {v}")
return v
@model_validator(mode="after")
def check_total(self):
expected = round(self.quantity * self.unit_price, 2)
if abs(self.total - expected) > 0.01:
raise ValueError(
f"Inconsistent total: {self.total} != {self.quantity} x {self.unit_price} = {expected}"
)
return self
O Zod expressa a mesma lógica utilizando restrições incorporadas como .positive() e .nonnegative() para campos, e .refine() para regras entre objetos aplicadas ao objeto completo.
import { z } from "zod";
const InvoiceLineSchema = z
.object({
description: z.string(),
quantity: z.number().positive("Quantity must be positive"),
unitPrice: z.number().nonnegative("Price cannot be negative"),
total: z.number(),
})
.refine(
(data) => Math.abs(data.total - data.quantity * data.unitPrice) < 0.01,
{ message: "Total does not match quantity x unit price" }
);
Nova Tentativa com Retroação
Quando a validação falha, o padrão mais eficaz é enviar o erro de volta ao modelo para que este possa autocorrigir-se. A função abaixo encadeia três verificações por ordem de importância: resposta completa, objeto não nulo e conformidade com as regras de negócio. Em caso de falha, anexa a resposta defeituosa e a mensagem de erro à conversa, fornecendo ao próximo intento um contexto de diagnóstico preciso. Note a cópia da lista de mensagens no início da função — sem ela, poluiria o histórico de conversas de quem chamou a função.
from mistralai.client import Mistral
from pydantic import BaseModel, ValidationError
import json
def extract_with_retry(
client: Mistral,
messages: list,
schema,
max_retries: int = 3,
model: str = "mistral-large-latest"
):
"""Extraction with retry and structured error feedback."""
conversation = list(messages) # Copy to avoid modifying the original
for attempt in range(max_retries):
try:
response = client.chat.parse(
model=model,
messages=conversation,
response_format=schema,
temperature=0,
max_tokens=2048
)
# Check that the response is complete
if response.choices[0].finish_reason != "stop":
raise ValueError(
f"Incomplete response (finish_reason={response.choices[0].finish_reason})"
)
parsed = response.choices[0].message.parsed
if parsed is None:
raise ValueError("Parsed response is None")
# Additional semantic validation
validate_business_rules(parsed)
return parsed
except (ValidationError, ValueError) as e:
error_msg = str(e)
print(f"Attempt {attempt + 1}/{max_retries} failed: {error_msg}")
if attempt < max_retries - 1:
# Add feedback to context
raw = response.choices[0].message.content if response else ""
conversation.append({"role": "assistant", "content": raw})
conversation.append({
"role": "user",
"content": f"Your response contains an error: {error_msg}. Please correct it."
})
else:
raise RuntimeError(
f"Failed after {max_retries} attempts. Last error: {error_msg}"
)
Uma Cascata de Planos de Contingência
A nova tentativa não resolve tudo: por vezes, um documento é demasiado atípico para o esquema. Em vez de falhar abruptamente, degrade-se graciosamente. A primeira tentativa utiliza Saídas Estruturadas Personalizadas, a opção mais fiável. Se isso falhar, recorra ao Modo JSON, que é mais permissivo, e depois passe a saída por model_validate() — isto mantém as restrições do esquema sem depender do modelo para as gerar perfeitamente. Como último recurso, a função devolve None, deixando quem a chamou decidir entre o enfileiramento manual ou o abandono.
def extract_with_fallback(client, text, schema, system_prompt):
"""Extraction with fallback cascade."""
# Attempt 1: Custom Structured Output (best)
try:
return extract_with_retry(
client,
[
{"role": "system", "content": system_prompt},
{"role": "user", "content": text}
],
schema,
max_retries=2,
model="mistral-large-latest"
)
except RuntimeError:
print("Custom parse failed, falling back to JSON Mode")
# Attempt 2: JSON Mode (more flexible)
try:
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{"role": "system", "content": system_prompt + "\nReturn valid JSON."},
{"role": "user", "content": text}
],
response_format={"type": "json_object"},
temperature=0
)
raw = json.loads(response.choices[0].message.content)
return schema.model_validate(raw) # Attempt Pydantic validation
except Exception:
print("JSON Mode failed, falling back to manual extraction")
# Attempt 3: Return partial object or error
return None
Corte a Torneira a Tempo
Num pipeline de alta frequência, uma indisponibilidade da API transforma a nova tentativa num amplificador: cada documento falha três vezes, a sua fatura triplica e a latência dispara. Um disjuntor monitoriza as falhas numa janela deslizante e bloqueia as chamadas assim que um limiar é ultrapassado — cinco falhas em sessenta segundos na configuração aqui apresentada. Um sucesso fecha o circuito e limpa o contador.
from collections import deque
from time import time
class CircuitBreaker:
def __init__(self, failure_threshold=5, window_seconds=60):
self.failures = deque()
self.threshold = failure_threshold
self.window = window_seconds
self.is_open = False
def record_failure(self):
now = time()
self.failures.append(now)
# Clean up errors outside the window
while self.failures and self.failures[0] < now - self.window:
self.failures.popleft()
if len(self.failures) >= self.threshold:
self.is_open = True
def record_success(self):
self.is_open = False
self.failures.clear()
def can_proceed(self) -> bool:
if not self.is_open:
return True
# Check if the window has passed
now = time()
while self.failures and self.failures[0] < now - self.window:
self.failures.popleft()
if len(self.failures) < self.threshold:
self.is_open = False
return True
return False
# Usage
breaker = CircuitBreaker(failure_threshold=5, window_seconds=60)
def safe_extract(client, text, schema):
if not breaker.can_proceed():
raise RuntimeError("Circuit open—too many recent errors")
try:
result = extract_with_retry(client, [...], schema)
breaker.record_success()
return result
except RuntimeError:
breaker.record_failure()
raise
Torne Tudo Visível
Toda esta maquinaria permanece cega sem registos. Registe cada chamada com a sua duração e o esquema envolvido, quer tenha sucesso quer falhe. Estes dados permitem-lhe determinar posteriormente se a degradação provém de um problema do modelo, de um tipo de documento ou de uma alteração no prompt.
import logging
import time
logger = logging.getLogger("structured_output")
def monitored_extract(client, text, schema, **kwargs):
start = time.time()
try:
result = extract_with_retry(client, [...], schema, **kwargs)
duration = time.time() - start
logger.info(f"Extraction succeeded in {duration:.2f}s — schema={schema.__name__}")
return result
except Exception as e:
duration = time.time() - start
logger.error(f"Extraction failed in {duration:.2f}s — schema={schema.__name__} — {e}")
raise
Pontos-chave
- A validação estrutural (tipos) é automática; a validação semântica (lógica) é da sua responsabilidade
- A nova tentativa com retroação é o padrão mais eficaz: envie o erro de volta ao modelo
- Implemente uma cascata de contingência: Personalizado > Modo JSON > valor padrão
- Em produção de alta frequência, utilize um disjuntor para prevenir cascatas de erros
- Registe cada chamada para monitorização e diagnóstico