Оптимизиране на токени за изображения
На тази страница
Контрол на разходите в продукционна среда
В продукционна среда токениите за изображения могат да съставят значителна част от сметката Ви за API. Едно единствено изображение в режим high консумира до 1792 токена – еквивалентно на няколко абзаца текст. Умножете това по стотици или хиляди ежедневни заявки и оптимизацията става необходимост.
Стратегия 1: Изберете правилното ниво на детайлност
Параметърът detail е Вашият основен лост за оптимизация. Най-честата грешка е използването на high по подразбиране, когато в повечето случаи low или auto са напълно достатъчни.
Матрица за вземане на решения
| Задача | Препоръчителна детайлност | Очаквани токени |
|---|---|---|
| Класификация на изображения | low | ~256 |
| Общо описание | auto | ~512-768 |
| Алтернативен текст / достъпност | low | ~256 |
| Модериране на съдържание | auto | ~512-768 |
| OCR / извличане на текст | high | ~1024-1792 |
| Анализ на графики | high | ~1024-1792 |
| Откриване на дефекти | high | ~1024-1792 |
Стратегия 2: Промяна на размера преди изпращане
Изображенията с висока разделителна способност (4K, 8K) рядко са необходими за AI анализ. Последователната промяна на размера на изображенията преди изпращането им намалява броя на токените без осезаемо въздействие върху качеството на анализа.
from PIL import Image
import io
import base64
class OptimiseurImage:
TAILLES_PAR_TACHE = {
"classification": (512, 512),
"description": (1024, 1024),
"ocr": (2048, 2048),
"comparison": (800, 800),
}
@staticmethod
def optimiser(chemin, tache="description", qualite=85):
taille_max = OptimiseurImage.TAILLES_PAR_TACHE.get(
tache, (1024, 1024)
)
img = Image.open(chemin)
# Do not enlarge small images
if img.width <= taille_max[0] and img.height <= taille_max[1]:
pass
else:
img.thumbnail(taille_max)
# Convert to JPEG to reduce size
if img.mode in ("RGBA", "P"):
img = img.convert("RGB")
buffer = io.BytesIO()
img.save(buffer, "JPEG", quality=qualite)
buffer.seek(0)
encoded = base64.standard_b64encode(buffer.read()).decode()
return f"data:image/jpeg;base64,{encoded}"
Стратегия 3: Двуетапен конвейер
За големи обеми използвайте двуетапен конвейер – бърз първи етап в режим low за сортиране, последван от втори етап в режим high само за изображенията, които го изискват:
def pipeline_deux_passes(images):
# Pass 1: fast classification (low)
classifications = []
for img in images:
response = client.responses.create(
model="grok-4.5",
input=[
{"type": "input_image", "image_url": img, "detail": "low"},
{"type": "input_text", "text": "Classify: document, photo, chart, other. One word."}
],
store=False
)
classifications.append({
"url": img,
"type": response.output_text.strip().lower()
})
# Pass 2: detailed analysis (high) only if necessary
resultats = []
for item in classifications:
if item["type"] in ("document", "chart"):
detail = "high"
else:
detail = "auto"
response = client.responses.create(
model="grok-4.5",
input=[
{"type": "input_image", "image_url": item["url"], "detail": detail},
{"type": "input_text", "text": "Detailed analysis of this image."}
],
store=False
)
resultats.append(response.output_text)
return resultats
Стратегия 4: Кеш памет
Ако анализирате едни и същи изображения многократно (тестове, разработка, демонстрации), кеширайте резултатите:
import hashlib
import json
cache = {}
def vision_avec_cache(image_url, prompt, detail="auto"):
# Create a unique key
cle = hashlib.sha256(
f"{image_url}:{prompt}:{detail}".encode()
).hexdigest()
if cle in cache:
return cache[cle]
response = client.responses.create(
model="grok-4.5",
input=[
{"type": "input_image", "image_url": image_url, "detail": detail},
{"type": "input_text", "text": prompt}
],
store=False
)
cache[cle] = response.output_text
return response.output_text
Мониторинг и известявания
Настройте проследяване на разходите, за да откривате превишения:
def monitorer_tokens(response, seuil_alerte=5000):
usage = response.usage
image_tokens = usage.prompt_tokens_details.image_tokens
if image_tokens > seuil_alerte:
print(f"ALERT: {image_tokens} image tokens (threshold: {seuil_alerte})")
return {
"image_tokens": image_tokens,
"text_tokens": usage.prompt_tokens_details.text_tokens,
"total": usage.total_tokens
}
Ключови изводи
- Изберете ниво на
detail, подходящо за задачата – използвайтеlow, когато е достатъчно - Променяйте размера на изображенията преди изпращане, за да намалите консумацията
- Използвайте двуетапен конвейер за големи обеми данни
- Кеширайте резултатите, за да избегнете излишни заявки
- Следете токените за изображения в продукционна среда, за да прогнозирате разходите