Премини към основното съдържание
Български— Изберете език
Меню

Оптимизиране на токени за изображения

Урок 10 от 12 Обновен 30 юли 2026 г. Начинаещ
На тази страница
  1. Контрол на разходите в продукционна среда
  2. Стратегия 1: Изберете правилното ниво на детайлност
  3. Стратегия 2: Промяна на размера преди изпращане
  4. Стратегия 3: Двуетапен конвейер
  5. Стратегия 4: Кеш памет
  6. Мониторинг и известявания
  7. Ключови изводи

Контрол на разходите в продукционна среда

В продукционна среда токениите за изображения могат да съставят значителна част от сметката Ви за API. Едно единствено изображение в режим high консумира до 1792 токена – еквивалентно на няколко абзаца текст. Умножете това по стотици или хиляди ежедневни заявки и оптимизацията става необходимост.

Стратегия 1: Изберете правилното ниво на детайлност

Параметърът detail е Вашият основен лост за оптимизация. Най-честата грешка е използването на high по подразбиране, когато в повечето случаи low или auto са напълно достатъчни.

Матрица за вземане на решения

Задача Препоръчителна детайлност Очаквани токени
Класификация на изображения low ~256
Общо описание auto ~512-768
Алтернативен текст / достъпност low ~256
Модериране на съдържание auto ~512-768
OCR / извличане на текст high ~1024-1792
Анализ на графики high ~1024-1792
Откриване на дефекти high ~1024-1792

Стратегия 2: Промяна на размера преди изпращане

Изображенията с висока разделителна способност (4K, 8K) рядко са необходими за AI анализ. Последователната промяна на размера на изображенията преди изпращането им намалява броя на токените без осезаемо въздействие върху качеството на анализа.

from PIL import Image
import io
import base64

class OptimiseurImage:
    TAILLES_PAR_TACHE = {
        "classification": (512, 512),
        "description": (1024, 1024),
        "ocr": (2048, 2048),
        "comparison": (800, 800),
    }

    @staticmethod
    def optimiser(chemin, tache="description", qualite=85):
        taille_max = OptimiseurImage.TAILLES_PAR_TACHE.get(
            tache, (1024, 1024)
        )

        img = Image.open(chemin)

        # Do not enlarge small images
        if img.width <= taille_max[0] and img.height <= taille_max[1]:
            pass
        else:
            img.thumbnail(taille_max)

        # Convert to JPEG to reduce size
        if img.mode in ("RGBA", "P"):
            img = img.convert("RGB")

        buffer = io.BytesIO()
        img.save(buffer, "JPEG", quality=qualite)
        buffer.seek(0)

        encoded = base64.standard_b64encode(buffer.read()).decode()
        return f"data:image/jpeg;base64,{encoded}"

Стратегия 3: Двуетапен конвейер

За големи обеми използвайте двуетапен конвейер – бърз първи етап в режим low за сортиране, последван от втори етап в режим high само за изображенията, които го изискват:

def pipeline_deux_passes(images):
    # Pass 1: fast classification (low)
    classifications = []
    for img in images:
        response = client.responses.create(
            model="grok-4.5",
            input=[
                {"type": "input_image", "image_url": img, "detail": "low"},
                {"type": "input_text", "text": "Classify: document, photo, chart, other. One word."}
            ],
            store=False
        )
        classifications.append({
            "url": img,
            "type": response.output_text.strip().lower()
        })

    # Pass 2: detailed analysis (high) only if necessary
    resultats = []
    for item in classifications:
        if item["type"] in ("document", "chart"):
            detail = "high"
        else:
            detail = "auto"

        response = client.responses.create(
            model="grok-4.5",
            input=[
                {"type": "input_image", "image_url": item["url"], "detail": detail},
                {"type": "input_text", "text": "Detailed analysis of this image."}
            ],
            store=False
        )
        resultats.append(response.output_text)

    return resultats

Стратегия 4: Кеш памет

Ако анализирате едни и същи изображения многократно (тестове, разработка, демонстрации), кеширайте резултатите:

import hashlib
import json

cache = {}

def vision_avec_cache(image_url, prompt, detail="auto"):
    # Create a unique key
    cle = hashlib.sha256(
        f"{image_url}:{prompt}:{detail}".encode()
    ).hexdigest()

    if cle in cache:
        return cache[cle]

    response = client.responses.create(
        model="grok-4.5",
        input=[
            {"type": "input_image", "image_url": image_url, "detail": detail},
            {"type": "input_text", "text": prompt}
        ],
        store=False
    )

    cache[cle] = response.output_text
    return response.output_text

Мониторинг и известявания

Настройте проследяване на разходите, за да откривате превишения:

def monitorer_tokens(response, seuil_alerte=5000):
    usage = response.usage
    image_tokens = usage.prompt_tokens_details.image_tokens

    if image_tokens > seuil_alerte:
        print(f"ALERT: {image_tokens} image tokens (threshold: {seuil_alerte})")

    return {
        "image_tokens": image_tokens,
        "text_tokens": usage.prompt_tokens_details.text_tokens,
        "total": usage.total_tokens
    }

Ключови изводи

  • Изберете ниво на detail, подходящо за задачата – използвайте low, когато е достатъчно
  • Променяйте размера на изображенията преди изпращане, за да намалите консумацията
  • Използвайте двуетапен конвейер за големи обеми данни
  • Кеширайте резултатите, за да избегнете излишни заявки
  • Следете токените за изображения в продукционна среда, за да прогнозирате разходите