Ottimizza t-tokens tal-immaġni
F'din il-paġna
Ikkontrolla l-ispejjeż tiegħek fil-produzzjoni
Fil-produzzjoni, it-tokens tal-immaġni jistgħu jiffurmaw sehem sinifikanti mill-kont tal-API tiegħek. Immaġni waħda fil-modalità high tikkonsma sa 1,792 token—ekwivalenti għal diversi paragrafi ta’ test. Immultiplika dan b’mijiet jew eluf ta’ talbiet kuljum, u l-ottimizzazzjoni ssir neċessità.
Strateġija 1: Agħżel il-livell xieraq ta’ dettall
Il-parametru detail huwa l-leva primarja ta’ ottimizzazzjoni tiegħek. L-iżball l-aktar komuni huwa li tuża high b’mod awtomatiku meta low jew auto ikunu biżżejjed fil-biċċa l-kbira tal-każijiet.
Matriċi tad-deċiżjoni
| Kompitu | Dettall rakkomandat | Tokens stmati |
|---|---|---|
| Klassifikazzjoni tal-immaġni | low | ~256 |
| Deskrizzjoni ġenerali | auto | ~512-768 |
| Test alternattiv / aċċessibbiltà | low | ~256 |
| Moderazzjoni tal-kontenut | auto | ~512-768 |
| OCR / estrazzjoni tat-test | high | ~1024-1792 |
| Analiżi ta' graffs | high | ~1024-1792 |
| Rilevament ta' difetti | high | ~1024-1792 |
Strateġija 2: Ibiddel id-daqs qabel ma tibgħat
Immaġni b’riżoluzzjoni għolja (4K, 8K) rari huma meħtieġa għall-analiżi tal-AI. Jekk tibdel id-daqs tal-immaġni tiegħek b’mod konsistenti qabel ma tibgħatha, tonqos it-tokens mingħajr impatt perċettibbli fuq il-kwalità tal-analiżi.
from PIL import Image
import io
import base64
class OptimiseurImage:
TAILLES_PAR_TACHE = {
"classification": (512, 512),
"description": (1024, 1024),
"ocr": (2048, 2048),
"comparison": (800, 800),
}
@staticmethod
def optimiser(chemin, tache="description", qualite=85):
taille_max = OptimiseurImage.TAILLES_PAR_TACHE.get(
tache, (1024, 1024)
)
img = Image.open(chemin)
# Do not enlarge small images
if img.width <= taille_max[0] and img.height <= taille_max[1]:
pass
else:
img.thumbnail(taille_max)
# Convert to JPEG to reduce size
if img.mode in ("RGBA", "P"):
img = img.convert("RGB")
buffer = io.BytesIO()
img.save(buffer, "JPEG", quality=qualite)
buffer.seek(0)
encoded = base64.standard_b64encode(buffer.read()).decode()
return f"data:image/jpeg;base64,{encoded}"
Strateġija 3: Pipeline b’żewġ pass
Għal volumi għoljin, uża pipeline b’żewġ pass—ewwel pass mgħaġġel f’low biex tissortja, imbagħad it-tieni pass f’high biss għall-immaġni li jeħtieġuha:
def pipeline_deux_passes(images):
# Pass 1: fast classification (low)
classifications = []
for img in images:
response = client.responses.create(
model="grok-4.5",
input=[
{"type": "input_image", "image_url": img, "detail": "low"},
{"type": "input_text", "text": "Classify: document, photo, chart, other. One word."}
],
store=False
)
classifications.append({
"url": img,
"type": response.output_text.strip().lower()
})
# Pass 2: detailed analysis (high) only if necessary
resultats = []
for item in classifications:
if item["type"] in ("document", "chart"):
detail = "high"
else:
detail = "auto"
response = client.responses.create(
model="grok-4.5",
input=[
{"type": "input_image", "image_url": item["url"], "detail": detail},
{"type": "input_text", "text": "Detailed analysis of this image."}
],
store=False
)
resultats.append(response.output_text)
return resultats
Strateġija 4: Caching
Jekk tanalizza l-istess immaġni diversi drabi (testijiet, żvilupp, demo), ikkaxxja r-riżultati:
import hashlib
import json
cache = {}
def vision_avec_cache(image_url, prompt, detail="auto"):
# Create a unique key
cle = hashlib.sha256(
f"{image_url}:{prompt}:{detail}".encode()
).hexdigest()
if cle in cache:
return cache[cle]
response = client.responses.create(
model="grok-4.5",
input=[
{"type": "input_image", "image_url": image_url, "detail": detail},
{"type": "input_text", "text": prompt}
],
store=False
)
cache[cle] = response.output_text
return response.output_text
Immonitorja u avża
Ippara traċċar tal-ispejjeż biex tiskopri qbiż:
def monitorer_tokens(response, seuil_alerte=5000):
usage = response.usage
image_tokens = usage.prompt_tokens_details.image_tokens
if image_tokens > seuil_alerte:
print(f"ALERT: {image_tokens} image tokens (threshold: {seuil_alerte})")
return {
"image_tokens": image_tokens,
"text_tokens": usage.prompt_tokens_details.text_tokens,
"total": usage.total_tokens
}
Punti Ewlenin
- Agħżel il-livell ta’
detailadattat għall-kompitu—lowmeta jkun biżżejjed - Ibiddel id-daqs tal-immaġni qabel ma tibgħatha biex tnaqqas il-konsum
- Uża pipeline b’żewġ pass għal volumi għoljin
- Ikkaxxja r-riżultati biex tevita sejħiet redundanti
- Immonitorja t-tokens tal-immaġni fil-produzzjoni biex tbassar l-ispejjeż