Porovnávání obrázků pomocí Vision API
Na této stránce
Vizuální komparativní analýza
Porovnávání obrázků je výkonný případ použití, který využívá schopnost práce s více obrázky najednou, probíranou v lekci 6. Otázka se posouvá z „Co tento obrázek zobrazuje?“ na „Co se změnilo?“ – operace, kterou sémantický model zpracovává zásadně odlišně než pixelový komparátor. Zatímco rozdíl v pixelech signalizuje divergenci bez jejího kvalifikování, model dokáže konstatovat, že se štítek posunul o dva milimetry a logo zmizelo, a následně posoudit, která z těchto dvou změn je podstatná.
Kontrola kvality, sledování vývoje, detekce vizuálních regresí: tato lekce ti ukáže, jak strukturovat prompty pro porovnávání a jak efektivně využít výsledky.
Porovnání před/po
Nejběžnějším scénářem je ověření toho, co se změnilo mezi dvěma stavy. Zpráva systému (system message) definuje metodu porovnání, zatímco zpráva uživatele (user message) identifikuje obrázky:
from mistralai.client import Mistral
import os
client = Mistral(api_key=os.environ["MISTRAL_API_KEY"])
response = client.chat.complete(
model="mistral-large-latest",
messages=[
{
"role": "system",
"content": """You are an expert in comparative image analysis. When presented with two images:
1. Briefly describe each image
2. List identified differences (with location)
3. Assess the significance of each difference (minor/major)
4. Provide an overall similarity score (0-100%)"""
},
{
"role": "user",
"content": [
{"type": "text", "text": "BEFORE Image (reference):"},
{"type": "image_url", "image_url": "https://exemple.com/avant.jpg"},
{"type": "text", "text": "AFTER Image (current state):"},
{"type": "image_url", "image_url": "https://exemple.com/apres.jpg"},
{"type": "text", "text": "Identify all differences between these two images."}
]
}
]
)
print(response.choices[0].message.content)
Prokládání textem („BEFORE Image“, „AFTER Image“) pomáhá modelu identifikovat roli každého obrázku. Třetí krok v systémovém promptu je tím, co činí zprávu akční: bez prioritizace obdržíš seznam, kde změna stínu váží stejně jako chybějící díl.
Kontrola kvality produktů
Na konci pipeline musí být tato zpráva čtena programem, nikoliv člověkem. Proto kombinujeme porovnávání s režimem JSON z lekce 9: model vrací verdikt, skóre a seznam kvalifikovaných defektů, které může kód okamžitě využít.
import base64
import json
def encode_image(path):
with open(path, "rb") as f:
b64 = base64.standard_b64encode(f.read()).decode("utf-8")
return f"data:image/jpeg;base64,{b64}"
def quality_control(reference_image, sample_image):
"""Compares a sample to its reference and detects defects."""
response = client.chat.complete(
model="mistral-large-latest",
response_format={"type": "json_object"},
messages=[
{
"role": "system",
"content": "You are a quality inspector. Compare the sample to the reference and return a JSON report."
},
{
"role": "user",
"content": [
{"type": "text", "text": "Reference (compliant product):"},
{"type": "image_url", "image_url": encode_image(reference_image)},
{"type": "text", "text": "Sample to inspect:"},
{"type": "image_url", "image_url": encode_image(sample_image)},
{
"type": "text",
"text": """Compare and return:
{
"compliant": true/false,
"compliance_score": 0-100,
"defects": [
{"description": "...", "severity": "minor/major/critical", "location": "..."}
],
"recommendation": "accept/review/reject"
}"""
}
]
}
]
)
return json.loads(response.choices[0].message.content)
# Usage
result = quality_control("reference/product-ok.jpg", "batch-42/sample-7.jpg")
if result["compliant"]:
print(f"COMPLIANT - Score: {result['compliance_score']}%")
else:
print(f"NON-COMPLIANT - {len(result['defects'])} defect(s) detected")
for defect in result["defects"]:
print(f" - [{defect['severity']}] {defect['description']}")
Pole recommendation je zajímavější, než se na první pohled zdá: rozlišením mezi „review“ (přezkoumat) a „reject“ (zamítnout) rezervuje lidský zásah pro nejednoznačné případy, místo aby jej vnucovalo všude nebo nikde.
Sledování vývoje v čase
Časová řada – staveniště, růst plodin, degradace konstrukce – je treated jako rozšířené porovnání za předpokladu, že každý obrázek označíš datem. Model pak disponuje časovou osou a dokáže kvalifikovat tempo, nejen samotnou mezeru.
def analyze_evolution(chronological_images, context=""):
"""Analyzes visible evolution across a series of ordered images."""
content = [
{
"type": "text",
"text": f"Here are {len(chronological_images)} images taken at different times, in chronological order. {context}"
}
]
for i, (date, path) in enumerate(chronological_images):
content.append({"type": "text", "text": f"Image {i+1} ({date}):"})
content.append({"type": "image_url", "image_url": encode_image(path)})
content.append({
"type": "text",
"text": "Describe the evolution observed between each step. Identify major changes and the general trend."
})
response = client.chat.complete(
model="mistral-large-latest",
messages=[{"role": "user", "content": content}]
)
return response.choices[0].message.content
# Construction site tracking
images = [
("2025-01", "site/jan-2025.jpg"),
("2025-06", "site/jun-2025.jpg"),
("2026-01", "site/jan-2026.jpg"),
]
evolution = analyze_evolution(images, context="Tracking a construction site.")
print(evolution)
Závěrečná otázka je přidána až po všech obrázcích, jakmile je celý soubor připraven.
Porovnávání uživatelských rozhraní
Webový vývoj nabízí okamžitý případ použití: konfrontaci schváleného mockupu se skutečně vygenerovaným renderem. Zatímco pixelový regresní test selže při posunu o jeden pixel bez významu, model kvalifikuje dopad každého nesouladu.
def compare_interfaces(expected_screenshot, actual_screenshot):
"""Compares two interface screenshots to detect visual regressions."""
response = client.chat.complete(
model="mistral-large-latest",
response_format={"type": "json_object"},
messages=[
{
"role": "system",
"content": "You are a QA tester specializing in visual testing of web interfaces."
},
{
"role": "user",
"content": [
{"type": "text", "text": "Expected design (mockup):"},
{"type": "image_url", "image_url": encode_image(expected_screenshot)},
{"type": "text", "text": "Current render (screenshot):"},
{"type": "image_url", "image_url": encode_image(actual_screenshot)},
{
"type": "text",
"text": """Compare and return:
{
"pixel_perfect": true/false,
"differences": [
{"element": "...", "expected": "...", "actual": "...", "impact": "minor/moderate/major"}
],
"fidelity_score": 0-100,
"verdict": "compliant/minor_adjustments/regression"
}"""
}
]
}
]
)
return json.loads(response.choices[0].message.content)
Pokud toto začleníš do své pipeline průběžné integrace (CI), tato kontrola zablokuje nasazení pouze v případě verdiktu regression.
Osvědčené postupy pro porovnávání
Tyto příklady sdílejí několik principů, které stojí za to explicitně uvést. Vždy pojmenuj své obrázky prokládaným štítkem – „Reference“, „Vzorek“, „Před“, „Po“ – protože bez toho model přiřazuje role na základě náhodnosti pořadí. Zajisti srovnatelnost záběrů: při různých úhlech a osvětlení bude model signalizovat nesrovnalosti, které pramení pouze z podmínek focení. Používej Mistral Large 3, protože porovnávání vyžaduje jemné usuzování, které menší modely ne vždy zvládají. Omez se na dva až tři obrázky na volání; nad touto hranicí se přesnost porovnání rozplývá. A systematicky požaduj strukturovaný formát se skóre, seznamem rozdílů a verdiktem, pokud má být výsledek zpracován automaticky.
Klíčové poznatky
- Porovnávání obrázků využívá schopnost API pracovat s více obrázky najednou
- Prokládej vysvětlující text mezi obrázky, abys objasnil jejich role
- Režim JSON (
response_format) je ideální pro automatizované zprávy z porovnávání - Hlavní případy použití: kontrola kvality, sledování stavenišť, vizuální QA, porovnání před/po
- Pro náročné úlohy porovnávání vždy používej Mistral Large 3