Preskok na glavno vsebino
Slovenščina— Izberite jezik
Meni

Samousklajenost: več poti razmišljanja

Lekcija 6 od 16 Posodobljeno 3. november 2026 Razvijalec
Na tej strani
  1. Samousklajenost: več poti razmišljanja
  2. Težava, ki jo rešuje
  3. Osnovna implementacija
  4. Kaj ti pove glasovanje
  5. Vzporedna različica z asyncio
  6. Kdaj uporabiti samousklajenost
  7. Uglaševanje razmerja med stroški in zanesljivostjo
  8. Ključne ugotovitve

Lekcija posodobljena 3. novembra 2026 na podlagi dokumentacije OpenAI: parametra temperature in top_p sta sprejeta le pri naporu razmišljanja none, medtem ko modeli GPT-5.6 privzeto razmišljajo (medium). Klici, ki nastavljajo te parametre, morajo zato določiti reasoning={"effort": "none"} (Responses API) ali reasoning_effort="none" (Chat Completions). Viri: Uporaba GPT-6 · GPT-5.6 Terra.

Samousklajenost: več poti razmišljanja

Samousklajenost pomeni generiranje več neodvisnih odgovorov na isti poziv in nato izbiro najpogostejšega ali najbolj koherentnega. Načelo je glasovanje: en sam klic te izpostavi naključju slabega izvlečka, pet klicev pa ti da porazdelitev, ki jo lahko izprašaš. Ta tehnika bistveno izboljša zanesljivost odgovorov, zlasti pri logičnem sklepanju in matematičnih nalogah.

Težava, ki jo rešuje

LLM lahko ob vsakem klicu vrne drugačen odgovor, tudi ob strogo identičnem pozivu. Nekateri od teh odgovorov so pravilni, drugi ne, in nič v izpisu ne signalizira, katerega bereš: napačen odgovor je izrečen z enako gotovostjo kot pravilen. Samousklajenost to variabilnost obrne v tvojo korist. Če model pride do istega zaključka prek več različnih poti razmišljanja, je ta zaključek verjetno pravilen; napaka se nasprotno redko reproducira identično od izvlečka do izvlečka, saj je odvisna prav od izbrane poti.

Osnovna implementacija

Mehanizem ima tri korake: generiraj, izvleči končni odgovor, glasuj. Oznaka >>> ANSWER:, vsiljena v navodilih, ni kozmetična – prav ona omogoča razčlenitev izpisa, ne da bi moral interpretirati razmišljanje, ki mu sledi. Brez tega sidra bi moral napisati krhko hevristiko, ki bi ugibala, kje se refleksija konča in začne sklep.

from openai import OpenAI
from collections import Counter

client = OpenAI()

def self_consistency(prompt: str, system: str = "",
                     n: int = 5, model: str = "gpt-5.6-terra") -> dict:
    """Generira n odgovorov in vrne najpogostejšega."""
    responses = []

    for _ in range(n):
        response = client.responses.create(
            model=model,
            reasoning={"effort": "none"},  # temperature requires effort none
            instructions=system + "\nReason step by step, then give "
                         "your final answer after '>>> ANSWER:'",
            input=prompt,
            temperature=0.7  # Temperature > 0 for diversity
        )
        responses.append(response.output_text)

    # Extract final answers
    answers = []
    for r in responses:
        if ">>> ANSWER:" in r:
            answer = r.split(">>> ANSWER:")[-1].strip()
            answers.append(answer)

    # Majority vote
    if answers:
        counter = Counter(answers)
        best_answer, count = counter.most_common(1)[0]
        return {
            "answer": best_answer,
            "confidence": count / len(answers),
            "all_answers": dict(counter),
            "total_responses": len(answers)
        }
    return {"answer": None, "confidence": 0}

Kaj ti pove glasovanje

Pri klasifikaciji sentimenta funkcija ne vrne le oznake, temveč tudi porazdelitev, ki je pogosto vrednejša od same oznake. Za spodnjo recenzijo, ki je resnično dvoumna – izdelek je v redu, dostava pa katastrofalna – štirje klici glasujejo za „negativno”, trije pa za „nevtralno”. 57-odstotna gotovost ti pove, da si ta primer zasluži posebno obravnavo: uvrstitev v čakalno vrsto za človeški pregled, prošnja uporabniku za pojasnilo ali preprosta izključitev iz agregirane statistike. En sam klic bi prikazal „negativno” brez nians in ta primer bi obravnaval popolnoma enako kot recenzijo, pri kateri so vsi soglasno besni.

system = """You are a sentiment classifier.
Analyze the text and reason step by step.
Give your final answer after '>>> ANSWER:' choosing from:
positive, negative, neutral"""

text = "The product is fine but the delivery took 3 weeks."

result = self_consistency(text, system, n=7)
print(f"Sentiment: {result['answer']}")
print(f"Confidence: {result['confidence']:.0%}")
print(f"Distribution: {result['all_answers']}")
# Example output:
# Sentiment: negative
# Confidence: 57%
# Distribution: {'negative': 4, 'neutral': 3}

Vzporedna različica z asyncio

Strošek te tehnike ni le finančen: pet zaporednih klicev pomeni tudi petkrat daljšo zakasnitev, kar pristop izključuje v vsakem vmesniku, kjer nekdo čaka pred zaslonom. A klici so popolnoma neodvisni; ni opravičila, da bi čakali nanje enega za drugim. asyncio.gather skupni čas zniža na čas najpočasnejšega klica, kar samousklajenost naredi združljivo z spletno uporabo, s stroškom, ki postane zgolj denarni.

import asyncio
from openai import AsyncOpenAI

async_client = AsyncOpenAI()

async def self_consistency_async(prompt: str, system: str = "",
                                  n: int = 5) -> dict:
    """Asinhrona različica samousklajenosti."""

    async def single_call():
        response = await async_client.responses.create(
            model="gpt-5.6-terra",
            reasoning={"effort": "none"},  # temperature requires effort none
            instructions=system + "\nReason then give your answer "
                         "after '>>> ANSWER:'",
            input=prompt,
            temperature=0.7
        )
        return response.output_text

    # Launch all requests in parallel
    tasks = [single_call() for _ in range(n)]
    results = await asyncio.gather(*tasks)

    # Extract and vote
    answers = []
    for r in results:
        if ">>> ANSWER:" in r:
            answers.append(r.split(">>> ANSWER:")[-1].strip())

    counter = Counter(answers)
    best, count = counter.most_common(1)[0] if answers else (None, 0)

    return {
        "answer": best,
        "confidence": count / len(answers) if answers else 0,
        "distribution": dict(counter)
    }

Kdaj uporabiti samousklajenost

Merilo za odločitev je preprosto: glasovanje ima smisel le, če je odgovor diskreten in primerljiv. Dveh dobro napisanih povzetkov ne moreš sešteti, saj nikoli ne bosta znak za znakom identična; dveh oznak kategorij pa lahko.

Primer uporabe Uporabno? Zakaj
Klasifikacija Da Diskreten odgovor, preprosto glasovanje
Matematično sklepanje Da Več poti do pravilnega odgovora
Ekstrakcija entitet Da Soglasje o zaznanih entitetah
Ustvarjalno pisanje Ne Ni enega samega „pravilnega" odgovora
Povzemanje besedila Delno Uporabno za ključna dejstva, ne za slog

Uglaševanje razmerja med stroški in zanesljivostjo

Trije klici so najmanjše število, pri katerem ima večinsko glasovanje še kakšen smisel; pet jih ponuja najboljše razmerje za večino aplikacij; sedem do enajst je upravičenih za kritične odločitve, kjer napaka stane bistveno več kot nekaj dodatnih klicev. Pravi dobiček pa prihaja iz načina, kako uporabiš oceno gotovosti, in ne iz števila vzorcev. Pod 60 % predpostavi, da ni soglasja, in stopnjuj obravnavo – bodisi k človeškemu operaterju bodisi k zmogljivejšemu modelu z več vzorci, kot je prikazano spodaj.

result = self_consistency(question, system, n=5)

if result["confidence"] < 0.6:
    # No clear consensus, escalate
    result = self_consistency(question, system, n=9, model="gpt-5.6-sol")

Preostalo vprašanje je, ali se trud splača prav v tvojem primeru, in to je treba izmeriti, ne predpostavljati. Implementiraj asinhrono različico, jo zaženi na ducatu vprašanj za klasifikacijo sentimenta, kjer poznaš pričakovani odgovor, nato pa primerjaj točnost, doseženo z enim klicem, s tisto pri petih klicih. Dobljena številka bo razrešila vprašanje stroškov za tvoj specifični primer – česar nobeno splošno priporočilo ne more storiti namesto tebe.

Ključne ugotovitve

  • Samousklajenost generira več odgovorov in z glasovanjem izbere najboljšega
  • Uporabi temperaturo > 0 za dosego raznolikosti
  • Učinkovita za naloge z diskretnim odgovorom (klasifikacija, izračun)
  • Neuporabna za ustvarjalne naloge brez enega samega pravilnega odgovora
  • Klice vzporedi z asyncio, da omejiš zakasnitev