Siirry pääsisältöön
Suomi— Valitse kieli
Valikko

Itsejohdonmukaisuus: useita päättelypolkuja

Oppitunti 6 / 16 Päivitetty 3. marraskuuta 2026 Kehittäjä
Tällä sivulla
  1. Itsejohdonmukaisuus: useita päättelypolkuja
  2. Ratkaistava ongelma
  3. Perustoteutus
  4. Mitä äänestys kertoo sinulle
  5. Rinnakkainen versio asynciolla
  6. Milloin käyttää itsejohdonmukaisuutta
  7. Kustannus/luotettavuus-suhteen säätäminen
  8. Keskeiset asiat

Oppitunti päivitetty 3. marraskuuta 2026 OpenAI:n dokumentaation perusteella: temperature ja top_p hyväksytään vain, kun päättelypyrkimys on none, kun taas GPT-5.6-mallit päättelevät oletusarvoisesti (medium). Näitä parametreja asettavien kutsujen on siksi määritettävä reasoning={"effort": "none"} (Responses API) tai reasoning_effort="none" (Chat Completions). Lähteet: Using GPT-6 · GPT-5.6 Terra.

Itsejohdonmukaisuus: useita päättelypolkuja

Itsejohdonmukaisuus tarkoittaa useiden riippumattomien vastausten tuottamista samaan kehotteeseen ja sen jälkeen yleisimmän tai johdonmukaisimman valitsemista. Periaate on äänestys: yksittäinen kutsu altistaa sinut yhden huonon arvannan satunnaisuudelle, kun taas viisi kutsua tarjoaa jakauman, jota voit analysoida. Tämä tekniikka parantaa merkittävästi vastausten luotettavuutta, erityisesti loogisissa päättely- ja matemaattisissa tehtävissä.

Ratkaistava ongelma

LLM voi antaa eri vastauksen jokaisella kutsulla, vaikka kehote olisi täysin identtinen. Osa näistä vastauksista on oikein, osa väärin, eikä tulosteessa ole mitään merkkiä, joka kertoisi, kumpaa luet: väärä vastaus esitetään yhtä varmasti kuin oikeakin. Itsejohdonmukaisuus kääntää tämän vaihtelun eduksesi. Jos malli päätyy samaan johtopäätökseen useita eri päättelypolkuja pitkin, kyseinen johtopäätös on todennäköisesti oikein; virhe sitä vastoin toistuu harvoin identtisenä kerrasta toiseen, koska se riippuu nimenomaan kuljetusta polusta.

Perustoteutus

Mekanismi koostuu kolmesta vaiheesta: generoi, erota lopullinen vastaus, äänestä. Ohjeistuksessa pakotettu merkki >>> ANSWER: ei ole kosmeettinen – se on se, mikä tekee tulosteesta jäsennettävän ilman, että sitä edeltävää päättelyä tarvitsee tulkita. Ilman tätä ankkuria joutuisit kirjoittamaan hauraan heuristiikan arvaamaan, missä pohdinta loppuu ja johtopäätös alkaa.

from openai import OpenAI
from collections import Counter

client = OpenAI()

def self_consistency(prompt: str, system: str = "",
                     n: int = 5, model: str = "gpt-5.6-terra") -> dict:
    """Tuottaa n vastausta ja palauttaa yleisimmän."""
    responses = []

    for _ in range(n):
        response = client.responses.create(
            model=model,
            reasoning={"effort": "none"},  # temperature vaatii effort none
            instructions=system + "\nPerustele vaiheittain ja anna "
                         "lopullinen vastauksesi merkin '>>> ANSWER:' jälkeen",
            input=prompt,
            temperature=0.7  # Lämpötila > 0 monimuotoisuuden vuoksi
        )
        responses.append(response.output_text)

    # Erotetaan lopulliset vastaukset
    answers = []
    for r in responses:
        if ">>> ANSWER:" in r:
            answer = r.split(">>> ANSWER:")[-1].strip()
            answers.append(answer)

    # Enemmistöäänestys
    if answers:
        counter = Counter(answers)
        best_answer, count = counter.most_common(1)[0]
        return {
            "answer": best_answer,
            "confidence": count / len(answers),
            "all_answers": dict(counter),
            "total_responses": len(answers)
        }
    return {"answer": None, "confidence": 0}

Mitä äänestys kertoo sinulle

Kun tätä sovelletaan tunneluokitteluun, funktio palauttaa pelkän luokan sijaan jakauman, ja tämä jakauma on usein arvokkaampi kuin itse luokka. Alla olevalle arvostelulle, joka on aidosti monitulkintainen – tuote on kunnossa, mutta toimitus oli katastrofi – neljä kutsua äänesti “negatiivista” ja kolme “neutraalia”. 57 %:n luottamus kertoo, että tämä tapaus saattaa vaatia erityiskohtelua: jonottaminen ihmisen tarkistettavaksi, käyttäjältä lisäselvityksen pyytäminen tai yksinkertaisesti sen jättäminen pois aggregoiduista tilastoista. Yksittäinen kutsu olisi näyttänyt “negatiivisen” ilman sävyjä, ja olisit käsitellyt tämän tiketin täsmälleen samalla tavalla kuin yksimielisen raivostuneen arvostelun.

system = """Olet tunneluokittelija.
Analysoi teksti ja perustele vaiheittain.
Anna lopullinen vastauksesi merkin '>>> ANSWER:' jälkeen valiten seuraavista:
positive, negative, neutral"""

text = "The product is fine but the delivery took 3 weeks."

result = self_consistency(text, system, n=7)
print(f"Sentiment: {result['answer']}")
print(f"Confidence: {result['confidence']:.0%}")
print(f"Distribution: {result['all_answers']}")
# Esimerkkituloste:
# Sentiment: negative
# Confidence: 57%
# Distribution: {'negative': 4, 'neutral': 3}

Rinnakkainen versio asynciolla

Tämän tekniikan kustannus ei ole vain taloudellinen: viisi peräkkäistä kutsua tarkoittaa myös viisinkertaista viivettä, mikä sulkee pois lähestymistavan missä tahansa käyttöliittymässä, jossa joku odottaa näytön ääressä. Kutsut ovat kuitenkin täysin riippumattomia; niiden odottamiselle toinen toisensa jälkeen ei ole perusteita. asyncio.gather laskee kokonaisajan hitaimman kutsun tasolle, tehden itsejohdonmukaisuudesta yhteensopivan online-käytön kanssa siten, että yleiskustannus on puhtaasti rahallinen.

import asyncio
from openai import AsyncOpenAI

async_client = AsyncOpenAI()

async def self_consistency_async(prompt: str, system: str = "",
                                  n: int = 5) -> dict:
    """Itsejohdonmukaisuuden asynkroninen versio."""

    async def single_call():
        response = await async_client.responses.create(
            model="gpt-5.6-terra",
            reasoning={"effort": "none"},  # temperature vaatii effort none
            instructions=system + "\nPerustele ja anna vastauksesi "
                         "merkin '>>> ANSWER:' jälkeen",
            input=prompt,
            temperature=0.7
        )
        return response.output_text

    # Käynnistä kaikki pyynnöt rinnakkain
    tasks = [single_call() for _ in range(n)]
    results = await asyncio.gather(*tasks)

    # Erota ja äänestä
    answers = []
    for r in results:
        if ">>> ANSWER:" in r:
            answers.append(r.split(">>> ANSWER:")[-1].strip())

    counter = Counter(answers)
    best, count = counter.most_common(1)[0] if answers else (None, 0)

    return {
        "answer": best,
        "confidence": count / len(answers) if answers else 0,
        "distribution": dict(counter)
    }

Milloin käyttää itsejohdonmukaisuutta

Päätöskriteeri on helppo ilmaista: äänestämisellä on järkeä vain, jos vastaus on diskreetti ja vertailukelpoinen. Kahta hyvin kirjoitettua yhteenvetoa ei voi laskea yhteen, koska ne eivät koskaan ole merkki merkiltä identtisiä; kaksi kategoriaetikettiä sen sijaan voidaan.

Käyttötapaus Hyödyllinen? Miksi
Luokittelu Kyllä Diskreetti vastaus, yksinkertainen äänestys
Matemaattinen päättely Kyllä Useita polkuja oikeaan vastaukseen
Entiteettien poiminta Kyllä Yksimielisyys havaituista entiteeteistä
Luova kirjoittaminen Ei Ei yhtä "oikeaa" vastausta
Tekstin tiivistäminen Osittain Hyödyllinen avainfaktoille, ei tyylille

Kustannus/luotettavuus-suhteen säätäminen

Kolme kutsua on vähimmäismäärä, jotta enemmistöäänestyksellä on mitään merkitystä; viisi tarjoaa parhaan kompromissin useimpiin sovelluksiin; seitsemästä yhteenentoista on perusteltua kriittisissä päätöksissä, joissa virheen hinta on paljon suurempi kuin muutaman lisäkutsun hinta. Todellinen hyöty kuitenkin tulee siitä, miten käytät luottamuspistemäärää eikä otoskoosta. Alle 60 %:n luottamuksen voit tulkita niin, että yksimielisyyttä ei ole, ja eskaloida tilanteen joko ihmisoperaattorille tai tehokkaammalle mallille, jolla on enemmän otoksia, kuten alla näkyy.

result = self_consistency(question, system, n=5)

if result["confidence"] < 0.6:
    # Ei selkeää yksimielisyyttä, eskaloidaan
    result = self_consistency(question, system, n=9, model="gpt-5.6-sol")

Jäljellä oleva kysymys on, kannattaako vaiva juuri sinun tapauksessasi, ja se on mitattava, ei oletettava. Toteuta asynkroninen versio, aja se tusinalla tunneluokittelukysymyksellä, joiden odotetun vastauksen tiedät, ja vertaa sitten yhden kutsun ja viiden kutsun saavuttamaa tarkkuutta. Saamasi luku ratkaisee yleiskustannuskysymyksen juuri sinun tapauksessasi, mitä mikään yleinen suositus ei voi tehdä puolestasi.

Keskeiset asiat

  • Itsejohdonmukaisuus tuottaa useita vastauksia ja äänestää parhaan puolesta
  • Käytä lämpötilaa > 0 saavuttaaksesi monimuotoisuutta
  • Tehokas tehtäviin, joissa on diskreetti vastaus (luokittelu, laskenta)
  • Hyödytön luovissa tehtävissä, joissa ei ole yhtä oikeaa vastausta
  • Rinnakkaista kutsut asynciolla viiveen rajoittamiseksi