Léim go dtí an príomhábhar
Gaeilge— Roghnaigh teanga
Roghchlár

Teorainn ama, paraiméadair toirmiscthe, agus cumraíocht

Ceacht 11 as 12 Nuashonraithe 3 Samhain 2026 Forbróir
Ar an leathanach seo
  1. Cumraigh d’iarratais réasúnaíochta i gceart
  2. Teorainn ama: 900 soicind ar a laghad
  3. Paraiméadair toirmiscthe ar shamhlacha réasúnaíochta
  4. Earráidí a bhaineann le paraiméadair a láimhseáil
  5. Sruthú le samhlacha réasúnaíochta
  6. Príomhphointí

Nuashonraithe an 3 Samhain 2026. Bunaithe ar dhea-chleachtais xAI agus ar an treoir Reasoning: is é an t-am feithimh molta ná 900 soicind ar a laghad (3,600 sna samplaí), seachas “3,600 soicind ar a laghad”; áirítear grok-4.6 agus grok-4.7 sa liosta samhlacha réasúnaíochta; sruthlaíonn grok-4.7 achoimre ar a réasúnaíocht; baintear na cúiseanna le paraiméadair toirmiscthe nach raibh sa doiciméadú. Foinse: Dea-chleachtais · Réasúnaíocht.

Cumraigh d’iarratais réasúnaíochta i gceart

Tá srianta sonracha ag baint le samhlacha réasúnaíochta nach bhfuil ag samhlacha clasaiceacha. Má dhéanann tú neamhaird ar na srianta seo, d’fhéadfadh earráidí ciúine, teoraimeacha ama gan choinne, nó freagraí giorraithe tarlú. Clúdaíonn an ceacht seo paraiméadair chumraíochta riachtanacha.

Teorainn ama: 900 soicind ar a laghad

Éilíonn dea-chleachtais xAI 900 soicind ar a laghad in aghaidh an iarrtais, agus 1,800 soicind nó níos mó do mheastóireachtaí fada; socraíonn samplaí sa treoir Reasoning an mhoill fiú ag 3,600 soicind (uair amháin). D’fhéadfadh na huimhreacha seo a bheith ard, ach léiríonn siad an réaltacht: féadfaidh réasúnaíocht dhomhain ar fhadhb chasta roinnt nóiméad a ghlacadh. Molann xAI freisin sruthú a roghnú, rud a choinníonn an nasc gníomhach le linn giniúna fada.

Cén fáth a bhfuil teorainn ama chomh fada sin ann?

Nuair a phróiseálann samhail réasúnaíochta fadhb dheacair (cruthúnas matamaitice, anailís chasta cód, réasúnaíocht ilchéime), gineann sí na mílte token inmheánach réasúnaíochta sula gcruthaíonn sí a freagra. Tá an próiseas seo líneach agus ní féidir é a chomhthreomharú.

Cumraíocht na teorann ama

import httpx
from openai import OpenAI

# Cumraíocht le teorainn ama ard
client = OpenAI(
    api_key="your-api-key",
    base_url="https://api.x.ai/v1",
    timeout=httpx.Timeout(3600.0, connect=10.0)
)

I JavaScript leis an SDK OpenAI:

import OpenAI from 'openai';

const client = new OpenAI({
  apiKey: 'your-api-key',
  baseURL: 'https://api.x.ai/v1',
  timeout: 3600 * 1000  // 3600 soicind i millisoicindí
});

Teorainn ama freastalaí gréasáin

Má tá d’iarratas taobh thiar de sheachfhreastalaí (nginx, Apache), cumraigh teorainn ama an fhreastalaí freisin:

# nginx
location /api/ {
    proxy_read_timeout 3600s;
    proxy_connect_timeout 10s;
    proxy_send_timeout 3600s;
}

Paraiméadair toirmiscthe ar shamhlacha réasúnaíochta

Ní féidir trí pharaiméadar a úsáidtear go coitianta le samhlacha clasaiceacha a sheoladh chuig samhlacha réasúnaíochta xAI: de réir na treorach Reasoning, filleann iarratas ina bhfuil siad earráid. Ní thugann an doiciméadú an chúis leis na toirmisc seo; cuimhnigh ar an riail.

presencePenalty

// EARRÁID ar shamhlacha réasúnaíochta
{
  "model": "grok-4.20-0309-reasoning",
  "presence_penalty": 0.5,  // Toirmiscthe!
  "messages": [...]
}

Cuirtear pionós ar thokenanna a bhí sa fhreagra cheana féin le presencePenalty chun éagsúlacht a spreagadh.

frequencyPenalty

// EARRÁID ar shamhlacha réasúnaíochta
{
  "model": "grok-4.20-0309-reasoning",
  "frequency_penalty": 0.3,  // Toirmiscthe!
  "messages": [...]
}

Cuirtear pionós ar thokenanna i gcomhréir lena minicíocht feidhmithe le frequencyPenalty.

stop

// EARRÁID ar shamhlacha réasúnaíochta
{
  "model": "grok-4.20-0309-reasoning",
  "stop": ["\n\n"],  // Toirmiscthe!
  "messages": [...]
}

Stopann an paraiméadar stop an ghiniúint nuair a fheictear seicheamh sonrach. Chun fad na freagra a theorannú, úsáid max_completion_tokens ina ionad, rud a chuireann teorainn leis an bhfreagra infheicthe amháin, agus treoir formáide sa leid.

Earráidí a bhaineann le paraiméadair a láimhseáil

Nuair a aistríonn tú cód atá ann cheana féin go samhail réasúnaíochta, glan na paraiméadair nach dtacaítear leo:

def prepare_params(model, base_params):
    """Glanann sé paraiméadair do shamhlacha réasúnaíochta."""
    reasoning_models = [
        # raon reatha
        "grok-4.7", "grok-4.6", "grok-4.5", "grok-4.20-0309-reasoning",
        # aitheantóirí stairiúla, fós i gcóid atá ann cheana
        "grok-3-mini", "grok-4-fast-reasoning",
    ]

    params = {**base_params, "model": model}

    if model in reasoning_models:
        # Bain paraiméadair toirmiscthe
        for forbidden in ["presence_penalty", "frequency_penalty", "stop"]:
            params.pop(forbidden, None)

        # Cuir max_completion_tokens in ionad max_tokens
        if "max_tokens" in params:
            params["max_completion_tokens"] = params.pop("max_tokens")

    return params

Sruthú le samhlacha réasúnaíochta

Oibríonn sruthú le samhlacha réasúnaíochta, ach braitheann an iompraíocht ar an nginiúint: ar grok-3-mini (an ghiniúint roimhe seo), bhí reasoning_content le feiceáil go soiléir sa sruth, roimh thokenanna na freagra. Ar grok-4.20-0309-reasoning, fanann an réasúnaíocht inmheánach agus ní dhéantar í a shruthú: ní thagann ach an fhreagra dheireanach sa sruth. Eisceacht shuntasach: ar an API Freagraí, sruthlaíonn grok-4.7 achoimre ar a réasúnaíocht, in imeachtaí response.reasoning_summary_text.delta is féidir leat a thaispeáint roimh an bhfreagra.

Sampla stairiúil le grok-3-mini:

stream = client.chat.completions.create(
    model="grok-4.20-0309-reasoning",
    messages=[{"role": "user", "content": "Why is the sky blue?"}],
    reasoning_effort="high",
    stream=True
)

for chunk in stream:
    delta = chunk.choices[0].delta
    if hasattr(delta, 'reasoning_content') and delta.reasoning_content:
        print(f"[Reasoning] {delta.reasoning_content}", end="")
    elif delta.content:
        print(f"[Response] {delta.content}", end="")

Príomhphointí

  • Ceadaigh 900 soicind ar a laghad in aghaidh an iarrtais (3,600 i samplaí na treorach Reasoning), agus roghnaigh sruthú
  • Tá trí pharaiméadar toirmiscthe: presencePenalty, frequencyPenalty, agus stop
  • Glan paraiméadair agus tú ag aistriú ó shamhlacha clasaiceacha
  • Úsáid max_completion_tokens in ionad max_tokens
  • Oibríonn sruthú ach athraíonn an iompraíocht de réir na samhla