Opciones de tool_choice
En esta página
Decidir quién decide
Pasar tools a la API no significa que el modelo deba usarlas, ni siquiera que tenga permiso para hacerlo. Entre estos dos extremos, el parámetro tool_choice actúa como árbitro. Dependiendo del valor que le asignes, puedes dejar que el modelo juzgue libremente, forzarlo a producir una llamada estructurada o revocar por completo su acceso a las herramientas que acabas de declarar. Es un ajuste sutil, pero cambia radicalmente cómo se comporta el mismo código ante la misma pregunta.
| Valor | Comportamiento | Caso de uso |
|---|---|---|
auto | El modelo decide libremente si usa una herramienta o responde con texto. Este es el modo predeterminado. | Asistentes conversacionales, chatbots de propósito general |
any | Se fuerza al modelo a llamar al menos a una herramienta. No puede responder solo con texto. | Tuberías automatizadas, extracción de datos estructurados |
none | El modelo no puede usar herramientas, aunque estén definidas. Responde únicamente con texto. | Resumir resultados sin nuevas llamadas, reformular una respuesta |
required | Sinónimo de any. El modelo debe usar al menos una herramienta. | Equivalente a any, para compatibilidad |
auto — Deja que el modelo juzgue
Este es el valor predeterminado, el que utilizas sin darte cuenta siempre que omites el parámetro.
response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools,
tool_choice="auto" # Opcional, este es el valor predeterminado
)
Con auto, el modelo evalúa la solicitud antes de actuar. Si la pregunta exige datos externos que no posee, llama a una función; si la consulta es general o relacional, responde directamente con texto. Este interruptor es lo que hace que un asistente se sienta natural: el usuario no necesita saber que hay herramientas detrás de la pantalla.
# El modelo llamará a una función
messages = [{"role": "user", "content": "¿Estado del pago T1001?"}]
# → tool_call: retrieve_payment_status(transaction_id="T1001")
# El modelo responderá directamente
messages = [{"role": "user", "content": "Hola, ¿cómo estás?"}]
# → content: "¡Hola! Soy un asistente de pagos. ¿En qué puedo ayudarte?"
El segundo ejemplo merece atención: forzar una llamada a función ante un saludo simple produciría un retrieve_payment_status con un ID inventado. Eso es precisamente lo que evita auto, razón por la cual este modo sigue siendo el más común en producción.
any — Forzar una salida estructurada
Por el contrario, hay contextos en los que el texto en forma libre no tiene valor para ti. Una tubería de ingestión que procesa diez mil documentos espera JSON utilizable, no una frase educada. Con any, el modelo debe llamar al menos a una función, incluso si la pregunta no parece requerirlo.
response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools,
tool_choice="any"
)
Curiosamente, el caso de uso más frecuente reutiliza la llamada a funciones con un propósito distinto al original: no declaras una función para ejecutarla, sino para garantizar un esquema de salida. Aquí, extract_entities nunca se llamará en el lado del servidor; lo que nos importa es el contrato JSON.
# Extracción estructurada: forzar al modelo a extraer datos
tools = [{
"type": "function",
"function": {
"name": "extract_entities",
"description": "Extrae entidades nombradas del texto",
"parameters": {
"type": "object",
"properties": {
"persons": {"type": "array", "items": {"type": "string"}},
"organizations": {"type": "array", "items": {"type": "string"}},
"dates": {"type": "array", "items": {"type": "string"}}
},
"required": ["persons", "organizations", "dates"]
}
}
}]
messages = [{"role": "user", "content": "Sophia Yang de Mistral presentó "
"la llamada a funciones el 15 de marzo de 2026."}]
response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools,
tool_choice="any" # Forzar extracción
)
# → extract_entities(persons=["Sophia Yang"],
# organizations=["Mistral"],
# dates=["15 de marzo de 2026"])
Nota de paso required: es un sinónimo de any, incluido para compatibilidad con código escrito para otras APIs. Ambos valores producen el mismo comportamiento; elige el que haga tu código más legible y mantente fiel a él.
none — Desactivar herramientas sin eliminarlas
El tercer valor aborda una necesidad menos obvia. Ya has recuperado tus datos mediante varias tool_calls y ahora quieres que el modelo las sintetice. Si continúas la conversación en modo auto, nada impide que el modelo vuelva a llamar a una función «solo para comprobar», lo que aumenta la latencia y puede desencadenar un bucle infinito. none prohíbe cualquier nueva llamada mientras mantiene las definiciones de herramientas en el contexto, ayudando al modelo a hablar con precisión sobre los datos que ya posee.
response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools,
tool_choice="none"
)
Tres casos de uso surgen constantemente: solicitar un resumen tras una serie de llamadas a funciones, reformular una respuesta sin desencadenar nuevas llamadas y probar en desarrollo cómo se comporta el modelo cuando se le privan sus herramientas, lo que revela rápidamente preguntas que cree poder responder de memoria.
# Tras recuperar datos mediante tool_calls...
# Solicitar un resumen sin nuevas llamadas
messages.append({
"role": "user",
"content": "Resume la información de todos los pagos que has encontrado."
})
response = client.chat.complete(
model="mistral-large-latest",
messages=messages,
tools=tools,
tool_choice="none" # El modelo resume con lo que ya tiene
)
Ajustar la configuración durante la conversación
No tienes que establecer tool_choice una sola vez al inicio. En producción, es habitual calcularlo en cada turno según el contexto: el primer mensaje de la conversación, la intención detectada en la solicitud o el número de llamadas ya consumidas. La siguiente función ilustra esta lógica en su forma más simple: el modelo permanece libre por defecto, excepto cuando el usuario solicita explícitamente un resumen.
def get_tool_choice(user_input: str, turn_count: int) -> str:
"""Determina tool_choice según el contexto."""
# Primer turno: dejar que el modelo decida
if turn_count == 0:
return "auto"
# Si el usuario solicita explícitamente un resumen
if any(word in user_input.lower() for word in ["summarize", "recap", "synthesis"]):
return "none"
# Predeterminado
return "auto"
En la práctica, mantén auto como tu configuración base: es la más natural y flexible. Reserva any para tuberías de extracción de datos estructurados y none para momentos en los que debas evitar bucles infinitos de tool_call. Una restricción es absoluta: nunca cambies tool_choice en mitad del procesamiento de una tool_call. Primero completa el ciclo devolviendo todos los mensajes tool esperados y, a continuación, ajusta el parámetro en el siguiente turno; de lo contrario, el historial se vuelve inconsistente y la API rechaza la solicitud.
Puntos clave
tool_choicecontrola cuándo usa el modelo las funcionesauto= el modelo decide libremente (predeterminado, recomendado para chatbots)any= se fuerza al modelo a llamar a una herramienta (tuberías, extracción estructurada)none= herramientas desactivadas (resúmenes, reformulación)- Adapta
tool_choicedinámicamente según el contexto de la conversación