Relleno en medio (FIM)
En esta página
El principio de relleno en medio
El relleno en medio, o FIM (Fill-In-The-Middle), es la capacidad más distintiva de Codestral. En la generación estándar, un modelo extiende el texto desde un punto de partida sin tener nada más en cuenta. FIM cambia las reglas del juego: te permite rellenar un hueco en medio del código. Proporcionas el inicio, llamado prompt, y el final, llamado suffix, y Codestral genera el código intermedio que conecta limpiamente ambos extremos.
Este mecanismo resuelve un problema muy concreto en el autocompletado de los IDE. Cuando escribes en medio de un archivo, una sugerencia relevante depende tanto de lo que sigue al cursor como de lo que lo precede. Un método insertado entre otros dos debe respetar su estilo, las convenciones de nomenclatura y el contrato implícito de la clase. Un modelo que solo ve el contexto previo propone código plausible que a menudo resulta redundante con lo que ya existe diez líneas más abajo.
La operación se reduce a tres elementos. El prompt contiene el código anterior al punto de inserción; es decir, lo que ya has escrito antes del cursor. El suffix contiene el código posterior al cursor. La finalización (completion) es el fragmento generado por Codestral, que se encaja entre ambos. El resultado final obedece siempre a la misma ecuación: prompt + completion + suffix = código completo.
El punto de acceso /v1/fim/completions
Mistral AI expone FIM a través de un punto de acceso dedicado. A diferencia del punto de acceso de chat estándar, este acepta los parámetros prompt y suffix en lugar de un array de mensajes.
Estructura de la solicitud
from mistralai.client import Mistral
client = Mistral(api_key="your_api_key")
response = client.fim.complete(
model="codestral-latest",
prompt="def fibonacci(n: int):",
suffix="n = int(input('Introduce un número: '))\nprint(fibonacci(n))",
temperature=0,
)
print(response.choices[0].message.content)
Aquí, Codestral recibe la firma de la función fibonacci como prompt y el código de llamada como suffix. Su tarea consiste en generar el cuerpo que convierta esta firma en una implementación funcional, sabiendo que la función se llamará con un entero introducido por teclado y que su valor de retorno se imprimirá tal cual.
Parámetros clave
model: siempre"codestral-latest"para FIMprompt: el código antes del cursor (obligatorio)suffix: el código después del cursor (opcional, pero recomendado)temperature:0para resultados deterministas,0,2-0,7para variedadmax_tokens: limita la longitud de la finalización generadastop: lista de tokens de parada (p. ej.,["\n\n"]para detenerse tras un bloque)
Ejemplo concreto: completar una clase en Python
Veamos un escenario habitual: estás escribiendo un servicio y falta un método en medio de la clase.
prompt = """class UserService:
def __init__(self, db):
self.db = db
def get_user(self, user_id: int):
"""
suffix = """
def delete_user(self, user_id: int):
return self.db.execute("DELETE FROM users WHERE id = ?", (user_id,))
"""
response = client.fim.complete(
model="codestral-latest",
prompt=prompt,
suffix=suffix,
temperature=0,
max_tokens=200,
)
El suffix hace todo el trabajo pesado en cuanto al contexto. Al ver delete_user, Codestral aprende tres cosas: la clase consulta la base de datos mediante self.db.execute, utiliza consultas parametrizadas con ? y devuelve el resultado directamente sin una capa intermedia. Deduce que get_user debe seguir exactamente el mismo patrón y genera:
return self.db.execute("SELECT * FROM users WHERE id = ?", (user_id,))
Prueba el ejercicio de nuevo sin el suffix y verás la diferencia. Privado de este anclaje, el modelo a menudo inventará un ORM o un cursor que no existe en ninguna parte de tu proyecto.
FIM frente a Chat: elegir la herramienta adecuada
| Situación | Punto de acceso | Por qué |
|---|---|---|
| Autocompletado en un IDE | FIM | Hay contexto disponible antes Y después del cursor |
| Generar una función completa | Chat | No se necesita suffix |
| Completar un archivo de configuración | FIM | El formato y la estructura existentes guían la finalización |
| Explicar código | Chat | Tarea en lenguaje natural, no de finalización |
| Escribir pruebas unitarias | Chat o FIM | FIM si el archivo de prueba ya existe parcialmente |
Sacar el máximo partido a FIM
La calidad de la finalización depende, en primer lugar, del contexto que proporciones. Incluye en el prompt las importaciones, la clase padre y las funciones vecinas. Esto indica al modelo qué bibliotecas están disponibles y qué estilo debe adoptar. El suffix merece una atención especial, ya que sin él, FIM degenera en una generación estándar y pierde su valor.
En cuanto a la configuración, el autocompletado en el IDE funciona mejor con temperature=0, de modo que la misma situación produzca siempre la misma sugerencia. Un desarrollador que vea cambiar la propuesta con cada pulsación de tecla acabará desactivándola. Mantén max_tokens bajo, entre 50 y 200, puesto que estás completando una línea o un bloque, no un módulo entero. Por último, los tokens de parada evitan el desbordamiento: stop=["\n\n"] corta la generación al final del bloque actual en lugar de dejar que el modelo reescriba la mitad del archivo.
Puntos clave
- FIM completa código entre un prompt (antes) y un suffix (después)
- El punto de acceso dedicado es
/v1/fim/completions - El resultado es: prompt + completion + suffix = código completo
- El suffix es esencial para finalizaciones contextuales de alta calidad
- Usa
temperature=0y límites de tokens para el autocompletado en el IDE