Ir al contenido principal
Español— Elegir un idioma
Menú

Moderación automática y política de uso

Lección 9 de 12 Actualizado el 28 de julio de 2026 Avanzado
En esta página
  1. Moderación: protección de tus usuarios y de tu negocio
  2. El sistema de moderación de xAI
  3. Tarifas por infracción de la política de uso
  4. Implementación de tu propia capa de moderación
  5. El sistema de notificaciones: tus usuarios como sensores
  6. Qué debe estar listo antes del lanzamiento público
  7. Puntos clave

Moderación: protección de tus usuarios y de tu negocio

Un error común entre los equipos que despliegan su primera aplicación en la API de Grok es pensar que la moderación es problema de xAI. De hecho, en cuanto tu aplicación entra en producción, tú eres responsable del contenido generado y de las interacciones de tus usuarios: legal, comercial y reputacionalmente. Si tu chatbot de atención al cliente empieza a generar contenido inapropiado cuando un usuario lo provoca, el nombre que aparecerá en la captura de pantalla será el de tu empresa. La moderación automática es, por tanto, una capa de protección esencial: filtra contenido inapropiado, peligroso o que infrinja la política antes de que llegue a la API o a tus usuarios.

El sistema de moderación de xAI

La API de Grok integra mecanismos de moderación que se aplican en ambas direcciones: a las solicitudes que envías y a las respuestas generadas. Cuando el contenido se marca como problemático, la API puede negarse a generar una respuesta o filtrar ciertos elementos. Esta es una primera línea de defensa útil, pero debes entender sus límites; uno de ellos merece especial atención.

Para el servicio de texto a voz (TTS), xAI tomó una decisión de diseño que debes conocer: el modo fail-open (fallo abierto). En concreto, si el sistema de moderación encuentra un error al procesar tu solicitud de TTS, la solicitud se acepta en lugar de rechazarse. La intención es legítima: garantizar la continuidad del servicio para que tu aplicación de voz no se caiga porque un filtro interno haya fallado. Pero la consecuencia directa te afecta a ti: en estos casos, puede colarse contenido sin moderar. El modo fail-open traslada, por tanto, parte de la responsabilidad a ti. No es un defecto oculto; es un contrato implícito: xAI prioriza la disponibilidad y tú debes implementar tus propios filtros para complementarla.

Tarifas por infracción de la política de uso

La política de uso de xAI no es solo contractual; también conlleva un coste económico. Cada solicitud que infrinja las condiciones de uso se factura con un cargo adicional de 0,05 $ sobre el coste normal de la llamada a la API. El mecanismo está diseñado como elemento disuasorio: una aplicación mal filtrada cuyos usuarios envíen solicitudes abusivas en masa verá dispararse su factura, y las infracciones repetidas pueden llevar a la suspensión de la cuenta. Las infracciones habituales incluyen la generación de contenido ilegal, intentos de eludir los filtros de seguridad, uso abusivo para spam o acoso, y el incumplimiento de las restricciones de edad. En resumen: cada solicitud tóxica que detenga tu premoderación es tanto un riesgo evitado como un ahorro directo.

Implementación de tu propia capa de moderación

La moderación de tu aplicación funciona en dos fases. La premoderación intercepta las solicitudes antes de que lleguen a la API:

def moderate_input(user_message):
    # Lista de palabras clave bloqueadas (personalizar según sea necesario)
    blocked_patterns = [...]

    # Comprobación de longitud
    if len(user_message) > 10000:
        return False, "Mensaje demasiado largo"

    # Comprobación de contenido
    for pattern in blocked_patterns:
        if pattern in user_message.lower():
            return False, "Contenido no autorizado"

    return True, None

Incluso un filtro tan sencillo como este aporta un valor real: bloquea los abusos más graves antes de que incurran en el coste de una llamada a la API y, potencialmente, en tarifas por infracción. La postmoderación examina las respuestas antes de mostrarlas al usuario:

def moderate_output(api_response):
    content = api_response["choices"][0]["message"]["content"]

    # Comprobación automática
    if contains_pii(content):
        content = redact_pii(content)

    # Registro para auditoría
    log_moderation_event(content)

    return content

Observa el registro sistemático: cada evento de moderación registrado respalda tus auditorías de cumplimiento y te permite medir qué capturan tus filtros con el tiempo.

Estas dos capas deben calibrarse según el contexto de tu aplicación, porque no existe una moderación universal. Una aplicación educativa para menores requerirá un filtrado estricto de contenido para adultos, aunque ello suponga generar algunos falsos positivos. Una aplicación médica, por el contrario, debe permitir vocabulario clínico que un filtro genérico bloquearía («dosificación», «síntomas», descripciones anatómicas), al tiempo que filtra consejos peligrosos. Una aplicación empresarial se centrará en evitar fugas de información confidencial en las respuestas. La misma palabra puede ser legítima en un contexto e inaceptable en otro: tu política de uso debe decidirlo, y por escrito.

El sistema de notificaciones: tus usuarios como sensores

Ningún filtro automático lo capta todo. Tus usuarios ven todo lo que produce tu aplicación; dales las herramientas para alertarte. Un sistema de notificaciones eficaz comienza con un botón de reporte en cada respuesta de la IA, ofrece una categorización sencilla (contenido ofensivo, información incorrecta, fuga de datos), alimenta una cola de revisión para tu equipo de moderación humana y cierra con un bucle de retroalimentación: cada informe confirmado se convierte en una regla o patrón añadido a tus filtros. Así es como la moderación mejora continuamente en lugar de permanecer estática desde el lanzamiento.

Qué debe estar listo antes del lanzamiento público

Repasemos todo en el orden en que debes verificarlo. Empieza con una política de uso escrita que defina qué es aceptable y qué no; sin ella, tus desarrolladores arbitrarán caso por caso y tu moderación será inconsistente. Sobre esta base vienen las dos capas técnicas: premoderación de las entradas del usuario y, después, postmoderación de las respuestas de la API.

A continuación, verifica que el sistema de notificaciones sea realmente accesible para los usuarios y que las alertas se activen cuando se detecten infracciones: un filtro que bloquea en silencio no te enseña nada sobre lo que está ocurriendo. Por último, prueba con casos límite: intentos de elusión, contenido ambiguo, giros lingüísticos desviados, porque es precisamente ahí donde se determina la calidad de la moderación. Y documenta todo para tus necesidades de cumplimiento: una política de moderación que solo existe en la cabeza del desarrollador principal no es una política.

Precios a 5 de agosto de 2026: los precios cambian con frecuencia; antes de presupuestar, consulta la tarifa actual en la página oficial de modelos y precios de xAI.

Puntos clave

  • El TTS utiliza el modo fail-open: si el filtro falla, la solicitud pasa; debes complementarlo
  • Las infracciones de uso cuestan un cargo adicional de 0,05 $ por solicitud sobre la tarifa normal y pueden llevar a la suspensión de la cuenta
  • Implementa tu propia moderación (premoderación de entrada, postmoderación de salida) además de la de xAI
  • Adapta los filtros al contexto de tu aplicación: educativo, médico y empresarial tienen normas diferentes
  • Un sistema de notificaciones de usuarios impulsa la mejora continua de tus filtros