Ir para o conteúdo principal
Português— Escolher um idioma
Menu

Sandboxing e isolamento

Aula 7 de 14 Atualizada a 28 de julho de 2026 Avancado
Nesta página
  1. Por que isolar agentes de IA?
  2. Nível 1: Restringir o acesso a recursos
  3. Nível 2: Controlar o tráfego de saída
  4. Nível 3: Executar código sem confiar na máquina
  5. Escolher o nível adequado
  6. Pontos-chave

Por que isolar agentes de IA?

Um agente de IA que executa código ou chama ferramentas é fundamentalmente diferente de um simples chatbot. Um chatbot comprometido produz, na pior das hipóteses, uma resposta embaraçosa; um agente comprometido age — pode executar comandos do sistema, ler ficheiros sensíveis ou comunicar com serviços externos. Todas as defesas abordadas até agora visavam prevenir o comprometimento. O sandboxing altera a postura: assume que o comprometimento acabará por acontecer e foca-se em limitar o que um atacante pode fazer uma vez lá dentro. Esta é uma mudança fundamental, razão pela qual o sandboxing não substitui nenhuma das camadas anteriores.

Nível 1: Restringir o acesso a recursos

O primeiro nível aplica o princípio do menor privilégio a ficheiros e comandos. O ponto técnico chave é utilizar resolve() antes da comparação: sem isso, um caminho como /data/app/uploads/../../etc/passwd começa pelo diretório permitido e passaria numa verificação de prefixo ingénua. Resolver o caminho real derrota esta travessia, que continua a ser um dos ataques mais comuns contra agentes que manipulam ficheiros.

import os
from pathlib import Path

class SandboxPermissions:
    """Controls access permissions to resources."""

    def __init__(self, allowed_folder: str, allowed_commands: list[str]):
        self.allowed_folder = Path(allowed_folder).resolve()
        self.allowed_commands = set(allowed_commands)

    def verify_path(self, path: str) -> bool:
        """Verifies that a path is within the allowed folder."""
        resolved_path = Path(path).resolve()
        try:
            resolved_path.relative_to(self.allowed_folder)
            return True
        except ValueError:
            return False

    def verify_command(self, command: str) -> bool:
        """Verifies that a command is in the allowlist."""
        cmd_base = command.split()[0] if command else ""
        return cmd_base in self.allowed_commands

    def read_file(self, path: str) -> str:
        """Secure reading with path verification."""
        if not self.verify_path(path):
            raise PermissionError(
                f"Access denied: {path} is outside the allowed folder"
            )
        return Path(path).read_text()

# Usage
sandbox = SandboxPermissions(
    allowed_folder="/data/app/uploads",
    allowed_commands=["ls", "cat", "wc"],
)

# OK: file in allowed folder
try:
    content = sandbox.read_file("/data/app/uploads/report.txt")
except PermissionError as e:
    print(f"Blocked: {e}")

# Blocked: path traversal attempt
try:
    content = sandbox.read_file("/data/app/uploads/../../etc/passwd")
except PermissionError as e:
    print(f"Blocked: {e}")

Os comandos seguem a mesma lógica, utilizando uma lista de permissões (allowlist) em vez de uma lista de bloqueio (blocklist). A assimetria é decisiva: uma lista de bloqueio obriga-o a imaginar todos os comandos perigosos — um exercício que perderá —, enquanto uma lista de permissões apenas exige que enumere o que o agente realmente necessita, muitas vezes apenas três ou quatro comandos.

Nível 2: Controlar o tráfego de saída

O isolamento de rede aborda o cenário de exfiltração discutido anteriormente. Enquanto o agente puder enviar um pedido HTTP para qualquer domínio, qualquer dado que toque pode sair do seu perímetro, e o tráfego de saída parecerá tráfego de aplicação comum. Restringir os destinos a uma lista explícita transforma uma tentativa de exfiltração numa exceção registada.

import subprocess

class NetworkSandbox:
    """Controls the agent's network communications."""

    def __init__(self, allowed_domains: list[str]):
        self.allowed_domains = set(allowed_domains)

    def is_allowed_request(self, url: str) -> bool:
        """Verifies that a URL is in the allowlist."""
        from urllib.parse import urlparse
        domain = urlparse(url).hostname
        return domain in self.allowed_domains

    def secure_fetch(self, url: str) -> str:
        """HTTP request with domain verification."""
        if not self.is_allowed_request(url):
            raise PermissionError(f"Domain not allowed: {url}")
        import urllib.request
        with urllib.request.urlopen(url, timeout=10) as resp:
            return resp.read().decode()

sandbox_net = NetworkSandbox(
    allowed_domains=["api.openai.com", "api.anthropic.com"]
)

# OK
try:
    sandbox_net.secure_fetch("https://api.openai.com/v1/models")
except PermissionError as e:
    print(e)

# Blocked: exfiltration to an external domain
try:
    sandbox_net.secure_fetch("https://attacker.com/collect")
except PermissionError as e:
    print(f"Blocked: {e}")

Nível 3: Executar código sem confiar na máquina

Executar código escrito por um modelo é o caso mais delicado. A implementação abaixo combina três proteções: verificação de importações antes da execução, limites de memória e tempo de CPU definidos no próprio script e um ambiente reduzido ao mínimo necessário ao iniciar o subprocesso.

É necessário um aviso relativamente à verificação de importações. Esta baseia-se na pesquisa de texto, e um atacante cuidadoso contorná-la-á — __import__("os") não contém a cadeia pesquisada. Encare esta verificação como uma guarda contra erros e tentativas ingénuas, nunca como uma fronteira de segurança. A verdadeira fronteira é o processo isolado com os seus limites de recursos.

import subprocess
import tempfile
import os

class ExecutionSandbox:
    """Executes model-generated code in an isolated environment."""

    def __init__(self, timeout: int = 10, max_memory_mb: int = 256):
        self.timeout = timeout
        self.max_memory = max_memory_mb

    def execute_python(self, code: str) -> dict:
        """Executes Python code in an isolated process."""
        # Security checks before execution
        dangerous_imports = ["os", "subprocess", "shutil", "socket", "requests"]
        for imp in dangerous_imports:
            if f"import {imp}" in code or f"from {imp}" in code:
                return {
                    "success": False,
                    "error": f"Forbidden import: {imp}",
                    "output": "",
                }

        # Create a temporary file
        with tempfile.NamedTemporaryFile(
            mode="w", suffix=".py", delete=False
        ) as f:
            # Add restrictions at the start of the script
            wrapper = f"""
import resource
import sys

# Limit memory
resource.setrlimit(resource.RLIMIT_AS, ({self.max_memory * 1024 * 1024}, {self.max_memory * 1024 * 1024}))

# Limit CPU time
resource.setrlimit(resource.RLIMIT_CPU, ({self.timeout}, {self.timeout}))

# User code
{code}
"""
            f.write(wrapper)
            temp_file = f.name

        try:
            result = subprocess.run(
                ["python3", temp_file],
                capture_output=True,
                text=True,
                timeout=self.timeout,
                env={"PATH": "/usr/bin", "HOME": "/tmp"},
            )
            return {
                "success": result.returncode == 0,
                "output": result.stdout[:5000],
                "error": result.stderr[:2000] if result.returncode != 0 else "",
            }
        except subprocess.TimeoutExpired:
            return {"success": False, "error": "Timeout exceeded", "output": ""}
        finally:
            os.unlink(temp_file)

# Usage
sandbox = ExecutionSandbox(timeout=5, max_memory_mb=128)

# OK: simple calculation
result = sandbox.execute_python("print(sum(range(100)))")
print(result)  # {"success": True, "output": "4950\n", "error": ""}

# Blocked: system access attempt
result = sandbox.execute_python("import os; os.listdir('/')")
print(result)  # {"success": False, "error": "Forbidden import: os"}

Para casos de produção, o Docker fornece um isolamento mais robusto, pois deixa de depender da cooperação do código executado. Cada opção de comando fecha uma porta específica: --network=none remove qualquer possibilidade de exfiltração de rede, --read-only impede a persistência, --memory e --cpus limitam o consumo, --tmpfs concede um espaço de trabalho volátil e limitado, e --security-opt=no-new-privileges proíbe a escalada durante a execução. A flag --rm destrói o contentor no final, garantindo que nenhum estado sobrevive de uma execução para a outra.

class DockerSandbox:
    """Executes code in an ephemeral Docker container."""

    def __init__(self, image: str = "python:3.12-slim"):
        self.image = image

    def execute(self, code: str, timeout: int = 10) -> dict:
        """Executes code in an isolated container."""
        cmd = [
            "docker", "run", "--rm",
            "--network=none",          # No network
            "--memory=256m",           # Memory limit
            "--cpus=0.5",              # CPU limit
            "--read-only",             # Read-only filesystem
            "--tmpfs=/tmp:size=50m",   # Limited temporary space
            "--security-opt=no-new-privileges",
            self.image,
            "python3", "-c", code,
        ]
        try:
            result = subprocess.run(
                cmd, capture_output=True, text=True, timeout=timeout
            )
            return {
                "success": result.returncode == 0,
                "output": result.stdout[:5000],
                "error": result.stderr[:2000],
            }
        except subprocess.TimeoutExpired:
            return {"success": False, "error": "Timeout", "output": ""}

Escolher o nível adequado

Empilhar os três níveis num simples chatbot de FAQ é dispendioso e desnecessário, enquanto confiar apenas no primeiro nível para um agente que executa código equivale a não proteger nada. A tabela abaixo fornece um ponto de partida; ajuste-a com base na sensibilidade dos dados acessíveis, o que muitas vezes importa mais do que a sofisticação do agente.

Cenário Nível recomendado
Chatbot simples de perguntas e respostas Permissões (Nível 1)
Agente com acesso à API Permissões + Rede (Níveis 1-2)
Agente que executa código Docker completo (Nível 3)
Agente multiutilizador Docker + isolamento de sessão

Seja qual for o nível que escolher, teste-o como testaria uma funcionalidade. Um sandbox que instala e depois esquece degrada-se silenciosamente ao longo do tempo — uma dependência adicionada, um volume montado “temporariamente”, um domínio aberto para resolução de problemas. Volte a executar testes de travessia de caminhos e de domínios proibidos com cada atualização do agente: uma violação do sandbox não é uma anomalia menor, é um incidente crítico.

Pontos-chave

  • O sandboxing é essencial assim que um agente tem acesso a ferramentas ou executa código
  • Três níveis de isolamento: permissões, rede, contentor — combine com base no risco
  • O princípio do menor privilégio aplica-se a todos os recursos: ficheiros, rede, comandos
  • O Docker com --network=none e --read-only fornece o isolamento mais robusto
  • O isolamento deve ser testado regularmente — uma violação do sandbox é um incidente crítico