Sandboxing και απομόνωση
Σε αυτήν τη σελίδα
Γιατί να απομονώνετε τους πράκτορες ΤΝ;
Ένας πράκτορας ΤΝ που εκτελεί κώδικα ή καλεί εργαλεία διαφέρει θεμελιωδώς από ένα απλό chatbot. Ένα compromised chatbot παράγει, στη χειρότερη περίπτωση, μια αμήχανη απάντηση· ένας compromised πράκτορας δρα—μπορεί να εκτελέσει εντολές συστήματος, να διαβάσει ευαίσθητα αρχεία ή να επικοινωνήσει με εξωτερικές υπηρεσίες. Όλες οι άμυνες που καλύφθηκαν έως τώρα στόχευαν στην πρόληψη της παραβίασης. Το sandboxing αλλάζει τη στάση: υποθέτει ότι η παραβίαση θα συμβεί τελικά και εστιάζει στον περιορισμό του τι μπορεί να κάνει ένας επιτιθέμενος μόλις βρεθεί μέσα. Αυτή είναι μια θεμελιώδης αλλαγή, γι’ αυτό το sandboxing δεν αντικαθιστά κανένα από τα προηγούμενα επίπεδα.
Επίπεδο 1: Περιορισμός πρόσβασης σε πόρους
Το πρώτο επίπεδο εφαρμόζει την αρχή του ελάχιστου προνομίου σε αρχεία και εντολές. Το βασικό τεχνικό σημείο είναι η χρήση της resolve() πριν τη σύγκριση: χωρίς αυτήν, μια διαδρομή όπως /data/app/uploads/../../etc/passwd ξεκινά με τον επιτρεπόμενο κατάλογο και θα περνούσε έναν αφελή έλεγχο προθέματος. Η επίλυση της πραγματικής διαδρομής ματαιώνει αυτή την περιήγηση, η οποία παραμένει μία από τις πιο κοινές επιθέσεις εναντίον πρακτόρων που χειρίζονται αρχεία.
import os
from pathlib import Path
class SandboxPermissions:
"""Controls access permissions to resources."""
def __init__(self, allowed_folder: str, allowed_commands: list[str]):
self.allowed_folder = Path(allowed_folder).resolve()
self.allowed_commands = set(allowed_commands)
def verify_path(self, path: str) -> bool:
"""Verifies that a path is within the allowed folder."""
resolved_path = Path(path).resolve()
try:
resolved_path.relative_to(self.allowed_folder)
return True
except ValueError:
return False
def verify_command(self, command: str) -> bool:
"""Verifies that a command is in the allowlist."""
cmd_base = command.split()[0] if command else ""
return cmd_base in self.allowed_commands
def read_file(self, path: str) -> str:
"""Secure reading with path verification."""
if not self.verify_path(path):
raise PermissionError(
f"Access denied: {path} is outside the allowed folder"
)
return Path(path).read_text()
# Usage
sandbox = SandboxPermissions(
allowed_folder="/data/app/uploads",
allowed_commands=["ls", "cat", "wc"],
)
# OK: file in allowed folder
try:
content = sandbox.read_file("/data/app/uploads/report.txt")
except PermissionError as e:
print(f"Blocked: {e}")
# Blocked: path traversal attempt
try:
content = sandbox.read_file("/data/app/uploads/../../etc/passwd")
except PermissionError as e:
print(f"Blocked: {e}")
Οι εντολές ακολουθούν την ίδια λογική, χρησιμοποιώντας μια λίστα επιτρεπόμενων (allowlist) αντί για μια λίστα αποκλεισμένων (blocklist). Η ασυμμετρία είναι καθοριστική: μια blocklist σας αναγκάζει να φανταστείτε κάθε επικίνδυνη εντολή—μια άσκηση που θα χάσετε—ενώ μια allowlist απαιτεί μόνο να απαριθμήσετε όσα χρειάζεται πραγματικά ο πράκτορας, συχνά μόνο τρεις ή τέσσερις εντολές.
Επίπεδο 2: Έλεγχος της εξερχόμενης κίνησης
Η απομόνωση δικτύου αντιμετωπίζει το σενάριο διαρροής δεδομένων (exfiltration) που συζητήθηκε νωρίτερα. Όσο ο πράκτορας μπορεί να στείλει ένα αίτημα HTTP σε οποιονδήποτε τομέα, οποιοδήποτε δεδομένο αγγίζει μπορεί να εγκαταλείψει το περίμετρό σας, και η εξερχόμενη κίνηση θα μοιάζει με συνηθισμένη κίνηση εφαρμογής. Ο περιορισμός των προορισμών σε μια ρητή λίστα μετατρέπει μια απόπειρα διαρροής σε μια καταγεγραμμένη εξαίρεση.
import subprocess
class NetworkSandbox:
"""Controls the agent's network communications."""
def __init__(self, allowed_domains: list[str]):
self.allowed_domains = set(allowed_domains)
def is_allowed_request(self, url: str) -> bool:
"""Verifies that a URL is in the allowlist."""
from urllib.parse import urlparse
domain = urlparse(url).hostname
return domain in self.allowed_domains
def secure_fetch(self, url: str) -> str:
"""HTTP request with domain verification."""
if not self.is_allowed_request(url):
raise PermissionError(f"Domain not allowed: {url}")
import urllib.request
with urllib.request.urlopen(url, timeout=10) as resp:
return resp.read().decode()
sandbox_net = NetworkSandbox(
allowed_domains=["api.openai.com", "api.anthropic.com"]
)
# OK
try:
sandbox_net.secure_fetch("https://api.openai.com/v1/models")
except PermissionError as e:
print(e)
# Blocked: exfiltration to an external domain
try:
sandbox_net.secure_fetch("https://attacker.com/collect")
except PermissionError as e:
print(f"Blocked: {e}")
Επίπεδο 3: Εκτέλεση κώδικα χωρίς εμπιστοσύνη στη μηχανή
Η εκτέλεση κώδικα γραμμένου από ένα μοντέλο είναι η πιο λεπτή περίπτωση. Η υλοποίηση παρακάτω συνδυάζει τρεις προστασίες: έλεγχο εισαγωγών (imports) πριν την εκτέλεση, όρια μνήμης και χρόνου CPU που ορίζονται μέσα στο ίδιο το script, και ένα περιβάλλον μειωμένο στο απολύτως απαραίτητο κατά την εκκίνηση της subprocess.
Μια προειδοποίηση είναι απαραίτητη σχετικά με την επαλήθευση των imports. Βασίζεται σε αναζήτηση κειμένου και ένας προσεκτικός επιτιθέμενος θα την παρακάμψει—το __import__("os") δεν περιέχει τη συμβολοσειρά που αναζητείται. Αντιμετωπίστε αυτή την επαλήθευση ως μια δικλείδα ασφαλείας against λάθη και αφελείς απόπειρες, ποτέ ως όριο ασφαλείας. Το πραγματικό όριο είναι η απομονωμένη διαδικασία με τα όρια πόρων της.
import subprocess
import tempfile
import os
class ExecutionSandbox:
"""Executes model-generated code in an isolated environment."""
def __init__(self, timeout: int = 10, max_memory_mb: int = 256):
self.timeout = timeout
self.max_memory = max_memory_mb
def execute_python(self, code: str) -> dict:
"""Executes Python code in an isolated process."""
# Security checks before execution
dangerous_imports = ["os", "subprocess", "shutil", "socket", "requests"]
for imp in dangerous_imports:
if f"import {imp}" in code or f"from {imp}" in code:
return {
"success": False,
"error": f"Forbidden import: {imp}",
"output": "",
}
# Create a temporary file
with tempfile.NamedTemporaryFile(
mode="w", suffix=".py", delete=False
) as f:
# Add restrictions at the start of the script
wrapper = f"""
import resource
import sys
# Limit memory
resource.setrlimit(resource.RLIMIT_AS, ({self.max_memory * 1024 * 1024}, {self.max_memory * 1024 * 1024}))
# Limit CPU time
resource.setrlimit(resource.RLIMIT_CPU, ({self.timeout}, {self.timeout}))
# User code
{code}
"""
f.write(wrapper)
temp_file = f.name
try:
result = subprocess.run(
["python3", temp_file],
capture_output=True,
text=True,
timeout=self.timeout,
env={"PATH": "/usr/bin", "HOME": "/tmp"},
)
return {
"success": result.returncode == 0,
"output": result.stdout[:5000],
"error": result.stderr[:2000] if result.returncode != 0 else "",
}
except subprocess.TimeoutExpired:
return {"success": False, "error": "Timeout exceeded", "output": ""}
finally:
os.unlink(temp_file)
# Usage
sandbox = ExecutionSandbox(timeout=5, max_memory_mb=128)
# OK: simple calculation
result = sandbox.execute_python("print(sum(range(100)))")
print(result) # {"success": True, "output": "4950\n", "error": ""}
# Blocked: system access attempt
result = sandbox.execute_python("import os; os.listdir('/')")
print(result) # {"success": False, "error": "Forbidden import: os"}
Για περιπτώσεις παραγωγής, το Docker παρέχει πιο robust απομόνωση επειδή δεν βασίζεται πλέον στη συνεργασία του εκτελούμενου κώδικα. Κάθε επιλογή εντολής κλείνει μια συγκεκριμένη πόρτα: το --network=none αφαιρεί κάθε πιθανότητα διαρροής μέσω δικτύου, το --read-only αποτρέπει την επιμονή δεδομένων (persistence), τα --memory και --cpus περιορίζουν την κατανάλωση, το --tmpfs παρέχει volatile και περιορισμένο χώρο εργασίας, και το --security-opt=no-new-privileges απαγορεύει την κλιμάκωση δικαιωμάτων κατά την εκτέλεση. Η σημαία --rm καταστρέφει το container στο τέλος, εγγυώμενη ότι καμία κατάσταση δεν επιβιώνει από μια εκτέλεση στην επόμενη.
class DockerSandbox:
"""Executes code in an ephemeral Docker container."""
def __init__(self, image: str = "python:3.12-slim"):
self.image = image
def execute(self, code: str, timeout: int = 10) -> dict:
"""Executes code in an isolated container."""
cmd = [
"docker", "run", "--rm",
"--network=none", # No network
"--memory=256m", # Memory limit
"--cpus=0.5", # CPU limit
"--read-only", # Read-only filesystem
"--tmpfs=/tmp:size=50m", # Limited temporary space
"--security-opt=no-new-privileges",
self.image,
"python3", "-c", code,
]
try:
result = subprocess.run(
cmd, capture_output=True, text=True, timeout=timeout
)
return {
"success": result.returncode == 0,
"output": result.stdout[:5000],
"error": result.stderr[:2000],
}
except subprocess.TimeoutExpired:
return {"success": False, "error": "Timeout", "output": ""}
Επιλογή του σωστού επιπέδου
Η στοίβαξη και των τριών επιπέδων σε ένα απλό chatbot FAQ είναι δαπανηρή και περιττή, ενώ η reliance μόνο στο πρώτο επίπεδο για έναν πράκτορα που εκτελεί κώδικα ισοδυναμεί με το να μην προστατεύετε τίποτα. Ο παρακάτω πίνακας παρέχει ένα σημείο εκκίνησης· προσαρμόστε τον με βάση την ευαισθησία των προσβάσιμων δεδομένων, κάτι που συχνά έχει μεγαλύτερη σημασία από την πολυπλοκότητα του πράκτορα.
| Σενάριο | Συνιστώμενο επίπεδο |
|---|---|
| Απλό chatbot ερωτήσεων-απαντήσεων | Δικαιώματα (Επίπεδο 1) |
| Πράκτορας με πρόσβαση σε API | Δικαιώματα + Δίκτυο (Επίπεδα 1-2) |
| Πράκτορας εκτέλεσης κώδικα | Πλήρες Docker (Επίπεδο 3) |
| Πράκτορας πολλαπλών χρηστών | Docker + απομόνωση συνεδρίας |
Όποιο επίπεδο κι αν επιλέξετε, δοκιμάστε το όπως θα δοκιμάζατε μια λειτουργία. Ένα sandbox που εγκαθιστάτε και μετά ξεχνάτε υποβαθμίζεται σιωπηλά με την πάροδο του χρόνου—μια προστιθέμενη εξάρτηση, ένας τόμος που προσαρτήθηκε «προσωρινά», ένας τομέας που ανοίχτηκε για αντιμετώπιση προβλημάτων. Επαναλάβετε τις δοκιμές path traversal και απαγορευμένων τομέων με κάθε ενημέρωση του πράκτορα: μια παράκαμψη sandbox δεν είναι μια μικρή ανωμαλία, είναι ένα κρίσιμο συμβάν.
Βασικά σημεία
- Το sandboxing είναι απαραίτητο μόλις ένας πράκτορας έχει πρόσβαση σε εργαλεία ή εκτελεί κώδικα
- Τρία επίπεδα απομόνωσης: δικαιώματα, δίκτυο, container—συνδυάστε τα με βάση τον κίνδυνο
- Η αρχή του ελάχιστου προνομίου εφαρμόζεται σε κάθε πόρο: αρχεία, δίκτυο, εντολές
- Το Docker με
--network=noneκαι--read-onlyπαρέχει την πιο robust απομόνωση - Η απομόνωση πρέπει να ελέγχεται τακτικά—μια παράκαμψη sandbox είναι ένα κρίσιμο συμβάν