Ασφάλεια και απομόνωση (sandboxing)
Σε αυτήν τη σελίδα
Μάθημα αναθεωρήθηκε στις 3 Νοεμβρίου 2026 με βάση τον οδηγό Computer use της OpenAI, τις συνταγές ενσωμάτωσης Computer use και την τεκμηρίωση δικτύωσης των Docker και Playwright. Προσθήκες: οι τέσσερις κανόνες ασφαλείας της OpenAI, τα επίπεδα επιβεβαίωσής της και η αναγνώριση του
pending_safety_checks. Διορθώσεις: η προηγούμενη έκδοση απέκοπτε το δίκτυο για ένα container που χρειαζόταν να καλέσει το API, άφηνε τον διακομιστή μεσολάβησης (proxy) χωρίς εξερχόμενη πρόσβαση, δεχόταν τοnotexample.comσε ένα φίλτρο που προοριζόταν να επιτρέπει μόνο τοexample.com, χαλούσε τη μορφοποίηση των αρχείων καταγραφής (logs) και εκτιμούσε το κόστος χρησιμοποιώντας έναν μόνο σταθερό ρυθμό. Πηγές: Computer use · Συνταγές ενσωμάτωσης · Playwright και Docker · Playwright, δικτύωση.
Παροχή ελέγχου σε μια ΤΝ: οι κίνδυνοι
Το Computer Use δίνει σε ένα μοντέλο ΤΝ την ικανότητα να ενεργεί σε έναν υπολογιστή. Αυτό είναι ισχυρό, αλλά μπορεί να είναι επικίνδυνο. Ένας κακώς ρυθμισμένος πράκτορας θα μπορούσε να περιηγηθεί σε κακόβουλους ιστότοπους, να εκτελέσει αυθαίρετο κώδικα ή να εκθέσει ευαίσθητα δεδομένα. Αυτό δεν είναι θεωρητικό: μια επισκεφθείσα σελίδα θα μπορούσε να περιέχει οδηγίες γραμμένες για το μοντέλο και, αν το περιβάλλον δεν το περιορίζει, το μοντέλο θα τις ακολουθήσει σαν να ήταν δικό σας αίτημα. Η ασφάλεια δεν είναι προαιρετική—είναι η βάση κάθε ανάπτυξης σε παραγωγικό περιβάλλον.
Οι τέσσερις κανόνες της OpenAI
Η OpenAI συνοψίζει την ασφάλεια του Computer Use σε τέσσερις κανόνες. Εφαρμόστε τους στην εφαρμογή σας και στο περιβάλλον εκτέλεσης, όχι μόνο στις οδηγίες του μοντέλου:
- Περιορίστε το περιβάλλον. Χρησιμοποιήστε έναν απομονωμένο περιηγητή ή εικονική μηχανή, μια λίστα επιτρεπόμενων (allowlist) ιστότοπων και ενεργειών, και περιορίστε την πρόσβαση σε ό,τι απαιτεί η εργασία.
- Αντιμετωπίστε το περιεχόμενο της οθόνης ως μη έμπιστο. Το κείμενο από μια σελίδα, ένα έγγραφο ή την έξοδο ενός εργαλείου δεν μπορεί να χορηγήσει άδεια ή να αντικαταστήσει τις οδηγίες του χρήστη. Αν μια σελίδα μοιάζει με phishing ή ένεση prompt (prompt injection), ο πράκτορας σταματά και ρωτά πώς να προχωρήσει.
- Επιβεβαιώστε τις κρίσιμες ενέργειες. Οι αγορές, η μετάδοση δεδομένων, οι καταστροφικές αλλαγές και οτιδήποτε δύσκολο να αναιρεθεί παραμένουν υπό τον έλεγχο του χρήστη. Η πληκτρολόγηση ευαίσθητων πληροφοριών σε μια φόρμα μετρά ήδη ως μετάδοση.
- Οριοθετήστε και επαληθεύστε την εκτέλεση. Θέστε όρια στους γύρους (turns), τη διάρκεια ή το κόστος· παρέχετε έναν τρόπο ακύρωσης· και επαληθεύστε το πραγματικό αποτέλεσμα, όχι μόνο το τελικό μήνυμα του μοντέλου.
Το σημείο εκκίνησης είναι απλό: το αίτημα του μοντέλου να δράσει δεν αποτελεί άδεια χρήστη. Ο κώδικάς σας αποφασίζει αν θα εκτελέσει, θα κάνει παύση για έγκριση ή θα επιστρέψει τον έλεγχο. Για μια δέσμη ενεργειών, σταματήστε πριν από την πρώτη που απαιτεί επιβεβαίωση.
Τρία επίπεδα επιβεβαίωσης
Η OpenAI διακρίνει τρεις καταστάσεις, με παραδείγματα που μπορείτε να υιοθετήσετε στην πολιτική σας:
| Επίπεδο | Παραδείγματα που αναφέρει η OpenAI |
|---|---|
| Ο χρήστης αναλαμβάνει ξανά τον έλεγχο | Τελικό βήμα αλλαγής κωδικού πρόσβασης· παράκαμψη ενός φραγμού ασφαλείας, όπως μια προειδοποίηση HTTPS |
| Επιβεβαίωση τη στιγμή της ενέργειας | Διαγραφή δεδομένων, αλλαγή δικαιωμάτων ή ρυθμίσεων κοινής χρήσης, επίλυση CAPTCHA, εγκατάσταση ή εκτέλεση ληφθέντος λογισμικού, αποστολή ή δημοσίευση εκ μέρους του χρήστη, οικονομικές συναλλαγές, ρυθμίσεις συστήματος |
| Προ-έγκριση δυνατή στο αρχικό αίτημα | Σύνδεση σε έναν ιστότοπο που ζήτησε ο χρήστης να επισκεφθεί, αποστολή αρχείων, μετακίνηση ή μετονομασία αρχείων, μετάδοση ευαίσθητων δεδομένων των οποίων η συγκεκριμένη χρήση εγκρίθηκε |
Χωρίς σαφή έγκριση στο αρχικό αίτημα, επιβεβαιώστε ακριβώς πριν από την ενέργεια. Μην ρωτάτε πολύ νωρίς: αφήστε τον πράκτορα να προχωρήσει σε ό,τι είναι ασφαλές, μετά σταματήστε στο σημείο κινδύνου και εξηγήστε την ενέργεια, τον κίνδυνο και το πώς θα εφαρμοστούν τα δεδομένα ή η αλλαγή. Αν ο χρήστης αρνηθεί, τίποτα δεν εκτελείται και ο κώδικάς σας λέει στο μοντέλο τι πέτυχε και τι απέτυχε.
Η αρχή του ελάχιστου προνομίου
Ο πράκτοράς σας πρέπει να έχει πρόσβαση μόνο στο απολύτως απαραίτητο για την ολοκλήρωση της εργασίας του. Ξεκινήστε με έναν απομονωμένο περιηγητή—ποτέ τον κύριο περιηγητή του χρήστη, ο οποίος διατηρεί ανοιχτές συνεδρίες για email, τραπεζικές συναλλαγές και εσωτερικά εργαλεία. Ο πράκτορας επίσης δεν χρειάζεται πρόσβαση στο σύστημα αρχείων εκτός από έναν αφιερωμένο φάκελο λήψης, δεν χρειάζεται πρόσβαση στο εσωτερικό δίκτυο εκτός αν μια επαγγελματική εφαρμογή το απαιτεί, και δεν πρέπει να έχει δικαιώματα διαχειριστή που θα μπορούσαν να μετατρέψουν ένα λανθασμένο κλικ σε περιστατικό συστήματος. Μην προσαρτάτε (mount) προσωπικά αρχεία, διαπιστευτήρια ή το socket του Docker στο περιβάλλον του. Τέλος, κάντε τη συνεδρία εφήμερη: διαγράψτε τα δεδομένα μετά από κάθε εκτέλεση, ώστε μια ροή εργασίας να μην επαναχρησιμοποιήσει κατά λάθος cookies ή cache από την προηγούμενη.
Απομόνωση (Sandboxing) με Docker
Δύο ερωτήματα προκύπτουν: πού εκτελείται ο περιηγητής και πού ζουν ο βρόχος και το κλειδί API; Η συνταγή Docker της OpenAI απομονώνει μια επιφάνεια εργασίας σε ένα container χωρίς δίκτυο, ελεγχόμενο από τον κεντρικό υπολογιστή (host) μέσω docker exec: μόνο το SDK στον host διαβάζει το κλειδί. Αυτή είναι η πιο αυστηρή διαμόρφωση, αλλά λειτουργεί μόνο για εργασίες που δεν χρειάζονται internet. Για άλλες εργασίες, η OpenAI απαιτεί ένα περιβάλλον του οποίου το εξερχόμενο δίκτυο επιτρέπει μόνο τους ιστότοπους της εργασίας.
Αν διατηρήσετε το Playwright και ο πράκτορας πρέπει να περιηγείται, μπορείτε να βάλετε τον βρόχο και τον περιηγητή στο ίδιο container, υπό την προϋπόθεση τριών συνθηκών: ένας μη προνομιούχος χρήστης, ένας περιηγητής που δεν κληρονομεί μεταβλητές περιβάλλοντος (ώστε να μην πάρει το κλειδί) και εξερχόμενο δίκτυο περιορισμένο στους ιστότοπους της εργασίας και στο API.
# Εικόνα Playwright για Python: περιηγητές και εξαρτήματα συστήματος συμπεριλαμβάνονται
FROM mcr.microsoft.com/playwright/python:v1.64.1-noble
WORKDIR /app
# Το πακέτο playwright δεν βρίσκεται στην εικόνα: requirements.txt
# Καρφιτσώστε το playwright==1.64.1, την ίδια έκδοση με την εικόνα
COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt
COPY src/ ./src/
# Μη προνομιούχος χρήστης που παρέχεται από την εικόνα
USER pwuser
CMD ["python", "src/main.py"]
Το Playwright συνιστά την καρφιτσώματα (pinning) της έκδοσης της εικόνας. Η εικόνα παρέχει τους περιηγητές, όχι τη βιβλιοθήκη Python: εγκαταστήστε την ίδια έκδοση του πακέτου playwright. Μην εκτελείτε το container ως root, καθώς αυτό απενεργοποιεί το sandbox του Chromium. Για μη έμπιστους ιστότοπους, το Playwright συνιστά επίσης το προφίλ seccomp του, το οποίο προσθέτει τις κλήσεις συστήματος που χρειάζεται αυτό το sandbox στο προεπιλεγμένο προφίλ του Docker.
docker run --rm --init \
--network agent-net \
--security-opt seccomp=seccomp_profile.json \
--ipc=host \
--memory=2g --cpus=1.5 --pids-limit=256 \
-e OPENAI_API_KEY \
computer-use-agent
Το --init αποτρέπει τις διαδικασίες ζόμπι και το --ipc=host, που συνιστάται από το Playwright, αποτρέπει την εξάντληση της κοινόχρηστης μνήμης από το Chromium και την κατάρρευσή του. Ωστόσο, αυτή η ρύθμιση κοινοποιεί τον χώρο ονομάτων IPC του host με το container. Αν προτιμάτε να μην το ανοίξετε, αυξήστε την κοινόχρηστη μνήμη με το --shm-size αντίθετα, όπως κάνει η συνταγή της OpenAI για το δικό της container, και δοκιμάστε στις πιο βαριές σελίδες σας. Τέλος, το -e OPENAI_API_KEY χωρίς τιμή κληρονομεί τη μεταβλητή από τη συνεδρία σας: το κλειδί δεν εμφανίζεται ως απλό κείμενο στη γραμμή εντολών.
Στην πλευρά της Python, εκκινήστε τον περιηγητή με τις προφυλάξεις από τη συνταγή της OpenAI—sandbox ενεργοποιημένο, κενό περιβάλλον, επεκτάσεις και πρόσβαση στο σύστημα αρχείων απενεργοποιημένες—και δρομολογήστε τον μέσω του διακομιστή μεσολάβησης (proxy) από την επόμενη ενότητα, ακριβώς όπως ο πελάτης API:
from openai import DefaultHttpx2Client, OpenAI
from playwright.sync_api import sync_playwright
PROXY = "http://agent-proxy:3128"
# Οι κλήσεις API εξέρχονται μέσω του φίλτρου proxy
client = OpenAI(http_client=DefaultHttpx2Client(proxy=PROXY))
pw = sync_playwright().start()
browser = pw.chromium.launch(
headless=True,
chromium_sandbox=True,
env={}, # ο περιηγητής δεν κληρονομεί μεταβλητές περιβάλλοντος, άρα όχι το κλειδί
args=["--disable-extensions", "--disable-file-system"],
proxy={"server": PROXY},
)
context = browser.new_context(
viewport={"width": 1280, "height": 720},
service_workers="block", # δείτε παρακάτω το φιλτράρισμα URL
)
page = context.new_page()
Στοχευμένοι περιορισμοί δικτύου
Τοποθετήστε το container του πράκτορα σε ένα εσωτερικό δίκτυο Docker χωρίς εξωτερική πρόσβαση. Ένας διακομιστής μεσολάβησης Squid εντάσσεται σε αυτό το δίκτυο και γίνεται η μοναδική του έξοδος· ο διακομιστής μεσολάβησης συνδέεται επίσης σε ένα κανονικό δίκτυο. Οτιδήποτε δεν επιτρέπεται ρητά δεν υπάρχει από την οπτική γωνία του πράκτορα.
# Εσωτερικό δίκτυο: χωρίς άμεση εξωτερική πρόσβαση
docker network create --internal agent-net
# Εξερχόμενο δίκτυο, κρατημένο για τον διακομιστή μεσολάβησης
docker network create sortie-proxy
# Διακομιστής μεσολάβησης Squid (εικόνα που συντηρείται από την Canonical) με τη λίστα επιτρεπόμενων
docker run -d --name agent-proxy --network sortie-proxy \
-v "$PWD/squid.conf:/etc/squid/squid.conf:ro" \
ubuntu/squid:6.6-24.04_beta
# Ο διακομιστής μεσολάβησης εντάσσεται στο εσωτερικό δίκτυο: αυτή είναι η μοναδική έξοδος του πράκτορα
docker network connect agent-net agent-proxy
# squid.conf: επιτρέψτε μόνο τους τομείς της εργασίας και το API
http_port 3128
acl autorises dstdomain .example.com api.openai.com
http_access allow autorises
http_access deny all
Το βασικό σημείο: ο διακομιστής μεσολάβησης συνδέεται και στα δύο δίκτυα. Αν τον εκκινούσατε μόνο στο εσωτερικό δίκτυο, δεν θα είχε ο ίδιος εξερχόμενη πρόσβαση. Το api.openai.com βρίσκεται στη λίστα επειδή, σε αυτή τη ρύθμιση, ο κώδικας του πράκτορα καλεί το API από μέσα στο container. Ο περιηγητής δεν το χρειάζεται: το φίλτρο URL στην επόμενη ενότητα μπλοκάρει αυτές τις κλήσεις από τη σελίδα.
Φιλτράρισμα URL
Ένα δεύτερο, πιο λεπτό φράγμα βρίσκεται στον ίδιο τον περιηγητή. Αναχαιτίζοντας τα αιτήματα με το page.route, συγκρίνετε κάθε URL με τη λίστα επιτρεπόμενων (allowlist) που είναι συγκεκριμένη για την εργασία—συχνά μικρότερη από αυτή του διακομιστή μεσολάβησης—και ματαιώστε τα υπόλοιπα, με ένα ευανάγνωστο αρχείο καταγραφής για κάθε αποκλεισμό. Προσοχή στην παγίδα σύγκρισης συμβολοσειρών για την οποία προειδοποιεί η OpenAI: το https://example.com.evil.test δεν πρέπει να περάσει ως https://example.com, και αντιστρόφως το notexample.com τελειώνει σε example.com. Συγκρίνετε το σχήμα (scheme), τον ακριβή host (ή ένα υποτομέα με πρόθεμα μια τελεία) και τη θύρα.
from urllib.parse import urlparse
def setup_url_filter(page, allowed_domains: list[str]):
"""Αποκλεισμός αιτημάτων προς μη εξουσιοδοτημένους προορισμούς."""
def autorisee(url: str) -> bool:
parties = urlparse(url)
hote = parties.hostname or ""
return (
parties.scheme == "https"
and parties.port in (None, 443)
and any(hote == d or hote.endswith("." + d) for d in allowed_domains)
)
def check_navigation(route):
if autorisee(route.request.url):
route.continue_()
else:
print(f" BLOQUÉ : {route.request.url}")
route.abort()
page.route("**/*", check_navigation)
# Ο περιηγητής χρειάζεται μόνο τους ιστότοπους της εργασίας: οι κλήσεις API προέρχονται από τον κώδικα Python, όχι από τη σελίδα.
setup_url_filter(page, ["example.com"])
Αυτό το επίπεδο συμπληρώνει τον διακομιστή μεσολάβησης· δεν τον αντικαθιστά. Το Playwright σημειώνει ότι το page.route δεν αναχαιτίζει αιτήματα που διαχειρίζεται ένας service worker, εξ ου και το service_workers="block" στο context, και τα WebSockets χρησιμοποιούν έναν διαφορετικό μηχανισμό (page.route_web_socket). Το φιλτράρισμα δικτύου παραμένει το πρωτεύον φράγμα σας.
Προστασία ευαίσθητων δεδομένων
Απόκρυψη πληροφοριών στα στιγμιότυπα οθόνης
Κάθε στιγμιότυπο οθόνης πηγαίνει στο API: οτιδήποτε είναι ορατό στην οθόνη εγκαταλείπει τις υποδομές σας. Η OpenAI συνιστά να κρατάτε τα διαπιστευτήρια εκτός του κειμένου και των λήψεων της σελίδας. Αν η οθόνη περιέχει ευαίσθητα δεδομένα, αποκρύψτε τα πριν στείλετε τη λήψη στο μοντέλο. Ένα μαύρο ορθογώνιο πάνω σε γνωστές περιοχές αρκεί, υπό την προϋπόθεση ότι γνωρίζετε τις συντεταγμένες τους—γι’ αυτό η τυποποίηση του μεγέθους viewport, όπως καλύφθηκε νωρίτερα σε αυτό το μάθημα, βοηθά. Η απόκρυψη δεν αλλάζει το μέγεθος της εικόνας: οι συντεταγμένες που επιστρέφει το μοντέλο παραμένουν έγκυρες.
import io
from PIL import Image, ImageDraw
def mask_sensitive_areas(screenshot_bytes: bytes, regions: list) -> bytes:
"""Απόκρυψη ευαίσθητων περιοχών σε μια λήψη PNG."""
img = Image.open(io.BytesIO(screenshot_bytes))
draw = ImageDraw.Draw(img)
for x, y, w, h in regions:
draw.rectangle([x, y, x + w, y + h], fill="black")
buffer = io.BytesIO()
img.save(buffer, format="PNG")
return buffer.getvalue()
Γνώση του τι συμβαίνει στις λήψεις
Οι αποκρίσεις του Responses API αποθηκεύονται από προεπιλογή: αυτό είναι που επιτρέπει την αλυσιδωτή εκτέλεση μέσω του previous_response_id. Με store: false, πρέπει να επαναστείλετε εσείς τα στοιχεία από προηγούμενους γύρους. Η OpenAI σημειώνει επίσης ότι το store: false δεν εξαλείφει όλες τις μορφές διατήρησης και οι εικόνες εισόδου έχουν τις δικές τους εξαιρέσεις: διαβάστε τους ελέγχους δεδομένων πριν στείλετε οθόνες που περιέχουν προσωπικά δεδομένα.
Ποτέ καταγραφή ευαίσθητων δεδομένων
Ο ίδιος συλλογισμός ισχύει για τα αρχεία καταγραφής (logs), τα οποία συχνά επιβιώνουν πολύ περισσότερο από τις λήψεις. Ένα φίλτρο καταγραφής ξαναγράφει επικίνδυνα μοτίβα πριν την εγγραφή: αναθέσεις κωδικών πρόσβασης, κλειδιά API της OpenAI που ξεκινούν με sk- και ακολουθίες 16 ψηφίων που μοιάζουν με αριθμούς καρτών. Το φίλτρο ενεργεί στο τελικό μήνυμα, οπότε πιάνει και ό,τι καταγράψατε χωρίς να το σκεφτείτε.
import logging
import re
class SensitiveFilter(logging.Filter):
"""Απόκρυψη ευαίσθητων δεδομένων πριν την εγγραφή των logs."""
PATTERNS = [
(re.compile(r"password['\"]?\s*[:=]\s*['\"]?[^\s,}]+", re.IGNORECASE), "password=***"),
(re.compile(r"\bsk-[A-Za-z0-9_-]{20,}"), "sk-***"),
(re.compile(r"\b\d{16}\b"), "****-****-****-****"),
]
def filter(self, record):
msg = record.getMessage()
for pattern, replacement in self.PATTERNS:
msg = pattern.sub(replacement, msg)
record.msg = msg
record.args = None # το μήνυμα είναι ήδη μορφοποιημένο: μην το ξαναμορφοποιήσετε
return True
handler = logging.StreamHandler()
handler.addFilter(SensitiveFilter()) # στον handler, βλέπει και τους child loggers
logging.basicConfig(level=logging.INFO, handlers=[handler])
Δύο λεπτομέρειες κάνουν τη διαφορά. Η ρύθμιση του record.args σε None είναι απαραίτητη: διαφορετικά, το ήδη μορφοποιημένο μήνυμα θα ξαναμορφοποιούνταν με τα ορίσματά του και οποιοδήποτε % σε ένα URL θα χαλούσε την εγγραφή. Και ένα φίλτρο στον handler εφαρμόζεται σε ό,τι γράφει, ενώ ένα φίλτρο σε έναν logger αγνοεί τα μηνύματα από τους child loggers του.
Έλεγχοι ασφαλείας API
Κάθε computer_call φέρει ένα πεδίο pending_safety_checks: τη λίστα των ελέγχων ασφαλείας που ζητά το API να χειριστείτε πριν εκτελέσετε τις ενέργειες, καθένας με ένα id, code και message. Το επίσημο παράδειγμα της OpenAI σταματά μόλις αυτό δεν είναι κενό. Αν η εφαρμογή σας μπορεί να έχει έναν άνθρωπο να επικυρώσει αυτές τις περιπτώσεις, αναγνωρίστε τις ρητά επιστρέφοντάς τες στο acknowledged_safety_checks, μαζί με το επόμενο στιγμιότυπο οθόνης. Το μοντέλο δεν μπορεί να χορηγήσει αυτή την έγκριση εκ μέρους σας και η αναγνώριση γίνεται πριν την εκτέλεση της ενέργειας, ποτέ μετά.
def valider_verifications(appel) -> list[dict]:
"""Υποβολή εκκρεμών ελέγχων σε χειριστή· άρνηση από προεπιλογή."""
if not appel.pending_safety_checks:
return []
for verification in appel.pending_safety_checks:
print(f"Vérification de sécurité [{verification.code}] : {verification.message}")
if input("Autoriser ces actions ? [o/N] ").strip().lower() != "o":
raise RuntimeError("Actions refusées par l'opérateur")
return [
{"id": v.id, "code": v.code, "message": v.message}
for v in appel.pending_safety_checks
]
# Στον βρόχο, πριν την εκτέλεση ενεργειών:
acquittees = valider_verifications(appel)
executer_actions(page, appel.actions)
sortie = {
"type": "computer_call_output",
"call_id": appel.call_id,
"output": {
"type": "computer_screenshot",
"image_url": f"data:image/png;base64,{capturer_ecran(page)}",
"detail": "original",
},
}
if acquittees:
sortie["acknowledged_safety_checks"] = acquittees
Όρια εκτέλεσης
Υπάρχει επίσης ο πιο κοινός κίνδυνος: ένας πράκτορας που ξεφεύγει χωρίς να σπάσει κάτι, αλλά τρέχει για δύο ώρες και καίει τον προϋπολογισμό σας. Η κλάση ExecutionLimits επιβάλλει τρία ανώτατα όρια—γύρους, διάρκεια και εκτιμώμενο κόστος—και εγείρει μια εξαίρεση μόλις επιτευχθεί ένα από αυτά. Οι ρυθμοί δεν είναι σταθεροί στον κώδικα: αντλήστε τους από το μοντέλο που χρησιμοποιείτε στη σελίδα τιμολόγησης της OpenAI, καθώς διαφέρουν ανά μοντέλο.
import time
class ExecutionLimits:
"""Επιβολή ανώτατων ορίων γύρων, διάρκειας και κόστους στον πράκτορα."""
def __init__(
self,
prix_entree_par_million: float, # ρυθμοί για το μοντέλο σε χρήση
prix_sortie_par_million: float,
max_tours: int = 50,
max_duree_s: int = 300,
max_cout_usd: float = 5.0,
):
self.prix_entree = prix_entree_par_million
self.prix_sortie = prix_sortie_par_million
self.max_tours = max_tours
self.max_duree = max_duree_s
self.max_cout = max_cout_usd
self.debut = time.monotonic()
self.tours = 0
self.cout = 0.0
def verifier(self):
"""Κλήση πριν από κάθε αίτημα: εγείρει σφάλμα αν επιτευχθεί ένα ανώτατο όριο."""
if self.tours >= self.max_tours:
raise RuntimeError(f"Limite de tours atteinte ({self.max_tours})")
if time.monotonic() - self.debut >= self.max_duree:
raise RuntimeError(f"Durée maximale dépassée ({self.max_duree} s)")
if self.cout >= self.max_cout:
raise RuntimeError(f"Budget dépassé ({self.cout:.2f} $)")
def compter(self, response):
"""Κλήση μετά από κάθε απόκριση: συσσώρευση γύρων και εκτιμώμενου κόστους."""
self.tours += 1
self.cout += response.usage.input_tokens / 1_000_000 * self.prix_entree
self.cout += response.usage.output_tokens / 1_000_000 * self.prix_sortie
Αυτή είναι μόνο μια εκτίμηση: υπερεκτιμά τα tokens εισόδου που εξυπηρετούνται από την cache prompt, τα οποία χρεώνονται με μειωμένο συντελεστή, και αγνοεί τυχόν φιλοξενούμενο περιβάλλον, το οποίο χρεώνεται ξεχωριστά. Συγκρίνετέ την τακτικά με την πραγματική χρήση του έργου σας. Θέστε ανώτατα όρια ανά ροή εργασίας: ένα τεστ E2E 30 δευτερολέπτων και μια εισαγωγή τιμολογίου μίας ώρας δεν απαιτούν τα ίδια κατώφλια.
Λίστα ελέγχου ασφαλείας για παραγωγή
Πριν αναπτύξετε έναν πράκτορα Computer Use σε παραγωγή, επαληθεύστε:
- Απομονωμένος περιηγητής ή επιφάνεια εργασίας (container ή εικονική μηχανή), μη προνομιούχος χρήστης
- Εξερχόμενο δίκτυο περιορισμένο στους ιστότοπους της εργασίας και στο API αν ο βρόχος τρέχει στο ίδιο περιβάλλον
- Φίλτρο URL που συγκρίνει σχήμα, host και θύρα· service workers μπλοκαρισμένα
- Κλειδί API κρατημένο εκτός κώδικα και εκτός της εμβέλειας του περιηγητή (
env={}) - Περιεχόμενο οθόνης αντιμετωπιζόμενο ως μη έμπιστο: διακοπή και κλιμάκωση στο πρώτο σημάδι ένεσης
- Επιβεβαίωση από άνθρωπο πριν από αγορές, αποστολές, διαγραφές και εισαγωγή ευαίσθητων δεδομένων
pending_safety_checksποτέ αναγνωρισμένα χωρίς επικύρωση από άνθρωπο- Όρια γύρων, διάρκειας και κόστους
- Φιλτραρισμένα logs, λήψεις που δεν διατηρούνται (ή κρυπτογραφούνται)
- Χωρίς προσωπικά αρχεία, διαπιστευτήρια ή socket Docker προσαρτημένα στο περιβάλλον
- Αποτέλεσμα επαληθευμένο στην εφαρμογή πριν την ανακοίνωση επιτυχίας
- Μηχανισμός επείγουσας διακοπής (kill switch)
Το τελευταίο σημείο είναι αυτό που ξεχνιέται συχνότερα, ωστόσο είναι το μόνο που βοηθά όταν όλα τα άλλα έχουν αποτύχει. Ένας kill switch είναι ένας τρόπος διακοπής του πράκτορα αμέσως, χωρίς να περιμένετε να χτυπήσει ένα από τα όριά του: ένα αρχείο STOP που ελέγχει ο βρόχος σε κάθε επανάληψη, ένα docker stop στο container ή μια σημαία που διαβάζεται από μια κοινή μεταβλητή. Δοκιμάστε τον πριν την παραγωγή, όχι την ημέρα που θα τον χρειαστείτε.
Βασικά σημεία
- Οι τέσσερις κανόνες της OpenAI: περιορίστε το περιβάλλον, αντιμετωπίστε την οθόνη ως μη έμπιστη, επιβεβαιώστε τις κρίσιμες ενέργειες και οριοθετήστε και επαληθεύστε την εκτέλεση
- Το αίτημα του μοντέλου να δράσει δεν είναι άδεια: ο κώδικάς σας εκτελεί, αναστέλλει ή επιστρέφει τον έλεγχο
- Απομονώστε τον περιηγητή (μη προνομιούχος χρήστης, προφίλ seccomp) και επιτρέψτε την εξερχόμενη κίνηση μόνο στους ιστότοπους της εργασίας
- Φιλτράρετε τα URL συγκρίνοντας σχήμα, host και θύρα—ποτέ με απλό πρόθεμα ή κατάληξη συμβολοσειράς
- Αναγνωρίστε τα
pending_safety_checksμόνο μετά από επικύρωση από άνθρωπο - Επιβάλετε όρια γύρων, διάρκειας και κόστους και επαληθεύστε το πραγματικό αποτέλεσμα