Πολύπλοκο Πλαίσιο: Αποθήκευση και Κρυπτογράφηση
Σε αυτήν τη σελίδα
Το Πρόβλημα του Πλαισίου Μεταξύ Αιτημάτων
Σε μια συνομιλία πολλαπλών γύρων με εργαλεία, ο όγκος του πλαισίου αυξάνεται γρήγορα. Κάθε κλήση εργαλείου προσθέτει τα αποτελέσματά της στο νήμα μηνυμάτων και η εσωτερική συλλογιστική του μοντέλου πρέπει να διατηρηθεί για συνέπεια. Δύο μηχανισμοί λύνουν αυτό το πρόβλημα: η απομακρυσμένη αποθήκευση και η κρυπτογράφηση στην πλευρά του πελάτη.
Μέθοδος 1: store_messages και previous_response_id
Η απομακρυσμένη αποθήκευση αναθέτει τη διαχείριση του πλαισίου στους διακομιστές της xAI. Ενεργοποιείτε το store_messages=True στο πρώτο σας αίτημα και στη συνέχεια αλυσιδώνετε τα επόμενα αιτήματα με το previous_response_id:
# First request: enable storage
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this sales dataset"}],
tools=my_tools,
store_messages=True
)
response_id = response.id # save the ID
# Next request: use stored context
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "What are the top 3 selling products?"}],
previous_response_id=response_id,
store_messages=True
)
Με αυτή την προσέγγιση, δεν χρειάζεται να στείλετε ξανά το πλήρες ιστορικό μηνυμάτων. Ο διακομιστής της xAI διατηρεί το πλαίσιο και το επισυνάπτει αυτόματα. Αυτό μειώνει το μέγεθος του αιτήματος και απλοποιεί τον κώδικά σας.
Πλεονεκτήματα
- Ελαφρύτερα αιτήματα (δεν χρειάζεται επαναστολή πλήρους ιστορικού)
- Η εσωτερική συλλογιστική του μοντέλου διατηρείται αυτόματα
- Χωρίς πολύπλοκη διαχείριση κατάστασης στην πλευρά του πελάτη
Περιορισμοί
- Τα μηνύματα αποθηκεύονται στους διακομιστές της xAI (ζήτημα απορρήτου)
- Το
response_idπρέπει να διατηρείται μεταξύ των αιτημάτων - Η αποθήκευση έχει περιορισμένη περίοδο διατήρησης
Μέθοδος 2: use_encrypted_content
Η κρυπτογράφηση στην πλευρά του πελάτη προσφέρει μια εναλλακτική λύση για περιπτώσεις όπου θέλετε να διατηρήσετε τον έλεγχο του πλαισίου χωρίς να αποθηκεύετε τα δεδομένα σας στους διακομιστές της xAI:
# Enable encrypted content
response = await client.chat.completions.create(
model="grok-4.5",
messages=[{"role": "user", "content": "Analyze this contract"}],
tools=my_tools,
use_encrypted_content=True
)
# Reasoning and tool outputs are returned encrypted
# You add them as-is to subsequent messages
messages = [
{"role": "user", "content": "Analyze this contract"},
response.choices[0].message, # contains encrypted content
{"role": "user", "content": "What are the termination clauses?"}
]
response2 = await client.chat.completions.create(
model="grok-4.5",
messages=messages,
use_encrypted_content=True
)
Με το use_encrypted_content=True, η εσωτερική συλλογιστική και τα αποτελέσματα των εργαλείων επιστρέφονται σε κρυπτογραφημένη μορφή. Δεν μπορείτε να τα διαβάσετε, αλλά τα στέλνετε ξανά στα επόμενα αιτήματα. Ο διακομιστής τα αποκρυπτογραφεί για να διατηρήσει τη συνέχεια της συλλογιστικής.
Πλεονεκτήματα
- Το πλαίσιο παραμένει υπό τον έλεγχό σας (χωρίς απομακρυσμένη αποθήκευση)
- Η εσωτερική συλλογιστική διατηρείται χωρίς να εκτίθεται σε απλό κείμενο
- Συμβατό με αυστηρές πολιτικές απορρήτου
Περιορισμοί
- Τα αιτήματα είναι μεγαλύτερα (συμπεριλαμβάνεται κρυπτογραφημένο περιεχόμενο)
- Πρέπει να διαχειρίζεστε το ιστορικό μηνυμάτων στην πλευρά του πελάτη
Επιλογή Μεταξύ των Δύο Μεθόδων
Η επιλογή εξαρτάται από το πλαίσιο χρήσης σας:
- store_messages: προτιμάται για εφαρμογές συνομιλίας, διαδραστικούς βοηθούς και περιπτώσεις όπου η απλότητα έχει προτεραιότητα. Το πλαίσιο διαχειρίζεται αυτόματα.
- use_encrypted_content: προτιμάται για ευαίσθητες εφαρμογές, επεξεργασία εμπιστευτικών εγγράφων και περιπτώσεις όπου τα δεδομένα δεν πρέπει να εξέρχονται από τις υποδομές σας (πέρα από τη μεταφορά μέσω API).
Συνδυασμός με την Υβριδική Ροή Εργασίας
Και οι δύο μέθοδοι ενσωματώνονται στο μοτίβο βρόχου που είδατε στο προηγούμενο μάθημα:
async def multi_turn_conversation(questions: list[str]) -> list[str]:
responses = []
previous_id = None
for question in questions:
kwargs = {
"model": "grok-4.5",
"messages": [{"role": "user", "content": question}],
"tools": my_tools,
"store_messages": True,
}
if previous_id:
kwargs["previous_response_id"] = previous_id
response = await client.chat.completions.create(**kwargs)
previous_id = response.id
responses.append(response.choices[0].message.content)
return responses
Αυτό το μοτίβο αλυσιδώνει ερωτήσεις διατηρώντας παράλληλα το πλήρες πλαίσιο συνομιλίας, συμπεριλαμβανομένων των αποτελεσμάτων των εργαλείων και της εσωτερικής συλλογιστικής του μοντέλου.
Βασικά σημεία
- Το
store_messages=Trueσε συνδυασμό με τοprevious_response_idαναθέτει τη διαχείριση του πλαισίου στην xAI - Το
use_encrypted_content=Trueδιατηρεί τη συλλογιστική χωρίς απομακρυσμένη αποθήκευση - Η επιλογή εξαρτάται από τους περιορισμούς απορρήτου και απλότητας που έχετε
- Και οι δύο μέθοδοι είναι συμβατές με ροές εργασίας πολλαπλών γύρων και υβριδικά εργαλεία
- Το
previous_response_idεξαλείφει την ανάγκη επαναστολής του πλήρους ιστορικού μηνυμάτων