Context Window: Γιατί το AI «ξεχνάει» στη μέση της συζήτησης και πώς να το διορθώσεις

Το πρόβλημα που όλοι έχουμε ζήσει

Έχεις περάσει 20 λεπτά να εξηγείς στο ChatGPT ακριβώς τι θέλεις. Του έδωσες context, παραδείγματα, διορθώσεις. Και ξαφνικά, στο μήνυμα 15, σου απαντάει σαν να μην έγινε ποτέ τίποτα από αυτά.

«Μα σου το είπα πριν 5 μηνύματα!»

Δεν είναι bug. Δεν είναι ότι το AI «δεν προσέχει». Είναι κάτι πολύ πιο θεμελιώδες: το context window.

Τι είναι το context window (με απλά λόγια)

Φαντάσου ότι το AI έχει ένα γραφείο με συγκεκριμένο χώρο. Κάθε λέξη που γράφεις — και κάθε λέξη που σου απαντάει — πιάνει χώρο σε αυτό το γραφείο.

Όταν γεμίσει; Αρχίζει να πετάει τα παλιότερα χαρτιά για να χωρέσουν τα καινούργια.

Αυτός ο χώρος μετριέται σε tokens (περίπου 1 token = 0.75 λέξεις στα Ελληνικά). Τα όρια:

• GPT-3.5: ~16K tokens
• GPT-4: ~128K tokens
• Claude 3: ~200K tokens

Ακούγονται πολλά; Σε μια μεγάλη συζήτηση με πολλά copy-paste κείμενα, τα τρως σε 20 λεπτά.

Πώς καταλαβαίνεις ότι «ξέχασε»

Τρία red flags:

1. Επαναλαμβάνει ερωτήσεις που ήδη απάντησες
2. Αγνοεί οδηγίες που έδωσες νωρίτερα (π.χ. «γράψε formal» και ξαφνικά γίνεται casual)
3. Χάνει τον στόχο — αρχίζει να απαντάει off-topic

4 τεχνικές για να το κάνεις να «θυμάται»

Τεχνική 1: Το Summary Checkpoint

Κάθε 5-7 μηνύματα, ζήτα του να κάνει σύνοψη:

prompt Πριν συνεχίσουμε, κάνε μια σύντομη ανακεφαλαίωση:

• Ποιος είναι ο στόχος μας
• Τι αποφασίσαμε μέχρι τώρα
• Ποια είναι τα επόμενα βήματα

Αυτό «αναγκάζει» τις σημαντικές πληροφορίες να μπουν στα πιο πρόσφατα tokens.

Τεχνική 2: Το Persistent Header

Σε κάθε μεγάλο prompt, ξεκίνα με ένα σταθερό block:

prompt [CONTEXT] Project: Newsletter για e-shop ρούχων Tone: Casual, Gen-Z friendly Απαγορεύεται: Εκπτωτικά clichés, urgency tactics [/CONTEXT]

Τώρα γράψε το email για την καλοκαιρινή collection...

Copy-paste αυτό το header σε κάθε νέο prompt όταν η συζήτηση μεγαλώνει.

Τεχνική 3: Τα Fresh Start Sessions

Όταν αλλάζεις topic μέσα στην ίδια συζήτηση, κάνε explicit reset:

prompt Αλλάζουμε θέμα. Ξέχνα ό,τι συζητήσαμε πριν.

Νέο task: [περιγραφή] Νέο context: [ό,τι χρειάζεται να ξέρεις]

Καλύτερα ένα «καθαρό» context window παρά ένα γεμάτο άσχετες πληροφορίες.

Τεχνική 4: Εξωτερική μνήμη

Για projects που κρατάνε μέρες:

1. Κράτα ένα Google Doc με τις βασικές αποφάσεις
2. Στην αρχή κάθε session, κάνε paste τα key points
3. Update το doc με νέες αποφάσεις

Το AI δεν έχει μνήμη μεταξύ sessions (εκτός αν χρησιμοποιείς Memory features). Η «μνήμη» είσαι εσύ.

Το mental model που βοηθάει

Σκέψου το AI σαν έναν εξαιρετικά ικανό συνεργάτη με amnesia. Κάθε φορά που του μιλάς, πρέπει να του θυμίσεις:

• Ποιος είσαι (ρόλος/context)
• Τι κάνετε μαζί (project/στόχος)
• Πού είστε (τι έγινε μέχρι τώρα)

Όσο πιο ξεκάθαρα τα λες, τόσο καλύτερα αποτελέσματα.

Takeaway

Το context window δεν είναι περιορισμός — είναι απλά ο τρόπος που δουλεύουν τα LLMs. Μόλις το καταλάβεις, σταματάς να frustάρεσαι και αρχίζεις να δουλεύεις μαζί του:

Μικρές, focused συζητήσεις > Μια τεράστια που χάνεται

Δοκίμασε το Summary Checkpoint στην επόμενη μεγάλη συνομιλία σου. Θα δεις τη διαφορά.