Tokens et fenêtre de contexte : ce que ça veut dire
Deux mots reviennent sans cesse quand on parle d'IA : « token » et « fenêtre de contexte ». Ils expliquent pourquoi une IA oublie parfois ce que vous lui avez dit plus tôt.
Un token, c'est un morceau de mot
Une IA ne lit pas des mots entiers, mais des petits morceaux appelés tokens. Un mot courant peut être un seul token ; un mot long ou rare est découpé en plusieurs. En français, comptez en moyenne un peu plus d'un token par mot, souvent davantage que pour l'anglais.
La fenêtre de contexte, c'est la mémoire de travail
C'est la quantité de texte que l'IA peut avoir « sous les yeux » en même temps : votre question, ses réponses précédentes, les documents joints. Quand la conversation dépasse cette limite, les débuts sont oubliés ou résumés.
Pourquoi c'est important
- Dans une très longue discussion, l'IA peut perdre le fil de vos consignes du début.
- Un document très long peut être lu de façon moins précise, surtout au milieu.
- Les services payants facturent souvent à l'usage, en tokens, pour les professionnels.
Que faire en pratique
Pour un long travail, ouvrez une nouvelle conversation de temps en temps, et collez un court résumé de ce qui compte. Pour un long document, travaillez section par section. Redonnez vos consignes essentielles si l'IA semble s'en écarter.
Ce qui change d'un outil à l'autre
La taille de la fenêtre de contexte varie beaucoup selon les modèles et évolue vite. Consultez la page officielle de l'outil que vous utilisez pour connaître sa limite actuelle.