Qu’est-ce que la fenêtre de contexte d’une IA ?
La fenêtre de contexte est la quantité de texte, comptée en tokens, qu’un modèle de langage prend en compte à la fois, instructions et documents compris.
Comment ça marche
Un modèle lit toute sa fenêtre de contexte pour produire chaque réponse. Ce qui est en dehors, comme un document que personne n’a collé ou le début d’une longue conversation qui a été coupé, n’existe pas pour lui.
Les fenêtres plus grandes contiennent davantage, mais la qualité dépend toujours de ce qu’on y met : les trois bons documents servent généralement mieux que trente documents vaguement liés.
Un exemple
Chargé de mettre à jour le guide d’accueil, un assistant qui reçoit le guide, le dernier changement de processus et les règles de style fait le travail. S’il reçoit tout le wiki, il risque de citer une page périmée.
Erreurs courantes
- Tout coller, ce qui noie les documents qui comptent.
- Donner au modèle une ancienne copie d’un document qui a changé depuis.
- Supposer que le modèle se souvient d’une conversation qu’il ne voit pas.
Dans Nodary
Les agents connectés à Nodary ne vont chercher que les documents dont une demande a besoin, par des outils de recherche et de lecture, au lieu d’une copie collée. Pour une conversation ailleurs, un dossier de contexte réunit jusqu’à 12 sources, montre sa taille, signale les sources modifiées depuis votre copie et part n’importe où en Markdown.
Ce que Nodary ne fait pas : il ne change pas la fenêtre de contexte d’un modèle, et un dossier de contexte est un instantané que vous préparez, pas une mémoire permanente.
Essayez sur vos propres documents. L’offre Free ne demande pas de carte.
Créer un espace gratuit