¿Qué es la ventana de contexto de una IA?
La ventana de contexto es la cantidad de texto, contada en tokens, que un modelo de lenguaje tiene en cuenta a la vez, instrucciones y documentos incluidos.
Cómo funciona
Un modelo lee toda su ventana de contexto para producir cada respuesta. Lo que queda fuera, como un documento que nadie pegó o el principio recortado de una conversación larga, no existe para él.
Las ventanas más grandes caben más cosas, pero la calidad sigue dependiendo de lo que se pone en ellas: los tres documentos adecuados suelen ayudar más que treinta vagamente relacionados.
Un ejemplo
Si a un asistente que debe actualizar la guía de incorporación le das la guía, el último cambio de proceso y las normas de estilo, hace el trabajo. Si le das toda la wiki, puede citar una página caducada.
Errores habituales
- Pegarlo todo, lo que ahoga los documentos que importan.
- Dar al modelo una copia antigua de un documento que ha cambiado desde entonces.
- Suponer que el modelo recuerda una conversación anterior que no ve.
En Nodary
Los agentes conectados a Nodary buscan solo los documentos que necesita una petición, con herramientas de búsqueda y lectura, en lugar de una copia pegada. Para una conversación en otro sitio, un paquete de contexto reúne hasta 12 fuentes, muestra su tamaño, avisa de las fuentes que han cambiado desde tu copia y se lleva a cualquier parte en Markdown.
Lo que Nodary no hace: no cambia la ventana de contexto de ningún modelo, y un paquete de contexto es una instantánea que preparas, no una memoria permanente.
Pruébalo con tus propios documentos. El plan Free no pide tarjeta.
Crear un espacio gratis