Wat is Context Window

tl:dr: ”Het context window is de maximale hoeveelheid informatie die een taalmodel in één keer kan meenemen tijdens inferentie.“

Wat is een Context Window?

Het context window bepaalt hoeveel tokens een model tegelijk kan verwerken. Daar vallen prompt, instructies, opgehaalde context en eerdere chatberichten onder.

Als je boven die limiet komt, moet informatie worden ingekort, samengevat of weggelaten. Dat kan invloed hebben op nauwkeurigheid en consistentie van antwoorden.

In AI-architectuur is contextbeheer daarom cruciaal, zeker bij lange documenten en complexe workflows.

Mogelijkheden of kansen voor
jouw organisatie bespreken?

Arjan Renkema Chris Hagg Damiaen Toussaint Arrow