Kontextfenster.
BegriffDas Vokabular von Organizational Memory
01 Definition
Ein Kontextfenster ist die maximale Textmenge, gemessen in Tokens, die ein Sprachmodell in einem einzigen Durchgang berücksichtigen kann. Die Anweisungen, das bisherige Gespräch, abgerufene Dokumente und die eigene Antwort des Modells verbrauchen es. Ist das Fenster voll, wird der früheste Inhalt verworfen oder zusammengefasst, und endet eine Sitzung, wird das Fenster vollständig verworfen.
02 Warum es wichtig ist
Das Kontextfenster wird routinemäßig mit Gedächtnis verwechselt. Es ist kein Gedächtnis; es ist Arbeitsaufmerksamkeit, und es wird zurückgesetzt. Ein größeres Fenster lässt ein Modell mehr auf einmal halten, aber es lässt eine Organisation nichts ansammeln: Derselbe Kontext wird bei jeder Anfrage neu geliefert und neu bezahlt, und er verschwindet, wenn die Sitzung schließt. Deshalb kann Enterprise-KI in einem Fenster brillant und im nächsten ohne Gedächtnis wirken, und deshalb ist die Antwort auf organisationale Amnesie eine Gedächtnisschicht und kein größeres Fenster.
03 Woher es kommt
Eine technische Eigenschaft von Transformer-Sprachmodellen, keine Wortschöpfung von Timer. Der Begriff steht im Glossar, weil die Unterscheidung zwischen einem Kontextfenster und Organizational Memory die häufigste Verwechslung in der Architektur von Enterprise-KI ist.
Lesen Sie die zugrunde liegenden Papers:
Jetzt starten
Die Zukunft gehört den Organisationen, die sich erinnern.
Für Unternehmen ab 50 Mitarbeitenden.