Ein Token ist im Zusammenhang mit Sprachmodellen die kleinste Verarbeitungseinheit, in die ein Text zerlegt wird – je nach Modell ein Wort, ein Wortteil, ein Satzzeichen oder ein einzelnes Zeichen. Im Deutschen entspricht ein Token grob drei bis vier Zeichen. Länge von Eingaben und Ausgaben, Größe des Kontextfensters und Nutzungskosten werden in Tokens gemessen. In der IT-Sicherheit bezeichnet „Token“ daneben ein digitales Berechtigungs- oder Identifikationsmerkmal (z. B. Zugriffstoken).