Dein Text ist in Tokens aufgeteilt
Ein Token kann ein ganzes Wort, ein Teil eines Wortes, eine Zeichensetzung oder eine andere Texteinheit sein. Deshalb sind Wort- und Token-Zahlen nicht gleich.
Code, Zahlen, Symbole und verschiedene Schriftsysteme können anders als gewöhnliche englische Prosa unterteilt werden.



