Je tekst is opgesplitst in tokens
Een token kan een heel woord zijn, een deel van een woord, interpunctie of een andere teksteenheid. Daarom zijn woordentelling en tokens niet hetzelfde.
Code, cijfers, symbolen en verschillende schriftsystemen kunnen anders worden verdeeld dan gewone Engelse proza.



