Metniniz jetonlara bölünmüş
Bir jeton, tüm bir kelime, bir kelimenin parçası, noktalama işareti veya başka bir metin birimi olabilir. Bu yüzden kelime sayısı ile token sayısı aynı değildir.
Kod, sayılar, semboller ve farklı yazım sistemleri, sıradan İngiliz düzyazısından farklı olarak ayrılabilir.



