Seu texto é dividido em tokens
Um token pode ser uma palavra inteira, parte de uma palavra, pontuação ou outra unidade de texto. É por isso que contagem de palavras e contagem de tokens não são a mesma coisa.
Código, números, símbolos e diferentes sistemas de escrita podem ser divididos de forma diferente da prosa inglesa comum.



