ข้อความของคุณจะถูกแบ่งเป็นโทเค็น
โทเค็นอาจเป็นทั้งคํา ส่วนหนึ่งของคํา เครื่องหมายวรรคตอน หรือหน่วยข้อความอื่น ๆ นี่คือเหตุผลที่จํานวนคําและจํานวนโทเค็นไม่เหมือนกัน
รหัส ตัวเลข สัญลักษณ์ และระบบการเขียนที่แตกต่างกัน อาจถูกแบ่งแตกต่างจากร้อยแก้วภาษาอังกฤษทั่วไป



