################
############################
####################################
############ ############
########## ##########
######## ########
######## ########
####### #######
###### ######
####### #######
###### ########## ######
###### ################## ######
##### ##################### #####
##### ############################ #####
##### ################################## #####
###### ###################################### ######
##### ######################## #####
##### ######################## #####
##### ######################### #####
##### ########################## #####
##### ############################## #####
#### ################################# ####
#### ################################### ####
##### ################################### #####
##### ############ ################### #####
##### ############ ############### #####
##### ############## ############ #####
#### ############## ######### ####
#### ############## ####### ####
##### ################ ### #####
##### ################# #####
##### ################# #####
##### ################# #####
##### ################# #####
###### ################# ######
##### ################ #####
##### ################ #####
##### ################ #####
###### ############### ######
###### ############# ######
####### ########### #######
###### ######## ######
####### #######
######## ########
######## ########
########## ##########
############ ############
####################################
############################
################
to|kenTokenizer
Visualize and count tokens
Input
Tokens
o200k_base, tiktoken 0.14.0, OpenAI, MIT. gpt-oss’s o200k_harmony adds only special tokens.