标签:Token
什么是词元(Token)
词元(Token)是自然语言处理(NLP)和计算机科学中的基础概念,指的是模型处理文本或数据时的最小基本单位[…]
国家数据局正式定调:Token官方中文名为“词元”
国家数据局正式定调:Token官方中文名为“词元”2026年3月24日,国家数据局局长刘烈宏在中国发展高层论[…]
大模型中Token是什么意思
大模型中Token是什么意思在大模型中,Token是指用于表示文本中的最小单位的符号。这些单位可以是单词、短[…]