LINUX SB 快照站

如何看待词元和ToKen之争?

原帖: linux.sb/topic/10590 · 共 30 楼 · 标题快照 2026-08-12 10:39:02

#1
发帖 2026-08-10 14:27:09 · 快照 2026-08-12 10:39:02

沙发自古楼主占

#2
发帖 2026-08-10 14:27:44 · 快照 2026-08-12 10:39:02

🤣自我遐想罢了,叫啥不重要,谁有能力谁被用的多而不是改个名字就能影响大家印象

#3
发帖 2026-08-10 14:27:46 · 快照 2026-08-12 10:39:02

哪个顺口用哪个

#4
发帖 2026-08-10 14:28:12 · 快照 2026-08-12 10:39:02

换了皮就以为是自己的实力了😂

#5
发帖 2026-08-10 14:30:30 · 快照 2026-08-12 10:39:02

我看LLM是大语言模型所以该叫:宏文
token是表示文字的最小单元所以该叫:文元

#6
发帖 2026-08-10 14:30:32 · 快照 2026-08-12 10:39:02

评价是太闲了

#9
发帖 2026-08-10 14:40:51 · 快照 2026-08-12 10:39:02

“操,我的第五代移动通信技术又掉了。”
“生成式预训练转换器月球降价了百分之八十!YYDS!”
“人类学÷”

#10
发帖 2026-08-10 14:45:25 · 快照 2026-08-12 10:39:02

闲的蛋疼 遥遥领先

#11
发帖 2026-08-10 14:47:03 · 快照 2026-08-12 10:39:02

哪个方便用哪个,难道你要叫做微软大战代码吗

#12
发帖 2026-08-10 14:47:41 · 快照 2026-08-12 10:39:02

鲁迅有篇文章写的很好“中国人失掉自信力了吗”
常看常新

#13
发帖 2026-08-10 14:50:08 · 快照 2026-08-12 10:39:02

微软代码对战平台

#15
发帖 2026-08-10 14:53:55 · 快照 2026-08-12 10:39:02

@刘协 #13 不应该是微软大战代码?

#16
发帖 2026-08-10 14:59:51 · 快照 2026-08-12 10:39:02

本质上是三件事:
1. 技术概念界定: 如何界定 token 在 LLM 场景下的词义
2. 中文术语规范化: 标准化, 好比 bit -> 比特, 字节 -> byte
3. 科技话语权的符号焦虑: 最重要的, 也是最多人骂的一点, 大乘赢学/本土学派, 这个讨论不了

另外一个因素: 为什么是词元而不是字元之类的, 纯纯是相对的准确, 不撞车, 没人用三者平衡的产物

我对词元的态度只有一个, 可以有, 但不能逼着我用, 那样只会变成13层那样 microsoft vscode 被嘲讽为微软大战代码

#17
发帖 2026-08-10 15:24:46 · 快照 2026-08-12 10:39:02

实在不行,上国际法庭仲裁就行了,窝里横的玩意

#18
发帖 2026-08-10 15:29:51 · 快照 2026-08-12 10:39:02

评价是:
token这玩意是自己发明的吗?还整上话语权了😅

建议所有专有名词废除所有纯英文、英文缩写的落后叫法,全部改成官方中文名称

#19
发帖 2026-08-10 15:31:00 · 快照 2026-08-12 10:39:02

上纲上线 是他们的常规操作
自研自发 是他们的自我安慰

#20
发帖 2026-08-10 15:32:04 · 快照 2026-08-12 10:39:02

一帮不搞技术的, 搁这指指点点, 和北朝鲜将军有啥区别

#21
发帖 2026-08-10 15:37:57 · 快照 2026-08-12 10:39:02

林子大了什么鸟都有,圈外人看热闹罢了

#23
发帖 2026-08-10 15:59:47 · 快照 2026-08-12 10:39:02

标准化是好事
至于用不用,跟16楼说的那样,bit -> 比特, 字节 -> byte
自己`喜欢哪个用哪个呗,官方肯定会用中文说法

#24
发帖 2026-08-10 15:59:55 · 快照 2026-08-12 10:39:02

@Naloveyuki #16 默默给你点了个赞,并投币1积分。

#25
发帖 2026-08-10 16:20:47 · 快照 2026-08-12 10:39:02

闲的。

#27
发帖 2026-08-10 19:20:22 · 快照 2026-08-12 10:39:02

不用评价,用就行了

#28
发帖 2026-08-10 19:26:16 · 快照 2026-08-12 10:39:02

你有这功夫不如吃kfc全家桶

#29
发帖 2026-08-10 19:28:52 · 快照 2026-08-12 10:39:02

我们现在讨论这个就是已经成功了