Vectron:我不再要求他们去想象它
为什么我要为LLM的语义空间搭建一张可导航的3D地图,以及为什么衡量它在哪里“撒谎”是这个项目的另一半
2026-07-30 · 作者:Esteban Rey(@Kilowatto) · 8,728 次阅读
我几乎每个月都会讲一门人工智能课程:四节课,每节一个半小时。第一节课总会走到同一个环节:我请听众去想象一个语言模型。不是像传统数据库那样有表格和行,而是更接近一种空间。问题是,我控制不了他们的想象。教室里每个人构建出的比喻都不一样,其中不少比喻是错的。
我很快就发现:当我不再让他们去想象,而是直接展示给他们看——哪怕只是在黑板上临时画的一幅图——整节课都会变得不一样。由此出发,随着时间推移,逐渐发展成了一套完整的教学系统。这套系统就是Vectron。
它到底是什么,不打比方
Vectron是一张公开的语义3D地图,实时运行在vectron.kilowatto.com。立方体里的每一个粒子都是一个真实的词,来自一个包含20,473个概念的语料库,它的位置来自bge-m3(Workers AI)生成的1,024维真实嵌入向量,经PCA压缩为3个坐标。
这不是一个模型演示,也不是预先录制的动画。你输入一句话,它会被真正地分词,用的正是真实模型所使用的同一套BPE(cl100k_base)。你固定住一个粒子,它的邻居来自Cloudflare Vectorize上一次真实的向量搜索,是在完整的1,024维空间里进行的,而不是屏幕上看到的那3维。你比较两个概念,看到的余弦值就是真实的余弦值。整套技术栈是:Workers、Vectorize、D1、R2和Workers AI,前端用Three.js在WebGPU上渲染——20,473个粒子只用一次绘制调用——语料库还会通过cron每30分钟自动增长。
为什么我没有把它留作一个周末的小玩意儿
我在科技行业已经超过25年,大部分时间都在创办公司——Ignia Cloud、我的各项投资、Yucatech Festival。Vectron并非出自同样的野心。它恰恰诞生于和教室里那种挫败感相同的地方:如果一件事能被展示出来而不只是被描述,那就应该把它展示好,哪怕这意味着要深入钻研shader、PCA和GPU渲染,而不是把它当作一个周末小实验草草收场。
也要教清楚它在哪里"撒谎"
这个项目里我最引以为豪的部分,不是好看的那部分。而是那个用语料库上的真实数字,去衡量你眼前所见到底有多可信的部分。
Vectron对自身的测量结果:可见的3个坐标轴仅保留了真实方差的11.69%(完整的16个主成分加起来也不到26%)。屏幕上显示的邻居中,大约31%是投影"编造"出来的(k=10时的trustworthiness为0.694)。两个毫无关联的词之间的余弦值是0.412——真正的零并不存在。而且存在真实的聚集现象:某个概念出现在77份邻居列表中,而平均值只有10。
由此产生了这款产品最重要的设计决策:承诺绑定在你发起的查询上,而不是这些点最终落下的位置上。连接概念的线条是诚实的通道——1,024维空间中的真实余弦值;而位置则是不诚实的通道——只有11.69%的方差。因此我们保留了这些连线,并做了几处修正:限制绘制的连线数量,线条粗细与真实余弦值成正比,用标签注明你查询的内容,并在关系不互逆时将连线截断。
我确信它真的有用的那一刻
不是我完成渲染的那一刻,也不是语料库达到20,473个概念这个目标的那一刻。而是在一次课上,我给学生们展示它时,他们固定住一个词,看到它真正的邻居们在空间中一一亮起来。那种"啊,我懂了"的表情——我多年来一直想靠黑板上的图画追求到的东西——我终于在那一刻实时看到了,而我什么都不用再多解释。
接下来
Vectron并不只停留在一个层次。有一个版本是给从未接触过语言模型的人准备的——没有术语,只有精心挑选的300个概念,而不是完整的20,473个,因为元素越少,才更能带来真正的学习。有一个中级版本,包含token、嵌入向量和一个故障实验室。还有一个高级版本,给想要完整工具的人:未经删减的数学原理和对语料库的控制权。按专业程度而不是按难度来划分,正是区分"只盯着表面特征看的新手"与"看深层原理的专家"的关键所在。
而且这个项目还在不断自我修正。我对它做过的一次审查——总共六次,核实了190多条参考资料——发现语料库根本没有证明任何真正的双语能力。于是我跑了正确的验证流程,结果发现西班牙语的准确率只有50.7%,而英语是100%:这是一个完全存在于语言之间的差距。后来通过把两种语言形式都嵌入进去修正了这个问题,如今准确率是99.3%。
我想,这才是Vectron背后真正的想法:一个关于人工智能的教育工具,把它教会人们该如何审视任何AI的那套标准,同样用在了自己身上。来试试吧,玩一玩,然后告诉我——它把那个我曾经只能让你们去想象的东西,解释得到底有多好,或者有多差:vectron.kilowatto.com。
评论
抢先发表评论。