第一百四十六章 等我给它装个好脑子(为盟主【御法者】加更) (第3/3页)
的模型大多了。
关于什么是聪明的模型,不从事这行的人会有很多误解。
有人说:“所谓大模型,不就是猜下一个词是什么的概率生成器吗?你怎么能指望这种东西产生智能?”
这个说法其实没错,但容易让人误解。
因为这种概率不是在一张平面表上查的。
它是在一个巨大的多维向量空间里算出来的,每一段语义、每一种逻辑关系,都对应这个空间里的一个方向。
模型把你输入的那段字投进去,让它在空间里和见过的一切比较、融合,最后落到一个点上。
输入越多,落点越精确;空间的维度越高,对细微差别的分辨越清楚。
维度靠什么堆?靠层数。层数越深,落点在出来前被反复精修的次数就越多,每一轮都更贴合你真正想要的意思;大模型比小模型聪明,核心原因就在这里。
从这个层面说,即使模型真的产生了“智能”,似乎也不足为奇——毕竟人的大脑思考时,也只是神经元的电位运动而已。
只是大脑里神经元之间的连接以百万亿计,而现在最大的 AI 模型参数量也不过万亿级,还差了几个数量级。
而且,大脑运转的耗电量还不到 AI 模型的几万分之一。
所以过去几年,全世界的 AI 公司拼命砸钱,就是要把模型做大、维度做深。
可当算力砸到一定程度之后,每多加一层带来的提升开始递减,代价却越来越贵。
这个时候,标注的价值就出来了。
好的标注,相当于提前告诉模型:“这一类问题你不用在整个空间里盲搜,只要在这一小片里搜就行。”分布空间一收窄,有限的层数就能算出更准的结果。
韩路一面前这堆反复的红,恰好是这件事的反面——
具体到这个任务,把三个已上线模块里各自跑着的队列逻辑抽成一套通用组件,还要保证迁移完之后,现有行为一分都不能变。
模型训练数据里,单独某一套队列的代码有,业务层做抽象的通用组件也有;但“跨三个已经在跑的模块做无损重构”这种要求见得不够多,标注也太稀疏。
一次还要同时装下三个模块的实现、测试用例,外加“不许改行为”的约束,上下文窗口根本不够。
空间又大、又稀疏、还不准。
模型只能一段段盲猜,尝试了这么久,也没搜到那个窄窄的正确解。
但这不是说这个产品的方向错了。
只是基于现有模型能力,它没做足够的优化。
但这是 AI 未来发展的方向。
给 AI 工具赋能,让 AI 工具承担更多工作。
韩路一很期待。
“小姜。”韩路一开口。
“嗯嗯?”姜亦心小心翼翼。
“东西做得很好。你找几个人完善一下,内部先用上。”韩路一说着合上笔记本电脑,递给姜亦心。
“可是刚才苏总试的那个场景……”姜亦心有点犹豫。
苏念念微微一笑:“所有工具刚出来的时候都有这样那样的问题,有它能做的,也有它做不了的。”
“先当内部工具用着,把使用反馈都收集起来。”韩路一补充了一句,“尤其是失败的例子,对我来说更有用。”
姜亦心突然想起一件事,又问:“那和 Nexus 的合作呢?”
苏念念看了韩路一一眼,转头对姜亦心说:“两个都由你负责,但优先这个;合作那边如果你管不过来,可以来找我。”
“嗯嗯!”
“回去吧。”
姜亦心抱着笔记本电脑走到门口,回头看了一眼,两个老板都没动。
她从外面带上门。
会议室里只剩韩路一和苏念念。
“念念,我突然有一个感觉。”
“什么?”
“招到对的人之后,就不停地有好东西自己蹦出来——”
“好爽。”
韩路一说完,脸上露出笑容。
这就是资本家的快乐吗?
苏念念也欣慰地笑了——小姜确实是个人才。
……
会议室的门合上。
韩路一独自坐了会儿。
窗外夜色深了,前滩那条江的倒影在玻璃上晃。
他回想姜亦心今天给他带来的惊喜。
现在最大的限制来自模型能力。
既然这样,等我给它装个好脑子。
韩路一拿出手机,屏幕上是程远下午发来的微信:
“韩总,我们对上次您带来的展示原型很感兴趣,不知道您对合作是什么意向,我们先对接一下?”
隔了两天才回,我还真以为你不着急呢。
韩路一翻出之前和顾司玥商量好的条款草稿。
作为律师,顾司玥对这个条款的评价是:“会不会太狠了?”
韩路一的评价是不会。
商业谈判中,谁掌握独一无二的资源,谁赢。
优势在我。
发送。