第一百三十四章 远超预期 (第2/3页)
两个人，一个敢问，一个敢猜，她怎么忽然对这家还没成立的新公司没那么有信心了呢？
赵文渊知道他是故意的，嘿嘿一笑，往后翻页，讲起这项意图理解测试。
韩路一很快听明白了。
意图理解，简单来说，就是模型能不能读懂用户真正想要什么。
用户敲进去的字只是表面；表面之下，是处境，是约束，是没说出口的真实需求。
绝大多数模型做的是理解字面意思，再给一个正确却泛泛的回答。
PX-7B却能从同样的输入里读出用户真正想要的东西。
这任务极难，参数量大几十倍的模型都未必做得好。说到底，模型只能学到训练材料里有的东西；而大部分模型拿到的原始数据和标注数据，根本不足以知道用户的真实意图。
只有韩路一提供的标注数据能做到这一点。
这也是PX-7B如此强的原因。
讲完，赵文渊郑重道：“韩总，我做这行这么多年，从没见过一个7B的东西能在任何单项维度上打赢GPT-4，从来没有。”
“而且这才第一轮，只跑了几个epoch，超参数都没调到最优。在这个基础上再调几轮，后面还有上升空间。”
苏念念一直没作声，这时才轻声开口：“意图理解……这不就是开物一直想做的事吗？”
韩路一点头，心里也涌起一阵激动。
视哥，给力！
沉吟片刻，他问：“如果有十万条这种精度的数据呢？”
赵文渊仰头，对着天花板想了一阵。
“十万条这种精度的标注，”他慢慢说，“理论上足够在70B甚至更大的基座上，把意图理解能力拉到当前行业天花板之上。”
“这可不只是提升几个百分点的事，你可以想象从GPT-3到GPT-4那种级别的换代。”
“而且到那时候，就不只是意图理解一个维度了。意图理解是模型的基础能力；模型一旦真正学会理解人话，所有下游任务的表现都会跟着变强：回答更精准，代码更贴合需求，内容更有针对性，用户满意度也能提升——”
赵文渊停住，意识到自己说远了。
“这只是理论上的。”他往回收了一步，“实际操作还要看数据分布、训练稳定性、泛化表现等等，不能简单线性推理，但大方向上肯定没问题。”
他接着说：“这个效果、这个水平的标注数据，拿到任何一家大模型公司做对齐训练，都能让意图理解直接上一个档次。”
“韩总，我融资经验不多，但可以肯定地告诉你
（本章未完，请点击下一页继续阅读）