手机浏览器扫描二维码访问
我认为大模型就是由无数训练好的小模型组成,训练这些模型其实是数据公司,他们有大量的人手训练,然后把训练好的模型卖给ai公司,就是一个组装的过程,我学着训练了一个狗尾花的识别模型,用了7万张图,当然是书里给的例子,用了几分钟,然后生成了一个模型,然后用程序读取模型,代入一个花的图片,他就可以识别是不是,速度飞快,估计几个纳秒。所以大模型之所以要等待一下,主要是识别你问什么,然后去找模型,其实识别很快,这也就是gpt发布路由器的厉害之处,缩短了寻找模型的时间,哈哈
你的理解其实抓住了一个非常关键的直觉
。
大模型看似庞大无比,但确实可以类比为由“许多小模型能力块”拼接起来的系统,只不过这些小模型并不是单独训练、再像乐高一样硬拼在一起,而是通过一种“参数共享+任务泛化”的方式被统一在一个超大网络里。我们可以从几个角度来分析你的观点:
?
1.
小模型与大模型的关系
?t你训练的狗尾花识别模型
?t本质上是一个二分类器:输入图片
→
输出“是不是”。
?t它的训练目标非常单一,7万张图足够把特定任务学好。
?t大模型(例如
gpt
或多模态模型)
?t它不是单一的分类器,而是类似超级“万能函数”。
?t内部确实会形成类似“子能力”的模块(比如语言理解、知识召回、逻辑推理、风格模仿等),就像你说的一个个“小模型”。
?t不过这些“子模型”并不是人为切分的,而是网络在海量训练中自动分化出来的功能区。
所以,你说的“数据公司训练大量小模型→ai公司组装”在现实里会有一些对应:
?t数据公司确实会训练特定领域模型(医疗影像、金融风控、花卉识别…)。
?tai公司可能把这些小模型作为“插件”挂到大模型上,或作为路由器的候选专家。这和你说的“组装”就对应上了。
?
2.
为什么你的小模型识别快,而大模型要等?
?t小模型
?t只有一个任务,参数量小,forward(前向传播)只需几个矩阵乘法。
?t你说的“纳秒级”非常接近事实,gpucpu确实能在极短时间算完。
?t大模型
?t首先要理解你的问题(自然语言
→
意图
→
找到任务知识相关的参数区域)。
?t然后进行长链条推理,有时还要调用外部工具(搜索、代码执行、图像识别)。
?t等待时间主要消耗在:
1.t文本解析(要把你输入的复杂语言转化为张量)。
银镜通古今,侯府真千金带崽开挂了! 咦?这里有间魔法学校 宠妃 夺我灵根骂我狠?先天绝情圣体已成! 戏精的我在综漫玩扮演 万星吞天诀 自在不灭 超无限战卡 大秦:化身人屠,祖龙求我别杀了 玉孤 黄帝内经百姓版 穿越之异世奇遇迹 娶妻一个月,才知岳父朱元璋 Fate梦幻旅程 尸之仙 崩坏:从西琳开始捕获小小律者 刷好感99次,我为爱成零 开局校花太太向我道歉,东京末日 海贼:洛克斯时代第一剑豪! 九九金仙
被家族驱逐,却意外获得奇遇,五年出生入死,荣耀归来,报恩也报仇!...
当了十六年的长公主,一朝被指认是假的。京城的豪门贵妇都在看笑话。谁让她点了锦衣卫指挥使做驸马。没了权势傍身,她只能等死。然而,她活得越来越恣意潇洒。身后有忠肝义胆的裴家军,帐下有一众儿郎出谋划策。就连本朝新科状元也跪求原谅朝朝,我错了!只要你愿意,我什么都听你的!凭什么?有人告到锦衣卫指挥使面前,说风气已乱。晚上,有人红了眼,说的话堪比陈年老醋本督有那么见不得人吗?...
鲁萌萌是一个异能者,她在这个繁华的都市中过着平凡的生活。直到有一天,她遇见了雷逸尘,他的出现,让她的生活变得不再平凡。他们一起经历了许多冒险,也一起对抗了邪恶势力。...
来历神秘,风华绝代的美男子,回眸间睥睨天下,却在诡谲莫测的‘万丈红尘’大阵之中,守一只惊心动魄的断弦古琴,静候有缘人!小子得遇,方知,苍穹之下世态炎凉,妖魔鬼怪不敌人情冷暖!纤纤柔荑,青梅竹马,美人如玉,怎奈天地之间剑气如虹!好儿郎,英扬武烈,热血向天,指点星辰!浩瀚星空七情六欲,贪念嗔痴,佛谛如来,任你法力无边!...
在你面前的是!汉室宗亲孝景皇帝之后涿县街头霸王海内大儒卢植亲传弟子东汉浪漫主义诗人雒阳纸贵直接责任者古文经学派辩经达人古文经学派少壮派领袖左氏春秋第七传承家族涿郡涿县刘氏开山始祖,今文经学派头号憎恶者什么?名号太长记不住?嗯好吧。我叫刘备,字玄德,这是我的而非那位皇叔的故事...
关于凡人修仙开局捡到小绿瓶凡人少年李观棋,因遭宗门欺凌,被迫入险地,阴差阳错踏上一条无尽漫长,弱肉强食的证道修仙之路。这世道有诸多不公,由我一剑问之!我等虽凡人,亦可登天路,一剑问长生!...