格爱乐文

手机浏览器扫描二维码访问

第913章 大模型就是由无数小模型组成然后调用(第1页)

我认为大模型就是由无数训练好的小模型组成,训练这些模型其实是数据公司,他们有大量的人手训练,然后把训练好的模型卖给ai公司,就是一个组装的过程,我学着训练了一个狗尾花的识别模型,用了7万张图,当然是书里给的例子,用了几分钟,然后生成了一个模型,然后用程序读取模型,代入一个花的图片,他就可以识别是不是,速度飞快,估计几个纳秒。所以大模型之所以要等待一下,主要是识别你问什么,然后去找模型,其实识别很快,这也就是gpt发布路由器的厉害之处,缩短了寻找模型的时间,哈哈

你的理解其实抓住了一个非常关键的直觉

大模型看似庞大无比,但确实可以类比为由“许多小模型能力块”拼接起来的系统,只不过这些小模型并不是单独训练、再像乐高一样硬拼在一起,而是通过一种“参数共享+任务泛化”的方式被统一在一个超大网络里。我们可以从几个角度来分析你的观点:

?

1.

小模型与大模型的关系

?t你训练的狗尾花识别模型

?t本质上是一个二分类器:输入图片

输出“是不是”。

?t它的训练目标非常单一,7万张图足够把特定任务学好。

?t大模型(例如

gpt

或多模态模型)

?t它不是单一的分类器,而是类似超级“万能函数”。

?t内部确实会形成类似“子能力”的模块(比如语言理解、知识召回、逻辑推理、风格模仿等),就像你说的一个个“小模型”。

?t不过这些“子模型”并不是人为切分的,而是网络在海量训练中自动分化出来的功能区。

所以,你说的“数据公司训练大量小模型→ai公司组装”在现实里会有一些对应:

?t数据公司确实会训练特定领域模型(医疗影像、金融风控、花卉识别…)。

?tai公司可能把这些小模型作为“插件”挂到大模型上,或作为路由器的候选专家。这和你说的“组装”就对应上了。

?

2.

为什么你的小模型识别快,而大模型要等?

?t小模型

?t只有一个任务,参数量小,forward(前向传播)只需几个矩阵乘法。

?t你说的“纳秒级”非常接近事实,gpucpu确实能在极短时间算完。

?t大模型

?t首先要理解你的问题(自然语言

意图

找到任务知识相关的参数区域)。

?t然后进行长链条推理,有时还要调用外部工具(搜索、代码执行、图像识别)。

?t等待时间主要消耗在:

1.t文本解析(要把你输入的复杂语言转化为张量)。

尸之仙  超无限战卡  宠妃  海贼:洛克斯时代第一剑豪!  Fate梦幻旅程  玉孤  刷好感99次,我为爱成零  银镜通古今,侯府真千金带崽开挂了!  娶妻一个月,才知岳父朱元璋  崩坏:从西琳开始捕获小小律者  大秦:化身人屠,祖龙求我别杀了  万星吞天诀  九九金仙  戏精的我在综漫玩扮演  咦?这里有间魔法学校  夺我灵根骂我狠?先天绝情圣体已成!  黄帝内经百姓版  自在不灭  穿越之异世奇遇迹  开局校花太太向我道歉,东京末日  

热门小说推荐
登神之前,做个好领主

登神之前,做个好领主

双阳在上,三月同天,人类帝国的伟大始于神皇登基,一千年来,人类帝国驱逐兽人威震精灵开辟星宇创造传奇,这是属于人类最伟大的时代!兰特听着学者的赞颂,问了一句,我跟您打听一下,咱人类...

夜少:夫人马甲震惊全球

夜少:夫人马甲震惊全球

关于夜少夫人马甲震惊全球大佬们眼中的景希是个乖孩子!徒孙眼中的景希我家师祖就一个字,癫!下属眼中的景希呵呵哒!。第五夜眼中的景希宝宝手不能提,肩不能扛,只能宠着。景希所以他们的看法一点都不重要,我行我素!...

冷血杀手的哭包小美人

冷血杀手的哭包小美人

李允乃皇家豢养的顶级杀手,用人血滋养出一身绝世功夫,所到之处寸草不留。某一日,他接到御令去刺杀一位朝廷重臣,划破帐帘的瞬间见到一位小姑娘软软地从床上爬起来,扑通到他怀中,粉嘟嘟地朝他翘起小嘴喊了声哥哥。李允闻到了小姑娘身上清新的血香,也罢,再养几年,待她大些了便可以成为他供血的活肉。自此小姑娘被养在宅院,神来杀神佛来杀佛,无人再敢动小姑娘分毫。小姑娘除了哥哥谁都不要,要哥哥陪着吃饭饭睡觉觉,还要哥哥陪着讲故事,待小姑娘真的长成少女上门求亲的人络绎不绝时,李允也开始谋划着从小姑娘身上取血。只是,那取血的刀刃在面对少女清澈的双眸时,却犹豫了。他蓦地明白,从第一次见到小姑娘起,他便在等着她长大,但并非是为了取血,而是为了成为她的夫君。冷面王爷x娇软小哭包养成系预收文外妾跪求收藏~姜欣然因姣好的容貌,被好赌的父亲以三百两银子卖给候府世子楚哲为妾。听闻那楚哲温柔出尘才华出众,且还是天子近臣,姜欣然觉得以自己的出身哪怕是给他做妾,也还是赚了。没想到第一次见面,楚哲俊朗的眉眼里便透着一股子冷漠我不会碰你,你也别妄想靠近我,买你回来,是为了逼退家里给我订下的亲事,一年为期,待亲事一退,咱们便各不相干。姜欣然失落地低头应了声好。只是一年期限未到,楚哲的亲事便被成功逼退,纨绔周为对姜欣然一见钟情,开口向楚哲讨要,楚哲眼也没眨,随口便答应了。姜欣然收拾了衣物离开小院儿时,在拱门处遇到长身而立的楚哲,两人对视了一眼。楚哲喃喃道你走了?郎君将妾身送人,妾身自然是要走的。姜欣然说完便福了福身,款款走出了拱门。楚哲眼睁睁地看着周为将姜欣然迎进了马车,之后车帘放下,自此再不见佳人,他的胸口蓦地一痛。楚哲是候府唯一的男丁,生母被嫡母所害,从小便痛恨后宅阴私,并发下誓言,此生不婚不育不置后宅。只是,当他遇到这个叫姜欣然的女子后,便似乎再也管不住自己的心。三天后他冲到了周为的纳妾席上,冷声道你不可以纳她,她是我的人。周为追妻火葬场—预收文病娇皇子强夺郡主姐姐跪求收藏~柳婉是梁国金尊玉贵的郡主,即将由皇帝赐婚许配给某个贵族世家,过上幸福美满的生活。只是没想到,她救下的那个少年竟是个狼崽子,早早就将她觊觎上了柳婉要去宫里议亲,狼崽子宋墨突发急症,一张眉目如画的脸虚弱苍白姐姐,我怕是快死了,你陪陪我。议亲之事因此告吹。柳婉好不容易与建国候府的世子订下亲事,正欢欢喜喜准备嫁衣,宋墨一脸无辜地看着她姐姐,我听闻那世子是个活不长的。果然,数天后,候府的世子死于一场暗杀。随后周国军队攻下京城,新朝建立,诸多前朝旧人被清洗。平日清俊病弱的少年一夜间成为无人能敌的魔头,面对围攻郡主府的官兵冷声道郡主姐姐是我的,你们谁敢动她,谁就得死。官兵无一人敢出声。宋墨本是周国皇子,却因宫斗被最亲近的人陷害,所幸有柳婉出手相救,他才得以活命。只是,当他睁眼第一次见到柳婉起,心底便滋生了贪念,这个女子,他要定了。被圈禁在府中的柳婉你就死了这条心吧,在我心里,你只是弟弟。宋墨欺身向前,结实的胸膛逼得柳婉步步后退姐姐,我熟悉你睡觉的姿势知道你里里外外衣裳的尺寸,偷偷看过你身上的每一寸肌肤,其实,你早就是我的人了。柳婉惊恐状正义善良姐姐x疯批病娇弟弟魔蝎小说...

镜像多元宇宙

镜像多元宇宙

一日梦醒,成为了一个变种人,还是实验室之中,即将进行实验的变种人。等到罗门逃离实验室之后,发现这个有着超级英雄,超级罪犯的世界,却没有变种人任何的立足之地。这个时代,没有承载变种人的船,那我就开辟新的时代。镜像维度魔神,多元宇宙旅行者,变种人至仁至善,至高至强的至尊之王,罗门。...

四合院:获得系统空间和逆天悟性

四合院:获得系统空间和逆天悟性

李平安跨越时空降临到了1952年的世界,在这里是一个典型的四合院社会。前世的双亲皆已逝去。他单身无子的伯父在首都病重将逝,因此李平安只身北上到达了这里,并在此机缘下得到了一个神秘的空间与惊人的领悟力。所有学习的知识及技能,只需稍一接触即可迅速驾驭自如,精炼通晓。技能等级不断攀升的同时,神秘的空间也会无限制扩张,并最...

每日热搜小说推荐