手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
Fate梦幻旅程 自在不灭 银镜通古今，侯府真千金带崽开挂了！ 尸之仙 刷好感99次，我为爱成零 崩坏：从西琳开始捕获小小律者 夺我灵根骂我狠？先天绝情圣体已成！ 穿越之异世奇遇迹 玉孤 戏精的我在综漫玩扮演 黄帝内经百姓版 超无限战卡 海贼：洛克斯时代第一剑豪！ 开局校花太太向我道歉，东京末日 九九金仙 万星吞天诀 咦？这里有间魔法学校 娶妻一个月，才知岳父朱元璋 大秦：化身人屠，祖龙求我别杀了 宠妃
混世刁民
最穷不过要饭，不死总会出头。这一年，在祁连大山里混吃等死了二十多年的刁民赵出息终于选择走出大山，带着最庸俗的想法来到大城市。不富贵不还乡（这是一本纯粹的可歌可泣可悲可笑的小人物奋斗史）...
本来妇德就不多，美男当前使劲摸
苏千藕一朝穿越成侯府嫡女，家中庶妹早就御男无数，只有她还守身如玉，等着未婚夫上门提亲。哪知未婚夫变妹夫，出门遇见说个话，回家后就被庶妹指着脸骂她狐狸精，勾引妹夫，将她折磨半个月，关在柴房活活饿死了。苏千藕很好，无中生有，凭空捏造！那我就让这事变成铁证如山！最后，盛京城都在传大将军被侯府大小姐吃干抹净，被甩了！貌...
龙皇武神
都市修仙至尊爽文！渡劫期大修士凌云魂穿都市，仙武同修，丹药炼器，画符，布阵无所不能，以无敌之姿逆天崛起，脚踩八方！...
西游：我，车迟国师，是个赌神
陆风穿越洪荒世界，成功觉醒只要赢得任何形式的赌局，就可以变强。结果，仅仅不到150年，他就获得了赌神的头衔，同时境界也从凡人突破到了混元大罗金仙九重天。距离道的至高境界，只差一步之遥。这段时间他点化了三只小妖。阿虎，阿鹿，阿羊。又过了二十年，三位弟子找到了陆风。师尊，弟子在车迟国谋了个差事，特请您老人家前去享福！...
天美立恒终相守
夏天美从一场噩梦般的回忆中醒来，竟发现自己重生回到了一切尚未失控之时。曾经，她在爱情里与严格纠缠，经历了孙晓菁带来的无数风波，家族也因友善和真真钟浩天的复杂关系而鸡飞狗跳。重生后的天美决心改变命运。她不再是那个懵懂冲动的女孩，一面努力修复家庭关系，尝试劝阻友善陷入执念的漩涡，一面在公司刻苦钻研业务。在这个过程中，...
![[娱乐圈]蛇果](/img/0/356.jpg)
[娱乐圈]蛇果
第一个世界天才女演员VS最年轻的青龙影帝李正宰「已完成」第二个世界大佬VS她的小娇妻郑宇盛「已完成」第三世界恋爱攻防战赵寅城「已完成」第四世界恋爱选我，我世最甜，小狗文学河政宇「已完成」第五世界爱人走散文学元彬「已完结he」第六世界多愁善感的男妈妈VS天然呆社恐直女孔刘「已完成」第七世界nh超帅的咸鱼模特VSnh最疯蛊王李株赫「已完成」第八世界为爱发疯夹心文学，茶里茶气花美男VS特拽富贵花模特一姐姜东元「已完成」第九世界我向上天许愿你能为我心动曹承佑「施工中」作者小黑板OOC预警，无脑爽文，作者土狗，禁止ky哦魔蝎小说...