手机浏览器扫描二维码访问
第606章 用故事解释softmax函数的溢出问题（第1页）
用故事解释softmax函数的溢出问题
故事背景：龙族宴会上的金碗
在一座神秘的龙族王国，龙族每年都会举行一次盛大的宴会，宴会上有一个传统：每条龙要把自己的财富（金币数量）放进一个金碗，然后让智慧长老计算每条龙的“财富占比”，来决定谁是这一年的财富之王。
宴会当天，四条龙分别报出了自己的金币数量：
?
火龙：100万金币
?
冰龙：200万金币
?
雷龙：300万金币
?
风龙：10亿金币
智慧长老准备使用一个古老的计算方法——softmax规则，将这些财富转换成概率来比较。但他很快发现了一个严重的问题：
金碗炸了！
为什么？因为按照softmax的计算方法，他需要计算每个金币数量的指数值：
但这些数值实在是太大了，远远超出了王国的计算能力，直接导致金碗崩溃（计算溢出）。
智慧长老陷入了困境，他需要找到一个方法来避免计算崩溃。于是他想到一个聪明的技巧：
“我们不直接放金币，我们可以先让大家的金币数减去最大的金币数！”
于是，他重新计算：
?
火龙的金币数变为
100万
-
10亿
=
-9.99亿
?
冰龙的金币数变为
200万
-
10亿
=
-9.98亿
?
雷龙的金币数变为
300万
爱丽丝综合征 你和我的苏打水情缘 他如焰藏匿我心 带着猴哥游异界 仙集 意外得到空间后金手指带我闯末日 快穿：拯救反派，本系统亲自下场 重生1990，带着全村人发家致 梦幻西游：大唐弃徒，成就史一法 引凰归帝凰临：炼丹契兽倾世女帝 武夫李青舟，要问剑仙李太白 哭包竹马爱哭还难哄 隔壁那个帝少 和校花解散后，契约灵兵皆S级 温婉沧海 军人军医，办公室恋情？ 我在乡下当村医 他的Freesia 末世，给异类收编 导演我要举报！她跑龙套还开挂！
原神：我无奈了，三神跪求我祈愿
纪凡穿越提瓦特大陆，觉醒好感祈愿系统。凡是对纪凡有好感的人，就可以进行祈愿！未来骑士艾琳这就是火箭筒吗？这玩意可比风压剑好用多了！执行官女士时光机？我能回到过去？可莉替身使者杀手皇后？好可爱的大猫猫！刻晴最强斩魄刀流刃若火？帝君，我不做雷系啦！枫原万叶荒古圣体！我为叶天帝，当镇杀世间一切...
穿越诸天西幻
成长于血与沙，崛起于冰与火之歌，降临奇幻的类中世纪异界，见证生化与病毒肆虐的末世，在基因科技发达的异能世界壮大于现代魔幻世界腾飞纵横科幻废土世界在变种世界涅槃逍遥高魔世界漫威惊奇神话战锤我将掌控自己的命运！如果您喜欢穿越诸天西幻，别忘记分享给朋友...
超神学院之我的吃鸡系统和外挂
欢迎来到吃鸡战场，哦不，是超神学院。我怎么会是开挂的人呢？你毁谤我啊！我告你毁谤我啊！是，你们没有开挂，我在天上看得清清楚楚。什么？还有我AWM一枪打不死的？哦，四级头啊。琪琳扶，扶，扶我一把。扣扣群771780671如果您喜欢超神学院之我的吃鸡系统和外挂，别忘记分享给朋友...
汉明
汉明，汉人的大明。每每思及泱泱华夏，数千万汉人，被鞑子奴役了三百多年。心中总有一股难以言语的失落愤慨遗憾！于是有一天，和尚做了个梦主角吴峥于1645年八月十六日，魂穿在嘉定总兵吴之番侄子吴争身上，目睹了嘉定城人间地狱般的凄惨悲凉，从此走上波澜壮阔的反清复明之路。如果您喜欢汉明，别忘记分享给朋友...
天涯孤剑
天涯孤剑简介emspemsp关于天涯孤剑凭胸中点墨，难绘万里河山，执手中孤剑，敢碎日月星辰！当这世界变得虚伪，那便用手中的剑，还这朗朗乾坤一片清明。首发tianmeixscomωoо1⒏υip...
穿成万人嫌，但人设是白月光
新书刚开评分，分会逐渐提高。第一个世界完结！可宰！姜妤成了快穿局恶毒炮灰部门的员工，开局万人嫌，结局死翘翘。该部门有三好，钱少事多死得惨。每个世界姜妤都在想着如何能减轻自己的死法。只是没想到一番操作下来，身边所有人都觉得她深有苦衷。对着每每惨淡下场的她红着眼，祈求她能回来。世界一古早大女主文的炮灰庶妹。她注定遭...