当前位置:当前位置: 首页 >
为什么我还是无法理解transformer?
文章出处:网络 浏览次数:发表时间:2025-06-24 20:15:16
不要想的太过复杂,就只有随机数生成的三个矩阵,原始输入已经通过矩阵相乘关联在三个随机数矩阵中,再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵,再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重,三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏,没有什么复杂的逻辑问题。
。
同类文章排行
- 既然C#等开源语言,为啥***le还要弄个基本上一模一样的Swift?
- 有人说x86是条必沉的船,苹果早就跳船了,微软也有弃船的意图,你怎么看?
- 工业克苏鲁什么意思?
- 穿瑜伽裤爬山的女生会不会害羞?
- 是军舰上的大炮厉害还是陆军的大炮厉害?
- golang总体上有什么缺陷?
- 有哪些看似聪明,实则很傻的行为?
- 网传《碟中谍 8》亏损可能超 14 亿,是真的吗?这背后的原因是什么?
- 伊朗距离以色列上千公里,发射的导弹靠什么来导航定位呢?美国的GPS不会让他们用的。?
- 如何看待不超过1879元的Mac mini(M4+16/256GB+票),易用性吊打同级其他台式电脑?
最新资讯文章
- 为什么Rust的包管理器Cargo这么好用?
- 娶一名教师做老婆是怎样的体验?
- 为什么越来越多的车主放弃开顺风车,情愿一个人独自开车?
- switch2为什么不用高通骁龙或者联发科天玑的旗舰芯片?
- 小米SU7为什么销量这么高?实际购买或考虑这款车的人为什么选择它?
- 有人说我们中国领先了两千多年一直到满清才落后的。你怎么看?
- 如何看待不超过1879元的Mac mini(M4+16/256GB+票),易用性吊打同级其他台式电脑?
- 为什么高德地图api提出了一个商用5w基础费用起步的概念?
- 你如何看待鸿蒙PC不允许侧载?
- 如何评价林志玲?
- 魔兽世界有必要4k吗?
- 为什么这么久了还是没有主流软件开发鸿蒙版?
- 养龟玩龟的人可怕吗?
- 中年女性如何保持身材?
- 二氧化碳人工合成淀粉技术现在怎么没动静了?
- 北京日报点名批评“苏超”过度娱乐化,它是否管的太宽了?为什么无良媒体不会被查封取缔?
- 2025年,Gitea 和 GitLab 应当如何选择?
- Rust、Go、Zig、Dart、C3、C++、C,仓颉、moonbit、凹语言哪个语言更有未来?
- 花旗预测未来几季金价将回落至每盎司 3000 美元以下,这其中有哪些相关依据?
- GNOME 自带的输入法 iBus 是个怎样的存在?