不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
CPU 为什么很少会坏？
新手养鱼，鱼缸中能放入哪些水草？
刘强东称「京东外卖很快就会出来一个跟美团完全不同的商业模式」，如何看待此回应？
媒体称以色列防空成本一晚近 3 亿美元，最多再撑 12 天，美方会支援吗？若无美补给结果会如何？
公立医生帮联系民营救护车，800 公里收费 2.8 万元，收费合理吗？救护车收费标准是什么？
各位都在用Docker跑些什么呢？
家里想搞一个服务器，怎么才不违规？
五年以内会爆发第三次世界大战吗？
如何评价Cursor？
5挺马克沁机枪，能否击败50万重骑兵？
雷军为什么不愿意用性价比打法进军NAS？
如何看待“Hutool”工具类库广受欢迎？
大家猜猜伊朗的结局如何？
被称为「人间尤物」的女主，有多绝？
国产轮胎那么便宜，为什么很多人非要买高价的国外轮胎？?
买矿卡被正常用坏的概率有多大？
《三角洲行动》7.3日新赛季【破壁】，有什么值得期待的？
鱼缸过滤全天开着太耗电，关掉半天又容易水浑，有什么好办法？
为什么要学go语言，golang的优势有哪些？
伊朗到底有没有击落以色列的F35？
怎么可以让胸变大？
女生被踢裆也会很疼吗？
为什么中国主机带宽比美国贵5倍（原来错误的10000倍），比如阿里云？
你的择偶标准是怎么样的？
什么样的女主才能叫做「人间尤物」？
postgres集群的选择?
苹果连了校园网，为什么会出现这个标志?
为什么这么久了还是没有主流软件开发鸿蒙版？
iOS 26 的新设计被吐槽丑，苹果在设计更新时考虑了哪些因素？你对这一设计都有哪些评价？
深圳房价能跌到什么位置？
