不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
黄一鸣为什么敢承认孩子是王思聪的？
用J***a写Android的时代是不是要结束了？
我的儿子随我姓，为啥婆家反应那么大？
PHP和Node.js哪个更爽?
内蒙古通报那尔那茜定向委培争议，称其涉嫌高考报名材料造***，将严肃追责问责，涉事人员面临哪些责任处罚？
如何评价89式重机枪？
为什么搜狗输入法windows和MAC登录同一个账号 词库不同步 ?
问界 M9 在国内市场的保值率怎么样？
为什么说6月30日是裁员大限将至？
你们在编程时遇到过什么离谱的bug吗？
Electron是否有作为游戏引擎的潜力？
参考 FreeBSD，随着 Ruby 的没落，GitHub、GitLab 是否会去 Ruby 化？
什么是最好的编程用显示器？
如何看待英伟达新推出的显卡5090dd？
请问27寸4K显示器哪个好呀？
flutter为什么不用Go语言，而用Dart?
什么时候你开始发现俄罗斯不过如此？
家用小型服务器用什么系统比较好呢？
你是怎么发现亲戚开始见不得你好的？
如何自己搭建家庭服务器？
怎么理解开源项目若依（RuoYi）存在的意义？
如何看待rust编写的zed编辑器？
感觉男朋友对我有些小气要不要分手？
如何评价zig这门编程语言？
前端，后端，全栈哪个好找工作？
为什么我养的龟忽然死了?
如何看待不超过1879元的Mac mini（M4+16/256GB+票），易用性吊打同级其他台式电脑？
如果你穿成了青梅竹马文里的恶毒女配怎么办？
国内开源erp的天花板是哪一款？
这种裙子是不是对直男爆杀？
