不要想的太过复杂，就只有随机数生成的三个矩阵，原始输入已经通过矩阵相乘关联在三个随机数矩阵中，再通过一些代数游戏得到每个token对于整体输入序列的注意力权重矩阵，再和另外一个随机数矩阵进行线性的代数变化即可。
反向传播更新的是这三个矩阵的权重，三个矩阵的维度设计也是为了符合线性代数的运算。
总之这个就是一个巧妙的线性代数游戏，没有什么复杂的逻辑问题。
。
代码：
有没有一个特别好用的Linux系统？
如何评价前端框架 Solid?
golang为什么要内置map？
胸大的女孩子有什么烦恼？
以色列为什么要打伊朗？
坚持使用 PHP 的你，如今有什么感悟？
编程语言 MoonBit 发布 Beta 版，正式进入企业场景应用，会带来哪些影响？
新疆维吾尔自治区，经济发展的真实前景如何？
为什么微信不向telegram学习？
不结婚，不生孩子，老了怎么办？
消息称三大运营商将于今年下半年全面重启eSIM，eSIM有哪些好处？为何此前暂停这一业务？
如何看待伊朗导弹打击以色列医院？
Mac电脑总是提示磁盘已满，怎么才能清理干净？
如何评价《塞尔达传说：王国之泪》？
卧推100kg做组的胸，都是啥样的。?
为什么好看的家一看就是国外的？
伊朗这次让以色列打惨了，这个国家还能挺过来吗？
真的有这种又苗条身材又爆炸的么？
Swift 和同时代的其他语言比起来怎么样？
鱼缸哪里买比较便宜呢？
JetBrains 放弃 AppCode 是否是一个错误决定？
如何评价《三角洲行动》***作者「三角洲经济学教父」？
Web后端开发，用Python还是Go呢？
女生体毛旺盛是什么样的体验？
MacOS真的比Windows流畅吗？
为什么买了Switch后，却发现它并没有那么好玩？
亚克力鱼缸这么容易模糊吗?
