全网最详细！油管1小时视频详解AlphaTensor矩阵乘法线性

应用AlphaZero时，所写有一些特别的网络虚拟化技巧。

他们运用于了一维代数的某些特性，比如，即使我们扭转了一维整数的某些基石，难题也是同样的。因此，即使我们扭转了向运用于量的基石，它在单纯上仍然代表同样的转换成。

然而，对于这个方通则来说，却不是这样的。

有了有所不同的小数，方通则看起来就有所不同了，因为它是一种对彼此的转换成。在这里，所写就很好地借助了一维代数的原则上特性，创设出了格外多的特训数据。

另外，裂解3D内积看起来没通则，但创造一个3D内积，就很很难。

我们必需对添加的3个向运用于量进言道谐波，把它们加在一起，就有了一个左图像内积。经过准确的裂解，它们还可以创设制备特训数据。

这些技巧都极为心地善良，透过了格外多的数据给的系统。的系统经过特训，可以准确地透过这些裂解。

让我们分析一下专家的系统虚拟化，它是一个基于Transformer的网络。

单纯上，它是一个加大进修方通则。

首先要输入这两项的内积以及内积的发展史，接着是背部(Torso)，然后是给定(Embedding)，之后是Policy Head和Value Head。

在上左图所指的方位，我们要选择三个向运用于量u,v,w，进言道相应运用于量化。

一旦我们有三个向运用于量的手势，我们就可以从原始内积当中减去它。然后的前提是，看到从原始内积当中减去的下一个手势。所有内积的Entry都是0的时候，的游戏正好结束。

这仅仅是一个给定难题。如果内积的倍数高于2，就属于NP hard。

这个执行实质上很艰巨，我们运用于的是3个向运用于量，每个向运用于量都有并不相同的Entry，因此这是一个前所未有的手势内部空间，比国际象棋或棋之类的内部空间都很小，因此也困难得多。

这是一个格外精细的虚拟化左图。他们把之后一个一段时间步当中出现的内积的发展史，用各种形式把投影到这个条带层上，然后一维层Grid 2将其转换成为某种C维向运用于量（这里一段时间一维就减少了）。

在这里，我们可用一个手段，这个手段是我们手势内部空间上的一个常见于，还有一个可用到Value Head。

Value Head都是Policy Head当中获取给定，然后通过一些专家的系统推动。

要点就是，将网络与一原理竹子跟踪转换。

总结一下：为了应付这些的游戏，开始，我们的向运用于量是前日的，正方形位处初始状态，然后就要考虑有所不同的手势，递归手势都都会包含格外多的手势，都有你的关键时刻确实考虑到的手势。

这其实就是一个竹子跟踪方通则。现在Alpha Zero style的一原理竹子跟踪，就是通过专家的系统的手段和价值函数，引领我们顺利完成这个竹子跟踪。

它在用紫色电容出的结点，就都会向你指出建议，让你获取格外事与愿违的内积裂解，比如说，让你有格外高的几率获胜。并且，它都会直接忽略掉你绝不尝试的递归，缩小你的考虑范围。

你必需要跟踪，然后通过递归特训，在某个结点，给予Zero Tensor，就理论上你获胜了。

不能顺利完成的游戏的话，加分就极为高于，反馈到特训专家的系统之后，都会做出能够的预测。

实质上，加分不止是0或1， 为了积极仿真辨认出最短逆时针， 所写还设定了一个-1的加分。

这就比只给0或1的加分好得多，因为它积极了新进的裂解，还透过了格外密集的加分信号。

因为难题没通则，获胜不具备高的偶然性，加分是稀有的。而如果跟着递归都都会给予加分，也有确实是-1的加分，就都会敦促仿真采取格外少的递归。

格外不可或缺的是，在这个制备演示当中，他们都会转换一个监督加分。

因为所写不仅可以作用于数据，他们实质上是究竟准确的递归的，所以他们可以以监督的形式特训专家的系统——因为是我们指出的难题，所以我们早就究竟你该采取哪些递归了。

再回顾一下整个方通则。

针对原始的游戏，所写扭转了basis，将数据加强，然后进言道一原理竹子跟踪。几个竹子跟踪之后，的游戏结束，根据结果的赢，都会给予相应的加分，然后来特训。

把它放在的游戏缓冲区，就可以能够地预测要执言道的转换成。

Policy Head都会指导你跟着哪条南路，在某个结点，你可以答Value Head：现在的状态值是多少？把所有内容汇总到底部，选择最有希望的递归。这就是MCTS Alpha Zero style的简介。

所写的另一个范本是：除了-1的加分，还在终端透过额外的加分。如果方通则在英伟达V100或TPUv2上运言道得很慢速，还都会给予额外的加分。

AlphaTensor当然不究竟V100是什么，但通过加大进修的力运用于量，我们就可以看到在特定芯片上加速极为慢速的方通则。

这样，我们就可以让方通则指出独创的应付方案。

不仅是向运用于量幂，编译器也是这种基本概念。我们可以用这种工具，为特定的芯片优化加速、寄存器等。仅仅，它的广泛应用早就相比之下超出了向运用于量幂。

所写还辨认出，对于两个四乘四向运用于量以此类推的给予的T4，AlphaTensor辨认出了超过14,000个非等价裂解。

每种微小的向运用于量幂方通则逾数千种，表明向运用于量幂方通则的内部空间比从前现实的要充沛。

对于关心重复性理论的物理学家来说，这是一个前所未有的辨认出。

摘要：

_alphatensor_explained_video_walkthrough/