Questions tagged «attention-mechanism»

3
变压器模型中的位置编码是什么?
我是ML的新手,这是我在这里的第一个问题,对不起,如果您的问题很傻,对不起。 我正在尝试阅读和理解本文注意,您所需要的只是其中的一幅图片: 我不知道什么是位置编码。通过听一些youtube视频,我发现它是一个嵌入词,在其中具有单词的含义和位置,并且与sin(x)sin(x)sin(x)或cos(x)cos(x)cos(x) 但我不知道它到底是什么以及它到底在做什么。所以我在这里寻求帮助。提前致谢。
By using our site, you acknowledge that you have read and understand our Cookie Policy and Privacy Policy.
Licensed under cc by-sa 3.0 with attribution required.