Transformer模型详解，Attention is all you need

[@charleschang2963]

attention 機制大概是我聽過講的最清楚的👍🏻

[@rwang3550]

感觉decoder讲的有些问题， decoder的output应该是再作为decoder的input， 这也是 gpt只用 decoder的原因，这decoder本身是一个生成网络。

[@yandeng3865]

没问题，博主讲得很好！这个视频讲的是transformer在翻译场景的应用，你说的是ChatGPT的text-generation的场景。

[@yandeng3865]

期待博主讲讲ChatGPT里的transformer：就是只有decoder的transformer是什么样的？