---
description: Attention的实现
---

# Attention的实现

## 三种Transformer模型中的注意力机制介绍及Pytorch实现：从自注意力到因果自注意力 <a href="#activity-name" id="activity-name"></a>

{% embed url="https://mp.weixin.qq.com/s/3sCMayxx7aY7C8utOGdVYg" %}

