author: yoyo(学习版） source: 小红书 url: https://www.xiaohongshu.com/discovery/item/6a15542b000000003502f0d1?app_platform=ios&app_version=9.25&share_from_user_hidden=true&xsec_source=app_share&type=normal&xsec_token=CBsGwBtfu32znMtAitKjY7AISXBb1zJKD3-0ZfZ0xj-n8=&author_share=1&xhsshare=WeixinSession&shareRedId=ODY7Nzs8ND02NzUyOTgwNjY0OTc5Sz85&apptime=1779987118&share_id=059bb2f2022941aa8d2b0c09a14f4724 saved: 2026-05-29 00:52:35 tags: - 笔记同步助手

id: d536f7bd-191e-49d7-8b9c-162e0793b61d

作者: yoyo(学习版）

发布/编辑时间: 2026年05月26日 08:04

自注意力机制通过查询、键、值计算词与词的相关性，生成新表示，解决指代问题。相比RNN，Transformer并行计算和捕捉长距离依赖，但计算复杂度高，影响长序列处理。
#大模型 #大模型应用 #大模型入门 #大模型学习 #大模型训练 #算法 #大模型面试 #ai #深度学习 #人工智能

内容效果不满意？点此反馈