avatar
文章
7
标签
4
分类
5
主页
时间轴
标签
分类
友链
Handy注意力机制
主页
时间轴
标签
分类
友链

注意力机制

发表于2022-04-08|更新于2022-04-08|人工智能机器学习
|浏览量:

文章作者: Handy
文章链接: http://handy.bj.cn/2022/04/08/%E6%B3%A8%E6%84%8F%E5%8A%9B%E6%9C%BA%E5%88%B6/
版权声明: 本博客所有文章除特别声明外,均采用 CC BY-NC-SA 4.0 许可协议。转载请注明来源 Handy!
机器学习
赞助
  • 微信
    微信
  • 支付宝
    支付宝
cover of previous post
上一篇
BiLSTM-CRF:深入浅出理解序列标注的黄金搭档
BiLSTM-CRF:深入浅出理解序列标注的黄金搭档前言在自然语言处理(NLP)任务中,比如 命名实体识别(NER)、词性标注(POS tagging)、分块(Chunking) 等,我们面临的本质是一个 序列标注问题。如何高效捕捉前后文语义,并输出最优的标签序列?这时,BiLSTM + CRF 组合登场了。 这篇博客将用通俗易懂的方式讲清楚:$x_{n}$ 什么是 BiLSTM? 什么是 CRF? 为什么它们要组合在一起? 用 PyTorch 实现 BiLSTM-CRF 一、序列标注简介输入: 一个词语序列(如一个句子)输出: 每个词对应一个标签(如人名/地名/组织/无) 例子: 123输入: [李明, 在, 北京, 工作]标签: [PER, O, LOC, O] 传统机器学习方法如 HMM、最大熵、CRF 已用于此类任务多年。深度学习带来了 LSTM、BERT 等模型,对捕捉上下文能力有极大提升。但光靠 BiLSTM 输出每个词的预测,还不能保证整体标签序列的最优结构。这就是 CRF 发挥作用的地方。 二、什么是 BiL...
cover of next post
下一篇
一图就懂机器学习框架
相关推荐
cover
2022-03-06
一图就懂机器学习框架
cover
2022-03-03
机器学习
汇总机器学习从问题定义到部署监控的各个阶段,融合代码实战、实践和可视化建议。 问题定义(Problem Definition)目标 明确任务类型(监督/非监督/强化) 确定预测目标(标签) 将业务目标映射为机器学习任务 实践要点 问题类型 特征 标签 示例 监督学习 ✅ ✅ 房价预测、图像分类 无监督学习 ✅ ❌ 用户聚类、异常检测 强化学习 ✅ 奖励值 游戏AI、机器人导航 1234 # 示例:API 拉取数据 import requests data = requests.get("https://api.example.com/data").json() 数据收集(Data Collection)目标 获取高质量、相关性强的数据 数据来源 API:如 OpenWeatherMap、金融接口 数据库:MySQL、PostgreSQL 爬虫:requests + BeautifulSoup / Scrapy 日志、传感器数据 1234 # 示例:API 拉取数据...
avatar
Handy
文章
7
标签
4
分类
5
Follow Me
最新文章
BiLSTM-CRF:深入浅出理解序列标注的黄金搭档
BiLSTM-CRF:深入浅出理解序列标注的黄金搭档2024-10-29
注意力机制
注意力机制2022-04-08
一图就懂机器学习框架
一图就懂机器学习框架2022-03-06
机器学习
机器学习2022-03-03
vim常用命令
vim常用命令2018-02-03
©2015 - 2025 By Handy框架 Hexo 7.3.0|主题 Butterfly 5.4.0-b2
Hi, welcome to Handy's blog