Earyant的技术博客

Attention 机制 -- 基础篇

发表于 2022-03-12
本文字数： 3.7k 阅读时长 ≈ 3 分钟

• Attention 机制 — 基础篇
  • Hard vs Soft [1]
  • Global vs Local [2]
  • Attention的本质思想 [5] [6]
  • Score 函数的选择 [6] [2]
  • Query, Key, Value 的定义
  • Self-Attention [5]
  • Reference

阅读全文 »

Transformer 的位置编码

发表于 2022-03-12
本文字数： 75 阅读时长 ≈ 1 分钟

• Transformer 的位置编码
  • Reference

阅读全文 »

文本分类

发表于 2022-03-12
本文字数： 71 阅读时长 ≈ 1 分钟

• Tricks - 文本分类
  • Reference

阅读全文 »

文本分类

发表于 2022-03-12
本文字数： 4.2k 阅读时长 ≈ 4 分钟

• 1. TextCNN[1]
• 2. 对TextCNN 的分析 [3]
• 3. TextRNN
• 4. TextRCNN [4]
• 5. HAN [5]
• DPCNN
• 最后
• Reference

阅读全文 »

命名实体识别

发表于 2022-03-12
本文字数： 585 阅读时长 ≈ 1 分钟

• 命名实体识别
  • 前言
  • NER简介
  • Reference

阅读全文 »

命名实体识别经验

发表于 2022-03-12
本文字数： 197 阅读时长 ≈ 1 分钟

• 上游任务 - 序列标注
  • 前言
  • Reference

阅读全文 »

多模态命名实体识别

发表于 2022-03-12
本文字数： 110 阅读时长 ≈ 1 分钟

• 多模态命名实体识别
  • Reference

阅读全文 »

文本相似度

发表于 2022-03-12
本文字数： 500 阅读时长 ≈ 1 分钟

• 上游任务 - 文本相似度
  • 1. 孪生网络[1][2]
    • 1. Siamese Recurrent Architectures[1]
    • 2. Siamese Recurrent Networks [2]
  • Reference

阅读全文 »

语义匹配

发表于 2022-03-12
本文字数： 1.4k 阅读时长 ≈ 1 分钟

• 文本相似度
  • 前言
  • 文本匹配简介
    • 0. 问题简介
    • 1. 文本匹配的挑战
    • 2. 深度学习文本匹配模型[3]
  • 单粒度语义文本表达
    • 1. DSSM,2013
    • 2. CSDDM, 2014
  • 2. 多粒度语义文本表达
  • MANM
  • Reference

阅读全文 »

无监督文本匹配

发表于 2022-03-12
本文字数： 58 阅读时长 ≈ 1 分钟

• 无监督文本匹配
  • Reference

阅读全文 »