Code, notes, algorithms, systems, and things worth remembering.
UNIFIEDQA Crossing Format Boundaries with a Single QA System 读书笔记
UNIFIEDQA: Crossing Format Boundaries with a Single QA System 读书笔记 针对不同形式的QA做了一个整合的工作。对于抽取式、多选式、对错形式的QA数据集，使用了一个单一的模型进行训练，并且测试。 ...
基于BERT的知识库问答系统
毕设复习 由于是基于知识图谱的领域内问答系统，所以分为两个步骤，不是end2end。 命名实体识别 属性映射步骤 实体识别是为了找到问题中的实体，属性映射是为了找到实体对应在知识库中的属性。输出的结果是一个规则构成的“「实体」的「属性」是「尾实体」” ...
NLP基础
nlp 深度学习基础 将每一个模型以 简单介绍 解决的问题 代码 优缺点 使用tips 来归类。比较现代的会分析分析。 tf-idf 全称(term frequency-inverse document frequency)，TF指的是词频，IDF指的是逆文本频率指数。他们的计算公式如下： ...
如何在colab用pytorch_lightning白嫖TPU
如何在colab用pytorch_lightning白嫖TPU 首先 我们得熟悉pytorch_lightning以及colab的操作。在使用TPU之前，先挂载好我们的云端磁盘以及配置好pytorch需要的TPU环境。 ...
HuggingFace PretrainTokenizer学习笔记
笔记 Transformers==4.0.0 由于每次调用bert等模型都需要使用模型的tokenizer，所以写个笔记，方便自己以及后人查阅，（其实看官方文档也可以，但是英文的看着头疼。有错误也请留言吧。 ...
pytorch cheat_list
pytorch 操作小计 torch==1.7.0 tensor torch.stack 将List[tensor]变成tensor。torch.stack(tensors,dim=0,out=None)Concatenates a sequence of tensors along a new dimension. ...
dgl 实例学习
学习开源项目 项目传送门 模型流程 dgl 实例学习 https://www.cheasim.com/uncategorized/2020/12/04/dgl-%E5%AE%9E%E4%BE%8B%E5%AD%A6%E4%B9%A0.html 作者 CheaSim 发布于 2020-12-04 更新于 2020-12-04 许可协议 #dglgnnre
Dialogue Relation Extraction with Document-level Heterogeneous Graph Attention Networks 论文解读
Dialogue Relation Extraction with Document-level Heterogeneous Graph Attention Networks 论文解读 论文传送门，代码传送门 任务 从对话数据集中抽取出实体之间的联系。给定一段对话，输出指定两个实体之间的关系，总共有37中不同的关系。 ...
ALBERT 更小但是更慢？
ALBERT 更小但是更慢？ 最近由于参加阅读理解比赛，所以大量测试各种模型，惊奇地发现原本现在阅读理解比赛中SOTA的模型居然是不起眼并且以小模型闻名的ALBERT。这让我对这个“小”模型产生了好奇。从而写一下这份的论文笔记。 ...
考研随想
考研感想 感触 现在是12月25号，考完研的第三天。在今天之前的前一个星期里，我每天都是7点左右自然醒。而终于在今天，我睡到了九点，但依然没有睡饱。我想考研带给我了很多，不只是那摞起来像山一样高的辅导书，还有一些随之带来的习惯的改变。 ...