-
【论文阅读】Rethinking Attribute Representation and Injection for Sentiment Classification (EMNLP 2019)
Task Sentiment Classification with attributes(user, product) Motivation 在情感分析中，一些文本自带的属性信息，如user（文本是谁写的）、product（文本是关于什么产品的）信息通常会对情感分析有一定 的帮助，所以最近的一些工作都会用他们来提升模型性能和增加可解释性。 但是，现有的很多方法都是使用注意力机制来进行外部信息的融合，具体的计算公式如下： $$ a = softmax(v^Te) $$ $$ e = t…
-
【论文阅读】SentiBERT: A Transferable Transformer-Based Architecture for Compositional Sentiment Semantics (ACL 2020)
Task Sentiment Analysis 树结构 1. Constituency tree（句法树），用句法规则，递归的构建出树的结构来表示一句话，其只有叶子结点与输入句子中的词语相关联，其他中间结点都是标记短语成分。 1. Dependency tree（依存树），用单词之间的依存关系来表达语法。如果一个单词修饰另一个单词，则称该单词依赖于另一个单词。 Motivation The sentiment of an expression is det…
-
【论文阅读】Graph Neural News Recommendation with Unsupervised Preference Disentanglement (ACL 2020)
Task News Recommendation：给定一系列成对的user-news的数据，表示user之前看过news，预测对于一个未见过的news，user是否会看。 Motivation 之前的做News Recommendation的方法通常的关注点是以下几类： * 充分利用用户的历史信息，做personalized News Recommendation * 利用文本内容，得到user和news的好的表示 * 利用外部知识 * 利用topic信息…
-
【论文阅读】Aspect Sentiment Classification with Document-level Sentiment Preference Modeling (ACL 2020)
Task Aspect Sentiment Classification (ASC) 例子：The restaurant has quite low price but the food tastes not good Price：positive Food：negative Motivation 通常的方法都是sentence-level的，即针对一个sentence，每次分析一个aspect的情感，各个sentence之间是互相独立的。但是实际上，sentence是d…
-
【论文阅读】Knowledge-Enriched Transformer for Emotion Detection in Textual Conversations (EMNLP 2019)
Motivation 人们的对话中通常包含着很多情感信息。但是人们通常在对对话进行情感分析的时候具有如下两个特点： 1. 考虑上下文的信息。 2. 人们本身具有一定的commonsense knowledge，利用commonsense knowledge进行对话分析。 所以针对如上两个特点，本文提出了Knowledge-Enriched Transformer（KET）模型，该模型使用了层次的self-attention来得到文档的上下文关系，而且与之前方法…
-
【实验分析】Evaluation Matrics
因为最近实验歇一阵，所以有时间给我停一下去看一下论文和代码。评估指标的话之前刚来的时候也看过一些，但是那时候也就是看看，也没有写代码，也没有用起来，所以其实后来就忘了，用的时候也就是在用师姐的代码，理解也不够，有时候指标结果不好也说不清为什么。所以现在趁着有机会看一下这些指标。 这里参照了Zhang的论文A review on multi-label learning algorithms和Yang的论文Relevant Emotion Ranking from Text Constr…
-
【论文阅读】论文泛读系列
最近开始期末考试和大作业，好久都没有看论文。虽然说要坚持看论文，但是要不是组会，还不知道什么时候再开始看。这次的几篇都是选组会论文的时候看的。 Interpretable Emoji Prediction via Label-Wise Attention LSTMs 简介 这是我选的这周组会讲的论文，是一篇很简单的论文了。我觉得可能是实验比较好，而且分析很多。 * 标题：Interpretable Emoji Prediction via Label-Wise Attention…
-
【论文阅读】论文泛读系列
Emmm……我在周报没能每周完成的情况下又开了新的专题，关于论文阅读的，一般应该是有一篇精读，几篇泛读。其实我有一个进行文献管理的软件Mendeley，还是挺好用的，在此做一下安利。 Sentence-State LSTM for Text Representation 简介 这是我选的这周组会讲的论文，所以读的会比较详细一点。这篇论文的基本信息如下： * 标题：Sentence-State LSTM for Text Representation * 作者：Zhang Yue…
-
【基础方法】基因筛选方法
我对于基因和遗传这方面了解很少，小高考考的生物也早就还给了老师。这次看2016年的建模题，其中B题是基因相关的，长了不少见识。虽然不知道现在看的以后有没有用处，但学了就记录一下，免得忘了。 今天看的是两种基因的筛选方法，通常在预处理阶段完成。方法比较简单，编程也不难。 最小等位基因频率 等位基因频率常用于表示种群内基因的多样性，计算方法如下： $$等位基因频率=\frac{特定等位基因数量}{特定基因座数量}$$ 最小等位基因频率，简称MAF(Minor Allele…
-
【基础方法】聚类方法（K-means、FCM）
以前通常做的都是分类的问题，虽然说聚类也可以用于分类，但是这方面涉及的比较少，只大概了解了相关的概念。这次简单地介绍学习建模时候看到的三种聚类方法：K-means算法和FCM算法。 K-means聚类方法 K-means聚类方法通过均值进行聚类，每个原始的元素经过聚类后都属于并且只属于某一个类。这是一种严格划分的方法，也可称为硬划分(HCM)。 对于给定的含有$n$个元素的数据集$X$，$x_k$是其中第$k$个元素，$1\leqslant k\leqslant n$。将该数据集聚类…