KBP2017 实体发现与链接比赛分享
约 2 分钟· 本文阅读 次更新于 2026-11-06
- 时间:2018.05.09 10:30-12:00
- 嘉宾:张锋 - 腾讯 - AI 平台部/知识挖掘组
张锋是 Glen 总之前在腾讯的同事,从 07 年就开始共事了,就被拉过来分享了。
我学到的
- 做分享最重要的是开门见山,一开始就要抛出这次分享的核心目的,比如对于这次,就是这个比赛的评分标准,这样大家才知道接下来要听什么,不然很容易出现说了半天不知道干嘛的情况
- 做科研的过程就是 寻找想法 - 试验想法 - 分析结果 - 找到为什么不行 - 从失败中摸索出成功
- 对于数据科学来说,准备数据是要花非常多的时间,也是最重要的。对于提供给用户的服务来说,头部数据是必须要非常准确的,我们在开发和测试的过程中一定要把握好最重要的头部数据 资源永远是不足的,我们要学会想办法通过各种方式来找到我们需要的东西。
- 对于实体发现来说,如何通过正样本来“捞”负样本进而完善训练集是一个很好的思路。比如,在娱乐文本中把所有带书名号的作为实体的正例,然后去非娱乐领域里找对应的词,就基本可以认为是负例,这样就可以极大扩大训练集。
- 对于字符向量来说,想方设法利用上下文去体现这个字本身的含义,在中文自然语言处理中是很有价值的。比如,对于“中国”和“中间”这两个词,从字符的角度来分解,都有“中”这个字,但是很明显这两个“中”的含义有很大的差别,那么这个时候就可以利用上下文 Ngram 来拼接向量给原来的字符向量添加信息量,进而得到更好的效果。
- 深度学习在一个系统的工程中能够(或者说也只能)作为一个模块,主要用来处理那些不太方便做特征工程或者暗藏某种模式的部分(比如对于我们不懂的西班牙语,腾讯团队就选择了直接用 BiLSTM 来生成向量,而不是自己去做特征工程)。对于模型产生的结果,我们需要围绕其做许多其他的工作来保证效果,这个部分是逃不开传统的数据结构、算法、规则、字典等等的,很多事情都是没有办法弯道超车的,只有踏实下力气才可以。
- 学术论文有学术论文的规则,会更加在意模型的完美,很可能会去掉很多细节,我们在使用的时候需要完善;数据比赛有数据比赛的规则,会更加在意在评测集上的效果,很可能会做很多针对答案的 trick,我们在参考的时候需要了解其优势与局限性,取长补短。
- 深度学习的调参目前还处于混沌碰运气状态,我们需要在工作中逐渐形成方法论,并将其工具化,这样才能最大的提升效率。
- 处理不同的数据集(指标注方式不同)的一个方式是多任务学习。
- 对于大数据量来说搜索和排序肯定是少不了的,对于实体来说图相关算法是少不了的,或者说,基础知识是很重要的。
- IBM Watson 在工程上面有很多值得参考和学习的地方,要找时间去调研一下。
原分享另有配套 PPT;此处仅保留当时听讲记录,不包含完整演示材料。
相关文章
- 机器学习平台设计:让实验能够交付2026-11-06
- 【机器学习与数据科学之旅】1 Numpy 实例指南2020-06-16
- 【机器学习与数据科学之旅】2 Pandas 实例指南2020-06-16
- 基于场景的新闻分析分享2018-12-29
已恢复到上次阅读位置