2019年11月22日上午，澳大利亚墨尔本大学Tim Baldwin教授应邀访问模式识别国家重点实验室，并做了题为《Memory-Augmented Neural Networks for Better Discourse Understanding》的学术前沿报告。
Tim Baldwin教授首先介绍了记忆网络（Memory Network）的两种类型：静态记忆网络和动态记忆网络。静态记忆网络是指一旦构建完毕后续不再变化；而动态记忆网络则指网络内容会随着模型处理需要不断变化。然后，Tim Baldwin教授利用非常形象的例子说明命名实体识别和对话状态跟踪等自然语言处理任务都需要篇章级别的理解，而记忆网络便是对篇章信息进行建模的一个有效手段。于是，Tim Baldwin教授介绍了如何针对自然语言处理中的任务优化记忆网络，并分别针对静态记忆网络和动态记忆网络提出了切实有效的优化模型，在命名实体识别和对话状态跟踪等自然语言处理任务上取得了当时最好的性能。最后，Tim Baldwin教授还提到记忆网络研究的一些未来方向。
在报告结束后，与会师生与Tim Baldwin教授在记忆网络的设计、效率和优化方法进行了深入探讨。同时，针对记忆网络与当前流行的BERT等预训练模型的关系也进行了开放性讨论。
Tim Baldwin是墨尔本大学教授、工程学院副院长。他是国际计算语言学委员会终身委员，曾是英国剑桥大学、美国华盛顿大学和日本东京科技大学等大学和研究机构的访问学者以及美国斯坦福大学的高级研究员。他的研究兴趣主要是自然语言处理，包括社交媒体分析、深度学习、计算语义学和主题建模。至今，Tim Baldwin教授已经发表超过350篇学术论文，谷歌学术引用超过11,000，H-index为52。他还是自然语言处理顶级会议COLING-2022的程序委员会主席。
|
