2020年11月26日下午2点，我院人工智能系副教授文娟在信电641会议室做了题为“Transformers: Faster, Wider, and Lighter”的学术报告，同时通过腾讯会议在线直播。

近年来预训练模型在NLP领域取得了瞩目的成果，在很多任务上已经能超越人类平均水平。而目前主流的预训练模型，都是基于17年谷歌大脑提出的Transformer模型来进行特征抽取的。报告会上，文娟老师介绍了以及传统seq2seq模型的不足，以及Transformer模型的结构、原理和优势，与并总结了Transformer的各种变种模型。最后文娟老师分享了她最近在美国佛罗里达大学农业与生物工程系访学时参与的科研课题和实验成果。

刘刚教授、薛一鸣副教授等老师及相关研究生参加了此次学术报告。在整个学术报告过程中，多位老师与文娟老师展开了热烈的讨论，同学们也纷纷踊跃提问和交流，文娟老师和师生进行了深入的交流，报告现场十分活跃，氛围融洽。