大规模预训练模型通过学习海量互联网无标注数据，获得了强大的文本理解与生成能力。近年来，BERT等预训练模型在自然语言处理等诸多领域取得了极大地进展。随着超大规模预训练模型GPT-3、悟道的发布，预训练模型在自然语言理解以及生成能力上再次被推至新的高峰。

预训练语言模型家族谱

在预训练模型如火如荼的发展背景下，为了帮助研究人员更好地了解预训练模型的相关前沿进展，本次论坛共邀清华大学、中国人民大学等机构的专家学者与国内其他预训练模型研究团队代表共同研讨预训练模型的进展、挑战与机遇。

按报告时间顺序为：清华大学计算机系教授、系副主任唐杰（IEEE Fellow）；中国人民大学信息学院院长、高瓴人工智能学院执行院长文继荣教授；清华大学计算机科学与技术系长聘副教授、智能技术与系统实验室副主任黄民烈博士；中国人民大学信息学院计算机系副教授张静；清华大学计算机科学与技术系助理研究员韩文弢；清华大学计算机科学与技术系六年级博士生裘捷中。

刘知远

清华大学计算机系 副教授，CCF杰出演讲者

简介：刘知远，清华大学计算机系副教授、博士生导师。主要研究方向为表示学习、188体育app官网：和社会计算。2011年获得清华大学博士学位，已在ACL、EMNLP、IJCAI、AAAI等人工智能领域的著名国际期刊和会议发表相关论文100余篇，Google Scholar统计引用超过16,000次。曾获教育部自然科学一等奖（第2完成人）、中国中文信息学会钱伟长中文信息处理科学技术奖一等奖（第2完成人）、中国中文信息学会汉王青年创新奖，入选北京智源研究院青年科学家、2020年Elsevier中国高被引学者、中国科协青年人才托举工程。担任中文信息学会青年工作委员会主任，中文信息学会社会媒体处理专委会秘书长，期刊AI Open副主编，ACL、EMNLP、WWW、CIKM、COLING领域主席。