虚假信息是何方“谣”怪？

“喝消毒水可以治愈新冠”

“政府将对生长激素进行集采” 

“俄罗斯在布查地区大量杀戮平民”

“泽连斯基宣布投降”

您是否在新闻应用、朋友圈或者是亲友群中看到过这些爆炸性乃至惊世骇俗的假新闻、谣言等虚假内容？它们用吸睛的噱头迷惑受众、诱人传播，并带来了一系列严重的社会、经济、政治危害：“消毒水治疗新冠”谣言导致“美国短短几天接连出现了100多例因为注射和服用消毒液而就诊的病例，甚至有人因此丧命……”；“生长激素“假新闻导致长春高新股票近12个交易日市值蒸发近200亿元；“俄罗斯布查屠杀”、“泽连斯基宣布投降”等假新闻则披着新闻的外衣，操纵公众情绪，成为了战场上新的破坏性武器。

为什么网络空间尤其是社交媒体上会谎言遍地、谣言盛行？为什么人们宁可信“谣”而罔顾真相？人们的情绪为什么更易被谣言左右，产生灾难性的后果？“虚假信息”治理又该何去何从？

虚假识别的“照妖镜”

在社交媒体动辄每日几十亿的信息轰炸下，信息不仅严重过载，还真假莫辩！对于真相，我们不仅耳听为虚，眼见也不再为“实”,茫然四顾，不知所以。浩瀚的信息海洋，又使得基于专家的人工真假判别尤显杯水车薪，无以应对。为此，以Facebook、Twitter等为代表的社交媒体都开始采用人工智能技术，对平台进行监测，以期在巨量信息中鉴别真伪，识别虚假，为后续的治理干预奠定基础。

利用人工智能技术辨别信息的真伪，除了需要人工智能的感知智能以外，还需要涉及到更高层次的认知智能。在信息内容辨识方面，我们需要对语言内容的深入理解、对背景知识的掌握、对情绪的识别，需要逻辑的推理、常识的判断等，这些都对语言智能、多模态理解等提出了突出的科技挑战。人工智能尤其是大模型赋能的虚假内容生成，水军、机器人的大肆散播，更让虚假信息从手工作坊式的“制、贩”走向了智能化、工厂化的“精制滥播”，不仅大大降低了制假的门槛，同时也大幅增加了识假的难度和成本。

我们是否能够从人工智能伦理的角度出发，对“亦正亦邪”的大模型行为进行规约，把人工智能“关到制度的笼子里”，避免其被滥用造假，是不是可以在内容基础上，更多地关注传播网络中蕴含的丰富信息？尽管我们当前基于序列学习、图学习等方法，能够对传播结构进行表示和推理，以提升虚假检测、尤其是早期检测的性能，它们又是否能够充分挖掘到了那些深藏在数据海洋中的传播规律？

“照妖镜”还需要怎样的认知智能“法力”？

针对通用机器智能，图领奖得主Yann LeCun在其最近的文章[2]中强调了学习“世界模型”的必要性，以估测感知智能不能提供的有关世界状态的缺失信息、预测世界未来可能的状态。对应到虚假信息识别，我们又应该建构什么样的“世界模型”？我们是否能够在内容理解和结构学习之外，去更好地发掘、表示、利用内容的背景知识、信息传播的规律、社会的情绪影响等显示的和隐式的信息，帮助我们提高认知虚假并加以鉴别的能力？我们又该如何推进跨平台、跨语言、跨主题、跨模态的虚假信息识别等前沿研究工作？这些不仅仅需要我们对人工智能的深度探索，更需要计算科学与社会学科的交叉和融合，需要横跨计算科学、传播学、认知科学、伦理学等领域的协同创新。

“CNCC论剑”——锻造智能“照妖镜”

锻造社交媒体上的智能“照妖镜”，难在哪里？路在何方？

《网络生态治理-社交媒体上的虚假信息识别》技术论坛围绕社交媒体中的虚假信息智能识别主题，搭建一个计算科学和社会科学的跨学科交流的“CNCC论剑”平台，共同探讨虚假信息治理中的理论、方法、模型和技术，从社交挖掘、传播学、情绪智能、多媒体以及大模型伦理等多个不同的视角展开深入的研讨与交流。

本次论坛执行主席由中国科学院信息工程研究所的虎嵩林研究员和周薇高级工程师担任。论坛非常荣幸地邀请到了虚假信息检测领域的领军人物、美国亚利桑那州立大学刘欢老师，香港浸会大学宋韵雅教授，哈尔滨工业大学秦兵教授，中科院计算所曹娟研究员，清华大学长聘副教授刘知远老师共5位特约讲者参与本次活动，就打击社交媒体上的虚假信息及其挑战、虚假信息跨学科分析、虚假识别中的社会情绪智能、多模态虚假信息检测方法、对抗虚假生成的大模型安全伦理等方面分享精彩的观点。

同时，本次论坛将设置Panel讨论环节，欢迎广大专家学者参与，与会嘉宾将与大家一起，通过计算科学、社会科学的跨学科对话，共同讨论虚假信息识别的技术挑战及其未来趋势，推动网络生态治理理论、技术和应用的发展。

本年度CNCC大会将举办“网络生态治理——社交媒体上的虚假信息识别”技术论坛。5位来自中、港、美的特邀讲者，将就社交媒体中虚假信息智能分析的挑战、虚假信息跨学科分析、虚假识别中的情绪智能、多模态虚假信息检测方法、对抗虚假生成的大模型安全伦理等方面分享精彩报告，并将在Panel环节开展计算科学与社会科学的跨学科对话。期待你的参与，一起探讨虚假识别的技术挑战及其未来发展趋势。

CNCC是级别高、规模大的高端学术会议，探讨计算及信息科学技术领域最新进展和宏观发展趋势，展示计算领域学术界、企业界最重要的学术、技术成果，搭建交流平台，促进科技成果转换，是学术界、产业界、教育界的年度盛会。今年邀请嘉宾包括ACM图灵奖获得者、田纳西大学教授Jack Dongarra，以及高文、管晓宏、江小涓、钱德沛、徐宗本、张平等多位院士，还有七百余位国内外名校学者、名企领军人物、各领域极具影响力的业内专家，CNCC在计算领域的水准及影响力逐年递增。本届CNCC的主题是：算力、数据、生态。

CNCC2022将汇聚国内外顶级专业力量、专家资源，为逾万名参会者呈上一场精彩宏大的专业盛宴。大会期间还将举办“会员之夜”大型主题狂欢活动，让参会者畅快交流，燃爆全场。如此盛会，岂能缺席！等你来，马上行动，欢迎参会报名！