返回首页
CNCC | AIGC内容乱象：检测与溯源能否主宰乾坤
CNCC2024
论坛简介：
AIGC内容乱象：检测与溯源能否主宰乾坤
举办时间：10月25日13:30-17:30
地点：夏苑-海晏堂一楼3号厅
注：如有变动，请以官网(https://ccf.org.cn/cncc2024)最终信息为准
AIGC技术的突破性进展极大地丰富了数字媒体生态，使得创作变得前所未有的便捷和多样。从生成艺术作品到撰写文章，AIGC为创作者提供了强有力的工具，推动了内容生产的革命。然而，这一技术的迅猛发展也带来了一系列负面影响，尤其是伪造内容的诈骗事件频频发生，让人们不得不面对网络媒体的匿名性和难以追溯性所带来的风险。
188体育投注：AIGC内容检测与溯源的研究仍面临一些亟待解决的问题。首先，现有检测技术难以有效识别复杂多样的AIGC生成内容，导致伪造信息识别率低。其次，许多工具缺乏实时性，无法及时跟踪新生成内容，从而加剧网络安全隐患。此外，由于不同平台标准不一，缺乏统一的检测框架，增加了内容治理的复杂性。最后，如何在确保透明度和可追溯性的同时保护用户隐私，仍是研究者和政策制定者需要重点关注的挑战。
本论坛聚焦AIGC内容的检测与溯源，探讨如何准确、高效地识别和追踪AIGC生成内容，以降低安全风险。我们将深入讨论技术创新如何提升检测准确性和效率，增强伪造内容识别能力，并构建全面的内容溯源体系。同时，论坛还将探讨如何在保障内容多样性和真实性的前提下，实现AIGC技术的健康发展与规范应用。
论坛日程
论坛主席及嘉宾介绍
论坛主席
任文琦
CCF YOCSEF深圳AC委员，中山大学教授、优青
简介：CCF多媒体专委会执行委员、CCF YOCSEF深圳AC委员，中山大学“百人计划”引进人才，优青，教授，获中国计算机学会优秀博士论文奖、吴文俊人工智能优秀青年奖、中国图象图形学会自然科学一等奖等。
共同主席
漆舒汉
CCF YOCSEF深圳学术秘书，哈尔滨工业大学（深圳）副教授
简介：CCF多媒体专委会执行委员，CCF YOCSEF深圳学术秘书，广东省决策智能重点实验室副主任。获教育部科技进步二等奖、“挑战杯”科创竞赛金奖、中国高校计算机教育大会特等奖。
论坛讲者
彭宇新
北京大学教授、863项目首席专家、杰青
简介：北京大学博雅特聘教授、863项目首席专家、杰青，中国人工智能产业创新联盟专家委员会主任、中国工程院“人工智能2.0”规划专家委员会专家。以第一完成人获2016年北京市科学技术奖一等奖和2020年中国电子学会科技进步奖一等奖。
报告题目：细粒度多模态场景理解与生成
摘要：场景是构成世界的基本要素，对场景的准确理解与生成是推动大模型落地的重要应用之一。细粒度、多模态的场景理解与生成能够更准确地刻画真实世界，可广泛应用于智慧城市、智能制造、智能零售等领域。细粒度多模态场景理解与生成旨在识别场景中多模态对象的细粒度信息从而实现场景理解，并进行语义可控、内容真实的场景生成，关键科学问题包括如何精准辨识开放域中任意类别、不断新增的细粒度类别对象，如何根据对象的细粒度属性及关系生成符合要求的多模态场景等。本报告将介绍课题组在相关领域的近期工作进展，并对未来发展方向进行讨论与展望。
张卫明
中国科学技术大学教授、网络空间安全学院副院长
简介：中国科学技术大学教授，网络空间安全学院副院长、国家基础加强计划重点基础研究项目“技术首席专家”。获得军队科技进步一等奖、安徽省自然科学奖一等奖等奖项。
报告题目：大模型生成内容的监测与检测技术
摘要：基于大模型的生成式人工智能快速发展，为人们的学习、工作与生活带来便利的同时，也给网络空间安全带来了全新的挑战。一方面大模型输出的内容会影响人类认知安全，例如虚假信息认知干扰、人类信息生态污染、个人数据非法滥用等；另一方面大模型智能体的所思所想难以控制，诱发机器认知安全这一新兴问题。本报告将从内部监测和外部检测两个视角讨论大模型对机器认知安全和人类认知安全的影响。