CCF YOCSEF西安举办技术论坛
“大模型助力信息安全产业路在何方？”
论坛编号：CCF-Yo-23-063
2023年11月11日上午，由CCF YOCSEF西安主办的主题为“大模型助力信息安全产业路在何方？”技术论坛在西安交通大学兴庆校区彭康楼218会议室举行。来自高校、产业界及CCF YOCSEF西安AC委员的40余人共聚一堂，共同研讨大模型技术对信息安全产业的影响。
本次论坛由西安四叶草信息技术有限公司技术副总裁童小敏和西北农林科技大学副教授、信息化管理处副处长刘斌担任执行主席。论坛分为引导发言、思辨和总结三个环节。
在引导发言阶段，浙江大学嘉兴研究院副主任薛峰、西安电子科技大学副教授高原、深信服陕西区副总经理杜斌、绿盟科技天枢实验室主任顾杜娟分别发表了主题演讲。
薛峰的发言聚焦于“大模型安全伦理挑战浅析”，强调大模型在人工智能技术中的引领作用，并指出其面临的诸多安全问题，包括算法可解释性、内生安全性和使用安全性。他提倡关注大模型所带来的伦理问题，如信息真实性、偏见和公平性、知识产权以及经典人权问题。
高原的发言题目是“大模型与信息安全：新的威胁与机会”。高原首先介绍了AI大模型具有参数规模巨大，表达能力强等优点。接着阐述了大模型产业前景的确定性和不确定因素，进而引出大模型的威胁：数据威胁、模型威胁、应用威胁。
杜斌的发言题目是“AI大模型的网络安全垂直领域实践”，从技术发展历程、安全问题和实际应用方面进行了深入剖析。他着重强调了大模型在网络安全中的垂直领域实践，包括从预训练数据准备到微调的过程，并对安全GPT的实际应用进行了展望。
顾杜娟的发言题目是“大模型安全实践”，着眼于大模型的安全问题，包括安全监管、潜在安全隐患和大模型API威胁监控等方面。他强调了大模型安全监管的必要性，并介绍了绿盟科技在大模型安全实践方面的努力。
在思辨讨论阶段，与会嘉宾围绕“大模型对信息安全领域来说是威胁还是机遇？”“传统机器学习方法与大模型相比孰优孰劣？”“大模型的规模与效能之争。”这三个议题展开讨论。西安电子科技大学菁英副教授靖旭阳，西安电子科技大学博士后王萍等与会人员积极参与了讨论。
与会人员讨论后认为，对于信息安全领域技术发展来说，大模型是一个机遇。在大数据驱动驱动下，大模型具有的强大学习和推理能力能帮助和提高安全检测的效率，分析出潜在的威助等，建议多家企业联合高校共同研发大模型助力信息安全发展。
思路环节结束后，CCF YOCSEF西安为嘉宾颁发了感谢牌。最后，CCF YOCSEF西安主席、西安交通大学教授马小博进行论坛总结发言。
此次论坛通过深入研讨大模型在信息安全产业中的应用，吸引了来自高校和产业界的专家学者共同参与。专家们在演讲和讨论中，不仅展示了大模型技术的前沿研究成果，也深刻剖析了大模型在信息安全领域的潜在威胁和机遇。论坛为促进学术界与产业界的交流合作提供了平台，进一步推动了信息安全产业的创新和发展。这次活动不仅为大众普及了大模型技术，也为未来信息安全领域的探索指明了方向，具有重要的学术和实际意义。
