随着生成式人工智能技术的飞速发展，其在革新信息生产方式的同时，也带来了虚假媒体内容泛滥的严峻挑战。深度伪造技术能够以假乱真地篡改图像、视频等信息，对政治、经济、社会稳定乃至国家安全构成严重威胁。为了应对这些挑战，人工智能内容安全技术的研究与应用已成为当务之急。

由中国图象图形学学会（CSIG）主办，CSIG数字媒体取证与安全专委会、《网络空间安全科学学报》、内蒙古工业大学承办，中国防伪行业协会专家委员会支持的“生成式媒体内容安全”学科前沿讲习班将于2025年8月6日至8日在内蒙古呼和浩特市举办。

本期讲习班汇聚了国内在媒体内容安全领域的顶尖专家学者，将围绕AIGC伪造检测、视觉生成模型安全、信息内容制作与网络认知安全、数字水印、多模态协同鉴伪以及AI内在安全等前沿课题展开深入探讨。报告内容将系统性地梳理技术发展脉络，分享最新的研究进展与成果，并展望未来的发展趋势与挑战。本次活动旨在为从事相关领域研究与开发的专业人士提供一个高水平的学术交流平台，共同推动我国在生成式媒体内容安全领域的技术创新与发展。

主办单位：中国图象图形学学会（CSIG）

承办单位：CSIG数字媒体取证与安全专委会、《网络空间安全科学学报》、内蒙古工业大学

支持单位：中国防伪行业协会

上课时间及地点

时间：2025年8月6日至8日

地点：内蒙古呼和浩特，呼和浩特大成雷迪森维嘉酒店

日程安排

学术主任

个人简介：周琳娜，北京邮电大学博士研究生毕业，清华大学博士后。国家百千万人才，国家“有突出贡献中青年专家”，国家重点领域创新团队负责人（入选国家“万人计划”领军人才），享受国务院政府特殊津贴专家，获得中华人民共和国成立70周年纪念勋章。全国金融标准化技术委员会委员、全国专业标准化防伪技术委员会委员、中国图象图形学学会理事，中国防伪行业协会理事。一直从事金融安全与监管、多媒体内容安全、人工智能安全领域的科学研究。在相关领域发表学术论文50余篇，编辑出版专著4部。主持完成3项国家自然科学基金重点和面上项目、主持完成5项国家重点科研专项和30余项部级重大科研项目，35次获省部级科技进步奖，并于2006年获国家技术发明二等奖（排名2），2009年获国家科技进步二等奖（排名5），2016年获国家科技进步二等奖（排名3），2019年获国家科技进步二等奖（排名2），2011年获国家科技进步一等奖（排名2）。

特邀讲者

个人简介：赵耀，长江学者特聘教授、国家杰出青年科学基金获得者、万人计划科技创新领军人才、IEEEFellow。现任“视觉智能交叉创新”教育部国际联合实验室主任、“科幻音视频智能处理”北京市重点实验室主任。研究领域包括图像\视频压缩，数字媒体内容安全，媒体内容分析与理解，人工智能、无人驾驶等。主持了新一代人工项目、973计划等项目30余项。在包括IEEETrans.等国内外期刊、会议上发表论文200余篇。作为第一完成人获北京市科学技术奖一等奖等省部级奖励5项、世界互联网大会领先科技奖1项。

报告题目：AIGC伪造检测的泛化性研究

报告摘要：随着数字媒体和信息技术的发展，图像、视频等多媒体信息已成为现代社会中最主要的信息媒介。同时，各类编辑和生成技术层出不穷，各种强大的编辑工具也随之产生。这些编辑手段降低了内容篡改的门槛，编辑后的图像、视频的视觉效果逼真。尤其是近年来出现的深度伪造技术引起了更广泛的社会关注。由此，多媒体内容的真实性越来越受到质疑，其真伪鉴别和取证成为研究热点。本报告首先介绍深度伪造的取证方法和研究进展，涉及多媒体内容取证的研究背景、深度伪造的危害和检测方法、AI伪造人脸的真伪鉴别方法、生成式人脸编辑的主动防御等，然后重点介绍课题组的部分研究工作。

个人简介：刘安安，天津大学讲席教授，天津大学图象所所长，国家杰青，IETFellow。从事多模态信息感知与决策，社会模拟器构建研究，服务于网络媒体安全审核与引导等。作为负责人承担国家基金联合重点、重点研发课题等；以第一完成人获天津市科技进步特等奖；发表高水平论文百余篇；担任4个IEEE/ACM期刊编委，连续7年担任CCF-A类国际会议ACMMultimedia领域主席。

报告题目：群体智能驱动的社会模拟器

报告摘要：社会模拟器作为数字时代人工智能与社会科学交叉创新研究的方法论革命，其本质是构建人工社会实验室，对复杂社会系统进行"计算解构"与"涌现重构"，实现从静态观察到动态干预的转变，并通过多智能体的认知建模与多尺度社会网络的耦合演化，在虚拟空间中创造具有涌现特性的社会"数字孪生"。本报告将汇报团队基于群体智能驱动的社会模拟器在群体认知领域的创新工作，探索群体智能在媒体内容流行度预测、虚假信息认知、个性化信息传播等重大社会议题中验证其决策支持价值，为数字社会治理提供了新的科学范式。

个人简介：李斌，教授，博导，CSIG高级会员，广东省图象图形学会副理事长，广东省智能信息处理重点实验室主任。从事多媒体取证与安全的理论与方法研究，主持国自科联合基金重点项目、广东省自科杰出青年基金、深圳市基础研究重点项目等，发表包括TIFS、TDSC、TIP、CVPR、IJCAI等论文150多篇，连续5年入选斯坦福全球前2%科学家榜单，与头部互联网企业开展技术开发合作，制定取证行标/团标3件。担任IEEET-IFS、《信息安全学报》编委。获CCF自然科学一等奖、CSIG自然科学二等奖、深圳市自然科学二等奖等。

报告题目：图像鉴伪——从弱信号表征到多模态协同

报告摘要：生成式人工智能的迅猛发展在革新信息生产方式的同时，也带来了虚假媒体内容泛滥的严峻挑战。深度伪造技术能够以假乱真地篡改视频和图像，对政治、经济和社会稳定构成威胁。为应对这一挑战，图像鉴伪技术经历了从早期基于弱信号表征的传统方法，到近期多模态信息协同的智能检测方式的演进过程，在政务舆情、电子商务、新闻传媒等众多领域展现出旺盛的应用需求。本报告将以AI生成图像鉴伪为例，系统梳理鉴伪方法的发展历程，分析技术原理，分享团队在鉴伪模型方法设计中取得的新进展，探讨当前面临的挑战和发展趋势。

个人简介：谢洪涛，中国科学技术大学教授、博士生导师，国家杰青。从事人工智能和多媒体内容安全方向的研究，以第一或通讯作者在国际一流期刊和会议上发表学术论文100余篇，担任ACMTOMM等四个国际著名期刊编委。主持科研项目10余项，含国家重点研发计划重点专项项目1项、国家自然科学基金联合重点项目2项。获2023年度国家技术发明奖二等奖、2019年度国家自然科学奖二等奖、2022年度中国图象图形学学会青年科学家奖等奖励。

报告题目：视觉生成式人工智能安全技术

报告摘要：随视觉生成式人工智能技术的爆发式发展，其在安全性、可信性、可控性等方面正面临前所未有的挑战。本报告从数据安全、内容安全、模型安全三个角度系统地阐述视觉生成式人工智能安全技术。首先，讲述细粒度域间方向引导的主动干扰和可自验证的语义水印嵌入技术，通过提高干扰可解释性和取证泛化性，实现数据保护。其次，讲述通用人脸伪造检测、特定人伪造检测以及AIGC检测，通过全方位挖掘伪造痕迹，实现生成内容检测。然后，讲述双层优化的概念擦除和人在回路的模型价值观对齐方法，通过有害概念擦除和价值观对齐，实现模型安全。最后，对视觉生成式人工智能安全的技术发展趋势与未来研究方向进行讨论和展望。

个人简介：沈超，西安交通大学二级教授，教育部长江学者特聘教授，科学探索奖、达摩院青橙奖、基金委优青获得者，教育部创新团队负责人，教育部工程研究中心主任，国家重点研发计划首席科学家，国家基础加强计划技术首席科学家，重点研发计划“先进计算与新兴软件”重点专项指南专家组成员。主要从事智能系统可信、安全、控制与测试的研究工作，获最佳论文奖11次。牵头获2项省部级科学技术一等奖、霍英东青年教师一等奖、MITTR35China、IEEESMCEarlyCareerAward等。

报告题目：AI内在安全：从小模型到大模型到多模态具身智能

报告摘要：随着大模型能力和具身智能边界的不断拓展，其潜在的安全隐患亦日益凸显。本报告将从AI的内生安全属性出发，从小模型到大模型到具身智能--围绕保密性、完整性与隐私性这三大安全基石，分析AI大模型时代下和具身智能背景下的人工智能安全可靠性和安全性问题。本报告聚焦于大模型隐私泄露路径、模型窃取手法、对抗攻击策略、后门植入威胁、输出结果隐患，以及公平性与偏见等问题。

个人简介：卢伟，中山大学计算机学院教授、博士生导师，信息技术教育部重点实验室主任，曾任中山大学人工智能研究院副院长、先进技术研究院副院长，入选国家网信办高层次创新人才计划，中国图象图形学学会多媒体取证与安全专委会委员、中国人工智能学会人工智能与安全专委会委员。主要研究方向为智能媒体安全。承担国家自然科学基金重点项目、国家重点研发计划课题、广东省重点领域研发计划等。参与多项国家行政行业标准的制定，研制的系统广泛应用于公检法司、国家安全、政务等重要政府职能部门，核心参与广东省数字政府建设中数据安全关键技术研发，并列入广东省科技示范创新亮点案例。

报告题目：人工智能生成媒体的内容安全与对抗

报告摘要：以大模型为代表的人工智能技术在近年来取得了巨大的进步，尤其是在图像、视频、音频、文本等信息内容的生成领域。然而，人工智能强大的生成能力也带来了一系列安全问题。其生成的信息内容可以被用于制造虚假信息、深度伪造等，对个人隐私、社会稳定和国家安全都构成了严重威胁。为应对这些威胁所带来的不良影响，当前人工智能对抗技术得到了学术界和工业界的广泛关注和研究。本次报告以人工智能生成媒体的被动取证和主动防御为主题，在大模型发展的背景下阐述人工智能生成内容安全的发展脉络，并对其所带来的一系列安全问题和对抗措施展开讨论。

个人简介：罗向阳，信息工程大学教授、博导，河南省网络态势感知重点实验室主任，中原学者、国防卓青、军队学科拔尖人才。主要从事网络安全与多媒体安全领域研究，先后主持国自然基金6项（其中重点3项），主持国家重点研发计划、军队和省部级重点项目30余项，在重要期刊会议发表论文200余篇，获省部级自然科学、技术发明和科技进步一等奖4项，获国家教学成果一等奖、省级教学成果特等奖各1项。

报告题目：信息内容制作与网络认知安全

报告摘要：阐述网络认识安全的概念和内涵要义，介绍以生成式人工智能为代表的信息内容制作典型方法，阐述其在网络认知安全中的应用场景和重要意义，报告团队在信息内容生成与对抗方面的研究进展

个人简介：中国科学技术大学讲席教授，博士生导师，教育部高等学校网络空间安全专业教指委副主任委员，中国网络空间安全学会副理事长（法人），中国图象图形学学会副理事长、会士，国家重点研发计划项目首席科学家。主要研究领域为信息隐藏与数据安全等。近年来已主持国家级课题20余项，发表高水平学术论文300余篇。获国家网络安全先进个人、国家网络安全优秀教师、安徽省教学名师、宝钢优秀教师奖等荣誉；研究成果获得军队科技进步一等奖、安徽省自然科学一等奖等省部级科技进步奖6项。

报告题目：人工智能生成数据水印技术新进展

报告摘要：以ChatGPT，DeepSeek为代表的生成式人工智能，凭借其惊艳的生成能力，在全球范围内引发了新一轮人工智能技术革命。然而，生成式人工智能技术的快速发展也衍生出虚假信息传播、知识产权窃取等新型安全隐患，数字水印是解决该问题的关键技术之一。本报告将介绍生成式人工智能时代下数据水印技术的新进展，并讨论其尚待解决的挑战。

报名及注册费

1. 2025年xx月xx日（含）前注册并缴费：CSIG会员2000元/人，非会员2500元/人（赠送1年CSIG会员）；现场缴费：会员、非会员均为3000元/人；CSIG团体会员参加，按CSIG会员标准缴费；同一单位组团（5人及以上）报名，均按CSIG会员标准缴费。

2. 注册费包括讲课资料和2天会议期间午餐，其它食宿、交通自理。

3. 即日起至2025年xx月xx日，请登录会议注册网站注册。

4. 会议注册网址：

https://meeting.csig.org.cn/10342

联系方式

联系人：黄老师

联系电话：010-82544754

邮箱：igal@csig.org.cn