课程背景：

网络空间是亿万民众共同的精神家园。网络空间不是 “法外之地”。网络空间是虚拟的，但运用网络空间的主体是现实的，大家都应该遵守法律，明确各方权利义务。

网络安全和信息化是相辅相成的。安全是发展的前提，发展是安全的保障，安全和发展要同步推进。

本次公开课由网易智企主办，特邀网易智企资深计算机视觉算法工程师-王立春、崔若璇；浙江师范大学博士生浙江师范大学教授，人工智能研究院执行院长-彭浩；商汤科技研究院通用模型团队研究员-秦昊煜为大家分享当下网络安全热点技术及未来发展趋势。

课程安排：

《让内容安全服务更加“安全”：可信AI探索与实践》

讲师：王立春、崔若璇——网易智企资深资深计算机视觉算法工程师

内容：

在AI大规模的落地应用中出现了许多"信任危机"问题，对AI可信的追求与研究已经成为人工智能领域热门话题之一。本课程从可信AI的概念出发，介绍AI可信的具体含义。针对每一层含义，介绍如何从算法研发的每一个环节出发，追求和打造更加可信的内容安全AI系统。

课程大纲：

1. 可信AI的背景和重要性

2. 可信AI的概念和具体含义

3. 构建更加可信的内容安全AI系统的探索与实践

4. 可信AI的未来发展与思考

《深度学习中的对抗攻击与防御》

讲师：秦昊煜——商汤科技研究院通用模型团队研究员，主要参与模型体检平台的研发工作，哥伦比亚大学计算机系硕士，曾获ICCV-MFR比赛冠军。

内容：对抗攻击是一种试图用欺骗性数据欺骗模型的技术，它使得模型的预测不再可靠，它是人工智能和机器学习研究领域日益增长的威胁。相应的，对抗防御则旨在提升模型的鲁棒性以应对上述威胁。本课程对从对抗攻击的背景出发，对常见的攻击和防御算法进行探讨。

课程大纲：

1. 对抗攻防的背景

2. 对抗样本的分类与生成算法

3. 对抗样本原理浅析

4. 对抗防御方法综述

《机器学习模型的安全与隐私保护》

讲师：彭浩教授，现为浙江师范大学教授、双龙学者特聘教授、博士生导师、博士后导师、计算机博士点负责人、校人工智能研究院执行院长、校网络安全与优化研究所所长、校网络安全创新实验室负责人

内容：近年来，深度学习、强化学习等理论和技术取得突破性进展。尽管机器学习模型在现实应用中有着出⾊的表现，但其本身在数据层、模型层以及应用层仍然面临着诸多的安全威胁。本内容从当前机器学习的安全和隐私问题出发，从攻与防两个角度对该问题进行探究，并探讨该领域所面临的挑战以及未来潜在的研究⽅向。

课程大纲：

1. 机器学习模型安全与隐私研究背景

2. 数据安全面临的投毒攻击风险与防御

3. 模型隐私面临的试探性攻击与隐私保护方法

4. 机器学习安全应用和隐私保护研究难点和潜在研究方向