报告题目：大模型时代人工智能安全发展的挑战与机遇
报告地点：西南交通大学犀浦校区7教7402
报告人：韩蒙
报告时间：2023年10月13日下午14:00-15:00
报告摘要：随着人工智能系统在各个领域逐渐替代人类进行自主决策，数据和算法的重要性越来越凸显。由数据和算法支持的决策缺乏安全保障可能导致严重的决策失误，甚至可能造成人身伤害和社会财产损失。因此，人工智能安全已成为国家基础设施建设的重点，并纳入了国家安全战略纲要。除了经典的决策型人工智能，如ChatGPT和MidJourney，近来以大语言模型为代表的生成式人工智能的发展也受到广泛关注。这些新的技术形式和应用场景带来了巨大的商业潜力和机会，但同时也带来了一系列新的挑战，例如隐私泄露、识别偏差、偏见及歧视以及合规和版权问题等。 本次报告将分享如何充分利用新技术的发展，确保人工智能行业的安全可信。我们将分享面向深度学习模型以及快速发展的大模型安全领域的研究进展，以及其为科研和产业带来的新机遇。
个人简介：韩蒙，博士，毕业于美国佐治亚理工学院&佐治亚州立大学，获MBA及计算机博士学位, 获国家自然科学基金面上项目、教育部“青年人才”基金等项目支持，入选浙江省“海外高层次”人才计划，IEEE资深会员。在获得美国佐治亚州第二大公立大学终身教职后，现任浙江大学计算机学院“平台百人计划”研究员，浙江大学滨江研究院数智融合研究中心主任，专注于从事人工智能生态治理、大模型风险治理、模型评测与增强有关的研究。截止 2023年, 韩蒙博士累计发表包括CCS、ISSTA、TDSC等CCF A类学术会议及期刊论文, 图书章节等出版物60余篇, 并获得了8个最佳国际会议/期刊论文奖或最佳会议论文候选奖，学术成果在谷歌学术累计获引3000余次。
