学术活动
当前位置: 首页 > 学术活动 > 正文
当前位置: 首页 > 学术活动 > 正文

【创源大讲堂】大模型与智能体安全

来源:计算机与人工智能学院 日期:2026/03/30

讲座时间:2026年04月01日(星期三)晚上19:30

讲座地点:犀浦校区3号教学楼X31541报告厅

主讲人:王琨 博士

主讲人简介:

王琨博士现为南洋理工大学博士后研究员,博士学位获得于中国科学技术大学人工智能与数据科学学院,其主要研究方向聚焦于大模型安全与多智能体系统,研究内容涵盖智能体(Agent)、数据挖掘(尤其以时空预测及地球科学应用为重点)以及基于大型语言模型的智能体(LLM Agent)等前沿领域,他长期致力于显著提升深度学习与人工智能系统的安全性、可解释性、泛化能力及鲁棒性,截至目前以第一作者或通讯作者身份已在人工智能与数据挖掘领域顶级会议及期刊发表学术论文三十余篇,包括ICLR、NeurIPS、ICML、KDD、AAAI、WWW、IEEE TKDE、IEEE TPAMI等,其中超过十篇论文获得Oral(接受率通常小于1%)或Spotlight(接受率通常小于5%)等高水平录用荣誉,并于2025年获得ICLR 2025最佳论文奖(Best Paper Award),此外他担任ICLR、NeurIPS、ICML、KDD、AAAI以及IEEE TKDE、IEEE TPAMI等重要国际会议与期刊的审稿人。

内容简介:

现实世界中的大模型应用通常面临高度不确定与复杂环境。全栈大模型安全处理的不确定性主要源于模型全生命周期中数据、算法及应用环节的内在脆弱性与潜在恶意攻击的决策问题。报告从数据安全、模型与算法安全、以及落地部署阶段的智能体应用安全等多个维度展开多层次分析,结合国内外最新相关研究成果,清晰界定当前安全防护的重点方向及具有高研究价值的关键内容。同时,从技术防护措施、管理与治理策略、人员能力建设与培训等多个层面提出集成化的安全保障框架,力求为全栈大模型的安全设计、开发、部署与运维提供更加全面、立体的视角与指导,推动大模型技术在真实场景中实现安全、稳定、可信且高效的规模化应用与可持续发展。


作者:邹远   编辑:冉孟雨   


[西南交通大学新闻网版权所有,未经书面授权禁止使用]

[打印本页] [关闭窗口]