【厦门大学南强学术讲座】-Next Phase of Research in Agentic AI Era ; 【海韵讲座】2026年第25期-从工具到主体:AI安全风险的认知解读与体系化应用

发表时间:2026-09-19 编辑:陈 磊 来源: 浏览次数:

讲座日期 2026年9月22日(星期二)16:00-17:00 地点 厦门大学翔安校区西部片区益海嘉里楼报告厅
主讲人 Tat-Seng Chua,新加坡国家科学院院士;胡侠,国家级人才


【厦门大学南强学术讲座】

报告题目:Next Phase of Research in Agentic AI Era

主讲人:Tat-Seng Chua,新加坡国家科学院院士、新加坡国立大学计算机学院创院院长、 新加坡国立大学KITHCT 讲席教授

报告时间:2026年9月22日(星期二)15:00-16:00

报告地点:厦门大学翔安校区西部片区益海嘉里楼报告厅

邀请人:人工智能系 纪荣嵘 教授


【海韵讲座】2026年第25

报告题目:从工具到主体:AI安全风险的认知解读与体系化应用

主讲人:胡侠,国家级人才,现任上海人工智能实验室主任助理、领军科学家

报告时间:2026年9月22日(星期二)16:00-17:00

报告地点:厦门大学翔安校区西部片区益海嘉里楼报告厅

邀请人:人工智能系 纪荣嵘 教授



【厦门大学南强学术讲座】

报告题目:Next Phase of Research in Agentic AI Era

主讲人:Tat-Seng Chua,新加坡国家科学院院士、新加坡国立大学计算机学院创院院长、 新加坡国立大学KITHCT 讲席教授

报告时间:2026年9月22日(星期二)15:00-16:00

报告地点:厦门大学翔安校区西部片区益海嘉里楼报告厅

报告摘要:

As large foundation models (LFMs) reach the limits of scaling and stabilize into platforms, we enter the era of agentic AI with focus on vertical domain applications. In the agentic era, AI models are deployed as intelligent entities with goals and can act autonomously and collaboratively with other agents. The recent success of multi-agent platforms such as OpenClaw and Anthropic's Claude agents points to surging demand for agentic AI services. However, this trend also exposes many issues and challenges in multi-agent systems, many of which can be meaningfully explored in academic environment on top of LFMs as the platform. This talk will highlight 3 such directions. The first is the analysis of inherent latent knowledge, structures and capability of LFMs, with the goal towards AI audit. The second aims to facilitate safe and effective inter-agent collaboration, particularly in the collaborative, non-collaborative and adversarial settings. The third explores AI safety in multi-agent settings, from model level to multi-agent level and end-to-end application level. Lastly, I will briefly introduce other interesting research topics like embodied models, personalization and recommendation, and AI+X applications. As research on multi-agent system is still in the early stage, this talk concludes with directions for future research.

报告人简介:

Tat-Seng Chua教授现任新加坡国立大学计算机学院 KITHCT 讲席教授,同时担任清华大学、四川大学与郑州大学杰出客座教授。1998–2000年,他担任新加坡国立大学计算机学院创院院长。研究方向包括多模态基础模型、可信人工智能、对话式搜索与推荐。同时,他还担任新加坡国立大学与清华大学联合研究中心 NExT 的联合主任。

Tat-Seng Chua教授荣获2015年 ACM SIGMM 成就奖、2022年新加坡国立大学科研成就奖、2024年中国计算机学会(CCF)海外杰出技术贡献奖,并当选新加坡国家科学院院士。他担任国际多媒体建模大会(MMM)系列会议指导委员会主席,并于2015–2018年担任 ACM 国际多媒体检索会议(ICMR)主席。曾担任 ACM Multimedia 2005、ACM SIGIR 2008、ACM Web Science 2015、WSDM 2023、ACM Web Conference(即 WWW)2024以及 ACM 金融人工智能国际会议(ICAIF)2025大会联合主席。其研究团队斩获多项最佳论文奖,包含 ICLR 2025杰出论文奖。Tat-Seng Chua教授也是新加坡两家科技初创企业的联合创始人。

邀请人:人工智能系 纪荣嵘 教授

【海韵讲座】2026年第25


报告题目:从工具到主体:AI安全风险的认知解读与体系化应用

主讲人:胡侠,国家级人才,现任上海人工智能实验室主任助理、领军科学家

报告时间:2026年9月22日(星期二)16:00-17:00

报告地点:厦门大学翔安校区西部片区益海嘉里楼报告厅

报告摘要:

随着大模型与智能体能力的快速提升,AI正在从被动执行指令的工具演变为能够自主决策、独立执行任务的主体。这要求我们重新理解AI安全风险:一方面,幻觉、偏见、隐私泄露等应用风险伴随模型落地而广泛显现;另一方面,更深层的来自模型自身的认知能力与目标优化机制,它内生于"模型如何理解世界、如何追求目标"这一根本过程。本演讲尝试给出一个统一的认知框架,将上述两类风险纳入同一分析视野,揭示其从工具性失效到主体性偏移的演化逻辑;并在此基础上,介绍如何体系化应对快速演变的AI安全风险,包括风险识别、评估、防控与治理的协同机制,以期为AI安全的研究与实践提供可操作的应对路径。

报告人简介:

胡侠,国家级人才,现任上海人工智能实验室主任助理、领军科学家。他曾任美国莱斯大学正教授、数据科学中心主任,并作为联合创始人兼首席科学家参与创立AIPOW公司。胡教授长期致力于机器学习和人工智能领域的研究,在ICLR、NeurIPS、KDD、WWW、SIGIR等国际顶级会议及期刊上发表论文200余篇,论文被引用次数超过45,000次。他主导开发的自动机器学习开源系统AutoKeras已成为最常用的AutoML框架之一;其提出的NCF算法及系统(单篇论文被引超8000次)被纳入主流人工智能框架TensorFlow的官方推荐;此外,他开发的异常检测系统已在NVidia、通用电气、Trane、苹果等企业的产品中得到广泛应用。胡教授曾获ICML、WWW、WSDM、INFORMS等会议最佳论文奖或提名,以及美国国家科学基金委杰出青年奖、KDD Rising Star Award和IEEE Atluri学者奖等荣誉。他现任ACM TIST和Big Data期刊副主编、DMKD编委,并曾担任WSDM 2020大会主席及ICHI 2023、CHASE 2025医学信息学会议大会主席。

邀请人:人工智能系 纪荣嵘 教授