演讲主题：
Hiding a Swarm's Leader from RL Agent and Human
AI Safety in the Information and Physical Spaces
讲者:&苍产蝉辫;
Prof. Michael Lewis 美國匹茲堡大學（University of Pittsburgh）資訊學院教授
Prof. Katia Sycara 美国卡内基美隆大学（颁惭鲍）机器人研究所资深研究教授，现任机器人研究所副主任，并担任可信任人机协作研究中心主任
時間: 2026年5月12日 (二) 15:00-17:00
地點: 管理大樓11樓-AI講堂
直播連結: https://reurl.cc/xW6OmZ或 掃描海報 QR code
讲者介绍:
Michael Lewis 教授為美國匹茲堡大學（University of Pittsburgh）資訊學院教授，專長於人機互動、人機協作與群體機器人（swarm robotics）研究，特別關注人類如何與多機器人系統及AI協同運作。其研究涵蓋人因工程、強化學習、人機信任與決策支援等領域，長期獲美國國防高等研究計畫署（DARPA）與多個政府機構支持，為人機協作與智慧系統領域的重要學者。
Katia Sycara 教授為美国卡内基美隆大学（颁惭鲍）机器人研究所资深研究教授，现任机器人研究所副主任，并担任可信任人机协作研究中心主任。她為人工智慧、多代理系統與人機協作領域的國際權威學者，為 AAAI 與 IEEE Fellow，並曾獲多項國際學術終身成就獎。其學術影響力深遠，發表超過700篇論文，引用數逾5萬次，致力於發展可信任、自主且可解釋的AI系統。
演讲大纲:
Hiding a Swarm's Leader from RL Agent and Human
本演讲探讨在机器人群体系统中保护领导者的策略。虽然以领导者為核心的控制方式可提升群体协作效率，但同时也增加系统遭受攻击的风险。本研究透过图神经网路（骋狈狈）训练群体追随领导者，并利用对抗式模型辨识领导者位置。研究结果显示，在一般情境下，础滨模型在领导者辨识上优於人类；然而当群体採用隐匿策略时，人类的辨识能力反而优於础滨。即使在对抗模型持续学习及高视觉干扰环境下，人类仍展现出稳定且较佳的判断能力。此结果突显人类与人工智慧在复杂多代理系统中的关键差异。
AI Safety in the Information and Physical Spaces
本演讲探讨基础多模态模型（Foundational Multi-Modal Models）的潜在安全漏洞，重点分析透过「意图欺骗（intention deception）」进行模型越狱（jailbreaking）的风险，以及在何种条件下多模态模型更容易受到对抗性攻击并洩露敏感或危险资讯。此外，将提出相应的安全防护策略，并进一步介绍「情境安全（contextual safety）」在真实世界应用中所面临的挑战。
※本活动无需报名