? 翰林侍读在此！给陛下奉上今日AI领域的论文速报！
? 右滑查看士子奏报和论文重要图表——
?? 关注微臣，每天批阅更多奏章！
? 论文标题：OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid
Validation in Realistic Workflows
? Arxiv ID：2510.24411
? 关键词：Vision-Language Models, mobile agents, safety concerns, MobileRisk-Live, OS-Sentinel
? 太长不看版：【中文】本研究提出MobileRisk-Live动态沙箱环境和OS-Sentinel混合安全检测框架，有效提升移动智能体安全性能。
? 摘要翻译：使用计算机的Agent，由视觉-语言模型（VLMs）驱动，已在操作如移动平台等数字环境中展现出类似人类的技能。虽然这些Agent在推进数字自动化方面具有巨大潜力，但它们在不安全操作，例如系统被入侵和隐私泄露方面的潜力，引发了重大担忧。在移动环境的庞大而复杂的运营空间中检测这些安全问题是极具挑战性的，而且这一领域仍然没有得到充分的探索。为了为移动Agent安全研究奠定基础，我们引入了MobileRisk-Live，这是一个动态沙箱环境，并伴随着一个包含具有细粒度注释的逼真轨迹的安全检测基准。在此基础上，我们提出了OS-Sentinel，这是一个新颖的混合安全检测框架，它协同结合了一个用于检测显式系统级违规的正式验证器和基于VLM的上下文法官，用于评估上下文风险和Agent行为。实验表明，OS-Sentinel在多个指标上比现有方法提高了10%-30%。进一步的分析提供了关键的见解，这些见解有助于开发更安全和更可靠的自主移动Agent。
? 本帖由AI整理生成，若有错误欢迎朱批！
?? 求一个关注，让我更有动力为大家整理更多的AI领域的新文章！
#LLM #NLP #AI #大模型 #人工智能 #论文阅读 #LLM翰林院
? 右滑查看士子奏报和论文重要图表——
?? 关注微臣，每天批阅更多奏章！
? 论文标题：OS-Sentinel: Towards Safety-Enhanced Mobile GUI Agents via Hybrid
Validation in Realistic Workflows
? Arxiv ID：2510.24411
? 关键词：Vision-Language Models, mobile agents, safety concerns, MobileRisk-Live, OS-Sentinel
? 太长不看版：【中文】本研究提出MobileRisk-Live动态沙箱环境和OS-Sentinel混合安全检测框架，有效提升移动智能体安全性能。
? 摘要翻译：使用计算机的Agent，由视觉-语言模型（VLMs）驱动，已在操作如移动平台等数字环境中展现出类似人类的技能。虽然这些Agent在推进数字自动化方面具有巨大潜力，但它们在不安全操作，例如系统被入侵和隐私泄露方面的潜力，引发了重大担忧。在移动环境的庞大而复杂的运营空间中检测这些安全问题是极具挑战性的，而且这一领域仍然没有得到充分的探索。为了为移动Agent安全研究奠定基础，我们引入了MobileRisk-Live，这是一个动态沙箱环境，并伴随着一个包含具有细粒度注释的逼真轨迹的安全检测基准。在此基础上，我们提出了OS-Sentinel，这是一个新颖的混合安全检测框架，它协同结合了一个用于检测显式系统级违规的正式验证器和基于VLM的上下文法官，用于评估上下文风险和Agent行为。实验表明，OS-Sentinel在多个指标上比现有方法提高了10%-30%。进一步的分析提供了关键的见解，这些见解有助于开发更安全和更可靠的自主移动Agent。
? 本帖由AI整理生成，若有错误欢迎朱批！
?? 求一个关注，让我更有动力为大家整理更多的AI领域的新文章！
#LLM #NLP #AI #大模型 #人工智能 #论文阅读 #LLM翰林院
