RoboSafe：给机器人装安全护栏

量子位新文介绍 RoboSafe：北航、360 AI 安全实验室、牛津大学、北京大学等团队提出运行时安全护栏，把具身智能体的安全判断转成可执行逻辑，在动作落地前识别情境风险和时序风险；文章给出的实验结果包括情境风险任务危险执行率降到 4.78%，整体危险执行率较现有防护方法降低 36.8%。1

原文还提到，RoboSafe 在 AI2-THOR、SafeAgentBench 和真实机械臂任务中做了验证。1