BadWAM：世界-行动模型在对抗攻击下出现“想对做错”问题

来自新加坡国立大学的研究团队发布论文，提出BadWAM框架，研究世界-行动模型模型AI 模型的简称，指经过训练、能从输入算出输出的程序。机器人的模型输入画面和指令，输出动作。◆ 小白科普 · 现身（WAM）的对抗攻击问题。WAM将动作生成与未来世界预测耦合，被视为提升鲁棒性和安全性的基础。但BadWAM揭示了这类模型模型AI 模型的简称，指经过训练、能从输入算出输出的程序。机器人的模型输入画面和指令，输出动作。◆ 小白科普 · 现身易受两种对抗攻击：动作劫持攻击直接导致任务失败；保持想象力的攻击则使模型模型AI 模型的简称，指经过训练、能从输入算出输出的程序。机器人的模型输入画面和指令，输出动作。◆ 小白科普 · 现身预测的未来看似合理，但实际动作已偏离。实验表明，在闭环执行条件下，动作攻击可将任务成功率从96.5%降至43.1%。该研究为具身智能具身智能Embodied AI让 AI 通过机器人身体感知并作用于真实世界，不只在屏幕里回答问题。◆ 小白科普 · 现身模型模型AI 模型的简称，指经过训练、能从输入算出输出的程序。机器人的模型输入画面和指令，输出动作。◆ 小白科普 · 现身的安全性评估提供了新视角。