基于理由引导的人类奖励建模：用偏好标签与理由标签对齐机器人行为

arXiv 刊出由 Anshul Nayak、Shahil Shaik、Jonathan Smereka、Yue Wang 撰写的论文，提出一种理由引导的偏好强化学习强化学习一种 AI 训练方法：让机器人在亿万次「试错」中自己摸索，做对了就给奖励。机器人走稳路、跑酷空翻，大多是这么练出来的。◆ 小白科普 · 现身（PbRL）框架，从轨迹级反馈中学习人类奖励模型模型AI 模型的简称，指经过训练、能从输入算出输出的程序。机器人的模型输入画面和指令，输出动作。◆ 小白科普 · 现身。研究指出，仅按任务奖励优化的强化学习强化学习一种 AI 训练方法：让机器人在亿万次「试错」中自己摸索，做对了就给奖励。机器人走稳路、跑酷空翻，大多是这么练出来的。◆ 小白科普 · 现身策略可能高效却偏离人类期望、安全偏好或意图。该框架在偏好标签之外加入解释“为何偏好某行为”的理由标签，使学习到的奖励同时反映人类选择及其依据。与仅用偏好的奖励学习相比，这一形式为学习人类对齐奖励提供额外监督，并提升策略可解释性。训练时，学到的人类奖励与环境奖励在策略优化中结合，使智能体在提升任务表现的同时，产生更可解释、更符合人类偏好且对偏好更敏感的行为。