感知与智能 · C6
强化学习
四足与人形的步态、灵巧手操作,越来越多用 RL 训出来。但它也是「演示很炸、落地很难」的典型。
要学什么
- MDP、奖励、策略梯度、PPO 的完整流程(能自己跑通一次)
- 仿真环境与并行采样:为什么 RL 需要成千上万个并行环境
- 域随机化:随机化哪些参数,随机化过头会怎样
- 评估方法:训练曲线好看不等于真机能用
四条路线需要多深
算法精通
系统软件不需要
嵌入式电控不需要
机械结构不需要
「精通」= 能从零推导 / 能手写实现 / 能判断别人的方案对不对;「用过」= 能调起来、能改参数;「知道」= 能听懂、能提问。
怎么算学会了
能独立训出一个能站立的策略并迁移到仿真中的不同地形,能解释奖励设计的陷阱,能说清 sim2real 的失败归因顺序。
常见错误
- 奖励里塞了「看起来合理」的项,策略学会了钻空子(原地打转拿分)
- 只在单一地形训练,换地面材质就废,还以为是硬件问题