Barret李靖 (@Barret_China) “提供主动服务的 Agent，需要进行大量自主决策。在信息不足、环境动态变化的情况下，难” — TopicDigg
Barret李靖
@Barret_China
加入 March 2011
0 正在关注 0 粉丝
提供主动服务的 Agent，需要进行大量自主决策。在信息不足、环境动态变化的情况下，难免产生错误决策，甚至引发大量无效的行动和尝试。
想要提高决策质量，降低无效决策和行动的成本，我认为需要做好几件事情：
1）让 AI 在问题早期，甚至预防阶段就开始决策和产出，持续维护决策依据和结果。当问题暴露时，能够结合新增信息，快速补充和修正已有决策。
2）系统具备所见即所得的能力，能够沿着不同决策路径进行分支推演，直观呈现结果，评估不同路径的收益、成本和风险，减少实际执行中的无效尝试。
3）动态调整和更新目标，让 AI 根据目标和环境的变化，持续更新决策条件和逻辑，及时调整或终止偏离目标的行动。
4）针对决策和执行，构建自验证的环境能力，持续对比实际结果与预期目标，发现偏差并修正决策。必要时，通过简洁的交互反馈机制，让人低成本地参与关键决策。
更多的思考、推演和尝试，未必带来更好的结果。Agent 还需要学会判断何时继续探索、何时执行、何时停止，以及何时需要人介入。
为系统构建 RSI 的能力，接下来会是一个火热得命题，也会是一件非常有趣且有挑战的事情，😄
显示更多
