投机实验室 (@LabSpeculation) “大型AI公司居然非常喜欢招聘哲学家？！ 最新版Claude宪章由哲学家Amanda牵头制定， An” — TopicDigg
投机实验室
@LabSpeculation
加入 January 2022
0 正在关注 0 粉丝
大型AI公司居然非常喜欢招聘哲学家？！
最新版Claude宪章由哲学家Amanda牵头制定，
Anthropic的重要岗位上至少有4名哲学家，DeepMind至少有10名，OpenAI制定ChatGPT行为规范时，也咨询过数百名道德哲学家。
AI带来了一连串棘手问题，而这恰好是哲学家最擅长的。
首先，哲学家可以给AI划定行为边界。
AI需要判断哪些要求应该拒绝，安全与用户意愿发生冲突时优先保护什么，这些问题涉及对伤害，诚实和责任的理解，正是哲学家长期研究的内容。
他们能够把模糊的价值判断整理成模型可以遵守的原则。
其次，哲学训练还可以减少AI的过度自信和迎合。
AI容易在不确定时给出肯定答案，也会顺着用户的观点继续回答。
哲学训练重视检查前提和论证，苏格拉底式连续追问可以让模型发现矛盾，承认自己的知识边界。
最后，哲学家可以帮AI处理没有标准答案的选择。
自动驾驶发生事故时如何减少伤害，情感支持模型遇到自残风险时如何回应，都没有简单答案。
哲学家长期研究这类问题，他们会确认哪些底线不能突破，再分析每种选择会造成什么后果。
显示更多
