思维怪怪 (@0xLogicrw) “Anthropic 首席执行官 Dario Amodei 明确主张民主国家结盟封锁中国等对手的芯片与半导” — TopicDigg
思维怪怪
@0xLogicrw
写关于 AI 的一切 Shit Post
AI 信息流：
加入 May 2018
2.4K 正在关注 6.1K 粉丝
Anthropic 首席执行官 Dario Amodei 明确主张民主国家结盟封锁中国等对手的芯片与半导体设备供应链。
他在最新发表的政策长文中警告，随着 1 至 2 年内超级人工智能的涌现，掌握先进 AI 的国家对落后国家将具备如同「二战陆战队对决中世纪剑客」的碾压性军事代差。
为了确保民主阵营的绝对优势，Dario Amodei 主张组建联合同盟，在盟友间自由共享芯片与半导体设备，同时协同收紧出口限制。为防止超级人工智能沦为集权统治的监控与夺权工具，民主国家应当禁止在执法中部署完全自主武器，并封堵利用商业数据经纪商进行大规模监控的后门。
在安全治理上，他主张大模型监管应当效仿民航局，从自愿披露转向强制性安全测试与审计。超过算力阈值的模型在发布前必须接受第三方评估，针对生物武器合成、网络攻击和自主失控进行压力测试。若评估显示模型威胁公共安全，政府有权直接阻止发布。开发商还须将模型权重提升至军工级防护水平，共同抵御国家级黑客攻击。
面对大规模失业风险，达里奥直言人工智能将长期替代人类脑力劳动，分配红利才是核心瓶颈。Anthropic 提议建立由 AI 公司股权注资的「个人资本账户」，为新生儿、职场新人及因 AI 失业的在职员工分发股份红利，以回应特朗普近期关于「政府持有 AI 公司股权并回馈公众」的讨论。在下游医药领域，他建议引入 AI 模拟分析以缩短审批流程，加速释放新药红利。
显示更多
Today I'm publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast—much faster than the policy process was built to handle. The essay lays out where I think the technology is now, and the action needed to close the gap:
显示更多
