加州推进AI安全法案 科技领袖意见分歧

【太平洋科技快讯】加州州议会通过了一项备受争议的人工智能安全法案SB 1047，该法案要求公司确保其技术不会造成重大损害，该立法在州议会获得了41票赞成和9票反对。

马斯克在投票前一天表达了对该法案的支持。 OpenAI的竞争对手Anthropic也谨慎支持该法案，认为“收益可能超过成本”，并称其可以合理地实施这些条款。OpenAI、科技孵化器 Y Combinator 和风险投资公司 Andreessen Horowitz 都是 SB 1047 法案的反对者。

SB 1047 要求开发强大 AI 模型的公司采取“合理的措施”确保其技术不会造成“严重伤害”。例如大规模伤亡或超过 5亿美元(约合37.5亿人民币)的财产损失时，AI公司必须采取措施，例如设置能够随时关闭技术的“紧急开关”，并将模型提交第三方测试，以确保其在最大程度上降低重大风险。 此外，该法案将为希望分享安全担忧的AI公司员工提供举报人保护。如果公司不符合该法案的要求，加州总检察长可以对其提起诉讼。