AI安保令人担忧！OpenAI又解散了一个安保团队 6年轻将离任 (安保机器人具备的功能)

AI安保越来令人担忧，OpenAI正在解散其“AGIReadiness”团队。

该团队就OpenAI处置日益弱小的人工智能的才干以及全球控制该技术的预备状况向公司提供建议。

又一安保团队被解散

周三，AGI Readiness初级顾问Miles Brundage宣布分开OpenAI。

他在OpenAI任务了六年多，是OpenAI终年政策研讨员、AGI预备任务初级顾问，也是OpenAI所剩无几坚持遏制人工智能风险的老员工之一。

Brundage表示，分开的关键要素是机遇本钱太高了，他以为他的研讨在外部会更有影响力，他想要增加成见，他曾经成功了他在OpenAI的目的。

通用人工智能（AGI）追求让AI在普遍的义务上抵达或逾越人类智力。Brundage指出：“OpenAI和其他任何前沿实验室都没有预备好，全球也没有预备好。”

离任后，Brundage方案成立自己的非营利组织，或许参与一个现有的非营利组织，专注于人工智能政策研讨和倡议。

依据Brundage走漏，AGIReadiness前团队成员将被重新分配到其他团队。

对此，OpenAI发言人表示：

“我们完全支持Brundage内行业之外启动政策研讨的选择，并对他的奉献深表感谢。他方案疗养生息启动人工智能政策的独立研讨，这使他无机遇在更大范围内出现影响。我们置信，在新职位上，他将继续提高行业和政府决策质量的规范。”

安保争议、担忧越来越多

这曾经不是OpenAI第一次性性解散与AI安保相关的团队，让群众对AI技术加快的展开感到担忧。

往年5月，OpenAI解散了其超级对齐团队，而该团队去年才成立。

OpenAI称，该团队专注于“迷信和技术打破，以引导和控制AI系统，防止它们“变得不听话”。

往年7月，OpenAI将初级安保主管Aleksander Madry重新分配到一个专注于人工智能推理的职位，虽然OpenAI称Madry在他的新职位上仍将从事中心的人工智能安保任务。

随后，专制党参议员给OpenAI首席行动官Sam Altman发了一封信，讯问“OpenAI如何处置新出现的安保疑问”。

近年来，OpenAI的人员流失越发频繁，公司的多位高管相继离任，原本11人的开创团队仅剩3人。

OpenAI结合开创人、已离任的Jan Leike更是直指：“建造比人类更聪慧的机器实质上是一种风险的尝试，OpenAI代表全人类肩负着微小的责任。但在过去几年里，安保文明和流程曾经让位于闪亮的产品。”

同时，OpenAI正在转型成一家营利性企业。

10月初，OpenAI以1570亿美元的估值成功了新一轮融资，其中包括从众多投资公司和大型科技公司筹集的66亿美元。它还取得了40亿美元的循环信贷额度，使其总流动性逾越100亿美元。

此外，该公司估量往年营收为37亿美元，盈余约50亿美元。

要求留意的是，往年6月，一群OpenAI的现任和前任员工宣布了一封地下信，表达了对AI加快展开的担忧，指出该行业缺乏监管。

地下信写道：“人工智能公司有弱小的财务动机来防止有效的监管。”