OpenAI携手Anthropic赞同与美国政府协作启动安保测试 AI安保里程碑 (openai网页版)

美国政府宣布与在生成式人工自动范围抢先全球的初创公司OpenAI以及Anthropic达成协作协议，以协助测试和评价他们行将推出的人工自动安保技术。

依据周四宣布的一项协议，美国人工自动安保疑问研讨所将延迟取得这些AI科技公司的关键新AI模型，以评价其才干范围微风险，并就缓解潜在关键疑问的方法启动协作。

据了解，美国人工自动安保研讨所是美国商务部国度规范与技术研讨院(NIST)的关键部分。这些协作协议达成之际，人们越来越心愿经过监管渠道来减轻人工自动所面临的潜在灾难性风险，例如最近经过州议会的备受争议的加州人工自动安保法案SB 1047。

美国人工自动安保研讨所所长伊丽莎白·凯利在一份声明中表示：“安保是推进技术创新打破的关键所在。”“这些协议只是一个末尾，但它们是一个关键的里程碑，由于我们努力于担任任地控制人工自动的未来。”

该组织在一份声明中表示，还将与英国人工自动安保研讨所亲密协作，提供有关潜在的安保改良反响。此前不久，有着“OpenAI最强竞争对手”称号的Anthropic 在技术公布之前与英国人工自动安保研讨所协作测试了 Sonnet 3.5 AI大模型。美国和英国的相关安保组织此前曾表示，他们将共同努力实施规范化的人工自动安保测试。

“我们猛烈支持美国人工自动安保研讨所的使命，并等候共同努力为人工自动大模型提供最佳的安保通常和规范，”OpenAI首席战略官Jason Kwon在一份声明中表示。“我们置信该研讨所在担任任地展开人工自动技术方面，以及在确定美国的指点位置上发扬着至关关键的作用，并心愿我们的协作能够提供一个基本的框架，让全球其他国度可以以此作为关键基础。”

Anthropic还表示，树立有效测试人工自动大模型的才干十分关键。“安保、值得信任的人工自动关于这项测试技术的积极深远影响至关关键，”Anthropic结合开创人兼政策主管杰克·克拉克表示。“这增强了我们识别和减轻技术风险的才干，推进了担任任的人工自动大模型展开。我们很自豪能为这项关键任务做出奉献，为安保和值得信任的人工自动体系设定新的基准。”

有资料显示，美国人工自动安保研讨所成立于2023年，是拜登-哈里斯政府关于人工自动的政府行政命令的一部分，其义务是为担任任的人工自动创新制定测试、评价和技术指点方针。

据媒体报道，生成式人工自动范围的相对指点者OpenAI正洽谈在新一轮融资筹集数十亿美元，这将使该公司估值逾越1000亿美元。据知情人士走漏，风险投资公司Thrive Capital将主导本轮融资，并将投资约10亿美元;身为OpenAI最大股东的科技巨头微软估量也将投入资金。

据悉，新一轮融资将是自2023年1月微软投资约100亿美元以来，外部资金对OpenAI的最大一次性性注资。作为对比，去年年底OpenAI员工出售现有股份时，OpenAI的估值为860亿美元，足以见得OpenAI估值继续攀升。前不久有剖析师指出，OpenAI正面临约50亿美元的资金缺口，很或许要求在未来12个月内启动新一轮融资。