又一安全团队被解散! 执着于创收的OpenAI似乎无暇顾及AI安全

智通财经APP获悉，一位已辞职的OpenAI团队负责人称，科技巨头微软(MSFT.US)斥巨资支持的OpenAI正在解散其聚集于AI安全研究的“AGI Readiness”团队，该团队曾经负责向这家AI初创公司提供如何处理与应对越来越强大的AI技术方面的解决方案与建议，以及提供当今世界是否准备好管理这些技术方面的建议。“AGI Readiness”团队曾经的团队主管表示，希望在外部继续AGI领域的相关研究。近期越来越多迹象表明，OpenAI似乎全身心投入AI创收，无暇顾及AI安全。

OpenAI的经济研究团队，直到最近还是由帕梅拉·米什金领导的AGI Readiness的一个重要子团队，后续将由OpenAI的新任首席经济学家罗尼·查特吉全面领导。与此同时，AGI Readiness的高级顾问迈尔斯·布伦戴奇在Substack帖子中宣布离职时表示，剩下的AGI Readiness团队将被分配到其他团队。

布伦戴奇表示，他离开OpenAI的主要原因包括机会成本变得非常高。布伦戴奇指出：“需要明确的是，虽然我不会说我总是同意OpenAI在公开发行方面的长期立场，但我确实认为在行业中存在一些公开发行层面的限制是合理的(我帮助撰写了OpenAI政策的几个重要版本)，但对我来说，这些限制已经非常多了。”

布伦戴奇还表示，他希望减少偏见，并且强调他已经完成了他在OpenAI的目标。此外，布伦戴奇计划创办自己的非营利组织或者加入现有的非营利组织，专注于人工智能安全政策研究以及人工智能宣传推广工作。

“我们完全支持迈尔斯本人在行业之外从事政策研究的决定，并深深感谢他的贡献。他计划全力以赴地开展人工智能政策的独立研究，这使他有机会在更大范围内产生影响，我们很高兴能从他的工作中学习到很多内容并关注其影响，”OpenAI发言人在给Seeking Alpha的电子邮件声明中表示。

关于OpenAI和世界对通用人工智能(AGI)的准备情况，布伦戴奇公开表示：“简而言之，OpenAI和其他前沿的人工智能实验室都没有做好准备，世界也没有做好准备。”

根据媒体披露信息的汇总，这已经不是OpenAI第一次解散与AI安全密切相关的团队。有媒体报道称，在今年7 月份，OpenAI 将公司最高级别安全主管之一亚历山大·马德里重新分配到人工智能推理方面的研究工作。据报道，民主党参议员曾经致信OpenAI首席执行官萨姆·奥尔特曼，询问OpenAI如何解决新出现的人工智能安全问题，而重新任命马德里的决定就是在这个时候所做出。

此外，在更早前的今年5月，OpenAI决定解散其刚刚成立一年的“超级对齐”团队(Superalignment team)，该团队专注于AI的长期风险。

据了解，OpenAI于去年成立的“超级对齐”团队，专注于“科学和技术突破，以引导和控制比人类更加智能的人工智能系统”。该团队在5月份被解散，领导人Ilya Sutskever和Jan Leike接连宣布离职。Leike在X上发帖称，OpenAI的“安全文化和流程，已经让位于光鲜的产品”。

OpenAI似乎全身心投入AI创收，无暇顾及AI安全

近期多个迹象显示，生成式AI领域的领导者OpenAI致力于在满足全球各国对于人工智能的监管规则的这一前提下，全身心投入于利用该公司所研发的全球最强大AI大模型实现巨额营收，似乎全然无暇顾及AI安全。

据悉，OpenAI近日宣布，已经聘请前优步高管斯科特·斯库尔斯(Scott Schools)担任该公司的首位“首席合规官”，以支持这家人工智能初创公司努力适应围绕人工智能技术发展的新兴全球监管法规。此次重要的高管招聘正值大西洋两岸的监管机构围绕OpenAI和其他科技公司最先进的人工智能大模型制定监管政策之际。

成功招募来前优步首席道德与合规官，被媒体解读为其在全球人工智能业务扩张和应对日益复杂的全球人工智能监管环境中做出战略性的调整。随着全球对人工智能技术的监管趋严，OpenAI正在积极采取措施，以确保其各项业务未来能够在全球范围合规运营并满足各国的人工智能监管法规要求。

有观察人士指出，此举显示出OpenAI的全球扩张雄心，并且强调合规性是其进入新市场的关键一环。随着AI技术在全球多个行业的普及，如何在合规和创新之间取得平衡，避免人工智能法律法规风险，是公司全球扩展的核心挑战。毫无疑问，斯库尔斯的加入将使OpenAI能够更好地处理不同国家的人工智能监管要求，从而为其各项业务进入除北美之外的更多市场奠定基础。

除了聚焦于全球围绕人工智能发展的复杂监管环境，OpenAI近期还在加速推进“高质量内容获取途径合法化”，为其全球范围的业务扩张奠定重要基础。其中包括与全球多元化媒体巨头赫斯特 (Hearst Communications Inc.) 达成一项重要协议，将这家新闻与商业信息出版商的杂志和报纸内容引入该所公司所开发的风靡全球的AI聊天机器人——ChatGPT，这项协议可谓为这家人工智能初创公司与全球顶级媒体公司们签署的一系列合作协议添加重要一笔。

通过获得来自多元化媒体巨头赫斯特等顶级媒体的正式授权内容，OpenAI的AI聊天机器人产品经训练优化之后将能提供更多高质量内容，且能够引用经过专业审核的版权内容进行推理分析。这不仅大幅增强了ChatGPT的内容输出质量，还使得其内容更具可信度，吸引全球范围内的更多用户信任其生成的信息，进而实现订阅营收增长。

AI初创公司OpenAI的估值目前领跑全球所有初创公司，OpenAI在10月早些时候宣布，该公司已筹集到66亿美元的最新资金支持，这使其最新的估值达到惊人的1570亿美元。OpenAI在博客中表示，这笔新资金将使该生成式人工智能公司加大对AI研究的领导地位、增加计算能力，并“继续开发帮助人们解决复杂问题的工具”。媒体援引知情人士的话报道称，微软在此次融资中投入大约7.5亿美元，进一步加码其此前的130亿美元投资规模。

非营利性质的OpenAI执着于拓展更多营收途径的背后，可能在于OpenAI迫切需要更多资金来进行大模型训练迭代，以及需要更加庞大的AI GPU算力体系来支撑其推理功能愈发强大的AI大模型(比如近日推出的推理能力无与伦比的o1-previews)，其在资本市场所融到的资金可能不足以满足OpenAI愈发庞大的“烧钱预期”。

有预测数据显示，预计OpenAI需要到2029年才能实现年度盈利，并且预计到本十年末，不计股票薪酬，OpenAI将耗资大约2000亿美元，预计2023年至2028年的亏损总额将达到440亿美元。这份预测报告显示，OpenAI的很大一部分开支是面向大模型训练迭代以及推理算力逐年剧增，预计到2026年，OpenAI每年的成本将高达95亿美元。根据该报告，该公司超过2000亿美元的开支中预计60%至80%将用于训练迭代以及支持大模型愈发强大的推理能力。