Hinton签公开信阻止OpenAI重组，10名前OpenAI员工也参与了
仅用于站内搜索，没有排版格式，具体信息请跳转上方微信公众号内链接
来源：学术头条
整理：与可
日前，诺奖得主、AI教父GeoffreyHinton联合10名前OpenAI员工及其他业内人士联合发表公开信反对OpenAI的重组计划，理由非常直接：OpenAI违背了他们的慈善宗旨，即确保AGI的安全开发和造福人类。
他们在公开信中表示，OpenAI独特的非营利法律结构是防止商业利益凌驾使命的保障，重组将削弱公众利益的保护机制，违反公司章程，构成对其非营利责任的威胁。
他们在公开信中呼吁：要求OpenAI解答根本问题。OpenAI并未公开解释其拟议的重组将如何推进该非营利组织的慈善目标，即安全地开发AGI，造福人类。它也没有充分解释，为什么CEO奥特曼在国会作证时所强调的治理保障措施在2023年对OpenAI的使命至关重要，却在2024年却成为了其使命的障碍。
确保非营利组织保留控制权，从而保护慈善信托和宗旨。要求OpenAI停止重组，并保护治理保障措施（包括非营利组织的控制权），OpenAI领导层一直坚称，这些措施对于“确保其继续专注于其长期使命”至关重要。
公开信签署者名单如下：
公开信链接：https ://notforprivategain.org/
想要理解OpenAI的慈善宗旨：非营利控制为何能保护使命，我们可以先理解OpenAI所说的“AGI”是什么意思。OpenAI将AGI定义为“一种高度自主的系统，在最具经济价值的工作上表现优于人类”。
而另一方面，OpenAI警告称，“AGI还会带来严重的滥用风险、重大事故和社会混乱。失调的超级智能AGI可能会对世界造成严重伤害。”奥特曼和OpenAI的高级员工此前与Hinton在内的数百人一起签署了一份声明，该声明指出，“缓解AI灭绝的风险应该是全球优先事项，优先于其他社会规模的风险，如大流行病和核战争。”
OpenAI的成立目的即是因为担忧一家营利性公司开发AGI。为了实现其使命，同时避免成为另一个以利润为导向的谷歌竞争对手或对尖端AI没有直接影响力的学术安全实验室，OpenAI尝试构建AGI。为了确保他们在构建AGI的竞赛中的动力永远不会损害他们的使命，他们注册为非营利组织，并在法律和结构上将构建AGI的目标置于使命之下。
2019年，OpenAI决定，除了作为一家非营利性非股份公司所能筹集的捐款和债务资本外，还需要筹集股权资本。为了在保持其使命优先地位的同时实现这一目标，OpenAI成立了一家受控的营利性子公司。通过这家受控子公司“OpenAI-profit”，OpenAI将向寻求回报的投资者筹集资金。然而，新的营利性实体将是原非营利组织“OpenAI-nonprofit”的子公司，原非营利组织将保留其信托责任，将慈善事业置于首位。
拟议的重组将颠覆OpenAI的慈善使命。OpenAI近期宣布，计划再次进行重组，据称是为了满足投资者简化资本结构的需求。根据这项新的重组方案，OpenAI-profit将转型为特拉华州的一家公益公司“OpenAI-PBC”。届时，OpenAI-PBC将“运营和控制OpenAI的运营和业务，而该非营利组织将聘请领导团队和员工，在医疗保健、教育和科学等领域开展慈善事业”。OpenAI-nonprofit的“对现有营利性组织的重大权益将以PBC股份的形式持有”。
通过取消非营利组织的控制权，拟议的重组将消除OpenAI一直坚称对其慈善宗旨至关重要的大部分治理保障措施。而且，任何金额都比控制一家全球领先的AI公司更能促进OpenAI非营利组织的慈善宗旨。
OpenAI公开的重组理由是，其优先考虑竞争优势而非慈善宗旨，且未能阐明放弃非营利组织控制权如何与其使命相兼容。尽管OpenAI目前的架构可能存在局限性，且竞争定位可能间接支持其使命，但任何拟议的解决方案都必须在不损害核心原则的情况下，针对实际缺陷进行量身定制。
OpenAI尚未公开证明，其重组对使命的所谓益处如何大于拆除旨在确保OpenAI忠于其使命的保障措施所带来的巨大风险。非营利组织可能因失去控制权而一无所获。
公开信中写道，“我们恳请Bonta和Jennings总检察长采取以下行动…”即上述提到的“要求回答基本问题”和“确保非营利组织保留控制权，保护慈善信托和宗旨”。
OpenAI尚未公开回答有关重组的一些基本问题。他们敦促总检察长调查以下问题：
1）董事会决定的理由
取消非营利组织的控制权是推进OpenAI慈善目标的最佳途径吗？如果是，为什么？做了哪些分析，又考虑了哪些替代方案？
2023年5月，奥特曼在国会作证时表示，OpenAI的治理“确保其始终专注于其长期使命”。他当时提到的许多（如果不是全部）保障措施，在拟议的重组方案下都将不复存在。2023年5月至2024年9月之间发生了什么变化，以至于对OpenAI使命至关重要的保障措施反而变成了障碍？
奥特曼曾多次表示，营利性机构会给试图构建AGI的组织带来不良激励。现在情况不是这样吗？如果是这样，原因是什么？
投资者压力对重组决策有何影响？董事会是否正式批准了一轮包含以重组为条件的投资？如果是，董事会提供了哪些信息来支持其批准？
2）利益相关董事的参与
哪些现任董事已经参与或计划参与有关拟议重组的决策，哪些（如果有）没有参与，以及各自有哪些潜在的利益冲突？
根据拟议的重组，任何董事是否会获得OpenAI-PBC的股权、额外股权或其他直接或间接个人利益？
3）OpenAI提出的重组计划
OpenAI-PBC的治理结构是怎样的？谁会加入这个致力于构建AGI的实体的董事会？
OpenAI-PBC需要什么样的架构来保证其行动符合其使命，即确保AGI的安全开发并造福全人类？具体来说，他们将采取哪些保障措施来确保其发布的AI系统是安全的，并且AGI的收益能够惠及全人类，而不是优先惠及投资者？
如果OpenAI-PBC采取明显对人类有害的行动，谁能采取补救措施？
OpenAI-PBC是否会重新承诺章程中的原则，包括承诺停止与接近构建AGI的使命一致的组织竞争并为其提供帮助？
OpenAI的立场是否是，其他前沿AI公司的目标与OpenAI不一致？OpenAI的立场是否是，如果任何一家公司抢在OpenAI之前开发AGI，人类的利益就会受到威胁？如果是这样，OpenAI的立场又有何依据？
新投资者的利润是否仍会受到限制？超过上限的利润还会归OpenAI-nonprofit所有吗？过去投资者的利润上限会被取消吗？利润上限结构的任何变化将为非营利组织带来什么价值？所有关于超过上限的利润预期值的内部分析都应被要求提供。
如果OpenAI构建了AGI，谁将拥有并控制它？微软对AGI的知识产权是否与OpenAI现有AI系统的知识产权相同？
他们呼吁不要让OpenAI的重组按计划进行。他们敦促总检察长通过保留OpenAI和奥特曼反复声称对其使命至关重要的核心治理保障措施来保护OpenAI的慈善宗旨：
OpenAI的领导层（试图构建AGI的实体）应该对使命负有信托责任：确保AGI安全开发并造福人类。
除了使命之外的所有目标——包括利润和赢得AGI竞赛——都应该服从于使命。
OpenAI将使命放在首位的义务必须至少由总检察长、董事和对此事有特殊利益的各方依法强制执行。
投资者的利润应该继续受到限制，超过限制的利润应该专门直接用于造福人类。
OpenAI应该保留其章程中的承诺，停止竞争并开始协助接近构建AGI的使命一致的项目。
AGI本身（如果OpenAI创建的话）应该属于非营利组织或类似的实体，其唯一责任是确保AGI得到负责任的使用并造福人类。它不应由商业实体或其投资者拥有或控制。
然而，仅仅停止重组是不够的，因为这些治理保障措施显然不足以阻止管理层推动将其移除。他们还请求您确保董事会拥有必要的独立性、资源、信息和意愿，以履行其受托责任，抵制管理层。具体如下：
罢免董事。任何被发现破坏董事会重组决策完整性的董事均应被罢免。
独立性：董事会的大多数成员不应在OpenAI-profit中拥有直接或间接的个人利益。
专业知识。董事会应具备必要的专业知识，以了解OpenAI-profit何时采取与使命相悖的行动。
资源。董事会应拥有必要的人员和预算，以监督这家拥有数千名员工、估值达3000亿美元的组织的运营。
信息。OpenAI应定期及时向董事会汇报任何可能与其使命相冲突的活动。董事向管理层提出的任何问题都应得到及时、详细的答复。
监督。监督这些变更的实施，或指定一个独立机构来监督其实施。在这些变更最终确定之前，董事会的任何决定都应接受仔细审查。
他们在公开信的最后写道，OpenAI的成立是为了确保AGI的安全发展并造福全人类，其目前的架构在法律上将营利动机置于“确保AGI的安全发展，造福全人类”的使命之下。
拟议中的重组将取消必要的保障措施，实际上将这项可能是有史以来最强大的技术的控制权和利润，交给一个有法律义务优先考虑股东回报的营利性实体。
“我们敦促您停止这一重组，恢复适当的治理，并确保OpenAI继续对您、公众及其慈善宗旨负责。”
阅读最新前沿科技趋势报告，请访问欧米伽研究所的“未来知识库”
https ://wx.zsxq.com/group/454854145828
未来知识库是“欧米伽未来研究所”建立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。欢迎扫描二维码或访问https ://wx.zsxq.com/group/454854145828进入。
截止到3月31日”未来知识库”精选的百部前沿科技趋势报告
（加入未来知识库，全部资料免费阅读和下载）
牛津未来研究院《将人工智能安全视为全球公共产品的影响、挑战与研究重点》
麦肯锡：超级智能机构：赋能人们释放人工智能的全部潜力
AAAI2025关于人工智能研究未来研究报告
斯坦福：2025斯坦福新兴技术评论：十项关键技术及其政策影响分析报告（191页）
壳牌：2025能源安全远景报告：能源与人工智能（57页）
盖洛普&牛津幸福研究中心：2025年世界幸福报告（260页）
Schwab：2025未来共生：以集体社会创新破解重大社会挑战研究报告（36页）
IMD：2024年全球数字竞争力排名报告：跨越数字鸿沟人才培养与数字法治是关键（214页）
DS系列专题：DeepSeek技术溯源及前沿探索，50页ppt
联合国人居署：2024全球城市负责任人工智能评估报告：利用AI构建以人为本的智慧城市（86页）
TechUK：2025全球复杂多变背景下的英国科技产业：战略韧性与增长路径研究报告（52页）
NAVEXGlobal：2024年十大风险与合规趋势报告（42页）
《具身物理交互在机器人-机器人及机器人-人协作中的应用》122页
2025-2035年人形机器人发展趋势报告53页
EvaluatePharma：2024年全球生物制药行业展望报告：增长驱动力分析（29页）
【AAAI2025教程】基础模型与具身智能体的交汇，350页ppt
Tracxn：2025全球飞行汽车行业市场研究报告（45页）
谷歌：2024人工智能短跑选手（AISprinters）：捕捉新兴市场AI经济机遇报告（39页）
【斯坦福博士论文】构建类人化具身智能体：从人类行为中学习
《基于传感器的机器学习车辆分类》最新170页
美国安全与新兴技术中心：2025CSET对美国人工智能行动计划的建议（18页）
罗兰贝格：2024人形机器人的崛起：从科幻到现实：如何参与潜在变革研究报告（11页）
兰德公司：2025从研究到现实：NHS的研究和创新是实现十年计划的关键报告（209页）
康桥汇世（CambridgeAssociates）：2025年全球经济展望报告（44页）
国际能源署：2025迈向核能新时代
麦肯锡：人工智能现状，组织如何重塑自身以获取价值
威立（Wiley）：2025全球科研人员人工智能研究报告（38页）
牛津经济研究院：2025TikTok对美国就业的量化影响研究报告：470万岗位（14页）
国际能源署（IEA）：能效2024研究报告（127页）
Workday：2025发挥人类潜能：人工智能（AI）技能革命研究报告（20页）
CertiK：Hack3D：2024年Web3.0安全报告（28页）
世界经济论坛：工业制造中的前沿技术：人工智能代理的崛起》报告
迈向推理时代：大型语言模型的长链推理研究综述
波士顿咨询：2025亚太地区生成式AI的崛起研究报告：从技术追赶者到全球领导者的跨越（15页）
安联（Allianz）：2025新势力崛起：全球芯片战争与半导体产业格局重构研究报告（33页）
IMT：2025具身智能（EmbodiedAI）概念、核心要素及未来进展：趋势与挑战研究报告（25页）
IEEE：2025具身智能（EmbodiedAI）综述：从模拟器到研究任务的调查分析报告（15页）
CCAV：2025当AI接管方向盘：自动驾驶场景下的人机交互认知重构、变革及对策研究报告（124页）
《强化学习自我博弈方法在兵棋推演分析与开发中的应用》最新132页
《面向科学发现的智能体人工智能：进展、挑战与未来方向综述》
全国机器人标准化技术委员会：人形机器人标准化白皮书（2024版）（96页）
美国国家科学委员会（NSB）：2024年研究与发展-美国趋势及国际比较（51页）
艾昆纬（IQVIA）：2025骨科手术机器人技术的崛起白皮书：创新及未来方向（17页）
NPL&Beauhurst：2025英国量子产业洞察报告：私人和公共投资的作用（25页）
IEAPVPS：2024光伏系统经济与技术关键绩效指标（KPI）使用最佳实践指南（65页）
AGI智能时代：2025让DeepSeek更有趣更有深度的思考研究分析报告（24页）
2025军事领域人工智能应用场景、国内外军事人工智能发展现状及未来趋势分析报告（37页）
华为：2025鸿蒙生态应用开发白皮书（133页
《超级智能战略研究报告》
中美技术差距分析报告2025
欧洲量子产业联盟（QuIC）：2024年全球量子技术专利态势分析白皮书（34页）
美国能源部：2021超级高铁技术（Hyperloop）对电网和交通能源的影响研究报告（60页）
罗马大学：2025超级高铁（Hyperloop）：第五种新型交通方式-技术研发进展、优势及局限性研究报告（72页）
兰德公司：2025灾难性网络风险保险研究报告：市场趋势与政策选择（93页）
GTI：2024先进感知技术白皮书（36页）
AAAI：2025人工智能研究的未来报告：17大关键议题（88页）
安联Allianz2025新势力崛起全球芯片战争与半导体产业格局重构研究报告
威达信：2025全球洪水风险研究报告：现状、趋势及应对措施（22页）
兰德公司：迈向人工智能治理研究报告：2024EqualAI峰会洞察及建议（19页）
哈佛商业评论：2025人工智能时代下的现代软件开发实践报告（12页）
德安华：全球航空航天、国防及政府服务研究报告：2024年回顾及2025年展望（27页）
奥雅纳：2024塑造超级高铁（Hyperloop）的未来：监管如何推动发展与创新研究报告（28页）
HSOAC：2025美国新兴技术与风险评估报告：太空领域和关键基础设施（24页）
Dealroom：2025欧洲经济与科技创新发展态势、挑战及策略研究报告（76页）
《无人机辅助的天空地一体化网络：学习算法技术综述》
谷歌云（GoogleCloud）：2025年AI商业趋势白皮书（49页）
《新兴技术与风险分析：太空领域与关键基础设施》最新报告
150页！《DeepSeek大模型生态报告》
军事人工智能行业研究报告：技术奇点驱动应用加速智能化重塑现代战争形态-250309（40页）
真格基金：2024美国独角兽观察报告（56页）
璞跃（PlugandPlay）：2025未来商业研究报告：六大趋势分析（67页）
国际电工委员会（IEC）：2025智能水电技术与市场展望报告（90页）
RWS：2025智驭AI冲击波：人机协作的未来研究报告（39页）
国际电工委员会（IEC）：2025智能水电技术与市场展望报告（90页）
RWS：2025智驭AI冲击波：人机协作的未来研究报告（39页）
未来今日研究所2025年科技趋势报告第18版1000页
模拟真实世界：多模态生成模型的统一综述
中国信息协会低空经济分会：低空经济发展报告（2024-2025）（117页）
浙江大学：2025语言解码双生花：人类经验与AI算法的镜像之旅（42页）
人形机器人行业：由“外”到“内”智能革命-250306（51页）
大成：2025年全球人工智能趋势报告：关键法律问题（28页）
北京大学：2025年DeepSeek原理和落地应用报告（57页）
欧盟委员会人工智能与未来工作研究报告
加州大学伯克利分校：面向科学发现的多模态基础模型：在化学、材料和生物学中的应用
电子行业：从柔性传感到人形机器人触觉革命-250226（35页）
RT轨道交通：2024年中国城市轨道交通市场数据报告（188页）
FastMoss：2024年度TikTok生态发展白皮书（122页）
CheckPoint：2025年网络安全报告-主要威胁、新兴趋势和CISO建议（57页）
【AAAI2025教程】评估大型语言模型：挑战与方法，199页ppt
《21世纪美国的主导地位：核聚变》最新报告
沃尔特基金会（VoltaFoundation）：2024年全球电池行业年度报告（518页）
斯坦福：2025斯坦福新兴技术评论：十项关键技术及其政策影响分析报告（191页）
国际科学理事会：2025为人工智能做好国家研究生态系统的准备-2025年战略与进展报告（英文版）（118页）
光子盒：2025全球量子计算产业发展展望报告（184页）
奥纬论坛：2025塑造未来的城市研究报告：全球1500个城市的商业吸引力指数排名（124页）
FutureMatters：2024新兴技术与经济韧性：日本未来发展路径前瞻报告（17页）
《人类与人工智能协作的科学与艺术》284页博士论文
《论多智能体决策的复杂性：从博弈学习到部分监控》115页
《2025年技术展望》56页slides
大语言模型在多智能体自动驾驶系统中的应用：近期进展综述
【牛津大学博士论文】不确定性量化与因果考量在非策略决策制定中的应用
皮尤研究中心：2024美国民众对气候变化及应对政策的态度调研报告：气候政策对美国经济影响的多元观点审视（28页）
空间计算行业深度：发展趋势、关键技术、行业应用及相关公司深度梳理-250224（33页）
Gartner：2025网络安全中的AI：明确战略方向研究报告（16页）
北京大学：2025年DeepSeek系列报告-提示词工程和落地场景（86页）
北京大学：2025年DeepSeek系列报告-DeepSeek与AIGC应用（99页）
CIC工信安全：2024全球人工智能立法的主要模式、各国实践及发展趋势研究报告（42页）
中科闻歌：2025年人工智能技术发展与应用探索报告（61页）
AGI智能时代：2025年Grok-3大模型：技术突破与未来展望报告（28页）
上下滑动查看更多
