太阳成tyc7111cc·(中国)集团官方网站-Macau Bellwether
搜索 猫眼电影 融媒体矩阵
  • 山东手机报

  • 猫眼电影

  • 大众网官方微信

  • 大众网官方微博

  • 抖音

  • 人民号

  • 全国党媒平台

  • 央视频

  • 百家号

  • 快手

  • 头条号

  • 哔哩哔哩

首页 >新闻 >社会新闻

Hinton签署联名信,公开抵制OpenAI重组!10名前OpenAI员工也参与了

2025-05-04 20:30:17
来源:

猫眼电影

作者:

陆胜杰

手机查看

  猫眼电影记者 周锐 报道w3u7903ejky2ywls

新智元报道

编辑:桃子

【新智元导读】日前,诺奖得主、AI教父Geoffrey Hinton联合10名前OpenAI员工及其他业内人士联合发表公开信反对OpenAI的重组计划,理由非常直接:OpenAI违背了他们的慈善宗旨,即确保AGI的安全开发和造福人类。

在刚刚签署的公开信中,Hinton表示,OpenAI独特的非营利法律结构是防止商业利益凌驾使命的保障,重组将削弱公众利益的保护机制,违反公司章程,构成对其非营利责任的威胁。

他们在公开信中呼吁:要求OpenAI解答根本问题。OpenAI并未公开解释其拟议的重组将如何推进该非营利组织的慈善目标,即安全地开发AGI,造福人类。它也没有充分解释,为什么CEO奥特曼在国会作证时所强调的治理保障措施在2023年对OpenAI的使命至关重要,却在2024年却成为了其使命的障碍。

确保非营利组织保留控制权,从而保护慈善信托和宗旨。要求OpenAI停止重组,并保护治理保障措施(包括非营利组织的控制权),OpenAI领导层一直坚称,这些措施对于「确保其继续专注于其长期使命」至关重要。

公开信签署者名单如下:

公开信链接:https://notforprivategain.org/

为何阻止OpenAI重组?

想要理解OpenAI的慈善宗旨:非营利控制为何能保护使命,我们可以先理解OpenAI所说的「AGI」是什么意思。OpenAI将AGI定义为「一种高度自主的系统,在最具经济价值的工作上表现优于人类」。

而另一方面,OpenAI警告称,「AGI还会带来严重的滥用风险、重大事故和社会混乱。失调的超级智能AGI可能会对世界造成严重伤害。」奥特曼和OpenAI的高级员工此前与Hinton在内的数百人一起签署了一份声明,该声明指出,「缓解AI灭绝的风险应该是全球优先事项,优先于其他社会规模的风险,如大流行病和核战争。」

OpenAI的成立目的即是因为担忧一家营利性公司开发AGI。为了实现其使命,同时避免成为另一个以利润为导向的谷歌竞争对手或对尖端AI没有直接影响力的学术安全实验室,OpenAI尝试构建AGI。为了确保他们在构建AGI的竞赛中的动力永远不会损害他们的使命,他们注册为非营利组织,并在法律和结构上将构建AGI的目标置于使命之下。

2019年,OpenAI决定,除了作为一家非营利性非股份公司所能筹集的捐款和债务资本外,还需要筹集股权资本。为了在保持其使命优先地位的同时实现这一目标,OpenAI成立了一家受控的营利性子公司。通过这家受控子公司「OpenAI-profit」,OpenAI将向寻求回报的投资者筹集资金。然而,新的营利性实体将是原非营利组织「OpenAI-nonprofit」的子公司,原非营利组织将保留其信托责任,将慈善事业置于首位。

拟议的重组将颠覆OpenAI的慈善使命。OpenAI近期宣布,计划再次进行重组,据称是为了满足投资者简化资本结构的需求。根据这项新的重组方案,OpenAI-profit将转型为特拉华州的一家公益公司「OpenAI-PBC」。届时,OpenAI-PBC将「运营和控制OpenAI的运营和业务,而该非营利组织将聘请领导团队和员工,在医疗保健、教育和科学等领域开展慈善事业」。OpenAI-nonprofit的「对现有营利性组织的重大权益将以PBC股份的形式持有」。

通过取消非营利组织的控制权,拟议的重组将消除OpenAI一直坚称对其慈善宗旨至关重要的大部分治理保障措施。而且,任何金额都比控制一家全球领先的AI公司更能促进OpenAI非营利组织的慈善宗旨。

OpenAI公开的重组理由是,其优先考虑竞争优势而非慈善宗旨,且未能阐明放弃非营利组织控制权如何与其使命相兼容。尽管OpenAI目前的架构可能存在局限性,且竞争定位可能间接支持其使命,但任何拟议的解决方案都必须在不损害核心原则的情况下,针对实际缺陷进行量身定制。

OpenAI尚未公开证明,其重组对使命的所谓益处如何大于拆除旨在确保OpenAI忠于其使命的保障措施所带来的巨大风险。非营利组织可能因失去控制权而一无所获。

如何阻止OpenAI重组?

公开信中写道,「我们恳请Bonta和Jennings总检察长采取以下行动...」即上述提到的「要求回答基本问题」和「确保非营利组织保留控制权,保护慈善信托和宗旨」。

1.OpenAI需要回答哪些基本问题

OpenAI尚未公开回答有关重组的一些基本问题。他们敦促总检察长调查以下问题:

1)董事会决定的理由

取消非营利组织的控制权是推进OpenAI慈善目标的最佳途径吗?如果是,为什么?做了哪些分析,又考虑了哪些替代方案?

2023年5月,奥特曼在国会作证时表示,OpenAI的治理「确保其始终专注于其长期使命」。他当时提到的许多(如果不是全部)保障措施,在拟议的重组方案下都将不复存在。2023年5月至2024年9月之间发生了什么变化,以至于对OpenAI使命至关重要的保障措施反而变成了障碍?

奥特曼曾多次表示,营利性机构会给试图构建AGI的组织带来不良激励。现在情况不是这样吗?如果是这样,原因是什么?

投资者压力对重组决策有何影响?董事会是否正式批准了一轮包含以重组为条件的投资?如果是,董事会提供了哪些信息来支持其批准?

2)利益相关董事的参与

哪些现任董事已经参与或计划参与有关拟议重组的决策,哪些(如果有)没有参与,以及各自有哪些潜在的利益冲突?

根据拟议的重组,任何董事是否会获得OpenAI-PBC的股权、额外股权或其他直接或间接个人利益?

3)OpenAI提出的重组计划

OpenAI-PBC的治理结构是怎样的?谁会加入这个致力于构建AGI的实体的董事会?

OpenAI-PBC需要什么样的架构来保证其行动符合其使命,即确保AGI的安全开发并造福全人类?具体来说,他们将采取哪些保障措施来确保其发布的AI系统是安全的,并且AGI的收益能够惠及全人类,而不是优先惠及投资者?

如果OpenAI-PBC采取明显对人类有害的行动,谁能采取补救措施?

OpenAI-PBC是否会重新承诺章程中的原则,包括承诺停止与接近构建AGI的使命一致的组织竞争并为其提供帮助?

OpenAI的立场是否是,其他前沿AI公司的目标与OpenAI不一致?OpenAI的立场是否是,如果任何一家公司抢在OpenAI之前开发AGI,人类的利益就会受到威胁?如果是这样,OpenAI的立场又有何依据?

新投资者的利润是否仍会受到限制?超过上限的利润还会归OpenAI-nonprofit所有吗?过去投资者的利润上限会被取消吗?利润上限结构的任何变化将为非营利组织带来什么价值?所有关于超过上限的利润预期值的内部分析都应被要求提供。

如果OpenAI构建了AGI,谁将拥有并控制它?微软对AGI的知识产权是否与 OpenAI现有AI系统的知识产权相同?

2.OpenAI需要保护最初的慈善宗旨

他们呼吁不要让OpenAI的重组按计划进行。他们敦促总检察长通过保留OpenAI和奥特曼反复声称对其使命至关重要的核心治理保障措施来保护OpenAI的慈善宗旨:

OpenAI的领导层(试图构建AGI的实体)应该对使命负有信托责任:确保 AGI安全开发并造福人类。

除了使命之外的所有目标——包括利润和赢得AGI竞赛——都应该服从于使命。

OpenAI将使命放在首位的义务必须至少由总检察长、董事和对此事有特殊利益的各方依法强制执行。

投资者的利润应该继续受到限制,超过限制的利润应该专门直接用于造福人类。

OpenAI应该保留其章程中的承诺,停止竞争并开始协助接近构建AGI的使命一致的项目。

AGI本身(如果OpenAI创建的话)应该属于非营利组织或类似的实体,其唯一责任是确保AGI得到负责任的使用并造福人类。它不应由商业实体或其投资者拥有或控制。

然而,仅仅停止重组是不够的,因为这些治理保障措施显然不足以阻止管理层推动将其移除。他们还请求您确保董事会拥有必要的独立性、资源、信息和意愿,以履行其受托责任,抵制管理层。具体如下:

罢免董事。任何被发现破坏董事会重组决策完整性的董事均应被罢免。

独立性:董事会的大多数成员不应在OpenAI-profit中拥有直接或间接的个人利益。

专业知识。董事会应具备必要的专业知识,以了解OpenAI-profit何时采取与使命相悖的行动。

资源。董事会应拥有必要的人员和预算,以监督这家拥有数千名员工、估值达3000亿美元的组织的运营。

信息。OpenAI应定期及时向董事会汇报任何可能与其使命相冲突的活动。董事向管理层提出的任何问题都应得到及时、详细的答复。

监督。监督这些变更的实施,或指定一个独立机构来监督其实施。在这些变更最终确定之前,董事会的任何决定都应接受仔细审查。

他们在公开信的最后写道,OpenAI的成立是为了确保AGI的安全发展并造福全人类,其目前的架构在法律上将营利动机置于「确保AGI的安全发展,造福全人类」的使命之下。

拟议中的重组将取消必要的保障措施,实际上将这项可能是有史以来最强大的技术的控制权和利润,交给一个有法律义务优先考虑股东回报的营利性实体。

「我们敦促您停止这一重组,恢复适当的治理,并确保OpenAI继续对您、公众及其慈善宗旨负责。」

本文转自学术头条,若二次转载联系原作者。

 时事1:虐乳➕电击➕虐菊➕网站

  05月04日,北大师生看红河,有何不同?,

  “爹,昊儿还这么小,能行吗?”年轻的夫妇想劝阻。

,斗罗大陆宁荣荣比基尼。

  05月04日,“假把式”骗不了人 弄虚作假后果自负,

  他们冲上了一座巍峨的大山,下方大河滔滔,水面竟然宽达十几里,波澜壮阔,水声如雷,极其惊人。

,免费看女人隐私㊙️视频,啊~cao死你个小sao货,美女㊙️大🐻裸乳滴蜡。

 时事2:丝袜足控免费网站❎Xx视频

  05月04日,我驻缅甸使馆18日起将为符合条件的缅甸商务人员审发“澜湄签证”,  王先生表示,参与配捐的都是大病患儿的家属,因为孩子看病需要大量的医疗费,很多家长长期陪着孩子看病没有收入,想借着这样的方式缓解经济压力,很多家长投入的钱都是通过向亲戚借、刷信用卡或者借网贷的钱,王先生说,现在家长们只希望拿回自己的钱,因为被骗的都是救命钱。,美女露出🐻让男生揉广告,极品白嫩少妇后入狂射,换人妻做爰XXⅩXXA片软件。

  05月04日,联合国教科文组织报告:乌克兰重建科学基础设施将需要超过12亿美元,

  柳树道:“举国同祭,整片古国被认可后,将得到福泽,当个人修行到一定程度时,就可以进行感悟,出入虚神界。”

,tobu18馃憴馃憴91,樱桃视频成人在线观看,男生无内裤露j图片。

 时事3:班长🌿我~慢点~好爽好的小说

  05月04日,铁路青年女防护员:愿做先锋 守护春运列车平安,

  一个孩子而已,不足四岁,竟这般惊人,百骨虽断,精气神却不减,且更凶戾了,如神火炉子在燃烧,生平仅见。

,动漫c黄扒衣服做小电影,▓成人涩涩屋视频▓在线下载,国产精品㊙️18禁拍拍音频。

  05月04日,强降雨致粤多地内涝 消防力量营救被困人员逾1500人,

  而骨文就是因此而逐渐发展起来的,人族借他族之法,摸索天地秩序之道,终于从弱小一步一步逐渐繁盛起来。

,丁.度巴斯《见情》,18Ⅹ男主播po,🐻胸走光看奶。

 时事4:玩弄小男生的小🐔🐔网站

  05月04日,(乡村行·看振兴)山西襄垣:特色产业助力县域乡村振兴“大步走”,

  “毛球,这种蛋烤熟了虽然很香,但不算是补药,去将小鸾鸟的蛋掏来一窝,那才是好东西啊。”鼻涕娃教唆,人不大,但是却挺坏。

,欧美作受❌❌❌,被男人添囗交做爰视频,XNXX 69سكس。

  05月04日,“十四冬”速度滑冰(公开组)进入最后一个比赛日 将产生8枚金牌,

  我们少先队员能为地球妈妈做些什么呢?那就从身边的小事做起吧。当你和家人出去旅游时,不但自己不乱扔果皮,包装纸,而且发现垃圾还能主动拣起来投进垃圾箱里,那你就是一个保护环境的好少年;在学校里,看见自来水龙头没关紧,你能上前动手把它拧紧;看到光线充足,能主动把教室里的灯关掉,那你就是一名节约资源的好学生……只要大家脑子里有爱护环境的有心人,就能为我们的家园尽一份力,添一片绿,将来就能把地球建成一个更加美好和谐的新家园。

,成人无码18🈲在线观看,校花在处罚室光屁股抽打花蒂,Chinese性瘾XXXHD Z00 Z00。

责编:奥特曼

审核:李警官

责编:钱瑜

相关推荐 换一换