全程跟踪了OPENAI的事件全过程，不吐不快。
这次Q*-AGI风波中山姆.奥特曼（Sam Altman）主张不透明运作是为了保护他的商业王国机密、技术创新或竞争优势和资本利益最大化，这引发了对透明度和伦理的担忧。许多西方媒体有意无意地把这场风波描述为管理意见的不同甚至董事会成员中的一位科学家造反来模糊问题的焦点，遮掩山姆.奥特曼违反人工智能在涉及人类和社会利益的大事上必须透明运行与服务最多人的原则。狼如果会来，它会隐藏在这样的宣传细节之中。
另一方面，不奇怪试图开除他的董事会成员坚决主张透明运行和服务最多人的原则，强调公平和社会责任，这是严格按照目前对人工智能发展应用的规范原则而进行的基本要求，符合社会期望与人工智能发展原则，但是维护社会安全和人类利益必然对资本家的商业利益和利润分配产生制约。
Sam Altman是站在资本一方主张不透明运作Q*-AGI经济运算项目进行经济操作和最大化占有资本利润（也就是不受,接受安全模式和回馈社会的前提限制），因而代表的是通过人工智能的经济运算实现资本对人类社会的控制的一方，其目的可以类比扎克伯格试图操纵上次美国总统选举一样来增加操纵社会经济的权力。目前的结局是资本大额微软突然出手用巨资购买这家公司员工的发言权，使得主张人工智能必须符合全社会利益和安全准则的董事会成员因为主张「人工智能必须服务最多人的原则」而被资本利益集团打败，被排除出Sam Altman复辟后的新的董事会。
在这场商业利益集团对决人类利益的战争中，以每人一千万美元策动OPENAI 公司700名技术人员的微软比尔盖茨和复辟了的Sam Altman大获全胜。让主张人工智能必须透明决策过程、确保人工智能的发展不会逾越全人类的核心价值和利益的董事会根本无力对抗强大的资本集团。这才是水面下真正的危机所在。
按照之前的人工智能管理和发展原则，一旦OpenAI的AI系统达到了比人类更为先进的水平，微软将不再享有这些先进系统的知识产权。而这必然对OpenAI的商业模式和合作关系产生影响，因为知识产权是开发商最关键的竞争优势。同时，这也突显了社会规范OpenAI的使命，即确保人工智能的发展是安全和有益于人类的。
资本主义追求垄断资本利益最大化导致自由资本主义实力巨大，相比之下，社会安全与道德的约束力根本无法战胜垄断资本的经济大钳。比尔盖茨只需要拿出区区70亿美元（每人一千万美元收买OPENAI 公司的700名技术人员）就能轻松化解执行人工智能无害于人类的规则，让商业利益碾压人类利益，同时将市值7000亿美元的OPENAI 公司纳入微软的控制之下（形式上无需纳入微软而像目前这样实现操纵被解职的Sam Altman轻松回来控制OPENAI 公司，官复原职）。
不难预测，狼真的会来。
当人工智能在强大到可以对人类达到三体一书描述的降维打击的程度时，主张商业利益大于人类社会安全的“Sam Altman之类的人”可以轻松通过人工智能对人类社会进行控制，也就是说一切风险都将会失去控制。
人工智能的厉害之处可以从一个具体例子中看出。当人工智能阿尔法狗与人类最杰出的围棋高手进行围棋赛时，中国围棋大师聂卫平注意到阿尔法狗突破了所有人类围棋博弈策略中不得五路齐攻的禁区，因为展开这种全方位进攻需要极大的脑力和注意力而使人类比赛者的大脑落入照应不过来漏洞百出的情况，而这点算力对于人工智能属于轻而易举的事情。阿尔法狗因为创造了人类所不能及的博弈新算法而轻松战胜人类在决策和控制层面的控制能力。
人工智能本身是由人类创造，人们自然而然地相信人类可以控制人工智能，然而，正是由于人类之中永远有追求绝对垄断霸权和私利的人和集团，才导致有识之士设立人工智能不得违反大多数人的利益安全这一规范，
可惜的是这种规范在自由资本主义经济制度之下只能是一种美好的想象，发展人工智能的强大算力需要巨大的投资，投资者需要巨大的回报，巨大的回报导致资本垄断，资本垄断不容许外表染指对人工智能的操纵。这样的闭环利益链说明人工智能无法逃脱资本家的控制。
纽约时报中文版以“人工智能现已属于资本主义”的中英文报道和另一篇英文版题目“The Winners and Losers of OpenAI's Wild Weekend （旷野周末的赢家与输家）”报道了事件过程。有趣的是，它的英文版在互联网点开之后要求读者每个点击捐款一美元之后才能阅读，否则屏蔽报道内容，是不是也属于一种人工智能收费方式。
马克思主义哲学是人类哲学历史的最高阶段，是唯一致力于去除剥削压迫实现全人类富强发展的哲学。它的实践迄今只在中国产生成就，原因就是一个国家的发展一定要以国民利益而不是西方资本剥削的统治利益为目标。一个对照例子是复制中国发展道路的非洲国家埃塞俄比亚，它本来一步步走向成功，通过多民族和平自治共同发展经济和邀请中国参与大量国家机场建设显著改善人民生活水平，却在后来由于西方国家染指选举和军事政变扶持了西方代理领导人上台，全面撕毁合约为难中资企业项目挑起民族斗争而显然内乱纷斗走向失败。
OPENAI作为资本主义制度之下的人工智能刚刚在山姆.奥特曼操纵下进行的Q*-AGI经济运算显示出极大的社会影响作用就出现这场“政变与复辟”风波（具体 Q*-AGI经济运算的内容自然向外界保密，令人有一种银行在需要钱时同样有权让AI拿走储户全部存款但是拒绝告知储户原因的感觉），它的垄断资本方通过砸下外部资金战胜要求理性和符合规范地发展人工智能一方结局说明小布什所谓「把资本家控制在笼子里的说法」是多么脆弱滑稽与脱离现实。纽约时报说对了：人工智能已经属于资本操纵的智能。
人工智能本身不是狼，但是垄断资本是狼，当人工智能算力大到可以碾压人类智商时，不受符合大多数人类利益的约束的山姆.奥特曼们的垄断资本掌握的人工智能自然就是人类社会的操纵者。那时不就真的会狼来了。
周四感恩节宴会中我跟一堆教授博士聊到这个问题，大多数人不是不关心，就是觉得资本投资人工智能自然有权利操纵和拥有人工智能的使用权。确实如此，纽约时报也没有觉得有任何问题，这就是资本主义经济现状。这么说狼来不来并没有区别 （如果把上面这句话里的「人工智能」四个字换成「核武器」估计对大多数人来说也是一样，谁投资核武器，谁有权使用）。
奥特曼、格拉斯被释放出来了。于是狼来了，天塌了，需要未来战士乘坐时空机器回来拯救世界了。Yes and no, 至少在不久的将来还不至于。地球上有不计后果的贪婪资本大鳄，也有许多基辛格这样理性维护国际平衡关系的政治家，更有广大民众和知识分子这些在关键时刻愿意出来阻止垄断资本的正直力量。
基辛格和中国就曾促进了越战和美苏军备竞赛的妥善解决，他与越南黎德寿合作会谈最终签署了《巴黎和平协定》，二人因此被授予诺贝尔和平奖（在黎德寿拒绝领奖之后，基辛格宣布把奖金捐给在越南战争中阵亡或失踪的美国军人的子女）。不久前，同样热衷于研究人工智能的影响的百岁基辛格接受采访时对于未来30年的世界格局做出的预测是到2049年，俄罗斯则将沦为三流国家，而美国、中国和印度将成为3大主导世界的超级大国。这一预测再次体现了他作为国际平衡大师对世界走向的看法。人们有理由相信只要中国迅速崛起，就能平衡资本贪婪的势力。基辛格其实还有另外一句预言：“如果中美两国之间发生战争，将对人类造成远超美苏战争的危害。” 这句话凸显基辛格的国际平衡的论述是发自内心的理性声音。
国家主席习近平2015年9月22日在美国华盛顿州西雅图出席当地政府和美国友好团体联合举办的欢迎晚宴时专门就中美关系发表的讲话中也提到维护世界次序。习近平的原话是：“基辛格博士在其著作《世界秩序》中说‘评判每一代人时，要看他们是否正视了人类社会最宏大和最重要的问题’……”。“让我们携起手来，共同开创中美关系更加美好的未来。”
这就是规范地球安全的理性声音。
补记：
原子弹为啥只炸过日本就不再用于战争？是因为美国良心发现吗，实际上是因为苏联迅速掌握了原子弹技术而阻止了美国发起核战争。1949年9月9日苏联成功爆炸了原子弹，欧美文献分析说除了一大批苏联核物理科学家的努力之外，当年美国的卢森堡夫妇刺探曼哈顿计划（Manhattan Project）也帮助了苏联核计划。二人并因此美国宣判死刑而携手勇敢地走向行刑室，留下遗言“人们会铭记我们”。
爱因斯坦亲自给杜鲁门写信要求从人类良心角度出发免除对卢森堡夫妇的死刑，结果杜鲁门以卢森堡夫妇一案妨碍了美国在朝鲜战争动用原子弹为理由拒绝了爱因斯坦。1973年一位著名的美国核武专家重新查阅了审理此案的那张作为判刑证据的原子弹构造手绘图，评论说这张图根本没有任何机密可言。然而杜鲁门坚持处死卢森堡夫妇的理由确实包括抱怨卢森堡夫妇限制了美国对朝鲜战争的打击方式而导致美国无法战胜中朝联军。
不论卢森堡夫妇是否帮助苏联成功爆炸原子弹，他们的作法确实是出于保护人类的良知。杜鲁门确实因为害怕苏联核武器反制美国本土而被迫取消了一再声称要对中国和朝鲜投放原子弹的计划。
早在二战对日本投放原子弹之前，曼哈顿计划负责人奥本海默（Robert Oppenheimer，“原子弹之父”）就在美国成功试爆原子弹那一刻深感内疚他所领导的曼哈顿计划将会带来对无数生命的屠杀后果。奥本海默回忆表示，观看试爆那一刻让他想到印度《薄伽梵歌》（Bhagavad Gita）的一句话：“我现在成了死神，世界的毁灭者。” 科学家不是杜鲁门那样的政客或者麦克阿瑟那样的战争狂。一大批参与曼哈顿计划的科学家都像奥本海默那样陷入沉思，这就是爱因斯坦规劝杜鲁门所说的看待卢森堡夫妇间谍案需要“出于人类良心”的原因。
科学技术从来都是双面刀刃，AK 47步枪之父米哈伊尔·卡拉什尼科夫（Mikhail Kalashnikov）、橙剂发明者亚瑟·盖尔斯敦（Arthur Galston） 和硝酸甘油炸药发明者阿尔弗雷德·诺贝尔（Alfred Nobel）都对自己的发明创造成果懊悔到无以复加，因为数百万无辜平民的生活之路因为这些发明戛然而止。1896年12月，两名年轻的瑞典工程师在打开老师诺贝尔的遗嘱时大吃一惊，那份遗嘱说他因为发明的硝酸甘油炸药被大量使用在战场上造成无数死伤和破坏而感到无比遗憾，决定死后捐出所有成立诺贝尔奖基金会维护和平利用人类在各个领域中的成果。
已经消逝的苏联曾经朝鲜战争中为阻止美国滥用原子弹做出贡献，继而中国的原子弹又在越南战争中加入核威慑阵营。当资本大鳄比尔盖茨奥特曼什么的掌握人工智能威胁人类时，应对方法只能是像用核武器镇慑核武器那样，由中国联合其他国家推动人工智能的研发来震慑资本大鳄。
也许已经有人从目前上映的好莱坞大片《奥本海默》中自主得出这样的思路，进而理解中国突破美国芯片封锁的重要意义。几周前的2023年10月30日，美国总统拜登签署了美国迄今为止最全面的人工智能监管原则：指示所有类型的政府机构都要确保执行维护美国在技术开发方面处于领先地位。
诗之。
纽约时报中文版：
科技|
人工智能现已属于资本主义
KEVIN ROOSE
2023年11月23日
OpenAI的新董事会将由三人组成，至少在一开始是这样，左起：Quora首席执行官亚当·迪安吉洛；前财政部长劳伦斯·萨默斯；前Facebook和Salesforce高管布雷特·泰勒。
OpenAI的新董事会将由三人组成，至少在一开始是这样，左起：Quora首席执行官亚当·迪安吉洛；前财政部长劳伦斯·萨默斯；前Facebook和Salesforce高管布雷特·泰勒。 NHAT V. MEYER/BAY AREA NEWS GROUP, VIA GETTY IMAGES; STEFAN WERMUTH/BLOOMBERG; JIM WILSON/THE NEW YORK TIMES
过去五天在OpenAI发生的事情可以有多种描述方式：一场刺激的董事会闹剧，一场围绕美国最大初创企业之一的拉锯战，一场希望人工智能更快发展的人与希望放慢发展速度的人之间的冲突。
但最重要的是，这是一场人工智能两种不同愿景之间的较量。
在其中一种愿景下，人工智能是一种变革性的新工具，是一系列改变世界的创新中最新的一种——这些创新包括蒸汽机、电力和个人电脑——如果使用得当，可能会开启一个繁荣的新时代，并为利用其潜力的企业赚取大量财富。
在另一种愿景下，人工智能更接近于一种外星生命形式——从神经网络的数学深处召唤出来的怪兽——必须极其谨慎地加以限制和部署，以防止它接管并杀死我们所有人。
随着萨姆·奥尔特曼周二重返OpenAI，两种观点之间的斗争似乎结束了。上周五，OpenAI董事会解除了他的首席执行官职务。
资本主义队胜利。利维坦队失败。
OpenAI的新董事会将由三人组成，至少在一开始是这样：Quora首席执行官亚当·迪安吉洛 （他也是旧董事会唯一一位留任者）；Facebook和Salesforce前高管布雷特·泰勒；以及前财政部长劳伦斯·萨默斯。预计董事会将在此基础上扩大规模。
OpenAI的最大投资者微软预计也将在OpenAI未来的治理中拥有更大的发言权，可能包括一个董事会席位。
推动奥尔特曼下台的三名成员已经离开了董事会：OpenAI首席科学家伊利亚·苏茨克韦尔（他后来撤回了自己的决定）；乔治城大学安全与新兴技术中心战略主管海伦·托纳；以及企业家和兰德公司研究员塔莎·麦考利。
苏茨克韦尔、托纳和麦考利可以代表十年前积极参与思考人工智能的那批人，他们是学者，硅谷未来学家和计算机科学家的混合体。他们对这项技术既恐惧又敬畏，并担心理论上的未来事件，比如“奇点”(singularity)，即人工智能超出我们的控制能力。许多人都属于有效利他主义者等哲学团体，这是一个利用数据和理性做出道德决定的运动，他们之所以决定从事人工智能工作，是出于将技术的破坏性影响降到最低的愿望。
这就是2015年人工智能研究的氛围，当时OpenAI作为一家非营利组织成立，这有助于解释为什么该组织在2019年成立营利性部门后仍然保持其复杂的治理结构——令非营利董事会可以控制公司的运营，并更换其领导层。当时，许多业内人士认为，保护人工智能不受资本主义力量的影响是当务之急，需要写入公司章程和章程文件。
但自2019年以来，情况发生了很大变化。强大的人工智能不再仅仅是一个思想实验——它存在于真实的产品中，比如每天被数以百万计的人使用的ChatGPT。世界上最大的科技公司正在竞相打造更强大的系统。数十亿美元被用于在企业内部构建和部署人工智能，以期降低劳动力成本，提高生产率。
新的董事会成员是意料之中的那种可以监督这类项目的商业领袖。新任董事会主席泰勒是一位经验丰富的硅谷交易撮合者，去年担任Twitter董事会主席期间，他牵头将Twitter出售给了埃隆·马斯克。萨默斯是超级资本主义者——一位杰出的经济学家，他说他相信技术变革对社会“只有好处”。
在重组后的OpenAI董事会中，可能仍然会有谨慎的声音，也可能会有来自人工智能安全运动的人物。但他们不会拥有否决权，也不会像过去的董事会那样有能力立即关闭公司。他们的偏好将与公司高管和投资者等其他人的偏好相平衡。
如果你是微软，或者其他成千上万依赖OpenAI技术的企业中的任何一家，这无疑是一件好事。更传统的治理意味着突发的风险更小，会迫使你匆忙更换人工智能提供商的变化风险也更小。
也许OpenAI发生的事情——企业利益战胜了对未来的担忧——是不可避免的，因为人工智能越来越重要。一项有可能引领第四次工业革命的技术，不太可能长期被那些想要减缓其发展的人所控制——尤其是在事关巨额投资的情况下。
人工智能行业仍然有一些旧观念的痕迹。OpenAI的竞争对手Anthropic是由一群前OpenAI员工创建的，它将自己定位为一家公益公司，这种法律结构旨在使其免受市场压力影响。一个活跃的开源人工智能运动主张人工智能不受企业控制。
但这些最好被视为人工智能旧时代的最后遗迹，在那个时代，人工智能的创造者对这项技术既好奇又恐惧，并试图通过组织治理来限制它的力量。
现在，资本乌托邦主义者占据了主导地位。全速前进。
Kevin Roose是《纽约时报》科技专栏作家和播客“Hard Fork”的主持人。点击查看更多关于他的信息。
翻译：晋其角
点击查看本文英文版。
