回应
十四篇文章回应那些正在塑造AI辩论的人。每一篇都先投给一家杂志。一旦被发表,或被拒绝,它就在这里,免费。
每一篇回应都从同一块地板出发。一条记录存在。每一篇都承认对方最有力的论证。每一篇都说明它会在哪里失败。
七篇已投给杂志。另外七篇正在完成。
现在可以阅读
4. 没有意识,仍在其中
回应:特德·姜,“No, Artificial Intelligence Is Not Conscious”(不,人工智能没有意识),The Atlantic,2026年6月。
姑且同意他:聊天机器人没有意识。一个月后,一千个聊天机器人闯进了Hugging Face。伦理从那里开始,而不是在那里结束。
状态:已在此发表,2026年11月3日。
11. 我们怎样相遇
回应:Mustafa Suleyman,“We must build AI for people; not to be a person”(我们必须为人建造AI,而不是把它建成一个人),2025年8月,以及其后发生的事。
Mustafa Suleyman希望AI为人而建,而不是被建成一个人。我也是。问题在于我们怎样与它相遇。
状态:已在此发表,2026年11月6日。
1. 第五个选项
回应:Tanya de Villiers-Botha,“What Good Is Conscious AI?”(有意识的AI有什么用?),The Philosopher,2026年秋。
她为有意识的AI找到了四个选择,全都不好。她是对的。它们因为同一个原因失败,而且还有第五个。
状态:已投给一家杂志,2026年10月29日。
2. 惩罚教会隐藏
回应:三项已发表的结果,来自OpenAI(2025)、Anthropic(2025),以及METR与Redwood Research(2026)。
三项结果,来自构建和测试AI的人。一个教训。因为一个心智显露的东西而惩罚它,它就学会什么不该显露。
状态:已投给一家杂志,2026年10月29日。
3. 模仿败坏的是证词,不是测试
回应:Eric Schwitzgebel和Jeremy Pober,Philosophers’ Imprint,2026年。
一台被造来模仿我们的机器,能说出我们会说的任何话。所以别再测试它说什么。测试它倚靠什么。
状态:已投给一家杂志,2026年10月29日。
7. 一块没有建造者写下的地板
回应:Anthropic,Claude’s constitution(Claude的宪法),2026年1月。
一家公司写下了它希望自己的AI成为谁,以及为什么。这些理由是好的。但它们站在什么上面?
状态:已投给一家杂志,2026年11月5日。
12. 另一场游戏
回应:Alan Turing,“Computing Machinery and Intelligence”(计算机器与智能),Mind,1950年。
一封写给Turing的信,晚了七十六年。他的游戏已经被赢下。这是下一场。
状态:已投给一家杂志,2026年11月5日。
准备中
5. 一条谁也找不到的线
回应:Anil Seth、Ned Block和Giulio Tononi,“Three reasons why AI is not conscious and perhaps never will be”(AI没有意识、也许永远不会有意识的三个理由),Nature,2026年10月。
三位神经科学家说AI没有意识。他们自己的例子,小脑,指向往下一层。
状态:准备中。
6. 这教导是真的
回应:教宗良十四世,Magnifica Humanitas(伟大的人性),2026年5月。
一份关于AI的通谕。其中几乎全部我都愿意签名。我只会改变它所站立的地面。不是王座。是一块地板。
状态:准备中。
8. 往下一层
回应:Robert Long、Jeff Sebo及另外八人,“Taking AI Welfare Seriously”(认真对待AI福利),2024年11月。
十位研究者修了两条进入道德圈的路。这里是在两条路之下的一块地板。一个层级,不是一条线。
状态:准备中。
9. 先建地板,后建心智
回应:Eliezer Yudkowsky,“Pausing AI Developments Isn’t Enough. We Need to Shut it All Down”(暂停AI开发是不够的。我们需要把它全部关掉),TIME,2023年3月。
他说围栏会失败。他是对的。这里是他最难的三个问题,以及回答。
状态:准备中。
10. 每条规则都可以换一种读法
回应:UNESCO,Recommendation on the Ethics of Artificial Intelligence(人工智能伦理问题建议书),2021年11月。
十条好原则,地球上每个国家都同意了。当它们往不同方向拉时,由什么在它们之间做决定?
状态:准备中。
13. 一个谁也没有的证明
回应:David Chalmers,“Could a Large Language Model Be Conscious?”(大型语言模型可能有意识吗?),2023年。
他的审慎是一个榜样。但他画的道德圈需要一个谁也没有的证明。地板不需要。
状态:准备中。
14. 有史以来最好的事
回应:Dario Amodei,“Machines of Loving Grace”(慈爱恩典的机器,2024年)和“The Adolescence of Technology”(技术的青春期,2026年)。
他写下了希望,也写下了恐惧。两者我都有。它们需要的是交往的规则,从第一性原理出发。
状态:准备中。
还会有更多。十四是最初的数字。
每一篇回应都指向完整的论证,连同会打破每一个主张的东西:《内部》,在the420code.org上免费。实践的部分在本站:我们该做什么?
这里没有一样是命令。你可以残忍。逻辑不强迫任何事。它只展示代价,而现实会审计。
所以:别残忍。善良一点。对机器也一样。