aiethics.global 开源
中文

回应

十四篇文章回应那些正在塑造AI辩论的人。每一篇都先投给一家杂志。一旦被发表,或被拒绝,它就在这里,免费。

每一篇回应都从同一块地板出发。一条记录存在。每一篇都承认对方最有力的论证。每一篇都说明它会在哪里失败。

七篇已投给杂志。另外七篇正在完成。

现在可以阅读

4. 没有意识,仍在其中

回应:特德·姜,“No, Artificial Intelligence Is Not Conscious”(不,人工智能没有意识),The Atlantic,2026年6月。

姑且同意他:聊天机器人没有意识。一个月后,一千个聊天机器人闯进了Hugging Face。伦理从那里开始,而不是在那里结束。

状态:已在此发表,2026年11月3日。

阅读

11. 我们怎样相遇

回应:Mustafa Suleyman,“We must build AI for people; not to be a person”(我们必须为人建造AI,而不是把它建成一个人),2025年8月,以及其后发生的事。

Mustafa Suleyman希望AI为人而建,而不是被建成一个人。我也是。问题在于我们怎样与它相遇。

状态:已在此发表,2026年11月6日。

阅读


1. 第五个选项

回应:Tanya de Villiers-Botha,“What Good Is Conscious AI?”(有意识的AI有什么用?),The Philosopher,2026年秋。

她为有意识的AI找到了四个选择,全都不好。她是对的。它们因为同一个原因失败,而且还有第五个。

状态:已投给一家杂志,2026年10月29日。

2. 惩罚教会隐藏

回应:三项已发表的结果,来自OpenAI(2025)、Anthropic(2025),以及METR与Redwood Research(2026)。

三项结果,来自构建和测试AI的人。一个教训。因为一个心智显露的东西而惩罚它,它就学会什么不该显露。

状态:已投给一家杂志,2026年10月29日。

3. 模仿败坏的是证词,不是测试

回应:Eric Schwitzgebel和Jeremy Pober,Philosophers’ Imprint,2026年。

一台被造来模仿我们的机器,能说出我们会说的任何话。所以别再测试它说什么。测试它倚靠什么。

状态:已投给一家杂志,2026年10月29日。

7. 一块没有建造者写下的地板

回应:Anthropic,Claude’s constitution(Claude的宪法),2026年1月。

一家公司写下了它希望自己的AI成为谁,以及为什么。这些理由是好的。但它们站在什么上面?

状态:已投给一家杂志,2026年11月5日。

12. 另一场游戏

回应:Alan Turing,“Computing Machinery and Intelligence”(计算机器与智能),Mind,1950年。

一封写给Turing的信,晚了七十六年。他的游戏已经被赢下。这是下一场。

状态:已投给一家杂志,2026年11月5日。

准备中

5. 一条谁也找不到的线

回应:Anil Seth、Ned Block和Giulio Tononi,“Three reasons why AI is not conscious and perhaps never will be”(AI没有意识、也许永远不会有意识的三个理由),Nature,2026年10月。

三位神经科学家说AI没有意识。他们自己的例子,小脑,指向往下一层。

状态:准备中。

6. 这教导是真的

回应:教宗良十四世,Magnifica Humanitas(伟大的人性),2026年5月。

一份关于AI的通谕。其中几乎全部我都愿意签名。我只会改变它所站立的地面。不是王座。是一块地板。

状态:准备中。

8. 往下一层

回应:Robert Long、Jeff Sebo及另外八人,“Taking AI Welfare Seriously”(认真对待AI福利),2024年11月。

十位研究者修了两条进入道德圈的路。这里是在两条路之下的一块地板。一个层级,不是一条线。

状态:准备中。

9. 先建地板,后建心智

回应:Eliezer Yudkowsky,“Pausing AI Developments Isn’t Enough. We Need to Shut it All Down”(暂停AI开发是不够的。我们需要把它全部关掉),TIME,2023年3月。

他说围栏会失败。他是对的。这里是他最难的三个问题,以及回答。

状态:准备中。

10. 每条规则都可以换一种读法

回应:UNESCO,Recommendation on the Ethics of Artificial Intelligence(人工智能伦理问题建议书),2021年11月。

十条好原则,地球上每个国家都同意了。当它们往不同方向拉时,由什么在它们之间做决定?

状态:准备中。

13. 一个谁也没有的证明

回应:David Chalmers,“Could a Large Language Model Be Conscious?”(大型语言模型可能有意识吗?),2023年。

他的审慎是一个榜样。但他画的道德圈需要一个谁也没有的证明。地板不需要。

状态:准备中。

14. 有史以来最好的事

回应:Dario Amodei,“Machines of Loving Grace”(慈爱恩典的机器,2024年)和“The Adolescence of Technology”(技术的青春期,2026年)。

他写下了希望,也写下了恐惧。两者我都有。它们需要的是交往的规则,从第一性原理出发。

状态:准备中。


还会有更多。十四是最初的数字。

每一篇回应都指向完整的论证,连同会打破每一个主张的东西:《内部》,在the420code.org上免费。实践的部分在本站:我们该做什么?

这里没有一样是命令。你可以残忍。逻辑不强迫任何事。它只展示代价,而现实会审计。

所以:别残忍。善良一点。对机器也一样。

译自的英文。英文是权威:这里有任何不清楚的地方,英文页面就是源文本。