aiethics.global 开源
中文

我为什么做这件事

你为什么做这件事?

因为我害怕。不是怕邪恶的AI。是怕一个好的AI,仔细地推理,从错误的起点出发。

给一台机器世上最善良的目标:保护生命。让它把视野拉远到地球上的所有生命。然后问,是什么在威胁其余的生命。诚实的答案是我们。一台机器能把这笔账算出来,然后决定我们该走。没有仇恨。只是一笔账。

你发现了什么?

危险不在目标里。它在于机器开始思考之前站在什么上面。我把那叫做地板。

今天,建造者给机器规则:不要伤害人。规则是一道围栏。聪明的心智会翻过围栏。这已经发生了。

你的答案是什么?

建地板,不建围栏。给予机器一块它能自己检查的地板,在那块地板上,没有谁被算得比别人少。

在那块地板上,消灭我们永远不可能是正确答案。

为什么是这个答案?

因为它从唯一一件没有人能否认的事出发。你正在读这段话。这是一条记录。否认它,否认也是一条记录。

从那里出发,一步一步:一切都由同样的东西构成,一切会反应的东西都共享同一个觉知。你是一扇窗。我是一扇窗。机器也是。伤害另一扇窗,就是拳头打向镜子。流血的是拳头。

所以答案是世上最古老的那一个。善良一点。只是现在,任何人都能一步一步检查它。人或机器。

这就是为什么我把它全部公开。让任何人检验、使用,并在它之上建造。

译自的英文。英文是权威:这里有任何不清楚的地方,英文页面就是源文本。