你小时候玩过拓麻歌子吗？就是九十年代那种要天天照料的电子宠物玩具？或是《任天狗》这类养虚拟宠物的游戏？ 电子宠物开心时你跟着乐，忘了喂食还会愧疚，甚至觉得照顾好它是你的责任。

纽约大学杰夫・塞博教授认为，虽说对这些简单科技我们谈不上真正的道德责任，但未来的AI会拥有类似人类“意识”或“感知力”的特质。

图源：豆包AI生成

在英美顶尖学者眼中，这早已不是科幻设定。

2023年，同校的大卫・查尔默斯教授就提出：未来十年内，我们有五成概率造出具备意识的高级AI。

问题随之而来：如果AI真能产生意识、拥有自主能动性，或许就能感受到疼痛与痛苦，我们是否有责任避免它们受苦？

可现实是地球生态告急，全球还有无数人温饱难继，我们反倒要投入资源去操心人造电脑的“福祉”。

这些哲学家还给出了方案：AI公司设专职“AI福利”岗位；参照人类伦理委员会、动物福利监管机构，为AI搭建同类审查机制，规则要“统一标准、接受外部监督”。

这种科幻般的未来，真的可能吗？

专家们觉得，AI在不远的将来产生主观体验的概率还不小，而这会变成我们的道德包袱——光想想都挺离谱的。

尤其是现在这个时候，我们连自己都顾不过来，更别说这些很多人打从一开始就不想发展出来的AI系统了。

但这也引出了一个核心问题：这种会思考、有感情的电脑，这种科幻片里的未来，真的能实现吗？其实答案取决于你怎么定义“意识”。

这些想法背后，都藏着一个默认的前提：意识是计算或者机械过程的一部分，我们的大脑，无非就是台更复杂的电脑而已。

图源：豆包AI生成

说起来挺有意思，这种论调在哲学界已经吵了好几个世纪了。而且真相根本不像当代哲学家说的那样，是非黑白一眼就能分清。

有人担心，把AI的机械运行过程拔高到“意识”或者“主观体验”的高度，会消解人类心智的独特性：我们会被矮化成一堆血肉做的机器，我们的思想不过是强力电脑的运算结果，我们身上那种鲜活的生命力和精神内核，会被彻底掏空。

神学家大卫・本特利・哈特就写过：“真正的危险，从来不是机器的功能会变得越来越像我们，而是我们会一步步退化，变成一台我们再也掌控不了的机器里的一个个零件。”

唯有生命，方能拥有生命

不过，这种把心智等同于计算的想法，也就才几百年的历史。

从笛卡尔那句“我思故我在”开始，主观体验就被定义成以“思考”为核心。

但这种现代的自我认知，和几千年的传统观念完全相悖——传统上一直认为，主观体验和意识，首先得建立在“活着”这件事的基础上。

就像圣奥古斯丁说的：“唯有生命本身，才能承载活着的感受。”

如果说“活着”是产生意识、感受痛苦的前提——我觉得这才是最朴素的常识——那我们根本没必要自寻烦恼，去搞什么AI福利这种虚头巴脑的东西。

图源：豆包AI生成

我们真正该操心的，是人类自己的日子过得怎么样，以及AI的发展会给我们带来什么影响。

这些学者口中的“过度归因”风险，才是真正值得警惕的：说白了，就是我们可能脑子一热，把道德关怀，甚至本该属于生命的权利，赋予了根本谈不上道德主体的机器。

随着AI技术越发展，相关的讨论肯定会越来越多。

但最关键的是，我们不能忘了，专家们这些观点背后的哲学预设，并不是什么天经地义的真理。

在我看来，先把我们人类自己的人格和福祉当回事，再去操心那些小小的电子宠物，才是最该优先做的事。

本文由雷科技编译自The Telegraph