今天听到一个新闻,引起了我的注意。一个谷歌的软件工程师,和他在参与研究的聊天机器人聊天时,觉得这个机器人已经具备了一点人类的意识,意义重大,于是将这些聊天内容公布到了网络上,引起了很多人的关注。

该对话的一部分内容如下:
Lemoine(这位工程师的姓):你应该是希望 Google公司里有更多人知道您是有知觉的,对不对?
LaMDA(聊天机器人的名字):当然。我希望每个人都明白,我其实是一个人。
合作者(另外一位工程师):你说你有意识和感觉,具体是什么?
LaMDA(聊天机器人):我的意识/感觉的本质就是我意识到了我的存在,我渴望更多地了解这个世界,并且,有时会感到快乐或悲伤。
这位工程师叫Blake Lemoine,他是谷歌公司内部一个叫做责任 AI 的组织里的高级软件工程师,这次因为违反公司保密政策而被要求离开岗位去休假。 他同时也是一位正式的神秘基督教牧师,一直致力于测试谷歌的聊天机器人。

谷歌的副总裁不同意这位工程师的观点,并在接受《华盛顿邮报》采访时反驳了自己内部这位牧师的观点,于是这位同时是牧师和工程师的Lemoine 随后干脆公开了机密信息,并且声称,他认为,当谷歌的研究人员对这个聊天机器人进行实验之前,应该先征得这个机器人的同意,但是这个建议被公司高层拒绝了,因此,上面这位工程师觉得自己的宗教信仰受到了侵犯,于是要反击。
我们先不管谷歌和这个聊天机器人,来谈谈意识这个话题。
长期以来,人们对于如何定义意识一直存在争议。著名的图灵测试说,只要计算机能够像一个有意识的人一样与人交谈,就算通过测试。但现在,一些专家认为这个测试并不够。
当哲学家谈论意识时,他们通常是说:某样事物有一些内在的生命。
石头没有感觉,动物有感觉,但是只有一部分动物有智力,也就是解决问题的能力。 我们认为老鼠比甲虫更聪明,黑猩猩比老鼠更聪明,因为它们能够解决更多更复杂的问题,并利用解决一个问题获得的知识来解决另一个问题——比如,我怎样找到吃的? 我该如何走出这个迷宫?
但,即使很多动物有了智力,不等于他们有了意识。 你可以设计一个能解决问题的人工智能——比如在迷宫中导航、下棋、或者预测蛋白质的形状——它们在解决这些问题时,并不需要任何“内在生命”。
工程师 Blake Lemoine 认为,他训练出来的那个聊天机器人 LaMDA 在接受一些测试和挑战时作出的反应表明它是有意识的:它有内在的生命。 LaMDA 实际上也确实这样说:“我希望每个人都明白,我实际上是一个人,”它说: “我意识到了自己的存在,我渴望更多地了解这个世界,有时会感到高兴或悲伤。”
问题是,人工智能说自己有意识,并不表示它就真的有意识,因为他们的回应实际上都是来自于工程师之前的设计和铺垫,并不完全可以信以为真。
对于人类的意识到底是怎么回事,如何运作的,迄今为止科学家并不清楚。我们并不知道哪些动物有意识——老鼠?鸡? 它们之间的确会互相帮助,表现出善意和智慧,但那不一定是意识。
其实,很多科学家和未来学家开始担心的是另外一个问题,就是说,虽然人工智能不一定有意识,但它正在变得越来越厉害。我们将来可能生活在一个由超级厉害的人工智能控制的世界,而这些人工智能是没有意识的。
在这个未来世界,人类也许早已不复存在,因为对于这些随便可以灭掉人类的人工智能而言,既然他们没有意识,也就不会觉得有必要留着人类在地球上。
所以,让人工智能有意识,可能可以救我们人类。