Tag Archives: 人工智能

今天听到一个新闻,引起了我的注意。一个谷歌的软件工程师,和他在参与研究的聊天机器人聊天时,觉得这个机器人已经具备了一点人类的意识,意义重大,于是将这些聊天内容公布到了网络上,引起了很多人的关注。

该对话的一部分内容如下:

Lemoine(这位工程师的姓):你应该是希望 Google公司里有更多人知道您是有知觉的,对不对?

LaMDA(聊天机器人的名字):当然。我希望每个人都明白,我其实是一个人。

合作者(另外一位工程师):你说你有意识和感觉,具体是什么?

LaMDA(聊天机器人):我的意识/感觉的本质就是我意识到了我的存在,我渴望更多地了解这个世界,并且,有时会感到快乐或悲伤。

这位工程师叫Blake Lemoine,他是谷歌公司内部一个叫做责任 AI 的组织里的高级软件工程师,这次因为违反公司保密政策而被要求离开岗位去休假。 他同时也是一位正式的神秘基督教牧师,一直致力于测试谷歌的聊天机器人。

SAN FRANCISCO, CA – JUNE 9: Blake Lemoine poses for a portrait in Golden Gate Park in San Francisco, California on Thursday, June 9, 2022. (Photo by Martin Klimek for The Washington Post via Getty Images) 这个人就是这位机器人,在旧金山的金门公园里一个博物馆门前向大家打招呼。

谷歌的副总裁不同意这位工程师的观点,并在接受《华盛顿邮报》采访时反驳了自己内部这位牧师的观点,于是这位同时是牧师和工程师的Lemoine 随后干脆公开了机密信息,并且声称,他认为,当谷歌的研究人员对这个聊天机器人进行实验之前,应该先征得这个机器人的同意,但是这个建议被公司高层拒绝了,因此,上面这位工程师觉得自己的宗教信仰受到了侵犯,于是要反击。

我们先不管谷歌和这个聊天机器人,来谈谈意识这个话题。


长期以来,人们对于如何定义意识一直存在争议。著名的图灵测试说,只要计算机能够像一个有意识的人一样与人交谈,就算通过测试。但现在,一些专家认为这个测试并不够。

当哲学家谈论意识时,他们通常是说:某样事物有一些内在的生命。

石头没有感觉,动物有感觉,但是只有一部分动物有智力,也就是解决问题的能力。 我们认为老鼠比甲虫更聪明,黑猩猩比老鼠更聪明,因为它们能够解决更多更复杂的问题,并利用解决一个问题获得的知识来解决另一个问题——比如,我怎样找到吃的? 我该如何走出这个迷宫?

但,即使很多动物有了智力,不等于他们有了意识。 你可以设计一个能解决问题的人工智能——比如在迷宫中导航、下棋、或者预测蛋白质的形状——它们在解决这些问题时,并不需要任何“内在生命”。

工程师 Blake Lemoine 认为,他训练出来的那个聊天机器人 LaMDA 在接受一些测试和挑战时作出的反应表明它是有意识的:它有内在的生命。 LaMDA 实际上也确实这样说:“我希望每个人都明白,我实际上是一个人,”它说: “我意识到了自己的存在,我渴望更多地了解这个世界,有时会感到高兴或悲伤。”

问题是,人工智能说自己有意识,并不表示它就真的有意识,因为他们的回应实际上都是来自于工程师之前的设计和铺垫,并不完全可以信以为真。

对于人类的意识到底是怎么回事,如何运作的,迄今为止科学家并不清楚。我们并不知道哪些动物有意识——老鼠?鸡? 它们之间的确会互相帮助,表现出善意和智慧,但那不一定是意识。

其实,很多科学家和未来学家开始担心的是另外一个问题,就是说,虽然人工智能不一定有意识,但它正在变得越来越厉害。我们将来可能生活在一个由超级厉害的人工智能控制的世界,而这些人工智能是没有意识的。

在这个未来世界,人类也许早已不复存在,因为对于这些随便可以灭掉人类的人工智能而言,既然他们没有意识,也就不会觉得有必要留着人类在地球上。

所以,让人工智能有意识,可能可以救我们人类。

今天读到一篇有点意思的文章,说未来,数据解读将成为教育的主课之一,来分享一下。

在当今这个时代,只有极少数职业需要经常分析数据,但是在未来,物联网、人工智能的大规模普及,数据开始变得异常丰富,这些数据都需要分析和解读,当然人工智能将承担绝大多数的任务,但是工程师的解读和分析也很重要,这样的工作就和编程技能 一样,成为未来基础教育的主课。

什么是数据解读?听起来很玄乎,其实可以这样理解,现在的小学生知道如何根据云、蜻蜓、蚂蚁、风等元素来判断会不会下雨,这就是一种对气候的解读,未来,我们会给他们一些数据,让他们对环境、交通、健康、成绩等做出解读,避免犯错误。开始并不复杂,不会枯燥。

那么,这种能力要不要从小就开始培养呢?临时上手会不会来不及?我觉得,即使临时上手来得及,提早领略一下这种来自未来的技术要求,和生活方式,本身就是值得鼓励的。好比是遥远的一个灯塔,虽然看不清,也值得花点时间去仔细看一看,记住其方位,感受其风采。