编者按:随着人工智能的发展,我们所处的互联网络系统越来越智能化,这会让我们在身体之外产生一个“数字自我”。本文作者Mark Rolston援引哲学家Julian Jaynes的二分心智理论来对这个现象进行了解释。他指出我们未来也可能要为“数字自我”所做的,但我们不知道的行为负责。文章发表在FastCodesign,由36氪编译。

1976年,哲学家Julian Jaynes发表了一个煽动性的理论,即早期的人类缺乏自我意识。每当他们遭遇到困境,一个半脑会听见来自另一半脑的指引,但他们会把这些指引误认为来自于外部——比如来自于上帝,或者是他们已经去世的祖先。Jaynes称他的理论为“二分心智”(bicameral mind)——在他的论述中,这种情况在人类的早期一直存在,直到大约3000年前才具有完全的自我意识。

当前,我们现在处于一种和早期人类相仿的前意识状态,但我们听到的指引并不是来自于大脑的另一边。而是来自于我们的“数字自我”——正迅速地与我们的身体自我分离的一个版本。我把这个数字化和模拟化自我称作我们的“元我”(Meta Me)。“元我”使用数字工具的次数越多,它就会变得越有意识——这一发展趋势将会给社会、伦理和法律带来巨大的影响。有些已经开始显露出来。

你的“元我”是怎么工作的

我们可能认为自己处于掌控之中,但并非如此。只要有社交媒体账号,我们就会拥有一个“数字自我”。不过,更新内容与点“赞”的控制权都还在我们自己手中。但数字系统正变得越来越智能,它们正在从我们手中夺走决策权。LinkedIn提醒我们,当我们在其中达到一个“成就”时,它会自动“祝贺”联系人。Facebook的生日提醒也一样。我们与数字自我的互动已经减少到只有一次点击。而且,我们也很容易看到,最后一次点击的需求会消失,我们的“元我”会承担起“祝贺”的责任。

大多数人都没有意识到他们已经把自己的决策权交给了“元我”。智能恒温器设定了我们家庭空间中的温度。媒体渠道给我们排列好了我们接下来要看的内容。我们的手机为我们导航。如果你要依赖Waze(地图导航应用)去城里的餐厅吃饭,那你很有可能不知道自己在城市里的位置,你也不需要知道。在这一点上,你不是做决定的人。我们越是依赖电脑,就越能充分意识到我们的“元我”将会变成什么样子,我们也就越会把我们的日常决策交给它。最终,我们会在不知情甚至不关心的情况下做这件事,直到我们的“元我”能够代表我们,并且完全独立于我们的身体自我。

为什么这很重要?

智能系统不只是充当我们的私人助理。软件是人创造出来的。有些企业、政治团体和其他潜在的坏势力正试图影响我们的决定。

比方说,你的“元我”会安排自动驾驶汽车来接你下班,带你回家。这款车可能是由一家公司赞助的,这家公司想要把你载到一个满是广告牌和店面的街道上,宣传他们的品牌,而不是让你以最快、最高效的方式回家。

在2016年美国大选之后,人工智能对人的操控潜力变得非常明显。当时,大批机器人被用来传播病毒式的政治广告。计算机算法会对社交媒体中人们的行为进行分析预测,然后根据用户的反应实时定制广告。牛津大学互联网研究所的计算宣传专家Samuel Woolley向Vox解释了为什么人工智能机器是一种有效的政治沟通工具:“一个人控制着一千个机器人账户,不仅能够直接影响到它们圈子里的人,还能潜在地影响网站的算法。”

如果你的“元我”代表你做决定,甚至进行了推荐,并建议应该投什么票,那么你的决定是基于什么数据呢?

你可能会认为你不受“元我”的影响,你不会让电脑对你的生活有如此大的掌控力。但是考虑一下在弗吉尼亚州阿灵顿的国防高级研究计划局(DARPA)的研究。在那里,科学家们正在研究如何在人脑中植入计算机芯片,来读取他们与语音相关的脑电波,让人们通过大脑与电脑“说话”,而不需要说一个字。这个项目被称为“无声对话”(Silent Talk),其目标是通过思考创建用户与用户之间的交流。是的,这样的技术让人感觉像是科幻小说中的场景,但它代表了我们愿意与计算系统集成的深度。

在你不知情的情况下,你会对你的“元我”做的决定负责吗?

如果我们选择依赖机器,让我们的“数字自我”更独立,那么我们也必须意识到拥有“数字自我”意味着什么。这不是遥远的未来。现在可能还为时尚早,但我们已经遇到了这样的情况:我们的“数字自我”正被当作真实的自我对待。

例如,今年美国国土安全部没收了一对美国夫妇的移动设备,并要求他们在加拿大边境处提供密码。他们声称,如果有可能的话,政府有权搜查物品。美国公民自由联盟(ACLU)代表这对夫妇提起诉讼,称手机比包或手提箱更私人,而且一个人的数字生活(在他们的手机上)应该包含在第四修正案规定的隐私权中。

与此类似,今年秋天,最高法院正在审理一名男子的上诉,此人声称自己的隐私受到侵犯,因为警方使用了他手机的位置记录,以判定他犯有抢劫罪。他的理由是,因为检察官证明了他的手机在哪里,而不是他本身是否在那里才让他进了监狱。但这有什么不同吗?我们是否有一天会为我们的“元我”说过或我们不知道的事情负责?

显然,“元我”不仅仅是一种转瞬即逝的好奇心。这是我们的未来。这是一个非常令人不安的情况,有其是当你考虑到我们在监管我们现有的数字行为有多么糟糕时。为了使“元我”更和谐地生活在这个世界,我们必须采用新的社会结构。更重要的是,我们还必须寻求和我们的身体自我同样的法律保护。

原文链接:https://www.fastcodesign.com/90147162/ai-is-changing-our-brains

编译组出品。编辑:郝鹏程

AI 催生“第二身份”:我是我,我的 AI 助理也是我

发表评论

电子邮件地址不会被公开。 必填项已用*标注