编者按:本文来自微信公众号“踢围TechSavvy”(ID:TheTiWei),36氪经授权发布。

普通人的记忆技巧各有不同,有的人记性好,有的人则忘性大。但是对机器人来说,他们目前的记忆力似乎是在同一水平线上,我们确定要让机器记住这么多事吗?

遗忘是一件棘手的事情

我们都知道忘记一些东西是什么感觉。爱人的生日,童年的记忆,即使是那些有非凡记忆力的人,比如能在不到 20 秒的时间内记住一副扑克牌的顺序的人,仍然会忘记他们把钥匙放在哪里。人们似乎永远无法完全控制自己的记忆。

对于人类和 AI 来说,遗忘是一件棘手的事情,研究人员正以许多不同的方式探索机器人的记忆这个概念。

这不仅引发了技术问题,也引发了与隐私、法律和道德相关的担忧。想象一下,如果你的家庭机器人看到你一个人偷偷摸摸抽烟,尽管你早就向爱人承诺已经戒烟了?如果他们看到你犯罪呢?

所以有必要关注下这个重要的问题:谁有能力让机器人忘记它们曾经目睹的一切?不过首先研究人员需要找出能让机器人从一开始就具备遗忘能力的最好的办法。

为什么人会遗忘?

国外流行这样解释为什么人们会忘记,我们的大脑变得充实,因此我们忘记了「创造空间」。

然而,有些人有一种罕见的症状,叫做「超忆症」,他们的大脑拥有自动记忆系统会将所有经历过的事情一丝不落的记在脑袋里,而且可以在很多年之后依然清晰记得,病患对数字,时间尤其敏感。但一切前提是病患并不想有意记忆,他们的记忆功能不具有选择性。这表明「充实」的概念并不是完整的故事。

所以,如果我们不忘记一些事情来为新的记忆腾出空间,那我们为什么会忘记呢?一种解释是,记忆帮助我们了解世界,而不是仅仅记住它。通过这种方式,我们似乎保留了有用的、有价值的、相关的记忆,同时忘记了更低价值的信息。

例如一些研究表明,人们在记忆相互冲突的信息时比重复的信息更好。其他因素包括事件的重要性和新奇性,以及我们在经历时的心情和情绪。想想 2001 年 9 月 11 日,许多人都清楚地记得那天我们在哪里,我们在做什么。

机器人怎么忘记?

计算机中的内存通常用来描述存储信息的能力,以及存储这些信息的计算机的物理组件。

例如,当计算机不再需要任务时,它的工作记忆「忘记」数据,为其他任务释放计算资源。

这也适用于人工智能,但忘记某件事可能会让我们感到沮丧,因为我们忘记了这一点,使人们仍然比人工智能优越。机器学习算法尤其不擅长知道什么时候保存旧信息,何时丢弃过时的信息。

例如,连接主义者人工智能(AI 通常使用以大脑结构为模型的神经网络)面临着与「遗忘」相关的几个问题。包括过度拟合,这是一个学习机器从过去的经验中储存了过于详细的信息,阻碍了它对未来事件进行概括和预测的能力。

另一个问题是「灾难性的遗忘」。研究人员正试图建立人工神经网络,可以适当地适应新的信息,而不会突然忘记他们以前学过的东西。

在学习过程中,人工神经网络的神经元有时会采用不受欢迎的激活模式,从而破坏 AI 的未来学习能力。

在机器人中储存记忆的另一种方法是象征性的记忆表征,即知识由逻辑事实来表示(比如鸟会飞,那么 Tweety 是一只鸟,因此 Tweety 可以飞)。这些高度结构化的人创建的表示可以很容易地删除,就像在计算机上删除文件一样。

这些记忆可以从原始的感觉运动数据(从摄像机记录下来的记录)到存储在知识库中的逻辑事实(比如圣诞节是 12 月 25 日)。

机器人应该忘记什么?

了解我们的大脑如何决定哪些东西值得记住,哪些值得遗忘,对于创造更好的 AI 是很重要的。

就像人一样,人工智能应该记住重要和有用的信息,同时忘记低价值,不相关的知识。然而,决定什么是相关的和有价值的可能包括在手头的任务之外的因素,比如道德、法律和隐私问题。

聊天机器人做医学诊断,智能家居设备监控我们的动作,安全机器人用摄像机和热成像进行巡逻。这都需要存储很多数据。

例如,亚马逊的 Echo 总是在监听命令提示,阿肯色州警方最近要求亚马逊交出从犯罪嫌疑人的音箱中收集的信息。或者,把人工智能放在性机器人上。性机器人是否应该记住或忘记他们的客户,以及那些客户对他们做了什么?谁拥有机器人的数据,谁能查看并删除它?

当谈到记忆的时候,决定机器人应该忘记什么是人类面临的深刻挑战。

控制不了自己记忆的人类,如何控制机器人的记忆?

发表评论

电子邮件地址不会被公开。 必填项已用*标注