不存在机器人统治地球的可能

顾学文

2019-09-27 10:20:19　来源：解放日报

——专访卡耐基梅隆大学计算机教授贾斯汀·卡塞尔

　　日前，助推上海全球科创中心建设的品牌活动——2019第四季漕河泾科创嘉年华成功举行。活动中最引人瞩目的演讲者来自卡耐基梅隆大学计算机学院副院长贾斯汀·卡塞尔教授，她对未来的畅想点燃了现场观众的情绪。

　　在演讲结束后的独家专访中，面对人工智能安全性等一系列问题，被誉为“人工智能女王”的卡塞尔教授以对未来负责的态度，展现了前沿科学家的思考与担当。

　　还没有找到教会人工智能常识的方法

　　解放周末：很高兴专访您。为了采访您，我事先在翻译软件的帮助下准备了一份提纲，这就是人工智能技术给我们人类带来的便利之一。而且，就我的使用体验来说，翻译软件的翻译质量一直在提高。伴随着5G的发展，包括自动翻译等在内的人工智能技术是否会迎来重大的突破？

　　贾斯汀·卡塞尔：如你所说，从翻译软件到城市交通管理、环境污染治理、政府工作效率提升等，人工智能正在方方面面改变着我们的生活。虽然人工智能技术发展之路并非坦途，但幸运的是，我们当前所缺失的恰是5G所能提供给我们的，那就是网速和带宽的大幅提升，这将大大提高业务效率和数据收集。5G为人工智能创造了快速发展的新环境，人工智能技术在很多领域的应用将发生新的变化。

　　解放周末：会有哪些新变化？

　　贾斯汀·卡塞尔：比如机器学习，它是当今人工智能领域应用中最重要的工具。就像教孩子一样，我们向机器展示一张猫的图片，告诉它“这是一只猫”，然后再向它展示一张狗的图片，告诉它“这不是一只猫”。上百万遍的重复，机器就习得猫的共性并将其识别出。

　　学习效果好坏有赖于数据集，当数据集太小或不好的时候，算法就会发生偏差。如果我们没有输入足够多的猫的图片，机器就无法正确识别猫。图像识别相对简单，处理一个自然语言，需要整整5天。量子计算可能会在某一天为机器学习带来更快的速度，但这需要5G这样的高速通信技术作基础。

　　机器学习能力提高是内在的，对人们来说，可期待、可见的变化是，5G时代，人工智能所能带来的各项前景，包括制造、无人驾驶、教育等，都将比以往任何时候获得更快的发展。未来可能出现这样的生活场景：你在购物网站上刚下单，产品就在离你住处一公里处被3D打印机打印出来，迅速送到你手中；残障人士可以与工程师、艺术家一起设计自己想要的假肢；教育可以更好地满足不同学习能力的学生；越来越多的企业在不同城市或国家拥有员工，通过人工智能中枢来实现远程协作；快到几乎没有延迟的5G速度，有助于整座城市实现无人驾驶——当然，前提是城市所有的交叉路口配有传感器和自适应的交通信号灯，智能基础设施是发展无人驾驶技术的关键。

　　解放周末：是否可以说人工智能发展的障碍已被扫除？

　　贾斯汀·卡塞尔：远远没到障碍被扫除的这一天，事实上正相反。人工智能虽然在一些领域比人类聪明很多，比如众所周知的阿尔法狗，但在更多领域，人工智能的智商只相当于两三岁的孩子，我们还没有找到教会人工智能常识的方法。比如此刻，如果我让机器人把那边装着水的玻璃杯拿给我，它不是把水洒了，就是把杯子捏碎了。它非常有力，却不懂得如何温柔地用力。

　　不存在机器人统治地球的可能

　　解放周末：有力却不懂得如何温柔用力，这无法不让人联想起人工智能的安全问题。

　　贾斯汀·卡塞尔：很多人都在说机器人将统治地球，包括一些有影响力的人。但其中有些人可能只是喜欢因此而出现在新闻里；而另外有些人虽然在其他学术领域做出了超凡贡献，但他本人并不是计算机科学家。计算机科学家们不认为存在机器人统治地球的可能。

　　有个笑话说：如果有一天机器人造反，我们只需等待45分钟，它们的电池就没电了。

解放周末：但如果将来的机器人不装电池，只需通过互联网就能给自己充电了呢？

　　贾斯汀·卡塞尔：但它们不会知道自己没电、需要充电了。哲学上有一个“缺陷意识”的概念，人无法知道自己不知道什么，机器人不知道自己需要充电，而电池是会没电的。

　　在我看来，真正聪明的人工智能，不是下棋赢了人类冠军，而是会在各种信息中建立起联系，懂得推理，拥有常识。而目前的研究进展离这一天还非常非常远。

解放周末：无论多远，我们依然需要弄清楚前行的方向，毕竟我们正身处一列高速前行的列车上。

　　贾斯汀·卡塞尔：我非常同意你的观点，所以我在很多场合，包括今天的演讲中也提到，5G带来发展机遇的同时，安全问题依然隐藏其中。我曾经说过，也会一直坚持说，我不会接受任何我不信任的研发资金，不会开发不与人类合作的人工智能。

解放周末：但您不能保证其他人也不这么做。事实上，包括美国在内，已经有一些国家或机构在悄悄研发战争机器人。

　　贾斯汀·卡塞尔：（拿起眼前的笔）这是一支笔，我可以用它来书写真理，也可以戳伤你。人们害怕人工智能，是因为它们可以变成杀人的武器。按此逻辑，我们身边几乎所有的东西都应该被拿走，因为它们在坏人手里都可以变成武器。

　　重要的是教育。我们必须改善我们的教育体系，在孩子们还很小的时候就要教育他们成为善良的人。此外，在大学里，心理学专业教学生要尊重生命，哲学专业也教学生要尊重生命，可是，计算机专业不教。但是现在，我们已经意识到了这点，计算机科学家和计算机专业的学生，都开始学习伦理学，学习尊重生命。这一点非常重要，需要我们时刻铭记在心。

解放周末：您怎么评价这种教育的效果？

　　贾斯汀·卡塞尔：重要的是持之以恒。我从2001年开始研究人工智能的伦理问题，当时并没有很多人关注，但现在，这已成为全社会一个普遍的观念，这就是教育的结果。我会继续不断地教育我的学生，我的学生也会教育他们的学生。还有我的论文，人们可以从网上读到我的论文。这样的教育工作不是我一个人在做，其他许多计算机科学家都在做。

　　我们不能因为未来存在往坏的方向发展的可能，就放弃往好的方向创造未来的努力。和那些害怕人工智能的未来、试图阻止其发展的人不同，我会对未来负责。我可以，也要让一个美好的未来发生，这是我作为科学研究者的责任。

　　对未来负责肯定要难于阻止未来，但我希望大家记住：人工智能的未来掌握在我们手中。我们决定怎么使用它，我们决定未来是光明的还是黑暗的。

如果找错问题，就不可能找对解决方法

　　解放周末：人工智能带来的问题，还包括失业风险。随着人工智能的发展，人类失去的工作岗位已经不限于一些重复性或危险的劳动。

　　贾斯汀·卡塞尔：机器人真的会全面取代我们吗？《经济学人》杂志的最新研究表明，一些重复的、不太需要很高技能的、无聊的工作正在消失；同时，一些新的工作岗位正在被创造出来。这些新岗位需要从业者具有人类特性的技巧，也就是与他人协作的能力、社交的能力。需要社交能力的岗位的增幅是最大的，聊天、喝咖啡这些人类特有的行为可以在伙伴间、团队中建立起良好的情感连接。

　　不要消极看待就业领域的变化。我们并非被迫选择如此，实际上这是主动选择的结果。相比一天工作十多个小时和一天工作三五个、甚至两三个小时，你会怎么选？我们需要做的是，当我们把大部分工作交给机器人后，重新思考人类的定义、生活的意义。

解放周末：您曾在一次采访中提到，让机器人代替人类父母为宝宝换尿布，这样父母可以有更多时间陪伴孩子，但亲手换尿布难道不正是陪伴的一部分吗？

　　贾斯汀·卡塞尔：不仅是小婴儿，即便我们成年人，也需要身体的接触，当你拥抱着你的爱人时，你是在告诉他（她），你在这里，你爱他（她）。换尿布时父母可以抚摸孩子，孩子可以感受到父母的爱意。但现代社会往往需要父母在孩子还很小的时候就出去工作，当他们和孩子相处时，是把时间花在给孩子换尿布上，还是把孩子抱在怀里轻轻摇他、亲他，或者陪他玩呢？我不了解中国的情况，在美国，生完孩子两周后，母亲就需要回到工作中。

　　解放周末：未来人类会不会像电影《她》里那样，爱上人工智能？事实上，今天的我们每天花在智能手机上的时间往往多于陪伴家人的时间。

　　贾斯汀·卡塞尔：我看过这部电影，非常喜欢，但我不认为它如表面上的那样，是在讲述人类和人工智能的爱情故事。恰恰相反，它反映了现代人与人之间的隔阂。我待在中国的时间里，有时会骑车或坐地铁，常常看到车厢里、马路上年轻人低着头看手机，相互之间没有眼神的交流。这非常糟糕。

　　问题不在人工智能，而在我们的选择。如果找错问题，就不可能找对解决方法。

解放周末：您在人工智能领域最为人知晓的成就是主持研发了有社交意识的机器人助理SARA，您觉得这项研究的意义是什么？

　　贾斯汀·卡塞尔：SARA是第一个能与人类建立社交关系的机器人。在她之前，人工智能对人类来说是工具，但她是人类的伙伴。

　　我们一直在通过研究人类的智力行为来发展人工智能，却没有对人类的社会行为进行研究。人类的社会行为非常复杂，包括表情、身体、声音等。我想通过建造类人的方式去理解人类，这会是研究人工智能的一个很好的方向——如果我们先去研究真人，再去发展人工智能，就能更快更好地发展人工智能。

　　另外，随着人类在电子设备上花费越来越多的时间，科技需要回归到古老但依旧重要的原则：以和人们建立关系的方式管理机器和人的长期交互关系，并让其不断发展。

解放周末：SARA和人类的伙伴关系是如何建立起来的？

　　贾斯汀·卡塞尔：SARA能自动理解人的感受，推导人际关系纽带，且理解程度能不断巩固和加深。她会根据人的情绪做出相应的反应，用自己的行为对交互关系做出合理、适宜的回应。

解放周末：如果人类隐藏真实的情绪呢？

　　贾斯汀·卡塞尔：人类其实并不善于说谎。比如笑，我们脸上会出现许多种不同的笑，但只有一种笑意味着我们是快乐的，其他笑容都不是真的。我把这种微笑叫作“独生的微笑”。SARA捕捉的是和她面对面的那个人的情绪，因为两个人的关系是双边的，因而容易确认。

解放周末：这样的社交人工智能会不会减少人们对真实社交生活的需求？

　　贾斯汀·卡塞尔：我认为恰恰相反，因为人类关注的是真实的人，而社交人工智能可以训练我们的心灵和其他人建立关系，也会提醒我们和其他人的协作多么重要，和世界上其他人互相依赖多么重要。比如社交人工智能可以帮助那些自闭症患者与周围建立联系。

1 2 共2页

编辑：迟语洋

书库

工运

【学习贯彻习近平总书记关于工人阶级和工会工作的重要论述】在生态文明建设中努力践行“以职工为中心”
党的十九大报告将“坚持以人民为中心”确立为新时代坚持和发展中国特色社会主义的基本方略之一。工会作为党领导下的工人阶级群众组织，更要牢牢把握好这一正确的政治方向和工作理念，自觉把“以人民为中心”的思想内嵌到工会工作的各个方面、各个环节，做到“以职工为中心”，努力使工会工作更加适应时代发展要求，不辜负党的重托和职工的期待。
关于深化国有企业学习型党组织建设的思考
把各级党组织建设成为学习型党组织，是建设马克思主义学习型政党、推动建设学习大国的基础工程。深化国有企业学习型党组织建设，是加强和改进国有企业党的建设，把政治优势转化为发展优势，增强核心竞争力，实现企业科学发展的必然要求。
浅析“两书”制度的法治化意义
“两书”制度是地方工会和基层工会推动工会法治化建设的重要抓手，不断释放法治红利。制度不仅能够有效引导职工树立法治思维，用法治方式解决问题，还能倒逼工会组织和工会干部提升法治素养，符合“以职工为中心”工作导向的本质要求。
【学习贯彻习近平总书记关于工人阶级和工会工作的重要论述】在脱贫攻坚主战场中发挥工会组织作用
深入学习宣传贯彻习近平总书记关于工人阶级和工会工作的重要论述，是当前和今后一个时期的首要政治任务。甘肃省各级工会组织和广大工会干部要进一步把思想和行动统一到党中央对工人阶级和工会工作的重要指示精神上来，把力量凝聚到实现工会十七大确定的目标任务上来，在全省脱贫攻坚主战场中发挥工会组织积极作用。

访谈

不存在机器人统治地球的可能
大湾区城市间“求同”也要“存异”
有些地方需要“存异”，有些地方则需要灵活变通。这就需要我们从一些小的切入口上寻求可以合作的地方。只有通过合作、相互接触，我们才能找到大家的共同需求与差异，才可能找到“求同存异”合作共赢的方法。
“攀登”不仅仅是个人的事
在即将与观众见面的国庆献礼片《攀登者》中，又见演员张译那让人过目难忘的身影。这位中国改革开放的同龄人，从龙套起步，一步一个脚印，成为观众熟悉并喜爱的演员，他珍惜这份“为数不多的能通过表演让人落泪”的职业。
“明白之人”，才能使人明白
75岁高龄、坚持“青浦实验”教育改革40多年的顾泠沅坚定地认为，教育岂止是知识的传递，它归根到底是一个“明白之人使人明白”的过程，任何时候，教师职业都事关重大。

文献

周恩来与南方局干部教育
从1939年开始，周恩来领导中共中央南方局在重庆红岩开展了8年工作。在这段艰苦卓绝的革命斗争时期，周恩来特别重视干部教育工作周恩来在《建设坚强的战斗的西南党组织》中提出了“要在思想上组织上巩固党，使西南党成为真正的彻底的地下党
伟大的跨越：西藏民主改革60年
一、黑暗的封建农奴制度三、彻底废除封建农奴制十、西藏发展进入新时代2019年是西藏民主改革60周年。按中国传统文化习俗，六十年一甲子，是值得纪念的日子。六十年前的民主改革，对西藏地方和西藏各族人民而言，是一次新生，意义非同寻常。

排行

新闻日历