我们对人工智能的误解有多深

陈小平

2020-03-30 11:28:49　来源：北京日报

　　人工智能技术具有正、反两方面的作用，在造福于人类的同时，也存在各种风险。理论上可能存在以下四种风险。

　　技术失控。技术失控指的是技术的发展超越了人类的控制能力，甚至人类被技术控制，这是很多人最为担忧的风险。现有人工智能技术仅在满足强封闭性准则的条件下，才可发挥其强大功能；在非封闭的场景中，现有人工智能技术的能力远远不如人类，而现实世界的大部分场景是非封闭的。所以，目前不存在技术失控风险。

　　技术误用。与信息技术相关的技术误用包括数据隐私问题、安全性问题和公平性问题等，人工智能技术的应用可以放大这些问题的严重程度，也可能产生新的技术误用类型。在现有条件下，人工智能技术本身是中性的，是否出现误用完全取决于技术的使用。因此，对人工智能技术误用的重视和风险防范应提上议事日程。

　　应用风险。应用风险指的是技术应用导致负面社会后果的可能性。目前人们最担心的是人工智能在某些行业中的普遍应用导致工作岗位的大量减少。应用风险是由技术的应用引起的，因此关键在于对应用的掌控。根据强封闭性准则，人工智能技术在实体经济中的应用往往需要借助于场景改造，而场景改造完全处于人类的控制之下，做多做少取决于相关的产业决策。

　　管理失误。人工智能是一项新技术，它的应用是一项新事物，社会缺乏管理经验，容易陷入“一管就死，一放就乱”的局面。为此，更需要深入理解人工智能现有成果的技术本质和技术条件，确保监管措施的针对性、有效性。

　　目前对人工智能存在三种认识误区：一是人工智能已经无所不能，因此现有人工智能技术可以无条件地应用。根据强封闭性准则，现有人工智能技术远未达到无所不能的程度，应用是有条件的。因此，在产业应用中亟须加强对强封闭性准则的认识，加强场景裁剪和场景改造，避免违反强封闭性准则的盲目应用，而这种盲目目前在国内外都十分普遍，不仅浪费资源，更严重的是干扰了有希望成功的应用。

　　二是现有人工智能技术不能大规模实际应用，因为现有人工智能技术依赖于人工标注，并不智能。现有人工智能技术并不局限于深度学习，而暴力法和训练法的结合可以避免人工标注，而且符合强封闭性准则的应用场景可以有效地实施数据采集和人工标注。目前一些应用不成功的原因在于违反了强封闭性准则，而不是因为现有人工智能技术不能应用。这个误区往往发生在对人工智能技术有一定了解而认识不到位的情况下。与第一种误区一样，这种误解会严重影响我国人工智能产业应用的进度。

　　三是在未来20年—30年内，人工智能技术发展将超越某个临界点，之后人工智能将不受人类控制自由发展。根据强封闭性准则和全球人工智能研究现状，这种“奇点说”在技术范围内没有任何科学依据。封闭性准则包含的一些条件，如模型的语义完全性、代表性数据集的有限确定性，通常需要借助于强封闭性准则要求的人工措施的辅助才可以满足。假想未来有可能突破这些限制，与人工智能目前已具备突破这些限制的能力，完全是两回事。即使将来突破了某种限制，还会有新的限制加以约束。这一类说法无形中假定，可以存在脱离具体条件的人工智能技术。这种技术是否可能存在，目前并没有任何科学证据的支持，有待于未来的观察和研判。

　　以上三种误区是我国人工智能发展的主要思想障碍。封闭性和强封闭性准则立足于现有人工智能技术本质，为消除这些误区提供了依据，也为观察、思考和研究人工智能发展的其他问题，避免重复以往人为放大“周期性起伏”的干扰，提供了一种新的视角。

　　（作者为中国科学技术大学教授）

编辑：迟语洋

书库

工运

保障合法权益形成良好劳动关系
突如其来的新冠肺炎疫情，给人民群众的生命和健康带来了巨大的威胁。国家卫健委发布公告，将新冠肺炎纳入乙类传染病，采取甲类传染病的预防、控制措施。妥善处理好劳动关系，保障好劳动者合法权益，对战胜疫情、迅速恢复生产，起着非常重要的作用。因此，有必要对劳动者在这一特殊时期的合法权益，进行梳理加以明晰，以有利于形成良好的劳动关系。
【前沿观察】工会应着力加强劳动争议预防
劳动争议预防的指导思想是“同舟共济，共克时艰”。国家适时发布了大量政策和措施，帮助企业和劳动者缓解面临的困难。各级工会要贯彻落实好这些政策，做好团结、动员广大职工工作，发挥企业工会作用，引导职工关心企业的生存与发展，动员职工为企业长远发展献计献策。
【工作研究】重大突发公共卫生事件中工会应遵循的原则
始终坚持党对重大突发公共卫生事件的领导的原则。中国特色社会主义制度的最大优势是中国共产党的领导。工会组织在应对重大突发公共卫生事件过程中要把坚持党的领导落在实处，在所有问题的认识上与党中央保持高度一致。领会党中央精神要正确、准确，不能似是而非，不能走样，在具体工作节奏上与党中央的统一部署保持同步。
【热点思考】中小微企业复工复产面临的困难与对策思考
连日来，中小微企业陆续复工复产。面对中小微企业生产经营遇到的困难，各级政府已出台政策助其渡过难关。当前，已进入疫情防控与复工复产统筹协调的新阶段，如何帮助中小微企业有序复工复产成为政策的着力点。笔者对北京地区部分中小微企业的现实情况进行了调查，以此为例进行分析。

访谈

这场超大在线教育实践，通向未来
我们仍对生命表达欢欣
我们知道杜甫一生多难，经历过巨大的波折，却始终不改这份多情。我们读《春望》的开头，“国破山河在”之后，是“城春草木深”，这里有人世的悲恸，也有春天带来的感动。还有《伤春》也是，在“天下兵虽满”之后，是“春光且自浓”。不论人世间发生了什么，四季轮回后，总是又一番春色。
多讲“共通点”，而不是“不同点”
抗疫热词如何准确地翻译成英语？长期从事跨文化交流研究的陆建非教授，从“微言大义”谈起，一步步将思考引向深入。
面对疫情，大数据派上用场了吗
近年来，随着我国“智慧城市”建设进程不断推进，如何用“大数据”为公共服务提质加码，是不少城市管理工作者经常会思考的问题。也许正因如此，自新型冠状病毒疫情防控阻击战打响以来，“大数据被充分利用了吗”“大数据可否为疫情防控服务”成为一个关注的议题。

文献

周恩来与南方局干部教育
从1939年开始，周恩来领导中共中央南方局在重庆红岩开展了8年工作。在这段艰苦卓绝的革命斗争时期，周恩来特别重视干部教育工作，其间举办了党员干部训练班开展党性教育，干部在红岩村的学习蔚然成风。
伟大的跨越：西藏民主改革60年
一、黑暗的封建农奴制度三、彻底废除封建农奴制十、西藏发展进入新时代2019年是西藏民主改革60周年。按中国传统文化习俗，六十年一甲子，是值得纪念的日子。六十年前的民主改革，对西藏地方和西藏各族人民而言，是一次新生，意义非同寻常。

排行

新闻日历

我们对人工智能的误解有多深

这场超大在线教育实践，通向未来

排行