探索人工智能社会治理的中国方案

苏竣黄萃

2019-12-26 14:11:57　来源：光明日报

　　作为引领未来的战略性技术，人工智能的迅猛发展将进一步释放历次科技革命和产业变革积蓄的巨大能量，给全球经济发展、国家治理、社会建设和人民生活带来重大而深远的影响，推动人类迈入以科技进步与产业革新为基础的智能社会。但也应该看到，人工智能在创造经济发展新引擎、推动人类文明迈上新台阶的同时，模糊了虚拟与现实、数字和实体的界限，给人类社会的法律规范、道德伦理、公共治理等方面带来了挑战。

　　人工智能时代呼唤全新的治理理念和治理形式。当前人工智能技术正深入发展，人工智能应用场景不断丰富，人工智能开放创新平台、人工智能创新发展试验区建设正如火如荼推进。利用好这一有利契机，加强人工智能技术发展过程中的人文社会影响研究，开展人工智能社会实验，建设更具有人文温度的智能社会意义重大而深远。

　　建设有人文温度的智能社会是大势所趋

　　自16世纪科学革命以来，科学技术的“双刃剑”效应就成为人类社会发展进程中一个挥之不去的议题。科技进步使得生产力得以飞速发展，为人们的生产和生活都带来了极大的便利。但科技创新带来的两极分化、社会摩擦、生态破坏、伦理失范等负面影响也一直萦绕难散。英国著名科学家贝尔纳在其著作《科学的社会功能》中指出：“科学技术的发展本身既为我们揭开了改善人类生活的前景，也为我们开辟了毁灭人类的可能性。”如今，伴随智能时代的到来，科技的正负效应都在不断强化，形成巨大的张力，使得人类文明的前景更加迷茫。

　　随着人工智能发展与应用的深入，人—机器的社会结构，终将为人—智能机器—机器的社会结构所取代。可以肯定的是，人工智能超强的信息储存、超级模仿和深度自我学习能力，会把人类从各种危险、精密、烦琐、重复的体力和脑力劳动中极大地解放出来。其发展与推广应用会改变“不劳动者不得食”的人类社会基石，不劳动者照样可以丰衣足食，人类想象中的“乌托邦”甚至会因为人工智能技术成为现实。但值得注意的是，与传统科技相比，新一代人工智能技术最大的特色在于它能够具有和人一样进行思考和决策的能力。这种能力正是人类区别于动物，并能够建立起灿烂文明的核心因素。在历史的长河里，人类智慧的伟大之处不仅在于其对自然科学的孜孜以求，也在于其在技术、人文、社会科学领域创造出的累累硕果。然而，当人工智能开始替代人类进行思考与决策时，它们能否像人类一样，在理性之上兼顾感性认知，在追求效率的同时也顾及伦理、价值观、情感和文化。

　　一个有人文温度的人工智能社会，不仅要拥有更加高效的生产力，也要有更加丰富多彩的精神空间，更加深厚悠久的文化底蕴，更加公平公正的制度保障，更加包容和谐的人文关怀。这需要我们抓住人工智能技术应用刚刚起步、尚未形成锁定效应的这一良好时机，树立正确的价值观念，深入开展基于科学循证逻辑的实证研究，构建全新的人工智能治理体系，并对技术和产业发展形成反馈和规制，引导人工智能技术良性发展，及时规避大规模失业失能、资源财富分化加剧、数字和信息鸿沟加深、人类精神文化生活停滞、人工智能技术失控等潜在风险和危机。

　　消解人工智能技术发展中的隐忧

　　作为第四次工业革命的技术基石，新一代人工智能技术发展与应用给人类社会带来的好处自不必说，但我们也必须对人工智能所衍生出的风险和威胁保持警惕。人类对于人工智能技术负面影响的忧虑主要包括两个方面，一是对人工智能技术失控的担忧，二是对社会结构与社会秩序的重塑的担忧。英国科学家斯蒂芬·霍金和美国创新企业家埃隆·马斯克都曾不断发出对人工智能威胁的警告。霍金认为，人工智能会是“人类历史上最重大的事件，不幸的是，也可能会是最后的重大事件”。马斯克也指出人工智能之险尤甚于核武器。他们普遍担心具有人类决策能力的机器人最终将摆脱人类的控制，反过来奴役人类甚至灭绝人类。电影《流浪地球》里，宇航员怀疑国际空间站控制系统叛逃的情节，就反映了我们可能面临的这种隐患。创新工场创始人李开复则认为，人工智能对人类社会真正的威胁不在于技术层面，而在于对工作的含义、财富的创造和分配方式的打碎、重塑，由此“引发前所未有的经济不平等，甚至改变全球力量均势”。人工智能的发展会使大量工作被机器人取代，从制造业到服务业，各层面都可能有大量工作岗位消失。大规模失业的同时，财富迅速并大量集中到少数人手里，进一步加剧两极分化，带来严重的民生和政治问题。

　　科技进步既改变着人类社会，也塑造着人本身。对于人工智能的发展，我们首先应当树立正确的价值观念，防患于未然，应对科技创新带来的巨大冲击。一方面，我们应积极倡导建立负责任的研发和创新价值体系，在人工智能的研发创新阶段以及后续技术全生命周期，加强对科技创新过程中伦理问题的关注和控制，避免人工智能可能造成的不利影响。另一方面，要从人文社会科学的角度，加强人工智能的社会影响机理、规律与趋势研究，完善和强化人工智能发展的社会政策体系。人工智能技术给人类社会带来的负面影响，归根到底是对人类历经千百年所建立的具有深厚人文情怀的文明架构的全面冲击。因此，在大力推动科技研发的同时，我们也必须促进与新兴技术相关的人文社会科学研究的发展，实现自然科学与社会科学的交融共振，只有这样，才能从根本上消解人工智能技术发展中的隐忧。

　　深入开展社会实验研究，提升智能社会认知水平

　　要想解决人工智能技术的负面效应，实现对人工智能的有效治理，需要我们对人工智能时代的社会形态和特征具有全面而系统的把握和认知。而这种认知的建立，有赖于以实践证据为基础的实证研究，特别是社会实验研究的开展。

　　社会实验是种典型的社会科学研究方法，是以现实情境下的人、组织作为研究对象所开展的研究活动，目的在于通过某些社会、政治过程或技术变革导致的近似于理想实验的场景来研究社会科学的问题。约一百年前，为研究工业化社会所带来的影响，美国就曾通过组织大规模社会实验，史称“霍桑实验”，对进入工业文明时代后，人类的心理和行为问题进行了深入的解析。

　　如今人工智能技术已经融入当下人类社会和生活，而且正在以几何级增长的速度扩展自己的存在，人类社会正面临百年未有之大变局，快速迈入智能化的新时代。人工智能技术创新给人类社会带来的巨大变革，为开展智能化时代的社会实验提供了理想的要素和场景。

　　近年来，清华大学、浙江大学等单位的专家学者，汇集全国计算机科学、社会学、心理学、医学等领域的智力资源，在大量前期工作的基础上，针对人工智能社会影响的问题，率先提出了开展长周期、宽领域、多学科人工智能社会实验的政策建议。科技部组织制定了《国家新一代人工智能创新发展试验区建设工作指引》，将社会实验作为新一代人工智能创新发展试验区建设的重要工作。中央网信办等有关部委也制定行动方案，在全国开展人工智能社会治理实验。

　　近日，第一届全国人工智能社会实验学术会议在清华大学召开，100余位专家学者交流分享了人工智能社会实验的最新成果，研究讨论了人工智能社会实验的工作方案和行动计划。开展长周期、宽领域、多学科人工智能社会实验，有助于我们从小切入，在不对人类社会造成较大规模影响的情况下，准确识别人工智能对人类社会带来的挑战和冲击，深入理解人工智能的社会影响特征与态势，深刻把握人工智能时代社会演进的规律，从而为建立有人文温度的智能社会提供科学的参考依据。

1 2 共2页

编辑：迟语洋

书库

工运

让产业工人队伍建设改革走在前列
党中央明确将坚持和完善中国特色社会主义制度、推进国家治理体系和治理能力现代化确定为全面深化改革的总目标。产业工人队伍建设改革是习近平总书记亲自点题、亲自谋划、亲自部署、亲自推动的重大改革，是全面深化改革的重要组成部分，是健全完善党的领导制度体系、人民当家作主制度体系、统筹城乡民生保障制度等改革的重要内容。我们坚持党的领导，注重试点先行先试，统筹各方协同发力，发挥企业主体作用，推进产业工人队伍建设改革不断走深走实。
及时回应网民关切走好网上群众路线
党的十九届四中全会提出，创新互联网时代群众工作机制，始终做到为了群众、相信群众、依靠群众、引领群众，深入群众、深入基层。健全联系广泛、服务群众的群团工作体系，推动人民团体增强政治性、先进性、群众性，把各自联系的群众紧紧团结在党的周围。
弘扬劳模精神工匠精神繁荣先进文化
弘扬劳模精神、工匠精神，离不开职工群众投身中国特色社会主义的伟大实践。要充分发掘广大职工群众的文化自觉，让劳模精神、工匠精神成为广泛的社会共识，通过辛勤劳动、诚实劳动、创造性劳动实现人生价值。要通过一系列制度鼓励全社会大力弘扬劳模精神、工匠精神，凝聚起投身于两个一百年奋斗目标的强大精神动力。
牢记初心使命开创工会工作新局面
习近平总书记指出，为中国人民谋幸福，为中华民族谋复兴，是中国共产党人的初心和使命，是激励一代代中国共产党人前赴后继、英勇奋斗的根本动力。工会作为党领导下的工人阶级群众组织，要始终以党的初心为自己初心，以党的使命为自己使命，以践行党的初心使命为根本动力，不断开创新时代党的工运事业和工会工作新局面。

访谈

坚持和完善中国特色社会主义政党制度
历史的航向与“文化的长江”
人类文明史上，早期的艺术品都非常精粹，因为它是为少数人所欣赏、为少数人而做的，不存在刻意迎合普罗大众的问题，所以能够精益求精。现代化以来，在商业和市场的推动下，越是通俗的越能受到欢迎。从文化交流的角度来看，每个人都有权利享受文明发展的成果，因而就涉及一个改进文化交流、文明互动的问题。
百年大变局下深化澜湄合作的路径思考
澜沧江—湄公河合作机制自2016年3月正式启动三年多以来，在中国、泰国、老挝、柬埔寨、缅甸、越南等流域各国的共同努力下，不断取得实质性进展，正在成为中国—东盟合作乃至中国周边外交的新亮点，也是“一带一路”建设的重要成果。湄公河国家是东盟重要组成部分，澜湄合作不仅有效平衡了东盟内部发展水平，也有力推动了次区域的多层次、高水平与可持续发展。澜湄合作见微知著地反映了中国与湄公河国家、中国与东盟友好合作不断深入的态势，成为周边命运共同体建设的典范与引领。
下一部《梁祝》，需要天时地利人和
1959年5月27日，上海兰心大戏院，18岁的俞丽拿奏响了小提琴协奏曲《梁祝》。这一幕，被永远定格在中国音乐史上。

文献

周恩来与南方局干部教育
从1939年开始，周恩来领导中共中央南方局在重庆红岩开展了8年工作。在这段艰苦卓绝的革命斗争时期，周恩来特别重视干部教育工作，其间举办了党员干部训练班开展党性教育，干部在红岩村的学习蔚然成风。
伟大的跨越：西藏民主改革60年
一、黑暗的封建农奴制度三、彻底废除封建农奴制十、西藏发展进入新时代2019年是西藏民主改革60周年。按中国传统文化习俗，六十年一甲子，是值得纪念的日子。六十年前的民主改革，对西藏地方和西藏各族人民而言，是一次新生，意义非同寻常。

排行

新闻日历

探索人工智能社会治理的中国方案

坚持和完善中国特色社会主义政党制度

排行