管控好智能化风险

徐志栋杨磊

2020-05-07 08:48:46　来源：解放军报

　　每当先进的技术在拓展人们能力的同时，也会带来极大的安全风险。就人工智能的战争应用问题而言，就存在着不少隐患挑战，必须引起我们高度关注。

　　竞争性风险。鉴于人工智能技术在军事领域的广阔应用前景，一些国家陷入人工智能军备竞赛的可能性在不断上升。特别是人工智能技术在发展过程中，技术还不够强大，很难保证系统的稳健性和可预测性。然而，即便如此，人们仍会坚持采取一些看似风险很大的举措，其重要原因在于人工智能系统将有助于夺取战略优势，没有哪个大国敢冒落后于对手的风险，这就陷入了“囚徒困境”。

　　可靠性风险。战争环境复杂、变化迅速，对人工智能系统的环境适应性提出了很高要求。在战场上多方部署的人工智能系统会使环境更加复杂化，多个系统的解析力冲突，会进一步加剧系统的脆弱性，增加事故和失误的可能性。可靠性也不仅仅是系统设计的问题，战争是竞争性行为，入侵和破坏潜在敌人的系统是常态。以大数据为基础的人工智能算法在有毒数据面前仍然很脆弱。

　　自主性风险。随着人工智能的不断发展并在军事领域的广泛运用，战术制定到战略决策，人的监督作用存在极大弱化甚至退出的可能。可以设想，完全自动化的战场，战争一经打响，人工智能系统会迅速锁定从导弹发射井到航空母舰等不同目标，然后设计出快速而精确的打击方式。由于人工智能缩短了战争决策流程，对手做出反应和决策的时间更加短暂。为避免在战争中陷入被动，先发制人的倾向性大大提升，战略稳定面临巨大风险。战略决策自主化因各种因素造成的误判更会带来毁灭性的结果。

　　多元化风险。人工智能的介入，会让武器和战争越来越多元，各种无人装备包括人工智能虚拟武器将会层出不穷。在万物互联的物联网社会，各种民用设备都有可能被改造为武器装备。无人系统集群作战的相对低成本、拥有大量智能化无人装备系统军队的低伤亡，将会深刻改变战争的成本收益对比，极大地降低战争门槛。无人水下航行器、无人飞行器、临近空间飞行器、网络空间智能化软件，都是基于算法进行自主控制，其攻防界限、侦打界限更加模糊，有可能被对手误解为是直接攻击，引发战争冲突的可能性也将大大增加。

　　扩散性风险。同其他与国家安全密切相关的技术相比，人工智能技术可通过商用、民用不断得到研发和升级。而且由于人工智能更多体现在软件而非硬件中，其研究平台更加广泛，获取途径更为多元，跟踪和控制的难度也成倍加大。人工智能武器在全球网络上的扩散，相当于带有放射性的物质分布在世界各地。恐怖主义分子通过无人装备形成行动的突然性和产生的破坏力更加难以预料，势必会引起法律、伦理等多方面的问题。

编辑：迟语洋

书库

工运

深刻把握“劳动最美丽”的时代意蕴
立足于新时代，习近平总书记大力提倡“劳动最光荣、劳动最崇高、劳动最伟大、劳动最美丽”的理念。其中，习近平总书记关于“劳动最美丽”的重要论述，是习近平新时代中国特色社会主义思想的重要组成部分，是马克思主义劳动美学理论中国化的最新成果。作为时代精神的引领，这一理念正在成为我国工人阶级的思想共识和行动逻辑。
做好疫情防控期“共享员工”合法权益保障
自疫情发生以来，不少从业人员做起了“客串”，厨师进行生鲜分拣，房地产销售送起了快递，酒店领班成为日化厂工人……他们有一个新颖的名字——“共享员工”。这种新型的用工方式，既帮助人力成本压力大的企业渡过难关，又为人手不足的企业一解燃眉之急。通过人力资源的再分配，实现了企业、员工的双赢，发挥了保障民生、促进生产、提升劳动力技能水平、提高人力资源配置效率等作用，可谓一举多得。
工伤保险挂钩职业病“黑名单”值得推广
工伤保险费率挂钩职业病“黑名单”，一方面体现了权责对等原则。被列入职业病“黑名单”的企业，都是职业病预防控制措施不到位，威胁劳动者生命健康，发生工伤赔偿风险较大的企业，理应为此承担更多的缴费义务。同时，具有一定的倒逼作用。通过浮动费率这一杠杆，促使广大用人单位积极落实主体责任，提升职业健康工作水平，有效预防和控制职业病危害，维护劳动者身体健康。
新时代劳模精神的崭新意蕴与当代价值
劳动模范是时代的先锋、民族的楷模，他们身上承载和彰显的劳模精神一直发挥着引领作用，丰富和拓展了中国精神内涵，充分展现了我国新时代工人阶级和劳动群众的高度自信，已成为社会主义核心价值体系的重要组成部分。进入新时代，我们要深刻把握劳模精神的崭新意蕴与当代价值，大力弘扬劳模精神，推动全社会形成尊重劳动、劳动光荣的良好风尚。

访谈

只有全球团结才能拯救世界
挖掘农耕文化蕴含的时代价值
有了农业，人类才开始定居，才有了与畜牧业、手工业的两次社会大分工，并且至今还在支撑着人类社会的生存与发展。毫不夸张地说，农业是人类文明之母。古埃及、古巴比伦、古印度和中国之所以被誉为人类文明的发祥地，主要原因就是这些地区率先进入了农业文明时代。
为社会治理装上数字“引擎”
抗击新冠肺炎，以大数据、人工智能为代表的数字技术在疫情预警、传染溯源、公众防护、医疗服务和复工复产方面发挥了积极作用，为加强和创新社会治理开拓了更广阔的空间。数字技术的不断发展会给社会治理带来哪些机遇与挑战？新技术的运用应重点关注哪些问题？
化危为机，中美应继续引领全球化
对全球化来说，这可能是一个非常困难的时期，在新冠肺炎疫情之前，全球化已经受到威胁，这既是因为贸易战，也是因为对移民的抵制日益增加。

文献

“常平”“惠民”“积谷”历史上的江南仓廒
江南东临大海，河湖密布，自古以来就水灾频繁，旱灾、蝗灾、瘟疫等也时有发生。然而凭借着这些性质各异的仓廒，江南人一次又一次地渡过灾荒难关。仓廪实而知礼节，衣食足而知荣辱。这些仓廒不仅是江南人生命的庇护者，更是江南文化不断向前发展的重要保障。
中共七大幕后珍闻
中国共产党第七次全国代表大会于1945年4月23日—6月11日在延安杨家岭中央大礼堂召开，距今已整整75年了。这是一次承前启后、具有里程碑意义的大会。时隔75年，透过那些流传下来的珍贵记忆，人们依然能触摸到历史的痕迹，一个又一个故事在其中蜿蜒展开……

排行

新闻日历

管控好智能化风险

只有全球团结才能拯救世界

排行