当前位置: 中工网理论频道科教天地-正文
对人工智能,人们为何心存忧虑?
管弦士
//m.auribault.com 2016-03-16 来源:广西日报
分享到: 更多

  在刚刚过去这几天,一场史诗般的巅峰对决举世关注,人工智能程序“阿尔法围棋”在五番棋对弈中4∶1战胜世界冠军李世石,成为人工智能发展史上一个里程碑。

  互联网上从比赛开始直至结束,都弥漫着忧虑的气氛。相当多的网民出于对人类命运的关心,出言表达了对人工智能的恐惧,生怕人工智能在未来会摆脱人类控制,而人类会被机器人奴役甚至消灭。

  这样的担忧并非杞人忧天。著名物理学家霍金曾说过:“人工智能可能摧毁人类。”人工智能研究公司OpenAI的创始人马斯克则提出:“也许哪一天机器人会觉得,删除垃圾邮件的最好办法是把人类一起干掉。”而其创建OpenAI的目的,就是制定规则以确保人工智能不被用于邪恶目的。

  人工智能突飞猛进,终有一天,它不但会有智商还会有情商,不但会计算还会算计。“阿尔法围棋”正代表着这样的方向。一个会选择“弃子”的程序,和一个懂《孙子兵法》的大脑的距离有多远?现在,“阿尔法围棋”已经善于自我学习,精于自我思考;距离有朝一日人工智能突然宣告拥有独立的喜怒哀乐,为期已不远了。

  对人工智能,人们为何心存忧虑?追根溯源,并不是人们担心它有多聪明,而是忧心会自我学习的它“学坏”。就像在第四局,“阿尔法围棋”在已然五局三胜之后,忽然连出昏招输掉一局,有人因此怀疑它是否故意输棋以求获得更多关注。显然,这不是机器的思维,而是典型的人类思维。可是,人类忧虑的正是人工智能不但学习了人类的技能,还学习了人类的思想,尤其是不好的思想。

  或许在未来,人工智能机器人看多了人们打麻将,它就能学会,甚至能感受到打赢是件值得高兴的事情。同样,如果人类尔虞我诈、恃强凌弱、虚荣骄奢……人工智能未必不会学到这些并付诸实践。至此,不难看出,人们的担忧从本质上讲,源自对丑恶的理性排斥,害怕人类的霸权主义等丑陋的一面被人工智能学会并推向极致。

  自从计算机科学之父图灵提出“机器能思考吗”的命题,人工智能就开始向人类的思想冲锋。幸运的是人们普遍认为,人工智能可以做到无限接近人类的思想,却不会超越人类的思想。也就是说,我们期待未来的人工智能是怎样的,我们其实就是它们的“老师”。人工智能在学习中进步,人类也得加快在学习中进步的脚步。现在的问题在于,我们希望人工智能不要打破科技与伦理的平衡,可是人类自身伦理建设的进展却连我们自己都不满意。如果社会之中缺乏公平,人与人之间充满算计,解决问题不讲规则,戾气遍布每个角落……那么,人工智能机器人当然很可能加入其中。

  如何让人工智能不“学坏”,防范“老师”不故意把它教坏是一个方面,“老师”自身少点坏毛病则是更重要的另一个方面。上文提到的马斯克,尽管口口声声惧怕人工智能,但他的特斯拉汽车目前正在推行自动驾驶,这正是人工智能在现实生活中无数运用里的一种。是的,人工智能是否值得忧虑,不取决于它能够达到多高的高度,而在于人类引它走向哪里。

零容忍党员干部追求低级趣味

  趣味属于人的心理和精神上的选择,党员干部远离低级趣味,关键是要管住自己,不但筑好“防火墙”,还要备好……

扫码关注

中工网微信


中工网微博


中工网抖音


工人日报
客户端
×