日前，图灵奖得主、贝叶斯网络之父朱迪亚·珀尔撰文批判当前机器学习的理论局限。他认为，当前的机器学习系统几乎完全以统计学或盲模型的方式运行，不能作为强人工智能的基础。

　　珀尔的观点非常具有启示意义。目前人工智能的发展被机器学习所主导，而机器学习最大的问题是解释黑箱——即便机器可以得到相对优化的结果，然而由于神经网络中隐层的存在，就算是科学家也无法对结果做出令人信服的解释。珀尔希望通过构建新的结构因果模型，为可解释的人工智能发展提供一条新路。

　　这种算法黑箱有可能导致“算法暴政”。换言之，在人工智能时代，算法会主宰人们的生活和决策，然而由于普通人对算法一无所知，并且科学家也无法打开算法的黑箱，那么这种算法对人类生活的主导将是危险的。

　　这种危险或许可以用“赛维坦”来描述。西哲多用传说中的怪兽“利维坦”来形容能量巨大且无法无天之人或国家。如果不加限制，科学也可能发展成为无所不能的怪兽，从而对人们的生活产生强大影响。值得担心的是，带领人们走出落后的“赛先生”，会不会变成人们无所抗拒同时又无能为力的“赛维坦”。因此，发展人工智能和创新技术的重要原则应该是驯服“赛维坦”，即让科技为人类服务，而不是让人类为科技服务。

　　笔者认为，以驯服“赛维坦”作为起点，人们不妨来一点“赛托邦”的理想，即寄希望于对科技的高效和正确使用，使其对人们的生活发挥出更有利的影响，释放科技所具有的实现社会富足、促进人类群体之间充分沟通、完善弱势群体的补偿与救济、实现人类自由解放和提高社会整体和谐的巨大潜能。

　　然而，就目前人工智能领域的发展现状来看，“赛托邦”的理想仍比较遥远。美国一直处在人工智能基础研究的前沿，保持全球领先地位，但美国在人工智能领域形成的两种主导性的文化却难以服众：一种是宣扬技术导致世界末日的悲观态度；另一种是宣扬极少数技术精英控制世界的“技术超人论”。这两种文化使得美国在人工智能时代缺乏引领世界的文化基础。从这方面看，中国文化的多元统一以及和谐共存理念，倒是为人类思考人工智能的未来提供了新的方案。

　　当以“善智”为发展目标，人工智能才会使人类社会进入“赛托邦”，让科学技术进一步为人类社会服务，创造出更多的商品，满足人类的基本需求，增加人类社会的和谐，并让人们做自己更想做的事情。