未解之谜网

当前位置: 未解之谜网 > 技术创新 > 担心被人工智能宰制时，我们早已被其它毫无人性的东西所摆布！

担心被人工智能宰制时，我们早已被其它毫无人性的东西所摆布！

经过几天的激烈赛事之后，人工智能AlphaGo以4比1的成绩击败韩国棋手李世石。这场比赛不只吸引了热爱围棋、热爱人工智能议题的人，也有更多人是被“捍卫人类尊严”的噱头引来凑热闹：人工智能再这样快速进化下去，它们超越、取代、乃至奴役人类的日子是否不远了？从AlphaGo拿下首胜开始，诸此科幻作品中常见的预言又再次成为热门话题。

一方面，这种可能性确实不该等闲视之，这在学界也已有若干讨论。我一位最关注这场棋赛的友人，在学校里的研究兴趣叫作“transhumanism & posthumanism”(超人类主义与后人类主义)，其旨趣正是在探讨当科技的角色从“辅佐人类”(例如眼镜与义肢)晋升为“强化人类机能”(例如提升体能、智能的科技)、甚至“改写人类定义”(例如半兽人或半机械人)的时候，所造成的冲击。人工智能从协助人脑到与人脑竞争的进程，同样是该领域的常见主题。

但是另一方面，AlphaGo的惊人下棋能力，大概也只是重新提醒了这类议题的存在。至于人工智能在围棋这种高难度技艺上击败人类，此一事件本身却并没有为此议题提供新的启示。以下我想简单回顾一下“人工智能威胁论”的论点，并且试着说明为何AlphaGo的成就暂且不会令这些论点更加可信。

计算机奴役人类？

“人工智能威胁论”最悲观的版本，就像《机械公敌》或《黑客任务》等科幻电影所描绘的那样：人工智能进化到超乎人类控制之后，出于某种动机而开始统治人类。但“某种动机”或许就是疑点所在。几位评论者(例如周伟航与李开复等)谈到AlphaGo时都提到一个论点：AlphaGo没有办法思考意义、产生感情，所以它和现存的各种技术物一样，仍然只是一种工具性的存在。

人想要统治、奴役别人有各种理由，比方说争取财富、名声与权力的欲望，或者想要解决社会问题的理想抱负等等。然而这些动机在AlphaGo所展现的人工智能当中都还不存在：它没有处理欲望或理想抱负的能力(基本上，它根本没有性格可言)。

况且，它只要有电有网络就能运转，也不会因为面包、健保或投票权之类的问题跟人类产生矛盾，统治、奴役人类对它有什么好处呢？AlphaGo的出现只是再次确认了人工智能的潜能可观，但是单凭强大的运算能力，并不足以构成征服人类的理由。

反之，如果这几场比赛发生的事情，并不是AlphaGo以精准的运算击败了人类玩家，而是它展现了某种精准“以外”的特质，例如因为领先而大意、因为紧张而失误等等，在那种情况下，我们才开始有理由要为人类与人工智能共存的未来感到担心。

但如果人工智能精进各方面智识素养的能力，都跟它学习下棋的能力一样强，那么届时我们还是有保持乐观的权利：毕竟，从欧洲的新纳粹与美国的“红脖子”(redneck)的低教育程度来看，打压异己的法西斯主义、排外主义只会对一定智识水平以下的人有吸引力——所以先别急着绝望！等到计算机终于聪明得超出人类控制之际，它们或许已经聪明到不想透过迫害人类来解决问题了。

计算机冲击到人类的经济生活？

史学家哈拉里对AlphaGo的评论，则呈现了计算机威胁人类的另一种想象：人类敌不过人工智能的竞争，在计算机没有伤害人类的恶意之下，人类的生活资源依旧受到了竞争与排挤。这种可能性合理多了，而且有先例可循：许多比人工智能更低阶的科技，都曾引发过经济冲击的恐慌。马克思曾论证过资本家为了增加利润而进行技术革新，结果新技术的普及反而会压低利润率，逼使资本家加紧剥削工人。

撇开太艰涩的理论不谈，技术突破的经济威胁即便用直觉联想，也能很真实地感受到：它显然会造成其它未掌握尖端技术的企业，不敌竞争而发生亏损;非技术的工人会被取代而失业;技术工人则必须驾驭日渐复杂的生产技术。那么，AlphaGo的表现象征着计算机所能执行的任务更上层楼，这是否意谓着技术对经济的冲击亦将进入新一篇章呢？

这类论点不禁令人想起工业革命时，工人砸毁纺织机器的“卢尔德运动”。然而卢尔德运动已经是距今数百年前的事，在那之后，纵有更多传统产业被新技术取代，新技术倒也不断激发新工作，于是全球的就业人口不减反增，资本主义经济则时常动荡却还是屹立至今，“人口过剩、资源不足导致经济崩溃”之类的马尔萨斯式预言从未实现。

另一方面，害怕人工智能的人也犯了卢尔德运动的错误：把人与人(驾驭技术的人与被技术威胁的人)之间的矛盾，倒映在全人类与技术物的关系上。实则，如果技术物对人们的生活构成威胁，重点从来就不是它们太先进发达了，而是它们被统治者拿来控制人民、被资本家拿来剥夺工人。比起阻止人工智能继续进步，我们更需要的是整顿它普及之后即将投身的社会关系、确保它不会被人滥用。

小结

事实上，相较于这些把技术物给拟人化的虚构威胁，把(应当充满人性的)社会给物化了的威胁，对我们而言或许才是更近在眼前的议题。人们担心被人工智能这种“毫无人性的”东西给宰制的未来，然而某方面来说，我们现在早已被科层组织与经济学模型这些“毫无人性的”东西所摆布了。

现代的统治机器虽然是由人类组成，但其运作却是建立在标准流程与科学定律上，并且只有在能接受民主监督的范围里，才会受到一点人性的挹注。再多的自动化、计算机化、人工智能化，能造成的“去人性化”或许已经非常有限了。

而这能带出我想为上述讨论下的脚注：让我们想想对人工智能议题的思辩，能为自己所处的社会带来哪些反思吧。以上篇幅都是为了论证人工智能目前还没有什么严重威胁可言，但这种威胁论之所以仍有讨论价值，是因为每种思潮必然藏有所属社会的线索，也就能成为回头审视当代社会时的灵感来源。

新浪网的一篇评论引述了Facebook人工智能研发人员Yann LeCun对人工智能威胁论为何受欢迎的解释：“有些人是因为对人工智能的原理不理解而导致恐惧，有些人是为了个人名望而宣扬人工智能威胁论，有些人则是为了商业的利益推动人工智能威胁论。”

作为本文结尾，我认为可以在此添上第四个理由：亦即，我们其实是将自己对各种社会问题的焦虑(异己统治者、政治迫害、竞争压力、人性沦丧)投射在人类与人工智能之间的关系上——看看人工智能在威胁论中的形象，那简直是社会菁英的负面化身：它各方面的条件都胜过你我，更糟的是，它还有可能歧视我们、抢我们的工作、甚至统治我们。

人工智能的进步势不可挡，值得我们思考的不是如何反转此一趋势，而是如何透过安排一个不鼓励歧视、宰制与恶性竞争的合宜社会体制，来回应它的现实冲击、以及它在我们潜意识里植下的反乌托邦噩梦。