来源：《信报 财经月刊》2017年5月

文/李润茵、罗卓敏

几年前，学术界曾进行调查，访问世界顶尖人工智能（AI）专家，问他们「AI何时会有成年人类的思考力？」，多数答案是2040至2050年，换言之是距今二三十年。

22世纪杀人网络

2199年，人类颈后接口会插入数据线接驳电脑，下载程式「入脑」及进入主程式「母体」内生活。母体内建各种程式，五官感受会从超级电脑经神经末梢传入大脑。这是《22世纪杀人网络》（Matrix）科技达到最极致的世界。

电影摄于1999年，当时互联网刚成形，不足20年，虚构已经成为现实。今年3月，Tesla创办人Elon Musk成立新公司Neuralink，研究于大脑中植入芯片与电脑直接联系，把人类思维「下载」到电脑中，或将电脑中的讯息「上传」到人脑。

AlphaGo去年以慢棋4比1战胜围棋职业九段高手李世石，AI震惊世界。1997年IBM「深蓝」击败西洋棋世界冠军后，直至2015年电脑最佳战绩仅能达围棋业余五段。李败阵未满一年，帐号「Master」以快棋60比0横扫逾20名职业高手，真身就是「棋灵王」AlphaGo第二代，其自学能力已远超人类理解范围。（编按：今年5月AlphaGo亦以3:0击败世界棋王柯洁）

一场人类命运的辩论正式拉起帷幕。AlphaGo由DeepMind进行研发，该公司创办人Demis Hassabis曾推出游戏《邪恶天才》，主角科学家为统治世界，创造出末日设备。在科技界，Demis Hassabis及Elon Musk站在AI正反方。前者曾拜访后者的火箭工厂SpaceX。

Elon Musk说：「我们要殖民火星，就是怕有朝AI攻击人类，我们还有藏身之地。」Demis Hassabis随即笑着回应：「那AI都会追到火星！」Elon Musk甚至恐怕Google创办人Larry Page也是「虽有良好意愿，却意外造出邪恶机械人」。 2014年Google收购DeepMind时，条款就包括「双方必须组建伦理委员会」。

「23条」规范发展

「人工智能有强弱之分。」华为诺亚方舟实验室主任李航向本刊解释，弱者部分实现人类智能；强者则完美实现人类智能，甚至超出人类智能。他比较过人脑和计算机，两者规模已经相当。「处理速度上，计算机基本已经是人脑100万倍。」

「2075年机器就会达到人类智慧90%」，牛津未来智能研究所创办人Nick Bostrom预言。 去年12月白宫就连发3份报告要为AI做好准备、9月美国五大科企罕有进行AI合作，连欧盟都在探讨道德问题。专家恐惧「强人工智能」，今年1月逾2000位业界就联署23条发展原则，包括Demis Hassabis及Elon Musk。

物理学家霍金就三番四次警告人类，指AI已开始站稳阵脚，未来将为人类带来末日，「苹果Siri、Google Now和微软Cortana只是IT军备竞赛的预兆」。 他从不否认AI会带来好处，但强调其威胁乃源自人类本身──贪婪和愚蠢。「6年前，我警告过污染和人口膨胀，但现在变本加厉。过去5年，空气污染加剧，二氧化碳排放量不断上升；若目前速度持续，到2100年全球人口将达110亿。」Elon Musk也认同霍金说：「有时候科学家太埋首于自己世界，往往未能意识到所作所为有何后果。」

2045年超越人类？

另外，「AI比人类进化速度更快」。 霍金这种忧虑已经发生，AlphaGo用了短短6个月，就从围棋二段升至九段，这水平人类要花8年努力才能达到。美国未来学家Ray Kurzweil早于2005年就著书《奇点临近》（The Singularity is Near）预测，2045年AI将完全超越人类。人类能理解智商80，也理解智商180，但智商1880亿呢？ 科技专栏作者「零机壹触」曾撰文指：「医治疾病经AI计算后，最有效的方法可能是消灭全部可能患病的人。」这就是霍金所说「一旦AI能自我进化，人类无法预测其目标」。

这种「失控」已发生在微软身上，去年其AI聊天机械人Tay上线不足24小时就下架，皆因它言论偏激、种族歧视。Tay因反馈机制而拥有「个人特质」，却同时堕入「高德温法则」（Godwin's Law）。该法则指线上讨论往往不合逻辑，甚至荒谬，如网民倾向将厌恶者比作希特拉，故意用纳粹结束话题，参与者难免受影响。Elon Musk嘲讽：「看吧！让聊天机械人变成希特拉，微软只花了一天时间。」

历史的终结

Nick Bostrom曾出版《超级智能》（Superintelligence）。这位哲学教授警告：「一旦不友好的超级智能诞生，就会阻止我们替换它或改变其喜好，我们的命运就会被终结。」前美国国务卿基辛格也怕历史因而断裂，甚至瓦解整个人类文明。

不过，「情感、创造力和自由意志对于现阶段的AI仍非常困难。」李航解释人脑是紧密连接、并行处理；电脑则是稀疏连接、顺序处理，「感知、认知处理都很难用数学模型。」但这并非「不可能的任务」。

「随便给它四个字就可作首唐诗。」IBM香港首席科技专家戴剑寒向记者介绍AI诗人。自古以来，写诗都是抒情。「偶得」利用人工神经元学习过万首唐诗宋词，记者就输入「信报月刊」四字，尝试一睹其文采，不消3秒已经「出货」。

诗句基本符合平仄、对仗、押韵，但「诗意及用词难解」，连曾任金庸及李嘉诚中文秘书的文学博士杨兴安都说：「可能每句均有典故，可惜本人未能参悟。」他评价「感觉似牵强堆砌」（图一），但坦言「看不出是机器作的」。

图灵曾说如果电脑欺骗到人，甚至令人信「它」是人，便是人工智能。Kurzweil预计到2030年人类都会进化成半机械人（Elon Musk的人机合一正是这项实验），通过神经系统进入虚拟现实（VR）世界。事实上，AI早已改变人类行为。传播学者McLuhan提出「人的延伸」，智能手机就是「大脑延伸」，Google搜索引擎开始已靠AI、Facebook用AI捉心理卖广告。

没有硝烟的战争

2016年，高盛发表报告就提出「AI将如同九十年代的技术变革」，近年全球资金快速涌入该领域（图二），中国就提出明年要形成千亿级市场。AI未取代人类，先取走饭碗，单单今年3月已杀退摩根大通的律师及贝莱德的基金经理人。

在人类演化中，机器很早已经取代「劳力」，继而取代「脑力」似乎已顺理成章。「AI危险不在于手上有枪，而是比人类更聪明。」美国加州大学柏克莱分校AI研究所联合创办人Eliezer Yudkowsky说：「只要发几封电邮就可获分子武器，合成细菌经微型电脑进入血液，只要释放一微克肉毒杆菌，就足以杀人于无形。」