欢 迎 访 问 卢 昌 海 个 人 主 页

除了自己的无知,
我什么都不懂。

-苏格拉底

 
信 息
 
 
 
All English Contents
作品列表 | 电子图书
站长简介 | 常见问题
版权说明 | 电子邮箱
 
统 计
 
 
 
自 2021-03-15 以来
本文点击数
22,831
自 2008-02-01 以来
本站点击数
32,225,216
昨日点击数 6,754
今日点击数 2,148
 
备 注
 
 
 

本文发表于 2021 年 3 月 11 日的《南方周末》, 发表稿不含注释, 且因字数所限, 有删节。 本文的完整版发表于《读库 2103》 (新星出版社出版)。

喜欢本人文字的读者
>>> 欢迎选购本站电子书 <<<

从 “深蓝” 到 “深思”

- 卢昌海 -

如今 40 岁以上的人——尤其是象棋或科技的爱好者——也许大都对发生在 1997 年 5 月的一个有趣事件留有记忆。 在那个月里, 国际象棋世界冠军加里·卡斯帕罗夫 (Garry Kasparov) 与 IBM 公司的一台名叫 “深蓝” (Deep Blue) 的超级电脑进行了总计六盘棋的对决, 结果 “深蓝” 以 3.5:2.5 (二胜三和一负) 的总比分胜出。

这是人工智能首次在国际象棋领域以总比分胜出的方式击败人类顶尖棋手[注一]

“深蓝” 击败卡斯帕罗夫在人工智能的发展史上有很大的象征意义, 甚至可以说是一个里程碑。 对这一里程碑, 起码在最初一段时间, 很多人心理上难以承受, 而且也不甚服气。 不服气的一条理由是 “深蓝” 与卡斯帕罗夫只赛了六盘棋, 数量太少, 胜负有较大的偶然性。 比如著名美国物理学家弗里曼·戴森 (Freeman Dyson) 在 1999 年出版的《太阳、 基因组与互联网》 (The Sun, The Genome, and the Internet) 一书的后记里就曾表示, 只赛六盘棋实在太少了, 应该再比一次, 像 1972 年美国棋手鲍比·菲舍尔 (Bobby Fischer) 击败苏联棋手鲍里斯·斯帕斯基 (Boris Spassky) 那样赛一次 “二十一番棋”[注二]。 卡斯帕罗夫本人同样不甚服气, 提议跟 “深蓝” 再次对决。

不幸为这种不服气推波助澜的是: IBM 公司不仅拒绝了卡斯帕罗夫提议的再次对决, 甚至干脆将 “深蓝” 大卸八块, 以一种消极的方式保持了胜果。

这种有失气派的做法无可避免地给人留下了侥幸获胜、 见好就收的印象, 可以说是公关上的失败。 但另一方面, 计算机领域有一个著名的 “摩尔定律” (Moore's law), 它表明计算机芯片的性能平均每隔 18 个月就会翻一番[注三]。 与这种指数式的硬件发展齐头并进的, 则是包括算法在内的计算机软件的突飞猛进。 这种软硬件共同发展的必然推论是: 人工智能作为以这种发展为后盾的技术, 其演进速度绝非人类智能的演进速度可比。 也因此, 人工智能一旦在某个领域击败人类, 那种击败就是不可逆转的。 任何心理上或公关上的因素都改变不了这一宿命。 事实上, 尽管 IBM 公司的公关有落人口实之处, 能让人在心理上以此为由 “阿 Q” 一番, 但人工智能在国际象棋领域击败人类仍很快变成了铁的事实。

这一事实在 2015 年以一种特别悲剧性的方式得到了体现。

那年 4 月, 在迪拜国际象棋公开赛 (Dubai Open Chess Tournament) 上, 格鲁吉亚国际特级大师盖奥兹·尼加利泽 (Gaioz Nigalidze) 被发现利用手机上的国际象棋程序作弊。 尼加利泽当即被逐出了比赛, 其国际特级大师的头衔也遭撤销。 但国际特级大师居然用手机上的国际象棋程序作弊, 实在是特别悲剧性地揭示出了人工智能在国际象棋领域已何等地超越人类。 要知道, 昔日的 “深蓝” 可是位列世界 500 强之内的超级电脑。 不到 20 年的时间, 人工智能在国际象棋领域的硬件门槛居然从超级电脑降为了手机, 甚至有人戏称说哪怕用微波炉芯片也能打败世界冠军, 对人类来说真是情何以堪啊。

人工智能在国际象棋领域击败人类的另一个鲜明指标是等级分。 以这个指标来衡量, 1997 年跟 “深蓝” 对决的卡斯帕罗夫的最高等级分为 2851 (于 1999 年达到)。 目前位列最高等级分榜首的人类棋手是挪威的马格努斯·卡尔森 (Magnus Carlsen), 最高等级分为 2882 (于 2014 年达到)。 在整个国际象棋的历史上, 卡斯帕罗夫与卡尔森是迄今仅有的两位最高等级分高于 2850 的棋手。 国际象棋界的最高头衔 “国际特级大师” 对最高等级分的要求则是 2500, 很多国际特级大师的最高等级分只比这一要求高出不多。 作为比较, 目前最好的国际象棋软件之一, 开放源代码程序 “鱼干” (Stockfish) 的等级分已达到了令人瞠目的 3500 以上, 若与人类棋手对决, 无异于 “牛刀杀鸡”。

人工智能在国际象棋领域击败人类, 也自动意味着人类在一系列更简单的同类游戏中 “全军尽墨”。 从数学上讲, 这类游戏的 “沦陷” 几乎是必然的。 因为从数学上讲, 这类游戏属于所谓的 “有完全信息的组合游戏”——这其中 “有完全信息” 指的是不带概率 (即不带骰子之类), 也不带隐藏信息 (即不像扑克那样只能看到自己的而非全部的牌), “组合游戏” 则是指游戏的难度源自巨大的组合数 (即源自每一步都必须从数量巨大的可能性中作出选择这一特点)。 在软硬件不够发达的年代, 这类游戏所包含的巨大的组合数是人类直觉的驰骋空间, 对人工智能则是门槛, 阻挡了它的 “入侵”。 但这种阻挡注定是暂时的, 因为在数学上可以证明, 只要有足够强大的计算能力, 任何 “有完全信息的组合游戏” 要么双方都有必和策略, 要么其中一方有必胜策略。 这个结果在很大程度上意味着, 对任何 “有完全信息的组合游戏” 来说, 一旦人工智的计算能力超过某个门槛, 游戏的胜负就会变得越来越 “宿命”。 这其中, 计算能力远逊于人工智能的人类的宿命只能是落败[注四]——虽然游戏越复杂, 宿命可以越推迟。

既然这样, 那么一个自然的问题就是: 国际象棋 “沦陷” 后, 在人类流行的 “有完全信息的组合游戏” 中, 还有哪个能暂时阻挡人工智能的 “入侵”, 将人类落败的宿命尽可能推迟呢?

答案是围棋 (Go)。

围棋是一种远比国际象棋更复杂的游戏, 两者——及很多其他棋盘类游戏——的复杂度可以共同地用一个粗略而有效的方式来描述。 这个描述只取决于游戏的两个基本特征: 一是平均每步棋有多少种可能的下法——这被称为游戏的 “广度” (breadth), 二是平均每盘棋会下多少步——这被称为游戏的 “深度” (depth)。 如果用 b 表示前者 (“breadth” 的英文首字母), d 表示后者 (“depth” 的英文首字母), 则简单的组合估算告诉我们, 游戏所涉及的可能的下法总计约有 bd 种。 对国际象棋来说, 棋盘较小, 棋子移动的限定较多, b 约为 35; 每盘棋则平均可在 80 步左右下完, 即 d 约为 80。 由此得出的可能的下法有 3580 ≈ 3×10123 种, 这也就是国际象棋的复杂度, 它是一个天文数字, 比可观测宇宙中的原子数目还多 1,000 亿亿亿亿倍。 那么围棋呢? 它的棋盘比国际象棋的棋盘大得多, 落子的限制则小得多, b 约为 250; 同时, 一盘围棋往往能下到一两百手, 因此 d 也比国际象棋的大得多, 约为 150。 由此得出的可能的下法有 250150 ≈ 5×10359 种, 这也就是围棋的复杂度, 它比国际象棋的复杂度高出约 1 万亿……亿 (总共要写 29 个 “亿”!) 倍[注五]

由于围棋远比国际象棋更复杂, 因此在 “深蓝” 击败卡斯帕罗夫之后的十几年里, 尽管计算机的软硬件都有了飞速发展, 人工智能在围棋领域依然无法逾越巨大的组合数带来的门槛, 至多能跟业余棋手一教高下, 却无法捋职业棋手的 “虎须” (除非被让四到五子)。

但这一局面在 2015 年开始出现转变——而且很快转为 “雪崩” 式的快速转变。 那一年, 总部位于英国的 “深思” (DeepMind) 公司研发的一个名为 “阿尔法狗” (AlphaGo, 译名中的 “狗” 系代表围棋的 “Go” 的谐音, 更文雅的译名是 “阿尔法围棋”) 的人工智能围棋系统脱颖而出, 以 499 胜 1 负的压倒性优势, 战胜了其他几种同类系统, 成为人工智能围棋系统的 “霸主”。 同年 10 月, “阿尔法狗” 在跟法籍华裔职业二段棋手樊麾 (Fan Hui) 的 “五番棋” 较量中, 以 5:0 的总比分横扫后者, 取得了人工智能在围棋领域平手对决人类职业棋手的首度胜利。

而真正轰动世界的, 则是一个跟昔日 “深蓝” 击败卡斯帕罗夫完全类似的对决。

这一对决发生在 2016 年 3 月, 距离 “阿尔法狗” 击败樊麾还不到半年。 在这一对决中, 进一步优化后的 “阿尔法狗” 以 4:1 的总比分击败了人类顶尖棋手之一, 曾经 14 次荣膺世界冠军的韩国职业九段棋手李世石, 正式攀上了围棋世界的巅峰, 并被韩国棋院授予了荣誉九段。 这个版本的 “阿尔法狗” 则被纪念性地称为了 “阿尔法狗·李” (AlphaGo Lee)。 李世石在唯一的胜局——第四局——之后曾经表示: “这次胜利是如此珍贵, 用世上的任何东西来换我都不会换”。 如今回味这句话, 李世石说得简直太对了, 那一局确实弥足珍贵, 不仅对他, 而且也是对人类。 因为那是 “阿尔法狗” 与人类职业棋手的 74 次正式对决中人类的唯一胜利, 并且实际上也是人类最后一次在围棋领域战胜人工智能[注六]

跟昔日 “深蓝” 的见好就收不同, “阿尔法狗” 在击败李世石后并未 “退隐”, 而是在继续优化后批上 “大师” (Master) 的马甲, 于 2016 年底开始, 与人类顶尖棋手展开了为期数天的一系列网络快棋对决。 这一系列对决极好地演示了我们的前文所言, 即人工智能一旦在某个领域击败人类, 那种击败就是不可逆转的。 这一系列对决的对手几乎囊括了所有的人类顶尖棋手, 其中包括大家熟悉的中国 “棋圣” 聂卫平、 与李世石并称 “绝代双骄” 的古力, 及当时排名犹在李世石之上的柯洁。 对决的结果则创下了围棋史上罕见的秋风扫落叶的战绩: 60:0, 也完全证实了 “大师” 这一马甲的名副其实。 这个优化版的 “阿尔法狗” 如今被称为了 “阿尔法狗·大师” (AlphaGo Master)。 2017 年 5 月, 作为给人类棋手的最后机会, “阿尔法狗·大师” 与当时的人类围棋第一高手柯洁进行了一场正式的 (即并非快棋的) “三番棋” 较量, 结果以 3:0 的总比分胜出, 并被中国围棋协会授予了职业九段。

在 “阿尔法狗” 的强大战力和辉煌战绩面前, 我们再也听不到像昔日 “深蓝” 获胜之后的那种不服气了。 2019 年 11 月, 36 岁的李世石宣布退役, 并在退役感言中坦承自己永远无法击败人工智能: “我意识到……即便成为世界第一, 我也不可能站在围棋的巅峰”, 因为 “即便我成为世界第一, 有一种东西 [人工智能] 依然无法被击败”。

“阿尔法狗” 之所以有如此强大的战力, 能取得如此辉煌的战绩, 除计算能力超卓外, 还有一个很具 “智能” 色彩的特点, 那就是: 它有很强的自我训练能力, 能从自我对弈中学习并优化自己。 经过这种 “双手互博” 式的自我训练, “阿尔法狗” 能自创出连它的设计者都无法预测的新招。 其中的某些新招人类棋手不仅从未下过, 甚至从未意识到能够那样下。 在 “阿尔法狗” 与李世石的对决接近尾声时, 凤凰卫视的 “锵锵三人行” 节目曾邀请到中国九段棋手江铸久评论 “阿尔法狗” 与李世石的对决, 江铸久在评论中表示, “阿尔法狗” 的某些新招简直让他热烈盈眶。 自我训练、 自创新招, 这些无疑都深具 “智能” 色彩, 使这种色彩更为鲜明的, 则是 “阿尔法狗” 甚至有自己的 “棋品”, 在局势足够无望时不会死缠到底, 而是会像人类棋手那样中盘认输。 当然, 这种模拟人类棋手的风度和礼貌的背后实际上是一个有关胜率的数学条件——比如 “阿尔法狗·李” 一旦发现胜率低于 20%, 就会中盘认输。

除自创新招外, “阿尔法狗” 在下棋策略上也有新颖之处。 具体地说, “阿尔法狗” 的下棋策略是注重取胜概率大过取胜幅度。 如果有两个棋招, 一个能比另一个取得更大幅度的优势, 但整盘棋的取胜概率低于后者, “阿尔法狗” 会青睐后者。 用 “深思” 公司的首席执行官 (CEO) 杰米斯·哈萨比斯 (Demis Hassabis) 的话说, “跟人类不同, ‘阿尔法狗’ 的目标是使取胜概率最大化, 而不是尽可能扩大赢面”。 “阿尔法狗” 的这一特点一度使人迷惑过。 江铸久在前述 “锵锵三人行” 节目中曾经提到, “阿尔法狗” 击败樊麾后, 很多高段位的职业棋手不以为然, 因为 “阿尔法狗” 虽然赢了, 但看上去似乎并不比樊麾厉害很多。 由于樊麾只不过是职业二段, 跟李世石那样的顶尖棋手相差很远, 因此很多人——包括李世石本人——起初并不认为 “阿尔法狗” 能对像李世石那样的人类顶尖棋手造成威胁。 江铸久同时也提到, 他当时看 “阿尔法狗” 的棋却有一种不同的观感, 觉得 “阿尔法狗” 似乎是遇强则强, 让人看不出真实水平。 这个观感若确系当时的观感而非事后诸葛, 可以说是目光如炬了。

在 “阿尔法狗” 的强大战力和辉煌战绩面前, 如果说仍有什么东西能让人类棋手 “阿 Q” 一下的话, 也许是 “阿尔法狗” 的程序之中包含了大量的人类棋谱, 并在自我训练时用到过那些棋谱。 从这个意义上讲, “阿尔法狗” 的 “军功章” 上可以说是有人类棋手的一半。 不过, 人工智能的飞速发展很快将这 “一半” 洗涤一空。 继 “阿尔法狗·李” 和 “阿尔法狗·大师” 之后, “深思” 公司又研发出了一个新版本的人工智能围棋系统, 叫作 “阿尔法狗·零” (AlphaGo Zero)。 这个版本如它的名字所预示, 可以从 “零” 开始, 在只知晓围棋规则的情形下, 完全不依赖人类棋谱, 通过单纯的自我对弈学习围棋, 堪称是彻底的 “自学成才”。 而它所达到的水平, 则不仅人类棋手望尘莫及, 就连横扫人类棋界的前两条 “阿尔法狗” 也无法抗衡。 2017 年 10 月, 距离 “阿尔法狗·大师” 在 “三番棋” 较量中击败柯洁还不到半年, 经过短短 3 天 “自学” 的 “阿尔法狗·零” 就以 100:0 的全胜比分拿下了 “阿尔法狗·李”。 稍后, “自学” 40 天的 “阿尔法狗·零” 又以 89:11 的压倒性比分战胜了 “阿尔法狗·大师”。

这还不是故事的终结, 2017 年 12 月, 距离 “阿尔法狗·零” 的推出才两个月, “深思” 公司的又一个新颖的人工智能系统问世了, 这个取名为 “阿尔法零” (AlphaZero) 的新系统采用了跟 “阿尔法狗·零” 相类似的算法, 也能够从 “零” 开始 “自学成才”, 但与 “阿尔法狗·零” 只会玩围棋不同, “阿尔法零” 有更大的普适性, 不仅会玩围棋, 而且能玩包括国际象棋在内的其他几十种棋盘类游戏 (因此把名字中代表围棋的 “狗” 字去掉了)。 更厉害的是, 在所有 “阿尔法零” 能玩的游戏里, 它都显示了 “王者之风”。 比如拿国际象棋来说, “阿尔法零” 只训练了 4 小时就达到了 “鱼干” 的水平, 训练到 9 小时后, 在跟 “鱼干” 的 100 场对决中, “阿尔法零” 取得了 28 胜 72 和的不败战绩, 在后来进行的多达千盘的更大规模的对决中, 也以压倒性的优势胜出[注七]。 只有围棋, 因为有算法相似的 “阿尔法狗·零” 坐镇, 情势不那么一边倒, 但战果依然可观: 只训练了 30 个小时就超过了 “阿尔法狗·李”, 训练到 13 天后, 则在跟训练程度相同的 “阿尔法狗·零” 的对决中以 60% 左右的胜率占优。

所有这些后续对决——无论国际象棋还是围棋——都发生在水平远远超出人类的人工智能系统之间, 仿佛九天之上的诸神之战, 其中再也不会有人类棋手的踪迹了。 对人类来说, 这也许是有些伤感的, 但另一方面, 这也是一件很能满足人类好奇心的事。 由于 “阿尔法狗·零” 和 “阿尔法零” 都是从 “零” 学起的, 完全脱离了人类棋手的经验, 这些人工智能系统的游戏风格也因此在很大程度上变得独立于人类。 设想一个有趣的问题: 倘若一种具有极高智慧的外星生命拿到了人类的游戏, 在他们的世界里用同样的规则玩那些游戏, 他们的游戏风格会是怎样的? 我觉得, “阿尔法狗·零” 和 “阿尔法零” 也许就是一种答案 (虽然不是唯一答案), 甚至不完全从 “零” 玩起的 “阿尔法狗” 也在一定程度上可算是一种近似答案。 事实上, 已有不止一位人类棋手在跟这些人工智能系统对决或看过棋谱后, 不约而同地用 “外星生命” 或 “外星人” 来形容后者的游戏风格。 比如丹麦国际象棋特级大师彼得·尼尔森 (Peter Nielsen) 表示 “阿尔法零” 仿佛是一个超越人类的外星生命; 韩国九段围棋手睦镇硕 (Mok Jin-seok) 也表示自己喜欢 “阿尔法狗” 的棋风, 因为 “我几乎觉得自己在跟外星人玩”。

而这一切从 “阿尔法狗·李” 算起, 只经过了不到两年的时间, 确实是 “雪崩” 式的快速转变[注八]

人工智能游戏系统发展到 “阿尔法零”, 在大方向上是否仍有改进空间? 或者换个问法: “阿尔法零” 作为人工智能游戏系统是否仍有局限性? 使劲找的话, 确实还能找到一条, 那就是它必须事先知晓游戏规则。 将这条列为局限性其实有些吹毛求疵, 因为多数人类玩家在玩游戏之前也是事先知晓游戏规则的。 但随着人工智能的飞速发展, 就连这个吹毛求疵的局限性也被突破了。 2019, “深思” 公司推出了一个更加新颖的人工智能系统, 称为 “MuZero”。 “MuZero” 甚至连游戏规则都无需事先知晓, 而可以通过 “观察”、 对弈、 试错, 从无到有地构建起来[注九]。 这种构建规则的能力让人联想到一部近来很热门的影片: The Queen's Gambit (《后翼弃兵》)。 在那部影片中, 一位天才的小女孩通过看人下棋归纳出了国际象棋的规则。 由于连游戏规则都无需事先知晓, “MuZero” 的适用面甚至比 “阿尔法零” 更广, 除了能玩 “阿尔法零” 能玩的那些棋盘类的游戏外, 还 “自学” 掌握了几十种图像游戏。

更令人印象深刻的是, 从 “阿尔法狗·李” 到 “阿尔法狗·大师”、 “阿尔法狗·零”、 “阿尔法零”, 再到 “MuZero”, 所有这些进展都不是 “失之东隅, 收之桑榆” 那样的有得有失, 而是纯粹的推进。 “MuZero” 能玩更多的游戏, 却并不是以牺牲水准为代价的 “博而不精”。 相反, 在几乎所有 “阿尔法零” 能玩的游戏上, “MuZero” 都达到甚至超过了 “阿尔法零” 的水准。

就人工智能游戏系统而论, 推进到 “MuZero” 的程度, 已基本达到甚至超越了对人类玩家的终极模拟, 在大方向上差不多可以算穷尽了, 剩下的也许只是算法细节上的追求——那自然是永无止境的。 但人工智能若只能玩游戏, 恐怕免不了仍会被讥讽, 就像一个只懂得玩耍的人, 再聪明也会被认为没什么大出息。 但正如聪明人早晚会超越只懂得玩耍的年纪, 人工智能也并非只能玩游戏。 2020 年底, 继游戏领域的连串新闻之后, “深思” 公司的一个名叫 “阿尔法折叠” (AlphaFold) 人工智能系统 (确切地说, 是该系统的第二代) 再次刷了很多人的屏——但这回不是玩游戏, 而是做科研, 是研究蛋白质的三维结构。 具体地说, “阿尔法折叠” 用人工智能的手段挑战了生物学领域中一个被称为 “蛋白质折叠问题” (protein folding problem) 的知名难题[注十]。 由于这个难题的阻亘, 确定一种复杂的蛋白质结构往往要耗时一年以上, 耗资也不菲。 在已知的蛋白质中, 生物学界经过半个多世纪的努力, 能确定结构的仍只占不到千分之一。 而 “阿尔法折叠” 确定一种蛋白质结构只需几天时间, 准确率也达到了能与传统方法相比拟的程度, 有望成为强大助益。 有人甚至大胆预测, 人工智能距离摘取第一个诺贝尔科学奖已为时不远了。

从 “深蓝” 到 “深思”, 是人工智能飞速发展的一个缩影。在不到一代人的时间内, 人工智能跨越了好几个里程碑, 其中的某些甚至超出了最大胆的预期, 可谓前途无量。 当然, 目前的人工智能系统都还只具备特殊领域的特定能力, 与全面模拟人类智能依然有不小的距离。 美国计算机学家斯科特·亚伦森 (Scott Aaronson) 曾写过一句令人印象深刻的话, 大意是: 人工智能是在跟长达十亿年的自然进化相竞争。 确实, 人类的智能是漫长自然进化的产物, 要想在短时间内全面超越是很困难的。 也因此, 每当人工智能在某个领域里超越人类, 就会有怀疑者说: 人工智能还不会这个, 人工智能还不会那个。 这当然是事实。 不过, 我很欣赏美国科幻及科普作家艾萨克·阿西莫夫 (Isaac Asimov) 对这种说法的一个睿智的回复。 面对怀疑者最爱问的 “计算机能创造出伟大的乐曲, 伟大的艺术, 伟大的科学理论吗?” 阿西莫夫说他愿反问一句 “你能吗?”

人工智能的未来会如何? 也许是没有人能预料的, 就像 25 年前的人很难预料人工智能这 25 年的发展。 从很小的时候起, 我就对所谓 “外星人” 有着巨大的好奇, 我好奇的不仅仅是 “外星人” 是否存在, 而更多的是如果有 “外星人”, 他们的思维会是什么样的? 从某种意义上讲——也类似于我前文所述, 那些从 “零” 学起, 从而在很大程度上独立于人类的人工智能可以部分地满足我的好奇——但程度终究是偏低的, 因为哪怕像 “MuZero” 那样的系统, 它的框架毕竟是人类按自己的思维设定的。 不过我设想, 未来的人工智能也许可以自行设计甚至自行生产自己的下一代。

那样发展下去, 人工智能也许会越来越摆脱人类思维的羁绊, 越来越超越人类设定的框架, 它们的智慧会越来越全面, 越来越独特, 也越来越像——甚至按照某种适当的定义逐渐变成——某种新的生命。 那种生命将不仅有高度的智能, 而且有强大的环境适应性, 可以在不适合人类生存的环境里——比如不适合人类生存的行星上——生活。 那种生命也许会比人类更适于也更有 “意愿” 走向星空, 探索宇宙。

那样发展下去, 人类会有被人工智能取代的危险吗? 这当然也是没有人能预料的。 阿西莫夫对这个问题也有过一个回复——一个在我看来半开玩笑半认真的回复, 那就是: 看看人类对环境, 对这个星球所做的一切, 也许是到了该被取代的时候了。 阿西莫夫甚至表示, 也许真正的危险是, 人工智能不能足够快地取代人类。 看来阿西莫夫对人类的评价够低的, 不过从一个积极的角度讲, 人类也许应该将人工智能视为自己的后代, 一种进化速度快得多的后代。 如果有一天, 人工智能全方位地超越了人类, 与人类之间也未必是一种取代的关系。 因为到那时, 人类栖息的这个小小星球对环境适应性强大的人工智能来说也许根本不值得一争, 人工智能完全有可能去寻找更广阔的天地。

而这一切对于人类, 难道不会有后代长成了的欣慰吗?

注释

  1. 这并非 “深蓝” 首次战胜卡斯帕罗夫。 1996 年 2 月, 一个棋力逊于 1997 年版本的 “深蓝” 与卡斯帕罗夫进行过一次类似的比赛, 并赢过一盘, 只不过总比分则以 2:4 (一胜二和三负) 告负。 另外顺便说明一下, 所谓 “国际象棋”, 其英文名称就是 “象棋”, 并无 “国际” 二字, 但因中国有自己的象棋, 为免混淆, 常将西方的象棋称为 “国际象棋”, 本文也循此惯例。
  2. 有意思的是, 戴森其实一向是看好人工智能的。 这也许说明, 当人工智能在一个被认为需要 “智能” 的领域真正击败人类, 将一种泛泛的可能性变为现实的时候, 就连戴森那样的前瞻性人物也未必能立刻适应。
  3. 当然, 技术的发展并非没有极限, 摩尔定律不可能永远适用, 但截至本文撰写之时 (2021 年初), 芯片性能的增长仍大体符合摩尔定律的预期。 另一方面, 哪怕有一天摩尔定律不再适用了, 芯片性能的增长速度仍将在很长时间内绰有余裕地超越人类智能的发展速度。
  4. 这是因为, 无论 “必和策略” 还是 “必胜策略”, 都往往只需一个 “昏招” 就可葬送。 而且所谓 “昏招”, 甚至并不需要很 “昏”, 而只需对理论上的 “必和策略” 或 “必胜策略” 有所偏离即可。 对人类来说, 在任何复杂游戏中, 出现这样的偏离实际上是必然甚至经常的。
  5. 这种估算有很大的变通性, 不同的研究者会采用不同的估算 (但大致结果, 尤其是围棋远比国际象棋复杂这一定性结论, 是毫无疑义的), 本文所用的数据引自 “深思” (DeepMind) 公司 2016 年 1 月发布在 Nature (《自然》) 杂志上的论文 “Mastering the Game of Go with Deep Neural Networks and Tree Search” (用深度神经网络与树搜索征服围棋)。 另外补充一点: 哪怕国际象棋的复杂度也不是目前的人工智能所能穷尽的, 因此目前的人工智能并不能严格实现理论上的 “必和策略” 或 “必胜策略”, 而必须诉诸某些并非万无一失的算法。 但只要计算能力超过某个门槛, 相对于人类的优势就会变得难以撼动。 所谓人工智能击败人类, 目前都是指这种状态, 而非严格字面意义上的必胜。
  6. 当然, 这种话——以及诸如此类的话——都是相对于人工智能的顶尖水平而言的, 请勿用某位人类棋手在某次对决中击败某个低水平人工智能的例子来反驳之。
  7. 这里有必要强调一下, “阿尔法零” 击败的只是当时最新版本的 “鱼干”: “鱼干 8” (Stockfish 8)。 “鱼干 8” 的落败使开放源代码国际象棋社群大受刺激, 并奋起直追。 截至本文撰写之时 (2021 年初), “鱼干” 的最新版本是 “鱼干 12” (Stockfish 12), 水平远远超过了 “鱼干 8”。 考虑到 “阿尔法零” 的 “醉翁之意” 是演示人工智能的新思路, 而并未在国际象棋方面持续着力, 一般认为, “鱼干 12” 已完成反超, 其国际象棋水平比击败 “鱼干 8” 的 “阿尔法零” 更高。
  8. 关于这种 “雪崩” 式的快速转变, 另外还可补充一点: 不了解那些人工智能系统的人也许会以为, 那些系统都是庞大的超级电脑——就像昔日的 “深蓝” 一样。 但实际上, 人工智能围棋系统虽远未达到人工智能象棋系统那样的 “迷你化”, 却也并不庞大, 比如 “阿尔法狗·李” 之后的那些系统已全都是单一机器。 人工智能的发展不但追求着 “智能” 上的飞跃, 也致力于 “体型” 上的 “减肥”。
  9. “MuZero” 这一名字在一定程度上效仿了 “阿尔法零”, 体现在两者都有一个 “零”, 代表从 “零” 开始, 不依赖人类棋谱。 “MuZero” 中的 “Mu” 近于日文 “無” 的发音, 代表的是连游戏规则也可以从 “无” 到有地构建起来。 如果要为 “MuZero” 取一个译名的话, 或可译为 “无零”。
  10. 用最简单的语言来说, “蛋白质折叠问题” 指的是蛋白质的氨基酸序列如何折叠成三维结构的问题。 细分的话, 则包含诸如氨基酸序列里的原子间相互作用如何引致其三维结构, 对任何一种给定的氨基酸序列如何预测其三维结构, 等等的子问题。

站长往年同日 (3 月 15 日) 发表的作品

站长近期发表的作品

您可在每月前七天参与对本站所有文章的讨论
目前距本文的讨论期满尚有 6 天, 欢迎您

>> 发表评论 <<