前往AGI的征途里:跨越两百年,人类仍然渴望“银弹”
人工智能
2020
02/12
12:41

疫情汹汹,任何一个有希望对抗病毒的消息都会立即刺激广大民众的心理。相信很多人的心情如同过山车一样,不停从悲观的低点燃起希望,又从希望的高点滑落至低点。

“双黄连可抑制新型冠状病毒”,此消息出来的当晚,双黄连就被人们买到断货。

“突破性进展,新冠病毒特效药Remdesivir已治愈多人”,这一消息在微信群广为传播。事后,又被紧急辟谣。目前,此药物刚刚在中日友好医院、武汉金银潭医院等开展临床实验。

“新冠病毒毒株成功分离,最快一个月研制出疫苗”,而其实这也仅仅是最乐观的估计。疫苗研制还要面临诸如未知传染源、致病机理及变异风险、合适的实验动物等问题。这需要全球多家科研团队争分夺秒地去攻克难题。

此次新型病毒的未知带给了普通人太多莫名的恐惧和焦虑,而我们对权威机构和现代医学的信赖又让我们过于急切期盼特效药甚至抗病毒疫苗的到来。

在疫情之下,人们产生的这些焦虑和急切心理,其实非常正常。在生命遭受威胁的情况之下,没有谁不会本能地去关注和信服可以增加安全感的信息,也没有谁不会去幻想出现一种能够立刻解决问题的“特效药”。

如果说,普通民众的这一心理可以视为“正常”,但“正常”不等于“必要”。对于众多科研人员和各行业的专业工作者,这种“一招致胜”的思维误区则需要时刻警惕。

“事情永远不会如想象的那么好,也绝不会如想象的那么坏”,这一心灵鸡汤总是在实际生活中失效。其原因就是,我们人类要么就是把事情想象的非常坏,要么就是把事情想象地非常好。而且,在我们乐观的思维方式里,如同总是在发明“永动机”一样,我们总要找一颗可以“一招致胜”解决问题的“银弹”。

银弹传说:一种逃避“推塔”模式的心理按摩

“银弹”其实是一个形象比喻。这一概念来自于19世纪欧洲传说中的狼人、吸血鬼这类哥特小说里的一个元素。具体来说,银色子弹是杀死狼人的唯一终极手段,一发毙命,是狼人恐怖片居家必备之良方也。玄学一点的比喻是,“银弹”就如同茅山道士的“急急如律令”、如来佛祖的“唵嘛呢叭弥吽”;如果二次元地理解,那“银弹”就是水冰月的“代表月亮消灭你”,蒙奇·D·路飞开了“五档”。

在玄幻的世界或者影视剧的世界里,正义的一方总是被邪恶势力逼到绝境之际,在大反派啰里啰嗦地痛诉苦情之际,用这“银弹”大招一击致命,获得最终的胜利。

当然会有很多人说,只有小孩子才会相信“终极大招”,大人们才不会这么幼稚。但事实不容乐观,几乎每一个人都倾向于获得这么一颗“银弹”,想一劳永逸地解决遇到的各种麻烦。不严谨地讲,毕竟我们每个人都是从小孩子过来的。

最早记录在《圣经》中的例证是赫赫有名的“巴别塔”。当时人类的壮志雄心,促使人要造一座直通天际的高塔,以实现跟神平起平坐的地位。然而神只轻轻变动了人类的一个变量——变乱了人们的语言。仅此一个举动,人类大乱,巴别塔停工。至此人间再无可能挑战神的领域。当然,故事当做故事看,道理则分外深刻。巴别塔是人类一直以来想回到“伊甸园”的完美生活的隐喻,但人类由于种族的不断迁移、文明进化程度的快慢,从而造成的语言、习俗的迥异以及生存压力造成的对抗和残杀,让世间再无一个“永世和平”的解决方案。

同样的例证更切实地在我们历史上不断上演。为抵抗北方游牧民族的骚扰和掠夺,从战国起一直到明朝,以中原农耕民族为主体的王朝都在翻修一座绵延数千公里的长城。修建长城的逻辑就是尽可能地完全封锁游牧民族铁骑南下的通道,一劳永逸地把威胁挡在关卡之外,老死不相往来。显然,修建长城除了加速该农耕帝国的快速灭亡,没有一天起到抵御外族的重任。反过来,开关贸易、互通有无,这类违反直觉的事情才是长城边境的日常旋律。

当然更不用详说我们耳熟能详的科学的进化史。从托勒密地心说,到哥白尼革命,再到开普勒三大定律和牛顿力学,再进到20世纪的爱因斯坦相对论。当时的科学共同体每一次想让“终结宇宙奥秘”的高塔完工之时,总有后人立即跳出来将根基掀翻再造新“塔”。科学的高塔总是在修修补补当中扩大其解决的范围。但伴随着认知边界的扩大,未知的领域却更加广大。显然再建一个“完美统一”的“科学巴别塔”几无可能。

所以,在今天,如果还有人试图用一个妙方包治百病,一个公式解释宇宙的话,我们大概率可以断定,此人非疯即坏。

公允地说,“推塔”游戏一直是我们人类需要面对的“Hard”模式,而“银弹”思维却仍然像智慧树的果子一样总是在诱惑我们。我们似乎很难给出一个科学的心理学解释,但似乎仍然可以将“银弹”理解为我们每个个体乃至社会共同的一种自然倾向,也就是在我们有限的生命和有限的认知里,要面对一个无限的世界,我们必须寻找一个关于这个世界的终极解释,哪怕相信地球悬浮在一个乌龟背上这样的解释,都可以带给我们一种安全感。

每个人都需要一个思维的休止符。而“银弹”就成了每个人想握在手里的休止符。“推塔”只是少数人选择的少有人走路,而多数人只需要一颗颗“银弹”,在遇到困难问题或者未知事物的时候,扣动思想的扳机射出它们,从而立刻获得了思维的安宁。

没有银弹:狼人教会程序猿的那些事

首先借用“银弹”比喻,其实是软件工程学领域。受当时好莱坞狼人电影的启发,1986年IBM大型机之父佛瑞德·布鲁克斯在其发表一篇关于软件工程的经典论文《没有银弹:软件工程的本质性与附属性工作》中,引用了“银弹”这个比喻。其主要论点是反驳了一种非‘银弹’则不能成功的现代传说。论文强调了软件工程的复杂性本质,而使真正的“银弹”并不存在;所谓“没有银弹”就是指,没有任何一项技术或方法可使软件工程的生产力在十年内提高十倍。

当然,这一指标并没有像“摩尔定律”一样如此言之凿凿地成为“规律”,但“没有银弹”则是指出软件工程的复杂性的行业本质。复杂性要求软件行业的从业者不要寄希望于短时间内就可以取得本质性突破,而应该是持之以恒地,在可靠度、简洁性上取得按部就班地进展,逐步提高软件开发的生产率。

布鲁克斯首先区分了软件开发的两类问题:本质性的根本任务,即打造抽象的软件的复杂概念结构;附属性的次要任务,即使用编程语言表达这些抽象概念结构,在空间和时间限制下将它们映射成机器语言。他认为,附属性的任务可以随着工具的改善而逐步解决,而本质性的任务则因为缺少有效地解决工具,而难以攻克。

而构思软件概念性的结构本身就有复杂性、一致性、可变性及不可见性的特点。而在软件开发中,构建什么样的的系统成为最困难的部分。复杂性则要求开发人员必须给出明确详细的技术需求,而软件系统往往又是活动的、变动的系统,在过程中不断重复地抽取和细化产品的需求,让定义系统需求成为开发人员之间的沟通的常态。

显然,解决软件开发困难的方式,不可能再事先就形成一个统一的“巨无霸”的理论体系,而是像微生物一样在适应环境的过程中不断变异。在后来布鲁克斯1975年出版且长期畅销的《人月神话》中,给出了现在仍适用的解决方案,比如:采用更高级的编程语言;聘用卓越的开发人才;进行快速的“原型开发”以实现“增量开发”。

对于今天的软件工程的开发,尽管编程语言已经有了更丰富的选择,软件敏捷开发、DDD、微服务等开发实践走向成熟,但“没有银弹”是思路仍是指导开发的有效思维,即在软件生产率上逐步进展,而不是等待一颗“重大突破”的“银弹”的到来。

寻找AGI:终极智能世界可能到来吗?

这一在软件工程上已经清晰明了的观点,好像换了个领域就被人们遗忘了。现在关注度最高的人工智能就是如此。众所周知,人工智能从一提出,其野心就在于让机器可以像人一样思考,获得人的智能。而通用人工智能的目标就是只需要一个通用的模型,具备人类的所有智能,同时可以完成甚至超过人类可以完成的所有智能活动。

当然,现实仍然是坎坷的。随着人工智能跌宕起伏的发展,AI的内涵逐渐发生了变化,大多数人都已经局限在机器学习、深度学习以及统计分析等领域,早已背离了人工智能一开始的初衷,但却早已结出了累累硕果。比如,我们熟知的图像识别、面部识别,自然语言处理、机器翻译,在各种棋类游戏中击败顶级人类选手,全自动的汽车驾驶等等。

但与此同时,通用人工智能(AGI)概念又出现在了我们的视野中。我们是否可以期待这样一颗 “银弹”,可以让同一套技术体系甚至同一个算法在尽可能多的领域中应用,最终实现终极智能世界的到来?

深度神经网络(DNN)等机器学习技术的成熟似乎让我们燃起了希望。以DNN为例,通过数学方程来模拟人脑的神经元以及用来传递信号的突触,然后再组成深度网络的人工神经元。人工神经元可以在深度网络中分出多层,输入的数据在层与层之间进行传递。多层结构使得人工神经元连接之间的权重能通过长期的训练逐步得到调整,而成千上万次的训练让深度网络从输入数据中提取出特征以识别出数据样本中的规律趋势,并最终对新的数据进行预测和判断。

那DNN可以成为走向通用人工智能的坦途么?显然这条路仍然坎坷甚至难以到达终点。DeepMind创始人德米什·哈萨比斯坦言,尽管基于DNN开发出来的AI系统看似强大,但其很难将一个领域里所习得的知识应用于其他领域。目前这些AI系统多使用了强化学习的编程范式,可以使得AI在游戏或其他学习中主动规划自己的行为以获取最大奖励。但强化学习的本质仍然类似于一种“斯金纳箱”类似的条件反射,对外界刺激做出反应以获得奖励。

对于我们人类行为而言,大多数时候也符合这类“条件反射”式的行为。但我们仍然可以克服短期奖励而选择其他策略,或者我们可以干脆拒绝奖励以成就其他动机,甚至于,我们可以认输失败来成就他人(AlphaGo如何自学让棋和输棋?)。从根本上,智能的灵活性可以让人类从环境当中获取更多的信息以规划多样性的行动。而显然,目前的AI系统缺乏这一可扩展性。

在人工智能迈向人类智能的道路上,还需要面对知识的转移、抽象知识的理解、创造性、想象力、反事实思维、对未来的规划、语言的运用和符号推理这些人类做起来毫不费力的工作。

这似乎成为当前寻找AGI的最大难题,也就是AI在某些专业领域上可以轻易胜过该领域最顶级的专家,但是一旦要处理多任务系统,其智能不要说处理一个保洁员打扫一个屋子的任务,就连一个小孩或一只乌鸦可以处理的任务都难以胜任。

从理论上来说,随着我们对人类大脑的结构及功能的了解,通过计算机创建并复制一个人类大脑复杂计算能力的算法是可能的。但反过来说,拥有一个近乎无限计算能力的算法就可以解决人类大脑所能触及的那些高度复杂的问题吗?

答案却是是未知的。也许如同我们完全复制了一个蜂巢,但是却未能复制一个可以孕育生命的蜂后一样。人类智能甚至超人类智能难以在这个精密庞大的算法体系中诞生。

最终回到如何找到出奇制胜地通向AGI的“银弹”的问题。目前来看,不论是强化学习、还是无监督学习也好,都是这条艰难探索之路上的重要阶梯。在向前攀登的险途中,人们需要面对的是难度越来越高的智能的高峰,人们需要的也是一簇算法工具以及反复训练纠错的尝试。

而最终是否有一个像“AGI”这样的终点线,作为“银弹”抵达的终极目的地,仍然是众多未来学家的倔强“信念”。

而这类信念有时候就像是《国产凌凌漆》中,达文西苦心研制多年的“要你命3000”。

如果没有记错的话,文西最后却结结实实吃到了大反派送出的一颗真“银弹”后扑街。最终打败这颗“银弹”的却是007手里的那把久经考验的“猪肉刀”。