人工智能究竟有多恐怖？让这位创造了连胜围棋界数位大师人工智能的天才告诉你！

【IT时代网编者按】前段时间，谷歌人工智能战胜围棋界数位大师，一时风光无两。德米斯. 哈撒比斯，一位天才，创立了DeepMind，并在2014年被谷歌以6.25亿美元收购，让我们看看究竟是创造出这种人工智能的有何神奇之处？人工智能有多恐怖？

德米斯. 哈撒比斯(Demis Hassabis)举止谦逊，为人谦和，绝不像是一个爱出风头的人。尽管如此，哈撒比斯却作出了一个严肃的决定：他希望能解决一直在困扰人工智能领域的问题，并在这个基础上解决所有其他问题。不论是谁只要向外宣扬这个野心无疑都会引起旁人的讪笑，但哈撒比斯却是一个绝对的例外。

现年39 岁的哈撒比斯除了是一位国际象棋大师以外，还是一名电子游戏设计师。由他一手创立的人工智能企业「DeepMind」在 2014 年被 Google 以 6.25 亿美元的价格收购。

人工智能技术已经来了?

人工智能技术已经来到了我们身边，我们时常接触的 Siri 和 Android 设备上的语音助手就是最好的两个例子。在短期内，Google 公司的产品将会成为哈撒比斯研究成果的最早受益者，尽管个性化产品，智能化搜索，YouTube、智能语音和脸部识别等领域在严格意义上并不属于人工智能的范畴。「仅仅是软件，对吗?」哈撒比斯笑着说道，「反正就是一些能运作的东西。」

从更长远的维度看来，哈撒比斯正在开发的技术所覆盖的范围绝不仅仅是情感机器人和智能手机，也绝不仅仅是 Google。不甘落后的 Facebook、Microsoft、Apple 等科技巨头也在大肆吸纳人工智能领域的人才，这些公司已经在该领域投入了数十亿美元。人工智能技术所带来的颠覆性势必会超乎所有人的想象。

确实，这一切听起来难免有种野心勃勃的感觉。绝大部分人工智能系统都相对比较狭隘，预先编程完毕的媒介只能处理特定领域的任务，对其他领域则并不擅长。由此可知，尽管 IBM 公司的「深蓝」(Deep Blue)能够在围棋上胜过世界冠军加里 · 卡斯帕罗夫(Gary Kasparov)，但它在「三子棋」游戏中甚至不能打败一个三岁的小孩。而这一次，哈撒比斯却计划从人类的大脑中获取灵感，期望打造出第一款面向多种用途而且可以自主学习的人工智能机器。这款机器所使用的算法非常灵活，足以适应周边的环境，这意味着它完全可以像生物系统一样进行学习。只需接触到原声数据，它就可以从零开始学习技能。

这项技术被称为「人工通用智能技术」，重点在于「通用」二字。哈撒比斯认为，在将来具备超高智能的机器人将会和人类的专家联手解决所有的难题。「不论是癌症、气候变化、能源、染色体、宏观经济、财务系统还是物理范畴，我们需要掌握的系统正变得越来越复杂。」他表示，「面对无穷无尽的信息，即便是最聪明的天才穷尽一生也很难处理完毕。在这种情况下，我们应该如何在信息的汪洋中筛选出有用的信息，以帮助我们解决问题呢?所谓的人工通用智能技术，其中一个用途就是将没被结构化的数据转化为可用信息。我们所研究的是面向所有问题的元解决方案。」

据报道，DeepMind 公司所发表的论文表明其人工智能产品配备有第一款真正意义上的「端对端」学习系统，这款产品的人工智能媒介(一款被称为「Deep-Q 网络」的图像处理元件)已经学会了如何处理屏幕上的数据输入。在完全弄懂数据输入之后，这款产品会自行采取行动以便实现期望的结果。在报道中，这款人工智能产品在 2,600 款经典游戏中都取得了骄人的成绩，这项突破震惊了整个技术界。

随后在上一个月，DeepMind 公司再度登上了《自然》杂志的封面。在短短几个月内，这家公司再度实现了一项伟大的成就。这一次，他们的测试机床不再是 70 或者 80 年代的经典游戏，而是把目光放到了拥有超过 2,500 年历史，甚至曾被孔子提及的围棋上面。围棋分支系数的体量非常庞大：它所蕴含的可能性的数量甚至比整个宇宙的原子数量还多。而且和国际象棋不同，围棋所依靠的并不是单纯的计算。让人感到雪上加霜的是，开发人员不可能为围棋设计出评价函数，他们不能通过算法集合表述哪一方正处于领先位置，比劣势方领先多少等情况。围棋所依赖的更像是人类的「直觉」：每当被询问为何采取特定的行动时，专业棋手总是会给出让人感到模棱两可的答案，例如「感觉就该这么下」。

众所周知，计算机一直以来在直觉方面的表现并不是那么优秀。正因为如此，围棋一直被视为人工智能技术难以攀登的一座高峰。研究人员甚至曾悲观地预测，计算机想要攻克围棋至少需要再过十年的时间。

但在上年秋季的一次秘密比试中，DeepMind 公司的全新人工智能算法「AlphaGo」却以 5 比 0 的绝对优势击败了 3 度蝉联欧洲围棋冠军的樊麾。在今年 3 月，AlphaGo 还将迎战世界冠军李世石(Lee Sedol)。帝国理工学院(Imperial College)认知机械人学专业的默里 · 沙纳汉(Murray Shanahan)教授认为这是一项惊人的成就。超人类主义哲学家尼克 • 波斯特洛姆(Nick Bostrom)也认为 AlphaGo 所取得的成果具有里程碑意义，他在《超级智能：路线图、危险性与应对策略》一书中写道，倘若人类真的成功研发出人工通用智能技术，我们的世界将会迎来前所未有的改变。或许我们应该借用 Google 公司技术总监雷蒙德 · 库茨魏尔(Ray Kurzweil)的观点，他认为人工通用智能技术甚至有可能会改变我们的历史进程。「AlphaGo 所取得的成就完全是戏剧性的，它是过去数十年来机器学习领域的集大成者。」波斯特洛姆在牛津大学(University of Oxford)的人类未来研究所中说道。

据称 Google 公司向哈撒比斯个人支付了 8,000 万美元的资金，但不得不说，他给人的感觉更像是一位实习生。「围棋是棋类的至尊，它代表着棋类的高峰。就玩家所需的智力深度而言，围棋更加是纬度丰富的代表，这个游戏非常容易让人着迷。但更让我们感到激动的是，我们不仅仅是本人掌握了这个游戏，我们还能通过有趣的算法来对这个有趣的游戏进行操作。围棋所蕴含的艺术色彩要浓于科学色彩。」哈撒比斯说道，「围棋的玩法非常贴近人类的风格，人们可以通过贴近人性的方式对其进行学习，并在实践中进步。这就是我们人类学习围棋的方式。」

德米斯. 哈撒比斯何许人也?

第一次和哈撒比斯见面是 2014 年的夏季，当时 DeepMind 的收购事件已经过去了好几个月的时间。自那时以来，我一直对他保持关注。为了完成这篇文章，我在过去 8 个月中分别在 3 个不同的场合对哈撒比斯进行了采访。我见证着他从 Google 公司的人工智能天才蜕变成一位令人叹服的高效沟通者，他显然已经找到了向非科学领域的群体描述这项复杂工作的有效方式，他对自己的工作抱有十足的热忱。谦逊有礼且风度翩翩的哈撒比斯非常擅长对 DeepMind 所使用的新旧技术进行分解，他还会将不同领域的人工智能搜索技术巧妙地运用到产品上。AlphaGo 就是一个绝佳的案例，这个系统很好地将传统的「树状搜索」技术和新兴的「深度神经网络」技术结合到了一起，其结构和人体大脑的神经元结构非常相似。

而 DeepQ 则结合了深度神经网络技术和强化学习技术，因此这款产品的学习方式和动物所具有的学习方式非常相近，动物在学习的时候主要依赖大脑中由多巴胺驱动的激励系统。而在 AlphaGo 中，他们甚至对技术再度进行了深化：他们为 AlphaGo 添加了一种层次更深的强化学习技术，在这种情况下，AlphaGo 将会具备进行长期计划的能力。下一步，相信他们将会为系统整合如记忆等每一项具有里程碑意义的功能。「我们有一张线路图，上面列举了所有这方面的功能。」哈撒比斯说道，「如何将不同的领域结合起来才是关键，因为在我们眼里，只有能将学习能力应用到全新领域的算法才能缔造出优秀的人工智能产品。」

这一切听起来和哈撒比斯的风格非常一致。第一眼看到他的简历的时候，你很容易误认为他是一个并不那么「专注」的人：不论是棋类游戏、电子游戏、电脑编程、认知神经科学还是人工智能技术，这些统统都在他的涉猎范围之内。但实际上，哈撒比斯之所以能取得今天的成就，完全有赖于其出众的专注力：他将自己出类拔萃的智力和终身奋斗的学科结合到了一起。

哈撒比斯于 1976 年出生于伦敦，他的父亲是塞浦路斯希腊裔(Greek-Cypriot)，母亲是新加坡华人，他是 3 兄弟姐妹中最年长的一个。哈撒比斯的父母都是教师，他们曾经经营过一家玩具店。哈撒比斯的妹妹是一位作曲家和钢琴师，弟弟则在学习创意写作。在哈撒比斯的整个家庭环境中，科技似乎并没有占据多大的比重。「我完全是一匹黑马。」他打趣地说道。据哈撒比斯回忆，他会用从象棋比赛中所赢取的奖金购买「ZX Spectrum 48K」和「Commodore Amiga」等设备。他会马上将这些设备拆开，并从中学习编程知识。「我的父母亲是技术恐惧者，他们并不喜欢电脑，而且很有波希米亚人的风范，而妹妹和弟弟则进入了艺术行业。除了我之外，我们全家没有人选择进入数学或者科学领域。」哈撒比斯无奈地表示，「这看起来确实有点奇怪，甚至连我自己也不知道我的天赋究竟来自于哪里。」

DeepMind：一家可以让天才齐聚一堂的公司

被 Google 收购的时候哈撒比斯的公司只有 50 名雇员，现在 DeepMind 已经拥有接近 200 位雇员。DeepMind 的雇员来自 45 个国家，他们的工作场所是位于国王十字火车站附近的一栋 6 层建筑。尽管一直有人建议哈撒比斯将公司转移到其他地方(例如位于硅谷的山景城)，但他坚信自己应该将公司置身于自己的根源地附近。

「我非常喜欢这个城市，这也是我坚持留下来的原因。我并不认为伦敦不配拥有一家世界级的人工智能研究机构，我对这个地方感到非常自豪。」在 DeepMind 的办公大楼内，所有的房间都以心智巨匠的名字命名，包括特斯拉、拉马努金、柏拉图、费曼、亚里士多德和玛丽 · 雪莱(Mary Shelley)等等。哈撒比斯是玛丽 · 雪莱的粉丝，他曾经多次阅读《佛兰肯斯坦》一书，并认为自己从中收获了许多感悟。

截至目前，DeepMind 的员工保存率还是 100%。考虑到其他科技巨头以及全球各大院校也在大力增加面向人工智能技术的投入，这样的保存率更是显得惊人。

就目标等级和人才储备的质量和速度而言，哈撒比斯认为 DeepMind 和阿波罗计划(Apollo Programme)以及曼哈顿计划(Manhattan Project)完全具备可比性。「我们非常幸运，每一年我们都能各国的优秀科学家。在我们的雇员当中，有的曾经在国际奥林匹克物理竞赛中脱颖而出，有的则是所在国水准一流的数学硕士。目前我们的人手还远远不足以支撑我们的想法，而与此同时，每一年我们都会收到远超录取数的求职申请，因此我们感觉自己非常幸运。唯一的局限在于我们在不损害企业文化的前提下所能吸收的人才数量。」哈撒比斯说道。

DeepMind 公司企业文化的深度要远远超过懒人沙发、免费零食和屋顶啤酒宴会等表象。哈撒比斯坚称 Google 的收购丝毫没有让他偏离预定的研究路径，他还表示自己在 DeepMind 的效率问题上所花费的时间和在算法上所花费的时间大致相当。在他眼中，DeepMind 除了是一家优秀的创业公司以外，还是一家优秀的学院。

哈撒比斯认为凭借无穷无尽的能量和创造力，DeepMind 必将推动宏达的进程。哈撒比斯时常将「创造力」挂在嘴边，他认为尽管自己所接受的是正统科学教育，但他的本质却更贴合于「创意和直觉」的范畴。「我并不是一个标准意义上的科学家。」他不带讽刺意味地直言。他认为对于 DeepMind 而言最关键的是各种思想的融汇：一群擅长多个科学领域的博学多才者，他们可以快速找出不同领域的交汇点，并以客观的方式识别出各学科之间的连接方式。在基准线得当的情况下，这些博学多才者每隔数周会对工作小组的成果进行一次检视，并且快速、灵活地按照需求调配资源和工程人手。「你所依赖的是一个才华洋溢的天才研究员，而且和传统学院那一套不同，来自其他领域的成员也可以马上接过指挥棒，以便将他们的专长加入到产品之中。」他描述道，「在这种模式的驱动下，不可思议的结果往往会应运而生。」确实，诞生于 18 个月前的 AlphaGo 就是一个最佳例证。

人工智能技术到底有多恐怖?

史蒂芬 · 霍金(Stephen Hawking)、比尔 · 盖茨(Bill Gates)、埃隆 · 马斯克(Elon Musk)、扬 · 塔里安(Jaan Tallinn)以及尼克 · 博斯特伦(Nick Bostrom)等人一直对于人工智能技术的发展表示担忧。一旦他们所忧虑的事情不幸成为现实，人类恐将迎来灭顶之灾。他们担心人工通用智能技术的滥用有可能迎来「智能爆炸」的局面，届时机器将通过不断的迭代自我提升，进而取得超越人类智力水平的智能。换而言之，最终机器有可能会失控。至于这样的可怕景象是否会出现，历史显然不能给出可靠的参考答案。在一切变得太晚之前，我们是否有足够的远见和魄力及时停止这场人工智能领域的「军备竞赛」呢?「每当你发现某种先进技术的时候，你会不顾一切地对其进行探索。只有在取得了技术上的成功之后，你才会思考接下来的应对方案。」这是罗伯特 · 奥本海默(Robert Oppenheimer)的名言。

「如果说存在能确保人工智能技术不会对人类造成伤害的方法，那么人工智能技术终将问世。但即便我们对于确保安全方法的有无并不确定，人工智能技术还是会被创造出来。」波斯特洛姆说道。最近霍金发表了一段高度概括的文字：「成熟人工智能技术的出现必将成为人类历史上最具意义的事件，但很不幸，它也可能成为人类历史上的最后一起重大事件。」

「我当然不希望人工智能技术最终演变成为噩梦。」哈撒比斯面无表情地说道，他认为公众对于人工通用智能技术的担忧模糊了这项技术所能带来的即期利益。他认为这种担忧并不恰当，至少在当下看来言之过早。「我们距离开发出和人类智力水平相当的技术至少还有数十年的事件。」哈撒比斯提醒道，「我们才刚刚迈上了这个阶梯的第一步，目前还处于游戏阶段。」他承认我们确实应该考虑人工智能技术所蕴涵的风险，但这种风险不会是超级智能机器人残酷屠杀人类的科幻小说情景。

此外，哈撒比斯坚称 DeepMind 在消除人工通用智能技术的潜在威胁方面也占据了领先地位。尽管 DeepMind 并不像阿波罗或者曼哈顿计划一样需要接受官方审查，但这家公司的运作方式却非常透明。他们倾向于公布自己所使用的代码，他们和 Google 公司的合同条款也规定了相关技术禁止用于军事和情报领域。在 2015 年，哈撒比斯和其他 DeepMind 雇员甚至还协助召开了于波多黎各举行的人工智能技术研讨会，并签署了承诺将人工智能技术应用于善意领域的公开信。在公开信中，他们还承诺会竭力避免人工智能技术的潜在威胁。最近，在哈撒比斯和他的同事的协助下，纽约也组织了一场相似的会议。哈撒比斯表示 DeepMind 公司的内部道德及咨询委员会会议已经开始召开(尽管以非公开形式)。「哈撒比斯对于人工智能技术的安全问题非常熟悉。」默里 · 沙纳汉教授指出，「他显然没有那么天真，也不会像鸵鸟一样把头埋在沙子里面。」

「DeepMind 一直是人工智能领域的领导者，它一直在推动该领域的参与者对安全问题进行讨论。」波斯特洛姆表示，「除此以外，这家公司还参与到了防范长期风险的研究中来。」

我曾经请哈撒比斯列出他认为最首要的长期风险。「随着这些系统变得越来越老练，我们需要思考它们所使用的优化方式以及这种方式将会导致的优化结果。」他回覆道，「技术本身是中立的，但我们所接触的是一个会不断学习的系统，它们将会不可避免的接触到一些和价值体系以及设计者偏好相关的信息。因此，我们需要严肃思考它们所接触的价值体系。」

在被问到关于超级智能机器人的问题时，他的回答是这样的：「我们需要确保目标被以正确的方式表述详尽，中途不应该存在任何模糊不清的表述。与此同时，我们还需要确保目标的长期稳定性。在我们的所有系统中，最高层级的目标通常会由系统的设计者进行表述。尽管每一位设计者实现目标的方式或许各有千秋，但这些系统并不会自行创造目标。」

他的口吻非常坚定，显得信心十足。「看吧，有趣而又困难重重的挑战就是这些。在全新的强大技术出现的时候，我们需要确保它们的用途合乎道德和信任标准。正因为如此，我们才会积极推进关于人工智能技术安全问题的讨论和研究。我们希望但成熟技术来临的时候，一切已然就绪。」

成熟技术来临的时候世界将会变成什么样子?届时机器是否会变得过于智能化，以至于完全超越人类?哈撒比斯对这些问题付诸一笑。「不不不，我所说的阶段距离你们所恐惧阶段还有一段非常遥远的距离。」

尽管哈撒比斯的表现会让人感到轻松，但在 2011 年，他的创业伙伴谢恩 · 莱格却明确说过：「在我看来，人类的灭绝或许真会来临，而技术将会在人类的灭绝中占据一个重要席位。」但哈撒比斯很快就进行了澄清：「我所指的是可以将这些系统应用到一些游戏以外的领域，一些和现实世界的联系更加紧密的领域，一些更加重要的领域，例如医疗保健领域。我们需要确认这些系统的能力到底有多强，只有这样我们才能阻止机器全面接管世界的局面。」说到这里，他笑了起来。

哈撒比斯是一位笑口常开的人，他待人友善，说话的时候也很有说服力。他所说的一切听起来都那么有依有据，却又不会给人一种傲慢的感觉。关于未来的事情，谁也不能给出一个确切的说法，或许人工通用智能技术确实会维持在我们的掌控之中呢?「显然，如果某种全面超越人类智能的数字化技术确实存在，那么我们当然不能指望它会心甘情愿地给我们带来协助。」埃隆 · 马斯克说道，他在最近曾明确表明人工智能技术的发展是一种「召唤恶魔」的行为。这位杰出的企业家是 DeepMind 公司的初始投资人之一，而他投资的动机并不是为了赚钱。「我并不是为了投资而投资。」他在位于加州的办公室说道，「我投资 DeepMind，完全是为了更好地认识人工智能技术发展的过程及其潜在风险。如果我们因为不够谨慎而导致毁灭性恶果的发生，银行账户又还有什么意义呢?」

「埃隆是世界上最聪明的人之一，我很享受和他聊天。」哈撒比斯说道，「这么一个杰出的人能够投身人工智能领域，我认为这是一件好事，因为这也从侧面印证了人工智能技术确实意义非凡。」哈撒比斯在回覆这类问题时会表现地非常老练，但一些来自其他领域的科学家却总是喜欢针对人工智能技术发表高谈阔论，这种行为会让哈撒比斯感到非常懊恼。他表示自己绝不会对粒子物理学指手画脚。

史蒂芬 · 霍金教授正是所谓「项目加速」的最佳见证。最近哈撒比斯在剑桥大学和霍金进行了会面。「能和他见面对我而言是一项极高的荣誉。」他激动地说道，并拿出了自己的 iPhone 向我展示他和霍金的合照。「我们的会面原本计划为 1 个小时，但他想问的问题实在是太多了，我们最终谈论了整整 4 个小时。他甚至因此而错过了午餐，他的照料人对此很不高兴。」哈撒比斯表示。

哈撒比斯指出在会面期间，霍金丝毫没有提及关于人工智能技术的煽动性言论。更让人惊讶的是，在上周的 BBC 栏目上，霍金并未将人工智能技术列为人类所面临的潜在威胁。「多和践行者接触无疑是一件大有裨益的事情，通过这种方式，聆听者能够了解我们即将打造的会是怎样的一个系统。此外，他们还可以从中了解到我们即将采取的检验和控制措施。你只需了解其中所涉及的工程原理，关于人工智能技术的一切进展都会变得更加容易理解，也加合理。」哈撒比斯说道。在他的办公室内有一块白色的书写板，上面写满了不知所云的字符。

至少对于我而言，想要理解其中的工程原理绝对毫无希望，但霍金又是怎么想的呢?他最后被哈撒比斯说服了吗?「是的，我认为是这样，因为在会面结束时他似乎不再担忧，而是回归了其一贯特有的幽默形象。在离开之前，我咨询了他的看法，他通过电脑打出了『祝你好运』这几个字。随后他的眼睛闪烁出机智的光芒，又再补充了一句『但我希望你的好运不要过于彻底』。「哈撒比斯笑道，「我认为他确实对人工智能技术改观了。」【责任编辑/于德浩】

来源：创见

IT时代网(关注微信公众号ITtime2000，定时推送，互动有福利惊喜)所有原创文章版权所有，未经授权，转载必究。
创客100创投基金成立于2015年，直通硅谷，专注于TMT领域早期项目投资。LP均来自政府、互联网IT、传媒知名企业和个人。创客100创投基金对IT、通信、互联网、IP等有着自己独特眼光和丰富的资源。决策快、投资快是创客100基金最显著的特点。