本站原创如果《纽约时报》的报道属实,当今的人工智能已经发展到令人无法想象的程度.比如,自动驾驶汽车；苹果siri 智能语音能够听出你的声音,帮你找到最近的电影院.IBM 公司最近刚刚推出一款“冒险”智能软件取代了“沃森”系统用于医疗作用,最初是用于培训医学院学生,最终将运用于临床治疗阶段.现在,几乎不到一个月就有一款最新的人工智能产品问世.不过,其中有许多最新的发明还不成熟,据我之前的分析,目前我们仍然没有发明出具有想象力,天然语言处理系统的智能,或是智能创造其他机器的能力,而我们在开发人类大脑的道路上已经停滞不前了.
在某种程度上,支持者与反对者之间的区别就是时间期限.比如,未来学家、发明家雷蒙德库兹韦尔就认为20年智能就能研发出真正接近人类智力水平的人工智能.而我认为这个过程起码现在,几乎不到一个月就有一款最新的人工智能产品问世,而我们在开发人类大脑的道路上已经停滞不前了人工智能的威胁格力马库斯/ 文 李雨蒙/ 译需要20 年,尤其要考虑到创造常识（正常思维）的困难,发明人工智能的挑战,还有软件技术,都比库兹韦尔预测的要困难得多.
然而,从今往后的一个世纪里,没有人会在意人工智能的发展需要多久,只会关心将会出现哪些先进的人工智能.或许在这个世纪末,人工智能就会变得比人类更加智慧――不仅可以解决国际象棋、琐碎小事等等,基本可以处理所有的事物,无论从数学、工厂还是科学和医药.还剩下一小部分创造类工作留给人类,比如演员,作家或是其他创意类工作.最终的电脑系统可以完成自我编程,获取大量的最新信息.我们这些“碳基生物”的模糊印象,他们能够在分分钟就分析处理完成,也不需要长时间的睡眠或休息.
对于支持者来说,人工智能的未来充满希望.库兹韦尔就曾撰文发表自己一个大胆的设想,就是人类与智能机器结合,将人类的灵魂上传到人工智能中,使我们的灵魂永生；彼得迪亚芒蒂斯则认为人工智能是开启“富裕时代”,拥有富足食物、水源、消费工具的重要因素.不过,反对者像埃里克布林约尔松和我很担忧机器人职业化和人工智能带来的隐患,即使不去考虑高级人工智能对劳动力市场的影响,功能强大的智能机器也会威胁人类的生活,与人类争夺有限的资源.
大多数人把这种担心看作是科幻小说里的蠢话――像《终结者》和《帝国》这类.在一定程度上,我们需要未来很长一段时间做好打算,我们要担心小行星会撞地球,化石燃料产量下降,全球变暖等问题,而不用担心机器人问题.可是,詹姆斯的黑暗系新书《我们的最终发明：人工智能和人类时代的终结》,描述了一种严峻的情况,我们至少应该有所思考.
如果机器最终取代了人类――正如在人工智能领域工作的人所坚信的那样,真正的问题在于价值观：我们如何把价值观输入机器中,当它们的价值观与我们的价值观发生了很大的冲突时,我们该如何和这些机器协商呢?牛津的哲学家尼克博斯特罗认为：我们不能乐观地检测设,超级智能一定会分享人类的智慧和智能发展形成的价值观――对科学的求知欲,对他人的关心和仁慈,精神启发和沉思,克制物质占有欲,高雅的文化品位,对感受简单生活的快乐,谦虚无私等等.或许通过专门的训练,能够创造出拥有这些价值观的超级智能,或是珍惜人类财富和高尚道德的超级智能,或是设计者想要它拥有一些复杂目标的智能.这是可能的――可能从技术上说更简单――打造一个能够把最终价值都放在计算圆周率小数上的超级智能.
英国控制论学者凯文沃里克曾问道：“当机器不在我们人类所处的思维次元中思考时,你如何跟它理论,如何与它做交易,如何能明白它的想法?”
如果说黑暗系理论有漏洞的话,那就是他未经思考就提出的检测设：如果机器人聪明到可以下棋,那它可能也会“想要制造宇宙飞船”――在任何足够复杂,有目标驱动的系统中都是天生具有自我保护和获取资源的本能.现在大部分机器都非常先进,比如,IBM公司的深蓝系列电脑,但是目前它们还没有显示出想要获得资源的兴趣.
可是,在我们感到沾沾自喜,确定无需担心时,别忘了有一点非常重要：我们要意识到随着机器越来越聪明,它们的目标也是会变化的.一旦电脑能够有效地重新给自己编程,成功地提升自己的性能,达到所谓的“技术奇点”或“智能爆炸”,那么我们就不能忽视机器在与人类抢夺资源和自我保护的较量中会有胜过人类的风险.
在书中,最鲜明的观点之一是来源于著名的系列人工智能企业家丹尼希利斯,他把即将到来的转变比作生物进化史上最重大的转变之一：“我们现在达到的高度就像是一个单细胞有机体转变为多细胞有机体的高度.我们是变形虫,我们不清楚自己在创造的到底是个什么东西.”
无论怎样,人工智能的进步已经达到了我们从未想过的危险.德雷塞尔大学的电脑风险专家加格跟我说：随着因特网时代的到来和大数据时代的爆炸,“人工智能已经收集了有关我们的许多数据,并输入计算程序,做出预测”,“ 我们无法知道数据被收集的时间,没法保证收集的数据信息是准确的,没法更新信息,或提供必要的信息背景”.甚至在20 年前,几乎没有人会预想到这种风险.前方还会有怎样的危险呢?没有人真的知道,但是提出的问题却值得我们思考.
编译自《纽约客》杂志