为什么人工智能的“奇点”要来了？
1965年提出的摩尔定律预言了计算机技术的飞速发展。50年后，这一定律将不再适用，但伴随计算机技术诞生的人工智能已经足够成熟和强大，足以引发新的担忧。2009年，威尔士大学和剑桥大学联合开发的机器人已经能够独立进行科学研究和发现。同年，康奈尔大学的计算机项目从钟摆的摆动中总结出运动规律。机器越来越聪明是不争的事实，那么有一天，它们真的会超越人类吗？
1983年，数学家Vernor Vinge提出了技术奇点的概念。他将奇点定义为人工智能超过人类智力极限的时间点。那一刻之后，世界的发展将超出人类的理解范围。从此，“技术奇点”似乎成了一把达摩克利斯之剑。起初，只有一些科幻作家和所谓的“未来主义者”和“先知”觉得它存在。但随着计算机技术的发展，越来越多的科学家、经济学家和企业家，如技术专家、太阳能微系统创始人比尔·乔伊和经济学家罗宾·汉森，开始担心他们头顶上摇摇欲坠的锋利边缘。即使是热门美剧《生活大爆炸》第四季第二集，故事也是围绕奇点的到来时间展开的。
2009年，库兹韦尔和X-Prize创始人彼得·迪亚曼迪斯* * *(Peter Diamandis * * *)成立了奇点大学，致力于“聚集、教育和激励一批核心领导者，以应对科学技术指数级增长下人类所遇到的重要挑战”。看来人类的保卫战迫在眉睫。这所大学是在谷歌、欧特克、美国基因技术公司等的共同支持下建立的。它有三个项目，涵盖机器人、医学、生物技术、数据科学和企业管理。与其想要实现的总体目标相比，大学现在似乎只是一个前沿技术和人才交流的平台和初创企业投资的跳板，“用技术解决技术带来的挑战”是否可行，还有待观察。
在考虑如何应对奇点危机之前，我们应该多想想奇点之后的世界会怎么样？后奇点世界的核心问题包括人工智能如何具有自我意识、人与机器结合的生物学定义、机器与人关系的进化等。古往今来，科幻作家绞尽脑汁将这些想法合理化，认为最成功的解释来自英国作家查尔斯·斯特罗斯。在他的短篇小说集《加速》中，奇点之后的人类只是作为机器剥削的对象而存在，而太阳系则变成了智慧远超人类的Matrioshka大脑，通过虫洞与宇宙中其他类似的智能体交流。人性的存在已经不重要了，就连小说的主角也是人和电脑的结合体。
是不是听起来太玄乎了？这时候我们可能会想到乐观的阿西莫夫和他的机器人三定律，开始怀疑技术奇点在不久的将来是否真的存在。阿西莫夫还设想了一个后奇点世界——在这个世界里，人工智能和“后人类”同时存在，但人工智能仍然采取服从后人类的命令——如果人类以更高级的方式统治地球，那么奇点的意义自然会消失。一个更直接的反对意见来自认知科学家史蒂芬·平克。他认为圆顶城市、核能汽车等很多科学幻想都没有实现，技术奇点很可能是个伪命题。企业家兼工程师马丁·福特(Martin Ford)以更理性的方式分析了技术奇点的可能性。他认为，这一命题存在“技术悖论”——在达到技术奇点之前，大量的劳动力必然已经被机器取代，由此产生的大量失业将导致需求的线性减少，从而降低科技投入的动力，阻碍技术发展到“奇点”水平。
一个更激进的想法是“奇点”已经到来。早在人类开始钻木取火的时候，工具对人类的统治就开始了。谁能说现代人类的价值观，包括人性，不是工具时代塑造的？所以，真正的问题不是奇点会不会来。既然技术进步是一个不可阻挡的过程，那么面对技术的全面进攻，人类是否有信心延续自己的价值观，是一个亟待回答的问题。