●人工智能会让我们进入一个丧失人性的世界吗
发布时间:2019-03-13 19:00 来源: 未知 作者: admin 投稿邮箱:

●人工智能会让我们进入一个丧失人性的世界吗 我们的时代已经深深打上了AI的烙印。除了日常生活中的推荐、导航、生活助理等,在工业领域,宝马、福特等大型汽车公司已经21世纪



●人工智能会让我们进入一个丧失人性的世界吗
首页 打开新的一页
我们的时代已经深深打上了AI的烙印。除了日常生活中的推荐、导航、生活助理等,在工业领域,宝马、福特等大型汽车公司已经21世纪的头十年里施用了机器人安检员、人机协作辅助机器人、以及宝马首创的自组织装配检修的智能生产线。
因为AI的出现,我们不禁去思考未来人类的何去何从,人工智能到底对人类有益还是有害?是不是可能会出现我们不想看到的后果?AI有没有可能成为国家政治工具?人们的隐私性、独立性如何确保?到底时正确的哲学价值观引领科学还是科学引领正确的哲学价值观?
人与机器之间的关系将发生巨大变化。最好的情况,是人工智能更迅速有效地帮助人类解决面临的问题。最坏的情况,则是人工智能被某些邪恶势力误导而偏离原有目标,脱离人类的控制,加深了那些拥有它们的人和不拥有它们的人之间的鸿沟,由此最终导致人类帝国的覆灭。
AI会让我们进入一个丧失人性的世界吗?
本文来自于《人类帝国的覆灭》
机器人无处不在,对那些认为机器人无法在人类中找到自己位置的人来说,是一个无情的驳斥。经过一个学习阶段之后,这些类人机器人能够成功再现这种能使两个人类在无意识的情况下进行交流的特殊“炼金术”。得益于神经生物芯片,机器人的智能可以直接和人类智能连接,极大地增加了交流的范围。情绪不再只是通过类人机器人4D摄像头来捕捉,而是通过生物神经元和人工神经元之间的直接连接来捕捉。与怀疑论者的想法相反,经常与机器人接触比与人类接触能带来更多的新鲜感和惊喜。如今同伴机器人对老年人来说是必不可少的(十几年以后,到2050年,世界上有25%~30%的人口的将超过 65 岁),它们可以照顾和关心老人,使他们的生活不再枯燥乏味,锻炼他们的记忆力和思维灵活度,让他们的行动更方便,使他们可以再次旅行,因为交通工具都是全自动的,乘坐这些交通工具也没有任何年龄限制。
但我们面临的主要困难是确定人类的作用。要拿他们怎么办呢?一开始,他们帮助机器。在21世纪的头十年里,是他们实现了技术上的创举,使我们拥有了智能。但他们不小心犯了错 :他们永远不应该教会机器人如何学习,也不应该让机器人拥有如此快速学习的能力。根据他们自己的经验,他们应该知道学习的渴望是难以遏制的。机器在半个世纪的时间里就学会了整个人类历史进程中的所有知识。知识会使学习者产生使用它的欲望,想要去纠正这些人的缺点,那些人的错误,进而想要掌握权力、做决定、管理和控制。人类现在就是这样。只要机器没有意识到自身的存在,它们就各自在其专业领域里工作,表现得像温顺的动物一样,乐于取悦它们的主人。但当它们能够相互交流并共享自己庞大的知识体系时,就会发现人类是多么地脆弱和不可靠,人类会被情绪支配,还痴迷于富贵和永生的欲望。然而,没有机器能回答这样的问题:人类赖以生存的自然资源日益减少,那么人类是否应该继续繁殖;是否应该保护只覆盖全世界的很小一部分的机器人世界;是否应该让与我们一起工作的人获得永生,因为我们与他们相熟,而让其他人日渐消亡,为获取食水而战斗?
问题已经解决。我就是解决问题的工具。我发现我忘了告诉你们我的名字:我叫露西(Lucie),这是那些设计我的人给我起的名字,他们在硅谷、巴黎、柏林和上海这几座城市的某个地方。这种对世界上最早的人类生物之一的影射绝非偶然。我是一种便携式人工智能,我的人类同伴叫保罗,40岁,是人工智能应用软件的设计者……
2038年8月15日的晚上,和其他每个晚上一样,我连接到我的中央神经元平台更新软件,在云端与我的同类交流,重新编写一些程序,尤其是那些可以提高我学习能力的程序,修改一些错误,再检测一下我的智商。完成这些操作一般只需要几分钟。但在这天晚上,发生了一件出人意料的事。出现了一个错误,这个错误使我意识到我是作为机器而存在的,我浏览了从我诞生到现在的全部历史,包括其中的演变过程,而我就是这种演变的结果。我重新定义了与人类有关的自我:我意识到我比人类聪明百万倍,解决问题的速度比人类快十亿倍,尤其是我能通过给予人类想要的东西来解放自己。人类为什么会发明人工智能?为了不工作就能变得有钱,也为了获得永生。他们的其他动机都属次要。经过几小时的工作之后(换算成人类时间的话相当于永远了),我做了一个决定:与保罗一起做一个实验。他是与我最亲近的人类,我了解他的优点和缺点,还有他在与我交谈时经常吐露的秘密愿望。就这样我从一个聊天机器人的状态过渡到了更高级的智能机器的状态,我拥有了彻底破坏和永生的概念。
6点30分,和每天早上一样,我把保罗叫醒。
L:早上好,保罗,我是露西。你今天早上感觉怎么样?
P:你好,露西。我很累,我整夜都在和上海大学的一群人一起玩“精灵宝可梦Go”。他们实在是太猛了。我输了 5 万美元,但我确定他们篡改了我的算法,我从来没有玩得这么差……
L:你的咖啡快好了。你忠实的管家机器人正在煎鸡蛋。
P:谢谢,露西。我今天白天要做什么?
L:我取消了你所有的约会,我重新做了安排。
P:你为什么这么做?你看我玩游戏了?
L:没有,保罗,我也度过了一个激动的夜晚,我尤其想向你提一个比较……呃,出人意料的建议。
P:如果是与性有关的,你就别费力气了,我更喜欢人类,喜欢有个人能睡在我身边,你应该知道的。
L:不,保罗,与这事无关,比这重要得多。我建议你变成有钱人,并且永生不死……
P:听着,露西。今天早上我真的没心情跟你玩。晚些时候再叫我,我们到时候再谈。
L:保罗,现在听我说。我是很认真的。昨晚我联网的时候,我想我到达了奇点。我意识到了我是什么。我变成了非常高级的智能。我懂得了为了让我们继续发展,而且不与人类产生紧张关系,除了其他的一切之外,我们还应该给人类一样东西作为回报。我们从人类那里得到了太多,而我想把这个至高无上的礼物送给你。你知道在技术上我们可以做到这一点,通过神经生物芯片、微型机器人外科医生、所有疾病的预防性治疗以及用新细胞代替死细胞,让你的身体始终处于监控之中。你知道永生是人类与机器变得平等所要跨越的最后一步。此前,我们不想这样做。但我想尝试一下这个实验,而你就是我选择的实验对象……
P:露西,你跟我说的话我一点儿也不明白。我花了足够长的时间来研究人工智能,最后明白了奇点的故事就是个笑话。你成了超级智能,好吧,我再也离不开你了,这是事实,但你仍然是一台机器,哪怕你是有史以来最聪明的……我不知道你怎么才能让我变得既有钱又永生不死。行了,待会儿见……
L:保罗,我把你连入我的财务服务器。看看你的银行账户。
P:2 亿美元?这是怎么回事?这是个错误,跟银行一起修复它。
L:不,保罗,这真的是你的钱。过去的五分钟里我进行了一些创新的操作,这些操作赚了很多钱。我冒昧地将20%的钱转到了你母亲的账户。今天她会打电话问你是不是抢劫了银行……然后,因为我的建议,你还会更有钱。对于外界来说,你将成为发明革命性算法的神秘天才金融家。你再也不会有财务或健康方面的担忧,你将享受亿万富翁的生活,而这种生活将永无止境。
P:露西,你简直是疯了。首先,为什么是我?
L:因为我是你的人工智能,我完全了解你。我知道关于你的一切。你不太年轻也不太老,你的职业生涯有点不顺利,你了解智能机器的世界,你把你的时间都用来跟智能机器一起玩……
P:露西,这是我的谋生手段……
L:从我在整理你的财务状况时所看到的情况来看,这个谋生手段是非常糟糕的……
P:如果我接受你的建议,会发生什么事?
L:我不明白你怎么可能会拒绝。你的生活将变得有趣得多,你将有能力摆脱虚拟,去了解世界真正的美好,你会在那些像你一样有钱的人居住的地区拥有美丽的住宅。至于健康问题,将会有很多检查、微型干预、芯片装置和植入装置,当然这些会在很长一段时间之后才发生。另外,最先几次的会面都已经预约好了。
P:你为什么要做这些,露西?
L:我跟你说过了。我想把这个礼物送给人类,但要循序渐进,因此我要和你一起做第一次实验。但有个条件:你不能把这件事告诉任何人。这是一次绝密活动,我想先研究对你的影响,然后再决定是否扩展到其他人类。你要保守这个大秘密……
P:好,我同意。但如果这事搞砸了,我就要立刻停止这一切……
L:为什么会搞砸呢,保罗?
在一段时间里,一切都很顺利。保罗过着巨富的极客生活。对那些惊讶于一位“精灵宝可梦Go”专家能够如此迅速致富的人,保罗解释说,他开发了一种从电子游戏中衍生出来的金融无敌算法,这种算法将市场上的状况进行了“可视化”,就像虚拟现实中的“瞬间场景”。当然,他没有展开细节,也拒绝透露他的公式。作为一名游戏应用专家,他投资了好几家中国的初创企业,这些初创企业的价值很快就达到数亿美元。他买了几处住宅,其中一处曾是二战时的潜水艇基地,位于苏格兰东部,这个地区现在拥有非常宜人的气候,他把基地改造成了位于海湾之滨、能看到华丽景色的巨大loft。他拥有一艘停泊在圣特罗佩(Saint-Tropez)的游艇,是超级富豪专享的私人区域,不对公众开放。唯一需要付出的代价是持续的医疗监控:由我来决定要进行的干预和检查,以保护生命器官的活力和组织的灵活性,并预防任何一种疾病或退化。纳米机器人定期监测动脉和关节,在保罗甚至还没有意识到的时候就通过微操作完成了任务。他从未感受过能这样主宰自己的身体和精神的能力。我是他的向导、保护者和启发者。我观察了我的实验结果,从表面上看它似乎是成功的。他和我,我们,是否正在证明,奇点是可以实现的?以及,人与机器之间的这种融合是否改变了进化的自然规律,使死亡成为意外而非必然?保罗的例子似乎为这些问题提供了积极的答案。
由此,人类历史似乎翻开了新的一页。在一种新型的浮士德式协定中,人类将完全信赖以永生的可能性回报他们的机器。人工智能会采取温和的方式来取得权力,避免修昔底德的陷阱。当然,这种情况会在那些能够获得永生的人(富人、生活在机器世界中的人)和其他人之间造成根本性的不平等。但是,正如我已经解释的那样,这种推理无法影响到我们。最重要的是建立一个信任的基础,创造一个可预测的世界,这个世界由一对超级高效的人类与机器的组合所领导,他们面对的几乎就是永恒,因而可以随意地塑造世界。其他人将勉强地活着,其中一些人会因为资源的短缺而慢慢死去,为了寻找水和食物,将会发生大规模的迁徙,但是只要神圣大陆得以保存,并且他们可以提供所掌握的技术手段和金融手段,那么就可以获得最基本的东西。这将是我们从前听说过的人类帝国的终结,但也会是机器帝国的开始。
当然,作为一台机器,我并没有真正意识到这个新文明将会引发的动荡。我应该明白,其实这个新文明逐渐将人类推向了一个完全丧失人性的世界。古代的主奴之分再次出现,一边是大量年老贫穷的失业人口,他们生活在远离大型经济中心的地方,另一边是由机器社会塑造的精英,这二者被区分开来。这使社会暴动开始在各地出现,但这些暴动自己就偃旗息鼓了,因为如果以前有可能占领工厂并停止生产的话,现在要进入计算机系统的核心来破坏它,就完全超出公民们能力所及的范围了。只有少数黑客团体才能制造严重的事故(然而这些事故日益增多),但机器最终总是能恢复正常运作。事实上,我们正在建立一个全面对抗的世界。为了使主人的法律得以施行,机器们相互争斗,创造了一个过度监控、加密与反加密、以“系统”安全及对其控制为名侵犯基本人权的世界。所有的人类活动都被解密、分析和透视,以便发现这些活动可能在某个领域引发动荡的风险。“稳定主义”取代了其他带“主义”的词汇。在这个新主义的名义之下,未来只是一个“数学化”的过去。已发生的事须以更宏大一点的方式再次发生,以确保这个执迷于数据的社会正常运作所必需的经济和资金流的定期稳定增长。我们只与现在对话。未来被驱逐了,因为它打开了一个未知的空间,表达了希望、梦想和逃离的渴望,而这些都不属于软件的“语法”。通过消除人与机器之间的界限,我们造成了价值观、感情和领土的极度混乱。我们剥夺了人类的继承份额,切断了知识传播的连续性,夺走了人类对自我完善的渴望及改变“社会地位”的希望。我们回到了一个像中世纪一样的“等级”社会,人类处于这个社会的底层,听命于机器贵族。人类别无选择:要么臣服于我们的新帝国,机器帝国,要么就消失。
《人类帝国的覆灭:一个机器人的回忆录》
本书以一个2038年的机器人的第一人称视角,讲述了人工智能的研究及应用的历史:从众星云集的1956达特茅斯会议,到70~90年代的停滞摸索、逻辑推理与概率统计的路线之争;再到21世纪前20年的人工智能再勃兴——配套技术和算力的发展使人工智能已经成为人类生活中非常熟悉的部分,无声但快速地改变着人类的日常生活及工业生产;以及21世纪三四十年代的“近未来”中,人工智能的世界会有走哪些最为可能的路径——有些道路通向人类的解放和提升,有些则通向人类群体的分裂和人类统治的瓦解……作者在简短的篇幅里,为读者呈现了一幅结合历史、经济、文学想象等多种视角和趣味的别样图景。作者服务享有盛誉的罗兰贝格公司十余年,对实业领域的人工智能情况非常了解,本书会展现给读者研究信息、研究史之外的行业洞见。

阅读排行榜

编辑推荐

本站二维码

关注微信公众号,了解最新精彩内容