财新传媒
位置:博客 > 陈志刚 > 郝景芳:在AI的彼岸观照此岸的人,不完美的人更美

郝景芳:在AI的彼岸观照此岸的人,不完美的人更美

在AI的彼岸,如何观照人的此岸?

在一家名为妙手回春之称的医院,钱睿因为自己的母亲病重在就医发现了一个惊天的大秘密:这家医院把病危脑部意识和记忆转移到新的身体上制造新人,从而让人可以获得新生命。在他联合自己的朋友不断进出医院调查,并计划起诉这家医院谋杀等罪名的时候,却不知道一个更为惊人的秘密在等待着他,并需要他自己做出道德和伦理的选择:他自己就是一个脑补植入了AI芯片的新人,并且整个社会已经有几千万人都是不知道自己是新人的人,如果他把医院告上法庭,那么可能无异于谋杀几千万人,何去何从,钱睿需要做出自己的选择……

知名雨果奖获得者,北京折叠的作者郝景芳女士在她的新书《人之彼岸》的第二个故事《永生医院》为读者展开了一幅因为人工智能的出现所带来的社会与家庭,道德与责任的冲突画面。

这种冲突在郝景芳的笔下随处可见,并且源于现代人生活工作的细致入微的观察。女性作家特有的细腻和思考问题的角度,为郝景芳解构人工智能提供了独特的优势,在这本书的第一个故事《你在哪里》中,郝景芳用一个女性的视角告诉我们,人格优化尽是积极和理性的AI并不是最优的,因为人之所以为人,就是因为他有积极的一面,理性的一面,也有负面的,非理性的,不确定性的存在。

这是郝景芳希望向公众表达的有关人工智能的最重要的观点,高级人工智能并不能变的像人一样,在这本书的严肃思考的第二部分《离超级人工智能的到来还有多远》中,这位女作家依靠自己的物理学背景指出人工智能依然存在三朵乌云:综合认知能力/理解他人的能力和自我表征能力,都是人工智能难以突破的瓶颈。

所以在这本书的第一个故事中,一位人工智能分身机器人创业者因为工作繁忙无法陪伴自己的妻子,就安排自己的分身陪妻子过生日,却在妻子告诉他:“它会生气吗?它连气都不会生”时,意识到自己产品失败的关键问题在哪里?

因为人工智能基于数据和理性,并不能理解他人。

或许人工智能可以让一切变的更有效率,一切更是井然有序,在人工智能的世界里,一切都是合乎逻辑的,更加符合经济学家对理性人的假设,但是那却不一定是一个更美好的世界。

是的,理性并不必然带来快乐和幸福。

在第五篇《人之岛》故事中,肩负为人类寻找新的家园的船长凯克因着陆失败在医院救治过程中遇到一位美丽的护士并爱上她,但是这是一位无时无刻不在通过与超级人工智能宙斯连接辅助决策的女人,宙斯根据她的数据已经为她匹配了一位丈夫,她感觉她爱他。郝景芳通过凯克船长表达了保留人类自己的情感是多么重要:“DNA匹配并不是爱”。只有令人心动的激情才是爱的感觉。而保留这种激情,则正是人工智能与人的最大不同。

因为此岸的人需要爱,两性之爱的存在构建了人类社会的基础,围绕两性之爱,人类社会的制度/伦理不断演化,家庭得以存在,得以延续。

而彼岸的人工智能只是硅基材料的复制,无性繁殖使得AI化的智能并不需要两性之爱,所以在人之岛的故事中,郝景芳为人类安排了一个逃离超级人工智能控制保存正常的人的净土。

这是理性与激情的冲突。

理性之所以被我们追求和向往,恰恰是因为我们的激情的存在,导致的不确定性。而不确定性构成了人类进步和个体快乐和痛苦的源泉。

作为此岸的人,之所以为人,不就是一生为了体验世间诸般痛苦与快乐吗?但是只有自由的人才能获得为人的价值,凯克船长一句话令我难忘,他说:自由意志就是你能主动选择最小概率的路。

人工智能不会这样,因为这不符合理性之原则。

郝景芳在这本书中,通过对人工智能彼岸细腻的描述,让我们反思此岸的我们,一些在人类孜孜不倦试图通过科技进步消除的东西是否真的是必要的?

而在这本书中,我们可以隐约看到郝景芳对奥威尔的《1984》的致敬,《战车中的人》的故事主角是《1984》的交战国一方i大洋国的士兵,而在《爱的问题》/《人之岛》中都存在一个凌驾于人类之上的超级人工智能体,这些智能体有自己的诉求和意识,在郝景芳的笔下,他们尽管已经担负起人类的管家/决策者/秩序的保护者,但是依然有顽强的来自正常人的反抗,爱的问题中的哥哥科学家对父亲的反抗,人之岛凯克对宙斯的反抗。

这种反抗是为了保留人之为人的根本,并不是单纯的智能体的关键。

这本书是在人工智能大热的背景下,由一位女性作家给我们带来的反思和观察,这也是一本令人读起来爱不释手的书,每一个故事如果你读了开头,你将不得不一口气读完直到你看到结局。


 

推荐 3