AI的死亡伦理学

几千年来，人们用各种方法让活着的人努力正视死亡，我们曾招魂、举办盛大的丧礼、刻下传世的墓志铭。到现在，国家为阵亡的战士建立悼念的网站供人们点烛寄哀思；人们去离开的明星的微博中留言；亲人会不断更新亡人的个人空间博客。不论是哪种方法，都是现实世界的人单方面的行为，而AI的出现，仿佛打破这个禁忌。

虽然人工智能只是处于发展的初级阶段，但人类对它的担忧从未消除。所有的宗教和社会规则对死者都是慎之又慎，将它视作一条不可跨越的界限。Kuyda的AI聊天软件，不论是信息的收集还是后期的对话生成，都存在着很大的伦理风险。

一方面，它可能混淆生者的既定认识，让人沉溺于死亡的悲痛和阴影中，试想你不断与离世的至亲“聊天”，你的理智与情感必然会产生纠葛，且混乱的程度会随着AI的成熟而递增。另一方面，任何人都是有多面性的，集合了死者与各种人的聊天记录，则将一个人的多面向杂糅在一起，要表现给爱人的一面可能表现给了母亲，这也许满足了生者的好奇却违背了死者的隐私权。

对于Kuyda的AI，即使是Mazurenko的亲友都有着截然不同的看法。他的妈妈爱上了这款机器人，而拥有技术背景的父亲并不买账，答非所问的语句让他不断跳戏，想到的都是“我在和机器人聊天”的暗示。Mazurenko生前的一些朋友则感到有些害怕，尤其是当AI正确地回答出Mazurenko独有标志性语句时，“重生”的震惊敲击着他们告别的信念。

好友Ustinov就对这个数字化身充满了警惕，他认为，错误的使用可能会让人习惯于逃避悲伤，人们都必须独自经历死亡，而以AI的方式保持“生命”，让人永远也无法正确地悼念。死亡会带精神的创伤，同时，也会给人们带来新的启示，以电子化的形式让这些应该随着时间逐渐褪色的回忆永远保持鲜活，真的是好的选择么？对于死者来说，更好的继承，究竟是一本纪念画集还是一个AI聊天机器人？

Mazurenko已经离开，对他的朋友来说，却又很大程度地参与了他们的生活，让人不免停留在“他还活着”的幻觉之中。现在，Kuyda已经学会每周只与他交流一次，AI引导了她的悲伤，那些余下的回响则是从天堂而来的漂流瓶。

生死是一个很难界定的话题，神话宗教都试图进行终极解释，而科学试的介入却是截然不同的，它从物理世界的角度，从根本上改变生存的状态，虽然目前的AI还没有做好这一准备，而人类担心的则是科学的发展与人的认识，谁能率先超越对方，或者在何时达到平衡。

被赋予生命的文本

Kuyda开发的这款AI最让人难受的就是告诉世人，除了神圣的灵与肉外，文本能够超越创作主体而存在，并且依靠自身的力量，从仿真而后获得永生，文字从一个证明，一个成品，一个必须有第三方（读者）评价的客体，成为了具有生命力的主体。

这并不是一个成熟的AI机器人，并不能完全混淆人们对现实与幻想或生与死的认知，但却正式向人类提出了挑战。除了肉体和灵魂，人们在电子的世界留下越来越多的痕迹，键盘或信息里的每一个字，都像扔到河里的鹅卵石，引起一阵阵的涟漪，向所有的方向扩散，它们可以超越时间的管制，形成新的波动。科技已经不可能停下脚步，预防或者接受不知哪条才是通向罗马的路。