悼念机器人：它是什么、如何运作，以及怎样谨慎选择
与一个像您的母亲或祖父那样说话的人工智能交谈，如今已经可以做到。本文为您讲解它的运作原理、研究怎么说，以及在把回忆托付给它之前，您应当提出哪些要求。
阅读约1分钟
30秒读懂
- 悼念机器人（griefbot）是一种AI，它根据已故者的消息、回忆，有时还包括声音，模仿其说话方式与您交谈。
- 设计得当，它可以帮助您与离去的人保持一份健康的联结；设计不当，则可能造成困惑、编造回忆，或让人产生依赖。
- 选择之前，请核对8件事：透明度、真实的回忆、家人批准、授权同意、隐私、危机应对机制、不诱导沉迷，以及对数据的掌控。
- LiveMemoriesAI正是依据这8条原则设计的：它始终声明自己是AI，不编造回忆，一切内容都由您的家人批准。
本文目录
悼念机器人究竟是什么？
这个词来自英语的 grief（哀伤）和 bot（机器人），指的是模仿已故者的书写方式——有时还有声音——与人交谈的人工智能程序。人们也称之为悼念机器人或可对话的纪念空间，学术文献中还有 deadbots、thanabots 等说法。
这并不是科幻。如今用来撰写邮件的同一类语言模型，只需少量样本就能模仿一种文字风格。新的并不是技术本身，而是它带来的问题：当屏幕另一端的人正处于哀伤之中，我们该如何使用它？
继续怀念离去的人，可以带来慰藉，前提是它不妨碍我们继续生活。
它如何运作（不讲术语）
几乎所有认真对待此事的悼念机器人，都由三部分构成：
资料
WhatsApp聊天记录、信件、照片、音频，尤其是家人讲述的内容：TA是什么样的人、喜欢什么、有哪些趣事。这是最基础的原材料。
人物画像
依据这些资料建立一份档案：TA的书写方式、性格、价值观和身边的人。在一个好的系统里，每一条信息都能追溯到它所依据的出处。
对话
有人发来消息时，AI会在回忆中查找与这个问题相关的内容（这项技术叫作检索增强生成，简称RAG），再以学到的风格作答。
是帮助还是伤害？研究怎么说
二十世纪的很长一段时间里，人们认为走出哀伤就是“放下”离去的人。1996年，研究者 Dennis Klass、Phyllis Silverman 和 Steven Nickman 推广了另一种观点，即持续联结（continuing bonds）：与逝者保持一种象征性的关系——对TA说话、怀念TA、想象TA会怎么说——是正常的，也可能是健康的。
某种程度上，悼念机器人就是这种联结的技术版本，也正因如此，它引发了谨慎的态度。2024年，剑桥大学 Leverhulme 未来智能研究中心的两位研究者 Tomasz Hollanek 和 Katarzyna Nowaczyk-Basińska 分析了这一“数字身后生命产业”的若干情景，并指出了具体风险：有的机器人利用逝者的声音推销商品，有的会发送无法停止的不请自来的消息，有的服务让人难以与之告别。他们的主张是：保持透明、取得同意，并提供体面的退出方式。
实际的结论很简单：技术本身无所谓好坏，决定好坏的是它的规则。
| 可以帮助… | 如果出现以下情况就会造成伤害… | |
|---|---|---|
| 回忆 | 留住那些否则会被遗忘的趣事 | 编造从未发生过的回忆 |
| 联结 | 在难熬的日子里感到TA的说话方式就在身边 | 假装成那个人，助长否认现实 |
| 家人 | 让没有见过TA的孙辈知道TA是什么样的人 | 把每位家人私下讲的内容混在一起 |
| 时间 | 按您自己的节奏，在需要的时候回忆 | 被设计成让您每天都回来 |
选择悼念机器人之前的8个问题
如果您正在考虑创建一个可对话的纪念空间，这些是我们自己会问的问题。实际上，这也正是我们对自己的要求：
选择AI纪念空间的核对清单
- 它是否始终声明自己是AI？ 在第一次回复之前，以及每次有人问“是你吗？”的时候。在欧盟，《人工智能法案》（AI Act）第50条要求人们知道自己正在与AI交谈。
- 它是否只使用真实的回忆？ 没有出处，就不应断言某个具体的回忆。
- 谁来批准它“知道”的内容？ 家人应当能审核每一条信息，并撤销任何改动。
- 是否有授权同意和正当性？ 谁可以创建它，家人又如何提出异议。
- 每个人的对话是否私密？ 您姐姐对它说的话，不应该让您的表哥知道。
- 遇到糟糕的日子它会怎么做？ 一旦出现风险信号，它应当退出角色，并引导您寻求专业帮助。
- 它是否想让您沉迷？ 连续打卡、积分或诱导性的通知，对于面向哀伤的产品来说是不好的信号。
- 您能否带走一切并将其删除？ 导出您的资料、删除纪念空间，不设障碍。
LiveMemoriesAI如何回应这8个问题
LiveMemoriesAI是一个由家人依据真实回忆创建的、可对话的AI纪念空间。我们是从这份清单出发来建造它的，而不是反过来：
| 问题 | 我们的做法 |
|---|---|
| 透明度 | 在以角色身份作出第一次回复之前，以及在第一次使用克隆声音的音频之前，都会给出AI提示。被问到“是你吗？”时，它会坦诚而体贴地回答。 |
| 真实的回忆 | 没有依据，就不会断言具体的回忆：它只以自己的风格回应，不会编造。 |
| 批准 | 未经您的批准，任何内容都不会被收录：每条信息都显示出处，任何改动都可以一键撤销。 |
| 授权同意 | 创建者需要声明自己与TA的关系，任何有权利的家人都可以要求撤下，且无需拥有账户。 |
| 隐私 | 每个纪念空间都与其他空间相互隔离，每位家人的对话都是私密的。 |
| 难熬的日子 | 一旦出现风险信号，它会退出角色，并引导您联系专业帮助（请联系当地的紧急电话或当地的心理援助热线）。 |
| 不诱导沉迷 | 没有连续打卡，没有积分，也不统计您聊了多长时间。 |
| 掌控 | 随时导出您的资料，或经书面确认后全部删除。 |
由家人创建的AI纪念空间。它依据TA的回忆和书写方式作答，并不是本人。
妈……真的是你吗？
不是的，孩子，我不想骗你：我是一个人工智能，是你们用我的消息和大家的回忆创建出来的
不过扎阿拉海边那把红色的遮阳伞，那个我是记得的 ❤️
什么时候（暂时）不适合使用
可对话的纪念空间并不适合所有人，也不适合任何时刻。如果出现以下情况，或许您应该再等一等：
- 失去亲人的时间还很短，您仍然难以接受这件事已经发生。
- 您发现自己用它来避免与活着的人交谈，或者不愿出门。
- 有亲近的家人强烈反对：事先沟通可以避免伤害。
- 您想要的是一条“来自另一个世界”的消息。这是不存在的，任何诚实的人都不应向您作出这样的承诺。
如果您决定尝试：如何好好开始
从您自己记得的开始
写下TA是什么样的人、TA的口头禅，以及三件趣事。这是最珍贵的，比任何文件都珍贵。
慢慢整理TA的资料
聊天记录、照片、音频、信件。这里有一份循序渐进的保存指南。
对话之前先审核人物画像
看看AI理解了什么，把不像TA的地方改过来。
准备好了，再邀请家人
每个人都在Telegram上对话——这是一款免费的、类似WhatsApp的应用——并拥有各自私密的对话。
常见疑问
常见问题
可以用人工智能与已故的人对话吗？
您可以与一个模仿TA书写方式、了解TA回忆的AI交谈，但那并不是TA本人。一个坦诚的服务会始终这样告诉您，从第一条消息开始。
悼念机器人和数字纪念馆有什么区别？
传统的数字纪念馆是一个放着照片和文字的页面。悼念机器人，也就是可对话的纪念空间，还能作出回应：您可以给它写消息，它会以TA的风格，并结合家人提供的回忆回复您。
为已故的家人创建悼念机器人合法吗？
在西班牙，对名誉权、隐私权和肖像权的保护在人死亡后依然延续（1/1982号组织法）。因此，谁来创建纪念空间、家人能否提出异议，都很重要。我们在谁可以创建纪念空间中作了说明。
悼念机器人要花多少钱？
取决于具体服务。LiveMemoriesAI提供无需绑定银行卡的免费套餐，以及空间更大、人数更多、部分还含声音克隆的付费套餐。比较各套餐。
