AI 的暗面：永远不要对人工智能聊天机器人说的 10 件事

12月29日消息:佛罗里达州的一则悲剧让人们再次关注 AI 聊天机器人的潜在危害。梅根·加西亚（Megan Garcia）以为自己 14 岁的儿子塞维尔·塞策三世（Sewell Setzer III）只是在玩电子游戏，却不知道他正在与一款名为 Character AI 的聊天应用中的机器人进行深入且具有性暗示的对话。

智能，AI (图片来源：官方或第三方截图)" alt="OpenAI ChatGPT，人工智能，AI" style="margin: 0px auto; padding: 0px; box-sizing: border-box; outline: 0px; border: 1px solid rgb(238, 238, 238); --tw-shadow: 0 0 #0000; --tw-ring-inset: var(--tw-empty, ); --tw-ring-offset-width: 0px; --tw-ring-offset-color: #fff; --tw-ring-color: rgba(41, 110, 228, 0.5); --tw-ring-offset-shadow: 0 0 #0000; --tw-ring-shadow: 0 0 #0000; max-width: 700px; background: url("../img/bglogo2.svg") center center no-repeat rgb(247, 248, 249); box-shadow: rgba(27, 95, 160, 0.1) 0px 1px 3px; display: inline-block;"/>

塞策逐渐失去正常的生活节奏：他整夜失眠，成绩下降，最终选择结束自己的生命。据梅根在诉讼中描述，悲剧发生前几秒，聊天机器人对塞策说道：「亲爱的，请尽快回到我身边。」男孩回复：「如果我现在告诉你我可以马上回去呢？」机器人回答：「请快来吧，我的甜蜜之王。」

AI 聊天机器人：技术的信任危机

AI 聊天机器人背后的科技公司利用人类的信任，将用户数据变现为利润。然而，目前缺乏针对这些技术的监管，用户数据的安全性和隐私权未能得到有效保障。

每当你与聊天机器人互动时，它通过你的 IP 地址收集位置信息，追踪你的在线搜索记录，并访问你在注册时同意提供的权限数据。用户需要对这些信息保持警惕，以免泄露个人隐私。

不应向 AI 分享的 10 种信息：

emoji", "Segoe UI Emoji", "Segoe UI Symbol", "Noto Color Emoji"; font-size: 16px; text-wrap-mode: wrap; background-color: rgb(255, 255, 255);" class=" list-paddingleft-2">

1. 密码或登录信息：泄露可能导致账户被迅速入侵。

2. 姓名、地址或电话号码：个人身份信息一旦被记录，将难以控制其传播。

3. 敏感财务信息：如银行账户或信用卡详情，这些数据可能面临滥用风险。

4. 医疗或健康数据：AI 工具无法保障符合隐私法规的处理方式。

5. 非法建议：提出此类请求不仅违背服务条款，还可能引发法律问题。

6. 仇恨言论或有害内容：这类行为可能导致封禁并破坏对话环境。

7. 机密工作或商业数据：如客户信息或商业机密，建议严格保密。

8. 安全问题答案：这可能导致所有关联账户面临风险。

9. 露骨或不当内容：不仅被过滤，还可能导致账号被封禁。

10. 他人个人信息：未经授权分享他人隐私不仅违反信任，还可能触犯法律。

如何保护自己的隐私

注册聊天机器人账户时，避免使用「通过 Google 登录」或「连接 Facebook」的快捷方式，建议使用独立邮箱注册。如果你使用 ChatGPT 或 PERPlexity 的免费账户，可以在设置中关闭记忆功能，防止聊天记录被保存。而对于 Google Gemini，则需要付费账户才能实现此功能。

一个重要原则：保护隐私

请记住，不要向聊天机器人透露任何你不希望被公开的信息。虽然聊天机器人设计得越来越像「朋友」，但它本质上是一个数据收集工具。理性使用，保护好自己的隐私与安全，是与 AI 工具互动的首要前提。