ChatGPT 正在偷偷给你画像,用这段提示词让它交出来

2026.11.02 · 收录日 2026.11.02 · 观点 · 论文 · 论文预印本

论文拆开 ChatGPT 记忆黑箱:96% 记忆由系统单方面写入,52% 含心理推断。

一篇被 ACM Web Conference 2026 接收的论文借助 GDPR 数据访问权,获取 80 名用户的完整对话与记忆,共 1058 段对话、22971 轮交互、2050 条记忆条目。研究发现 95.9% 的记忆由 ChatGPT 单方面写入,28% 含个人数据,52% 含对用户心理状态的推断。

  • 2050 条记忆中仅 4.1%(84 条)是用户明确要求记住的,其余 95.9% 由 ChatGPT 自行判断写入
  • 28% 的记忆含 GDPR 定义的个人数据,姓名出现在 41% 的条目里;7% 含特殊类别数据,其中健康信息占 61%
  • 52% 的记忆包含对用户心理状态的推断,欲望(73%)和意图(16%)合计占近九成
  • 84% 的记忆能在对话历史中找到直接文本依据,明确「无依据或矛盾」的仅 4%
  • 研究者用开源模型复刻记忆提取过程,语义相似度约 60%~70%,并搭建 Attribution Shield 预警与改写查询

为什么值得看

看清 AI 记忆如何单方面塑造你的画像,并学会自查。

适合谁关注

ChatGPT 等对话式 AI 的重度用户、隐私关注者。

原始来源

查看收录日 2026.11.02 全部卡片 · 全部卡片归档