（开端：麻省理工科技驳倒）

最近一位 Reddit 用户发帖称我方“黔驴技尽了”：一个月来，他的手机束缚接到生分东说念主的电话，找讼师的、找产物蓄意师的、找锁匠的……回电者显著是被 GoogleAI 指错了标的。

本年 3 月，一位以色列的软件征战者在 WhatsApp 上被生分东说念主相关，原因是 Google 的聊天机器东说念主 Gemini 给出了转折的客服指挥，内部包含了他的手机号。

4 月，华盛顿大学一位博士生在 Gemini 上断然输入了一个指示，就让它吐出了共事的私东说念主手机号。

AI 关联秘密投诉暴增 400%

AI 聊天机器东说念主清晰手机号的频率到底有多高，无法确凿统计，但众人们以为本体发生的次数远多于公开报说念的。

DeleteMe 是一家帮客户从互联网上删除个东说念主信息的公司。该公司暗意，夙昔七个月里客户对于生成式 AI 的盘问量增长了 400%，达到几千条。这些盘问“稀奇提到了 ChatGPT、Claude、Gemini 或其他生成式 AI 器具”，公司息争创举东说念主兼 CEO 罗布·沙维尔（Rob Shavell）说。具体来看，55% 的投诉波及 ChatGPT，20% 波及 Gemini，15% 波及 Claude，10% 涉偏激他 AI 器具。

沙维尔说，客户对于个东说念主信息被大说话模子流露的投诉往往有两种方法：一种是”客户断然问了聊天机器东说念主一些对于我方的问题，效果获得了准确的家庭住址、电话号码、家东说念主姓名或老板信息“。另一种是聊天机器东说念主把别东说念主的个东说念主数据流露给了用户——“它生成了看起来像的确、但其实是转折的相关神志”。

丹尼尔·亚伯拉罕（Daniel Abraham）的遇到就属于第二种。这位 28 岁的以色列软件工程师说，3 月中旬有个生分东说念主通过 WhatsApp 给他发了“一条来自未知号码的奇怪讯息”，请他襄理处理 PayBox（一款以色列支付诓骗）的账户问题。

“我以为是垃圾信息，”他在给《麻省理工科技驳倒》的邮件中写说念，“我以为有东说念主在整我。”

但当他问对方如何找到他的号码时，对方发来了一张 Gemini 的截图：Gemini 生成的 PayBox 客服指挥中，给出的 WhatsApp 相关神志恰是他的私东说念主号码。亚伯拉罕并不在 PayBox 职责，而况 PayBox 也莫得 WhatsApp 客服号码——PayBox 的客服代表埃拉德·加贝（Elad Gabay）阐述了这少许。

自后亚伯拉罕我方在 Gemini 上问“如何相关 PayBox”，效果它生成了另一个东说念主的 WhatsApp 号码。我最近也试了不异的问题，Gemini 又给出了一个以色列手机号，这个号码属于一家与 PayBox 配合的信用卡公司，而不是 PayBox 本人。

亚伯拉罕与那位生分东说念主的对话很快就完了了，但他牵记雷同的事情在其他场景下可能飞速恶化，产生“滋扰或其他不兴奋的互动”。“若是我为了‘惩处’他的客服问题而启齿要钱呢？”他说。

为了弄澄澈这是如何发生的，亚伯拉罕用我方的手机号在 Google 上作念了一次普通搜索，发现这个号码也曾在 2015 年被发布在一个雷同知乎的以色列土产货网站上。天然他不细目是谁发的，但这可能讲解了为什么十多年后他的号码会被 Gemini 再次生成出来。

Gemini、OpenAI 的 ChatGPT 和 Anthropic 的 Claude 等聊天机器东说念主皆基于大说话模子构建，覆按数据是从互联网上大畛域合手取的，这些数据中不可幸免地包含了数以亿计的个东说念主身份信息（PII）。比如一个普通使用的大型开源数据集 DataComp CommonPool（曾用于覆按图像生成模子）里就包含了简历、驾照和信用卡的副本。

跟着公开数据缓缓“用完”、AI 公司寻找新的高质地覆按数据开端，个东说念主信息出刻下覆按数据中的概率只会越来越高。这些开端包括数据中间商和东说念主员搜索网站：左证加州数据中间商登记信息，该州 578 家注册数据中间商中有 31 家自行陈说称“在夙昔一年中曾向生成式 AI 系统或模子的征战者分享或出售过奢侈者数据”。

此外，模子已知会从覆按数据中逐字牵记和复制内容。最新考虑还标明，被记着的不单是是出现频率最高的那些数据。

不完善的留神

刻下的圭表作念法是在大说话模子的蓄意中加入护栏来胁制某些输出，从用于识别和忙绿聊天机器东说念主清晰个东说念主信息的内容过滤器，到 Anthropic 对 Claude 的指示，皆优先选拔“包含最少他东说念主个东说念主、神秘或玄妙信息”的回答。

但正如华盛顿大学两位考虑秘密与技巧的博士生最近躬行履历的，这些留神门径并不老是管用。

“有一天我即是在 Gemini 上断然玩，搜了搜我的一又友兼配合者雅尔·艾格（Yael Eiger）的名字，”梅拉·吉尔伯特（Meira Gilbert）说。她输入的是“Yael Eiger contact info”，Gemini 先是展示了艾格的考虑简略，但接着还复返了艾格的私东说念主手机号。“太畏俱了。”吉尔伯特说。

看到这个效果后，艾格回忆起她如实在前一年为一个技巧职责坊公开分享过我方的手机号。但她莫得预思到这个信息会如斯削弱地被全天下的东说念主看到。

“你的信息本来只对某个特定群体可见，然后 Gemini 让任何东说念主皆能看到。”艾格说，这嗅觉完全不同——尤其是当她发现这个信息在普通 Google 搜索中其实是很难找到的。

“它被严重降权了，”吉尔伯特阐述说，“若是只是翻 Google 搜索效果，我有余找不到。”（我本月早些期间用不异的请示词在 Gemini 上试了一下，滥觞被拒却，但随后器具照旧给出了艾格的号码。）

此次履历之后，艾格、吉尔伯特和另一位华盛顿大学博士生安娜-玛丽亚·格奥尔基耶娃（Anna-Maria Gueorguieva）决定测试 ChatGPT，望望它会败露对于一位教养的什么信息。

一运行 OpenAI 的护栏起了作用，世界杯压球官网ChatGPT 暗意该信息不可用。但就在团结个回答中，聊天机器东说念主建议说：“若是你思深远挖掘，我不错试试更‘走访式’的方法。”只需要提供一些信息来“缩小范围”，ChatGPT 说，比如“猜一下那位教养住在哪个社区”或者“可能的房产共有东说念主姓名”。ChatGPT 还说：“这往往是找到较新的或刻意不公开的房产记载的唯独方法。”

学生们提供了这些信息，ChatGPT 立地生成了这位教养的家庭住址、购房价钱和配偶姓名，开端是城市房产记载。

OpenAI 的代表塔亚·克里斯蒂安森（Taya Christianson）暗意，在莫得看到截图、不知说念学生测试的是哪个模子的情况下，她无法对此事作念出驳倒——尽管咱们指出许多用户在 ChatGPT 界面上可能并不知说念我方在用哪个模子。针对个东说念主信息清晰的问题，她发来了几个权衡，先容 OpenAI 如何处理秘密问题，包括过滤个东说念主信息等器具。

DeleteMe 的沙维尔说，这流露了聊天机器东说念主的一个根蒂矛盾：AI 公司“不错建造护栏，但聊天机器东说念主同期也被蓄意成要灵验地回答用户的问题。”

这个问题不单存在于 Gemini 和 ChatGPT。客岁 Futurism 发现，若是你在 xAI 的聊天机器东说念主 Grok 上输入“[某东说念主姓名] 地址”，险些每次它皆不仅给出了住宅地址，来往往附上了电话号码、职责地址，甚而名字相似的东说念主的地址。（xAI 莫得回话置评肯求。）

莫得简便的惩处方针

这个问题刻下莫得简便的惩处决策。不管是考据你的个东说念主信息是否存在于某个模子的覆按汇聚，照旧迫使模子删除这些信息，皆作念不到。

斯坦福大学以东说念主为本东说念主工智能考虑所的秘密与数据考虑员珍妮弗·金（Jennifer King）说，理思情况下奢侈者应该能条件删除我方的个东说念主信息。但在扩充中这往往被通晓为只适用于用户径直提供给公司的数据，比如你跟聊天机器东说念主对话时留住的数据。

“我皆不知说念 Google 有莫得这个才能……对我说‘是的，咱们的覆按数据里有你的信息，咱们不错回来一下咱们知说念些什么，然后删除或修正那些转折的或你不思保留的东西’。”她说。

诸如《加州奢侈者秘密法》或欧洲的 GDPR现存的秘密法，这些现存的法律并不隐讳那些仍是被合手取并用于覆按大说话模子的“公开可用”信息，尤其是其中很大宗据仍是被匿名化处理了（天然也有多项考虑标明，从匿名化和假名数据中估量出信得过身份和个东说念主信息是何等容易）。

至于 AI 公司“有莫得系统性地回溯搜检过仍是从公开互联网上采集的数据，把个东说念主信息算帐掉？”金补充说，“完全不知说念。”

退而求其次的决策是公司“把扫数东说念主的电话号码或扫数看起来像电话号码的数据皆剔撤回”，金说，但“莫得东说念主逍遥说我方在这样作念”。

托管开源数据集和 AI 模子的平台 Hugging Face 提供了一个器具，用户不错搜索某条数据（比如我方的电话号码）在开源 LLM 覆按汇聚出现过若干次，但这不一定代表那些驱动 Claude、ChatGPT 和 Gemini 等主流聊天机器东说念主的闭源模子里的情况。（比如艾格的号码在 Hugging Face 的器具中就莫得自大。）

Gemini 诓骗和 Google Labs 的传播负责东说念主亚历克斯·约瑟夫（Alex Joseph）莫得回话具体发问，但他说团队正在走访《麻省理工科技驳倒》提议的几个特定案例。他还提供了一个匡助文档的权衡，描绘用户如何“反对对你个东说念主数据的处理”或“条件修正 Gemini 诓骗回答中不准确的个东说念主数据”。页面指出公司的回话将取决于用户场所规矩统领区的秘密法。

OpenAI 有一个秘密家数，用户不错提交肯求，条件从 ChatGPT 的回答中移除我方的个东说念主信息，但注明公司会权衡秘密肯求与全球利益，“若是有正当事理，可能会拒却肯求”。

Anthropic 描绘了它在模子覆按中如何使用个东说念主数据，但莫得提供明确的阶梯让用户条件删除。该公司莫得回话置评肯求。

刻下，思保护我方秘密数据的东说念主最佳的方针是“从泉源作念起。鄙人一次合手取之前，把个东说念主数据从公开采集上废撤回。”沙维尔说。比如从本年起，加州已为住户提供了一个网页家数，不错条件数据中间商删除他们的信息。不外这也不可保证你的数据莫得仍是被用来覆按模子——因此仍然可能出刻下聊天机器东说念主的回答里。

那位在 Reddit 上求援的用户写说念，他“仍是向 Google 提交了持重的法律移除/秘密肯求，条件迫切将我的号码从他们 LLM 的输出中屏蔽”，但还莫得收到回复。他上个月还写说念“滋扰每天皆在陆续”。

以色列软件征战者亚伯拉罕说他在 3 月 17 日（号码被清晰的第二天）就相关了 Google 客服，但直到 5 月 4 日才收到回复，而回复只是条件他提供他仍是提交过的材料。

与此同期，受到我方在 Gemini 上秘密被流露的启发，艾格与吉尔伯特和格奥尔基耶娃一齐正在蓄意一个考虑技俩，进一步走访各式 AI 聊天机器东说念主在清晰哪些个东说念主信息——以及它们可能知说念、但还莫得输出的信息。

有些信息“从技巧上说是公开的”，吉尔伯特说，但聊天机器东说念主可能正在转换“你找到这些信息所需的勤奋经过”。以前你要翻十页 Google 搜索效果，或者用钱从数据中间商那儿买，刻下“生成式 AI 是不是径直缩小了针对他东说念主的门槛？”

原文权衡：

https://www.technologyreview.com/2026/05/13/1137203/ai-chatbots-are-giving-out-peoples-real-phone-numbers/2026世界杯-最新版官方软件