2004年我上大学的时候(我老了)，我安装了一个“AI”插件，当我不在的时候，它会自动回复收到的AIM消息(老了)。这个简单的插件自动响应使用我的聊天记录的消息;如果有人问“你好吗?”，机器人就会给出我最近给出的答案。你可能知道这是怎么回事:这个插件花了大约两天的时间来重复我对一个朋友说的一些讨厌的话。我卸载了它，因为我学到了人工智能隐私(和友谊)的教训。
人工智能在过去的20年里取得了长足的进步，但隐私问题并没有改变:你对人工智能聊天机器人说的任何话都可能被读取，并有可能被重复。
Jack Wallen在为ZDNet撰写的文章中指出，谷歌Gemini的隐私声明明确指出，与Gemini(以前称为Bard)聊天的所有信息都将存储三年，并且人类会定期查看这些数据。隐私文件还明确指出，你不应该将该服务用于任何私人用途。引用条款:
这是谷歌直截了当地说的，用简单的语言，人类可能会审查你的对话，并将被用来改进他们的人工智能产品。
现在，这是否意味着Gemini会重复你在聊天框中输入的私人信息，就像我那蹩脚的AIM聊天机器人做的那样?不，该页面确实说，人工审核人员会删除明显的私人数据，如电话号码和电子邮件地址。但在去年年底的一次ChatGPT泄露事件中，一名安全研究人员成功地访问了培训信息，这表明任何一个大型语言模型可以访问的东西，至少在理论上，最终都可能泄露。
这一切都是假设运行你的聊天机器人的公司至少试图值得信赖。谷歌和OpenAI都有明确的隐私政策，声明他们不出售个人信息。但托马斯·杰曼在为Gizmodo撰写的文章中报道称，人工智能“女友”正在鼓励用户分享私人信息，然后积极出售。文章中写道:
因此，不仅你的聊天数据可能会泄露，而且人工智能领域的一些公司也在积极收集和出售私人信息。
结论基本上是永远不要谈论任何大型语言模型的私有内容。这意味着明显的东西，如社会安全号码、电话号码和地址，但它扩展到任何你不希望最终泄露的东西。这些应用程序并不打算用于私人信息。
