OpenAI 对 ChatGPT 图像识别存在隐私担忧

ChatGPT 不是提供基本描述的标准图像替代文本,例如“金发女人看起来很高兴”,而是能够提供重要的细节,例如“穿着深蓝色衬衫的女人,在全身镜前自拍”。

莫森还可以向人工智能工具询问后续问题,比如这位女士穿的是什么鞋,以及在镜子的反射中还可以看到什么。

然而,令他们失望的是,莫森和其他早期采用者对这些信息的访问最近被撤销,出于隐私原因,人们的面孔变得模糊。 此举反映了 OpenAI 对发布具有如此强大功能的产品的更广泛担忧。

ChatGPT的可视化分析能力是与丹麦初创公司 Be My Eyes 合作(生物医学工程)。 BME 技术自 2012 年以来一直存在,并被超过 2.5 亿盲人或弱视人群所使用。

它的工作原理是将用户与志愿者联系起来,帮助识别产品或完成任务。 ChatGPT 合作伙伴关系的目标是用虚拟志愿者取代人类志愿者。

OpenAI 仍在“解决”安全问题

OpenAI 政策研究员 Sandhini Agarwal 一直在关注聊天机器人的进展,并澄清说它可以识别公众人物,例如拥有维基百科页面的公众人物。 但提到聊天机器人臭名昭著的“幻觉”是一个潜在的障碍。

“如果你给它一张即将成名的人的照片,它可能会产生一个名字的幻觉。 就像如果我给它一张著名科技首席执行官的照片,它可能会给我一个不同的科技首席执行官的名字。” – Sandhini Agarwal,开放人工智能政策研究员

OpenAI 表示担心该工具可能会说出有关人们面部的信息,从而提供不安全的评估,例如他们的性别或情绪状态。

就美国科技公司普遍认为可以接受的功能而言,该功能将被视为首创。 更重要的是,它可能会在欧洲等地区引起法律问题,这些地区需要公民同意才能使用其生物识别数据。

阿加瓦尔承认,尽管名人面部识别软件这些工具已经存在,为那些不想被识别的人提供了选择退出功能。 据说 OpenAI 正在考虑采用相同的方法,同时在发布该工具之前弄清楚如何解决其他安全问题。

阅读我们的深入指南ChatGPT 替代品

Related Posts