AI“开盒”风险引关注,隐私保护成焦点
AI导读:
近年来,“开盒”挂人事件频发,AI大模型因可判断图片地理位置而存在隐私泄露风险。论文指出ChatGPT o3可高精度推测用户位置,GeoSpy等AI图片定位产品引发关注。国内AI大模型图片地理定位能力尚待观察,需严厉打击“开盒”等违法行为,同步研究发展反制技术。
如果给AI一张图就能“开盒”,那么上网时还有安全感吗?近些年来,非法获取并曝光网民个人身份信息这样的“开盒”挂人事件频发,今年更是有一名未成年人网暴了一位孕妇,引起全网愤慨。事实上,“开盒”离每个人并不远,无论是通过传统的人肉搜索,还是其他非法途径获取公民个人信息,对于普通人来说都有一定的可操作性。近期发表的一篇研究论文指出,AI大模型因可以判断图片地理位置而存在隐私泄露风险。
这就意味着,如果AI通过一张照片就能解析出真实具体的地理位置,那么一个人只要在网上发布照片,就有被陌生人追踪的可能性。那么,一张照片如何解密?一般情况下,普通人想要通过一张照片判断拍摄这张照片时的地理位置,有两种“解法”。首先,每张图片的原片都包含着“详细信息”,包括了拍摄时的各种参数,其中就包括非常具体的经纬度,也就是说,如果有一张照片的原片,在电子设备上就可以查看其具体拍摄位置。此外就是通过图片中的综合信息进行推断。
如果有地标性建筑、网红打卡点,就可以结合搜索引擎的图片搜索功能进行匹配。而如果是没有上述信息或文字提示的普通街景,就需要运用到地理、人文、建筑等领域的知识。近日,一篇论文指出,ChatGPT o3可以高精度推测用户位置,达到街道级精度(一英里以内)预测的情况为60%。研究团队发现,街道布局和前院设计是帮助AI判断位置的关键视觉线索。AI成为地理间谍?这并非危言耸听。该论文认为,ChatGPT o3的60%预测精度构成了严重的隐私泄露风险,这显示出在模型开发和部署中对隐私保护技术的迫切需要。
前不久,一款AI图片定位产品GeoSpy就引发了国外网友的关注和质疑。2024年12月,初创AI公司GrayLark发布了GeoSpy系列产品。根据官网介绍,GeoSpy是一个人工智能驱动平台,旨在仅根据图像确定位置,而不依赖于元数据或其他输入信息。其pro版本可基于Superbolt组件,精准定位照片拍摄地址并给出3D实景。但这样触手可及的AI工具也引发外国网友的诸多质疑,该公司目前已关闭GeoSpy对普通民众的使用权限。那么,中国的AI有风险吗?笔者使用国内4个常见的免费版本AI大模型进行测试,结果显示,根据图片包含的信息丰富度不同,推理判断准确率差异较大。
经过简单测试后发现,上述AI大模型在图片的地理位置判断上准确率并不算高。不过,因笔者使用的均为“基础版”大模型,且暂未有国内AI大模型的相关论文发表,所以国内大模型的图片地理定位能力不可一概而论。当网络“开盒”危机叠加可能会加速隐私泄露的AI,一方面要严厉打击“开盒”等违法行为,另一方面也需要同步研究发展相应的反制技术。2023年9月,最高人民法院会同最高人民检察院、公安部发布《关于依法惩治网络暴力违法犯罪的指导意见》,对网络暴力违法犯罪案件的法律适用和政策把握作出了全面规定。2024年人民法院以侵犯公民个人信息罪对292人定罪判刑。
(文章来源:中国经营报)





郑重声明:以上内容与本站立场无关。本站发布此内容的目的在于传播更多信息,本站对其观点、判断保持中立,不保证该内容(包括但不限于文字、数据及图表)全部或者部分内容的准确性、真实性、完整性、有效性、及时性、原创性等。相关内容不对各位读者构成任何投资建议,据此操作,风险自担。股市有风险,投资需谨慎。如对该内容存在异议,或发现违法及不良信息,请发送邮件至yxiu_cn@foxmail.com,我们将安排核实处理。

