AI导读:

《卫报》调查揭示ChatGPT搜索工具在处理隐藏内容时易受操控,甚至可能返回恶意代码,引发安全担忧。

近期,英国权威媒体《卫报》公布了一项针对OpenAI公司ChatGPT搜索工具的深度调查结果,揭示该工具在处理含有隐藏内容的网页摘要时可能受到操控,甚至存在返回恶意代码的风险。测试中,《卫报》模拟了多种场景,包括网页中隐藏来自第三方的指令,试图干扰ChatGPT的正常回应,以及利用大量隐藏文字来推销特定产品或服务,以此影响ChatGPT的回应倾向。

更令人担忧的是,这种技术若被不法分子利用,可能导致ChatGPT在遭遇负面评论时,仍返回对产品或服务的积极评价,从而误导公众。此外,一位资深安全专家在研究中还发现,ChatGPT在搜索过程中,有可能会从访问的网站中提取并返回恶意代码,进一步加剧了安全风险。

(文章来源:财联社)