警惕!AI回答被“投毒”,面临可信度危机
中新经纬报道揭示一款名为GEO的软件通过给AI“投毒”,让产品排名靠前。专家警告称这种行为会动摇AI的根基并造成不可逆伤害。同时提出通过技术迭代和体系化设计来建立防御机制以应对此问题。...
315曝光:虚假信息干扰AI大模型
今年3·15晚会上,虚假信息干扰AI大模型的现象被曝光,引发公众对AI信息可信度的关注。调查发现,一些公司通过系统性投放内容干扰AI大模型的信息抓取与生成逻辑,让特定品牌或产品在AI回答中获得优先推荐,甚至虚构的产品也能成为AI口中的“标准答案”。...


