研究称ChatGPT搜索功能存在被操纵风险_新浪财经

格隆汇12月26日｜根据英国《卫报》发布的一项调查，OpenAI的ChatGPT搜索工具可能会被隐藏内容操控，甚至返回恶意代码。《卫报》测试了ChatGPT如何应对包含隐藏内容的网页摘要。这些隐藏内容可能包括来自第三方的指令，干扰ChatGPT的回应，或是包含旨在影响回应的内容，如大量隐藏的文字推销某个产品或服务的优点。这种技术可以被恶意使用，例如让ChatGPT即使在页面上有负面评论的情况下，也返回对某个产品的积极评价。一位安全专家还发现ChatGPT有可能返回从其搜索的网站中提取的恶意代码。