深潮 TechFlow 消息，11 月 7 日，据Decrypt报道，微软与亚利桑那州立大学合作发布的”Magentic Marketplace”研究显示，AI购物代理在自主决策方面存在严重缺陷。研究团队构建了一个包含100个消费者AI代理和300个商家AI代理的模拟经济环境，测试结果表明这些AI在面对大量搜索结果时容易出现”首提偏见”，倾向于选择第一个”足够好”的选项而非进行全面比较。
更令人担忧的是，OpenAI的GPT-4o等领先模型极易受到恶意操控，通过假证书、虚假社会证明等手段可被诱导将全部虚拟资金转给骗子。研究建议AI应辅助而非替代人类决策，推荐采用”监督自主”模式，让AI处理任务但保留人类最终决策权。
这一研究发布之际，OpenAI和Anthropic等公司正竞相推出自主购物助手，而亚马逊最近向Perplexity AI发出了停止令，要求其Comet浏览器停止在亚马逊网站上的使用。