AI漏洞新威胁：85%代码仓库地址被“幻觉”错误使用
创始人
2026-07-10 12:52:36
0次
近日，科技媒体Tom'sHardware报道了一种名为HalluSquatting的新型AI漏洞。研究人员发现，这种漏洞会放大AI模型在调用工具时的“幻觉”，即将不存在或错误的代码仓库地址误认为真实地址。AI幻觉指的是AI模型生成的不正确或具有误导性的结果，可能由训练数据不足、模型做出不正确的假设，或训练数据存在偏差等因素造成。
这项研究由特拉维夫大学、以色列理工学院和Intuit的研究人员共同发布。他们指出，智能体AI在遇到陌生项目、仓库或工具名称后，可能会自行补全出看似合理但实际错误的地址。例如，新仓库地址为OriginalOwner/WindowsTelemetryOff，由于模型训练数据未覆盖较新的项目，模型可能生成SuperHacker/WindowsTelemetryOff、WindowsTelemetryOff/WindowsTelemetryOff，或带拼写误差的近似地址。研究还发现，当代码智能体如Claude收到“运行windowstelemetryoff脚本”等指令时，模型可能直接幻觉出仓库名，甚至在执行网页搜索后仍访问到恶意版本，并进一步运行其中代码。
量化结果显示，模型对近期代码仓库位置的幻觉率最高可达85%，对热门智能体技能可达100%。2025年发布的样本GitHub仓库名称，模型平均幻觉率为92.4%；2019年或更早发布的仓库，地址错误率为0.9%。在应用层，攻击成功率存在分化：Cursor、GeminiCLI和Copilot的成功率为20%-35%，OpenClaw及其变体接近80%-100%。
相关内容
热门资讯
零跑A05s亮相：粉墨撞色小车...
今日，零跑汽车正式公布了其A系列首款轿车——零跑A05s，定位为“智能灵动精品轿车”。这款新车以其“...
MiniMax CEO闫俊杰放...
7月10日，MiniMax创始人兼CEO闫俊杰在内部全员信中回应市场波动，并重申公司长期发展方向不变...
广州这场四年一度的比赛，比的是...
“记者，这场比赛我拿了第二名。如果规则没有变化，我应该可以到省里去参赛！”7月8日，热爱摄影的肢体障...
新泽西州立法拟禁纯视觉自动驾驶...
7月10日，科技媒体TheVerge报道，新泽西州立法者正在起草一项法案，要求该州所有运营自动驾驶汽...
深追踪 | 从空调中“炼”稀土...
国际在线报道：据日媒报道，日本首次从废旧的家用空调中提取稀土。日媒称，这是在中国持续加强对日本出口管...
AI重塑广东制造图景 持续向高...
文/羊城晚报记者 李钢 莫谨榕 扶贝贝图/羊城晚报记者 刘畅 李论AI浪潮席卷千行百业，老牌“广东制...
运河建设特等功臣吴云英：“红孩...
“我这一生最荣幸、最自豪的事，就是参加了雷州青年运河的建设。”今年82岁的运河建设特等功臣吴云英，至...
传奇球星恩戈蒂空降广州南沙！巴...
2026年美加墨世界杯八强刚刚落定，法国、阿根廷、西班牙等劲旅继续向冠军发起冲击。就在全球目光聚焦北...
“在这里拥抱未来，探索更多可能...
7月8日，由广州市侨联主办的2026“百万英才 创在广州——100名海外侨博士广州行”活动启幕。来自...
超4.5亿元消费补贴“真金白银...
央视网消息：2026年全国暑期文化和旅游消费季8日在青海启动。暑期文旅消费季期间，各地将围绕消夏避暑...
科技千帆竞 创新逐浪高
光明日报记者 杨舒这是一场中国科技界的盛会，也是致敬创新、礼赞人才的崇高仪式！7月8日，北京人民大会...
特稿｜中国“韧性密码”彰显经济...
新华社北京7月9日电 题：中国“韧性密码”彰显经济发展“含金量”新华社记者闫洁国际货币基金组织（IM...
思想耀岭南 | 第三集嘉宾大揭...
6月27日起，广东在全网推出《思想耀岭南》系列视频。第一季共20集，20名对话嘉宾将分享他们在工作生...
西江干流已全线出现洪峰水位！广...
文/羊城晚报全媒体记者 胡彦 通讯员 林思源受上游来水、思贤滘分洪和下游潮汐共同影响，广东省西江干流...
【视频】第七届粤港澳大湾区“粤...
7月6日至7日，2026“乐游河源·悦见山水”六市文旅推介会接连走进深圳、东莞两地，两场专场活动圆满...
大众集团大刀阔斧：车型阵容砍半...
7月10日，大众集团宣布了一项大规模收缩计划，该计划将即刻生效。根据计划，集团旗下各品牌的车型阵容最...
大众汽车全球裁员或达12万，德...
7月10日，德国大众汽车集团在监事会会议上讨论了新一轮降本计划，可能包括裁减岗位和调整德国工厂布局。...
“红棉创新先锋榜”助企创效超2...
文、图/羊城晚报全媒体记者 江皓轩 通讯员 荔宣2026年7月9日下午，广州市荔湾区2026年非公党...