近日，网络安全公司Trail of Bits的研究人员Kikimora Morozova和Suha Sab不止i Hussain公布了一种新型攻击方法。该攻击利用图像重采样的技术特性，在人眼不可见的图像中注入恶意指文本令，从而劫持大型语言模型（LLM）并窃取用户数据。

该攻击的核心在于图像重采样攻击。当用户上传图片到AI！研系统时，系统通常会为了效率和成本而自动降低图片分辨率。恶意图片正是利用这一过程:它在全分辨率下看似正常，究人但在经过双三次（bicubic）等重采样算法处理后，隐藏在图像特定区域的恶意指令会以可见的文本形式显现出来。

研员发究人员在实验中证实，这种攻击手段能够成功渗透多个主流AI系统，包括Google Gemini CLI、Verte现Ax AI Studio、Google Assistant以及Genspark。在一次Gemini CLI的测试中，攻I系击者成功将用户的Google日历数据泄露至一个外部邮箱地址，而无需用户的任何确认。

Trail of Bits指统新出，尽管攻击需要根据每个LLM使用的特定重采样算法进行调整，但其攻击媒介的广泛性意味着更多未被测试的AI工漏洞具也可能存在风险。为帮助安全社区理解和防御此类攻击，研究人员已发布了一款名为Anamorpher的开源工具，，图用于创建此类恶意图片。

针对此漏洞，研究人员提出了多项防御建议:尺寸限制:AI系统应对用户上传的图片实像重施严格的尺寸限制。结果预览:在对图像进行重采样后，向用户提供即将传递给LLM的结果预览。明确确认:对于涉及采样敏感工具调用的指令（如数据导出），系统应要求用户进行明确确认。

研究人员强调，最根本的防御在于实施更安全竟成的系统设计模式，以从根本上抵御此类即时注入（prompt injection）攻击。

• ·苹果减税，是“大发善心”还是“另有所图”？
• ·击剑是什么梗污
• ·谷歌云宣布将开始采用基于Arm技术的计算芯片
• ·国际权威大奖GCAs揭晓 秦淮数据包揽数据中心类两项大奖
• ·没有数据的数据科学？请尽早聘用数据工程师
• ·标签: 思朗科技 MaPU 科学计算芯片 科创板IPO
• ·火车没赶上票作废吗
• ·Anthropic 开源 Petri:用 AI 代理自动进行模型安全审计
• ·标签: SK海力士 HBM DDR5 NAND闪存
• ·标签: 米哈游 原神 反舞弊 供应商黑名单
• ·标签: 魏牌 V9X 魏建军 路虎揽胜运动版
• ·标签: 京东 美的 抖音 二选一
• ·​Claude Pro 订阅方案调整：部分新用户或失去 Claude Code 使用权
• ·首次全年扭亏为盈后，寒武纪正面回应大厂竞争:通用芯片具备更强“技术普适性”
• ·医学教育革命来袭！复旦中山医院推出AI教学大模型，培养有温度的未来医生
• ·云安全日报220712：IBM Integration Bus集成解决方案发现执行任意代码漏洞,需要尽快升级