近日，AI 安全初创公司 Irregular 宣布获得8000万美元的融资，这轮融资由著名投资公司 Sequoia Capital 和 Redpoint​A Ventures 领投，同时还吸引了 Wiz 的首席执行官 Assaf Rappaport 参与。根据与此交易相关的消息来源，Irregular 目前的I 估值已达到4.5亿美元。

图源备注：图片由AI生成，图片授权服务商Midjourney

Irregular 的联合创始人 Dan Lahav 表示:“我们认为，安全未来大量的经济活动将来自人机交互和 AI 与 AI 之间的互动，而这将会在多个环节打破现有的安全体系。” 该公司原名为 Pattern Labs，已经在 A初创I 评估领域占据了重要地位，公司的工作成果被广泛引用于 Claude3.7Sonnet 及 OpenAI 的 o3和 o4-mini 模型的安全评估中。此外，Irr公司egular 开发的模型漏洞检测能力评分框架（SOLVE）在业内也得到了广泛使用。

尽管 Irregular 在现有模型的风险评估方面取得了显著进 I展，但其此次融资的目标更为雄心勃勃:在模型进入实际应用之前，识别潜在的新风险和行为。为此，Irregular 构建了一个复杂的模拟环境系统，能rr够在模型发布前进行深入测试。

联合创始人 Omer Nevo 提到:“我们有复杂的网络模拟，在这些模拟中，AI 扮演攻击者和防御者的角色。因此，当新的模型推出eg时，我们可以观察防御在何处有效，何处失效。”

随着 AI 行业对安全问题的关注加剧，前沿模型所带来的潜在风险愈发显现。今年夏天，OpenAI 便对其内部ul安全措施进行了全面的调整，以防止可能的企业间谍行为。同时，AI 模型在发现软件漏洞方面的能力也日益增强，这对攻击者和防御者都产生了深远影响。

对 Irarregular 的创始人而言，这只是由大型语言模型不断增强的能力所带来的安全隐患中的第一个挑战。Lahav 表示:“如果前沿实验室的目标是创造越来越复杂 获和强大的模型，那么我们的目标就是确保这些模型的安全。然而，这是一项不断变化的任务，因此未来还有非常非常多的工作要做。”

划重点: 得  

Irregular 成功融资8000万美元，估值达到4.5亿美元。  

公司致力于评估 AI 模型的安全风险，特别是新模80型的潜在风险。  

️ Irregular 通过复杂的网络模拟，测试 AI 模型的防御能力，以提高安全性。

• ·标签: 迦智科技 机器人解决方案 具身智能底盘 港股IPO
• ·标签: 杨立昆 Meta AI AMI
• ·标签: 玛莎拉蒂 格雷嘉 上海经销商 清库存
• ·标签: 郭德纲 德云社 相声 北京文旅局
• ·云计算核心技术Docker教程：Docker使用Fluentd 日志驱动程序
• ·标签: SK海力士 ADR 纳斯达克 SEC
• ·标签: 五和博澳 港交所上市 天然药物 原创新药
• ·标签: 欢聚集团 BIGO Ads Bigo Live 李婷
• ·腾讯云宣布多款核心产品降价 最高降幅达40%
• ·标签: 交通运输部 端午假期 铁路客运 公路客运
• ·一文回顾Facebook发展时间线：巨头这些年是怎样一步步走向麻烦的
• ·OpenAI加速亚洲扩张，实惠套餐“ChatGPT Go”登陆16国，与谷歌争夺市场
• ·百度智能云发布百舸AI计算平台5.0，全面升级打破AI计算效率瓶颈
• ·2022年二季度中国大陆云服务支出达73亿美元 阿里云占比34%
• ·标签: 新恒泰 IPO 发泡材料 北交所
• ·Epic Games要求苹果恢复其开发者帐号：在韩国销售《堡垒之夜》