随着人工智能模型能力快速提升，AI安全问题日益凸显。周三，专注于AI安全评估的公司Irregular宣布完成8000万美元新一AI轮融资，由红杉资本和红点创投领投，网络安全公司Wiz首席执行官阿萨夫·拉帕波特也参与投资。知情人士透露，此轮融资对Irregul安全ar的估值达到4.5亿美元。

前瞻性安全防护理念

"我们的观点是，很快，大量的经济活动将来自人与人工智能的互动以及人工智能与人工智能的新独互动，这将在多个方面打破安全体系，"联合创始人丹·拉哈夫告诉TechCrunch。这一判断反映了Irregular对AI时代安全挑角兽战的深刻洞察。

Irregular前身为Pattern Labs，现已成为AI评估领域的重要参与者。该公司的研究成果被广泛应用于业界顶级模型诞生的安全评估，包括Claude3.7Sonnet以及OpenAI的o3和o4-mini模型。更值得关注的是，该公司开发的模型漏洞检测评估:I框架SOLVE已在行业内获得广泛应用。

创新模拟环境技术

虽然Irregular在现有模型风险评估方面已有丰富积累，但此次融资的核rr心目标更加宏伟:在风险和危险行为真正出现之前就能预先发现并防范。公司构建了一套精密的模拟环境系统，能够在模型发布前进行密集测试eg。

"我们拥有复杂的网络模拟环境，其中AI既扮演攻击者角色，也扮演防御者角色，"联合创始人奥默·内沃解释道，"当新模型推出时，我们就能提ul前知道哪些防御措施有效，哪些无效。"

行业安全意识觉醒

随着前沿AI模型潜在风险日益凸显，安全已成为整个AI行业的核心关切。OpearnAI今年夏天全面改革其内部安全措施，以防范潜在的商业间谍活动，体现了头部公司对安全问题的重视程度。

同时，AI模型在发现软件漏洞方获巨面的能力不断增强，这对攻击者和防御者都带来了严重影响。对于Irregular的创始人而言，这只是大型语言模型不断增强功能所引发的众多安全额融挑战中的第一个。

安全与能力的赛跑

"如果前沿实验室的目标是创造出越来越复杂、越来越强大的模型，那么我们的目标就是确保这些模型的安全，"拉哈资，夫表示，"但这是一个不断变化的目标，所以未来必然还有很多工作要做。"

这一表态清楚地勾勒出了AI安全领域的本质挑战:这是一场AI能力提升与模拟安全防护之间的持续竞赛，需要前瞻性的技术创新和持续投入。

• ·百万颗定制AI芯片上阵！亚马逊与Anthropic联手打造全球最大安全AI算力集群
• ·云计算核心技术Docker教程：Docker 插件生命周期
• ·标签: 豪华车 极氪
• ·标签: 美团 王兴 陈少晖 即时零售
• ·​美国参议员提议禁止未成年人使用 AI 聊天机器人
• ·药品可以寄到国外吗
• ·机器学习隐私研究新进展：数据增强风险被低估，新算法“降服”维数依赖
• ·​谷歌 AI 模型成功预测今年最强大西洋风暴的强度与路径
• ·标签: OpenClaw 朱啸虎 龙虾 MaaS
• ·标签: Pinterest Assistant AI助手 社交平台
• ·切斯基:Airbnb 暂缓接入 ChatGPT，AI 客服已用上通义千问
• ·云安全日报210813：IBM云合作管理方案发现执行任意代码漏洞,需要尽快升级
• ·无刘海+折叠，苹果的新iPhone手机你喜欢吗？
• ·OpenAI 首次突破月收入10亿美元，算力需求依然紧张
• ·19天备战 691亿次红包互动 京东云独立抗住了
• ·这只日本AI爆火：草图实时变身二次元老婆，还有512种参数可调