当前位置:首页>AI资讯>以AI防火墙降低AI模型错误率,美国初创公司「Robust Intelligence」融资3000万美元

以AI防火墙降低AI模型错误率,美国初创公司「Robust Intelligence」融资3000万美元

据外媒 TechCrunch 报道,美国 AI 初创「Robust Intelligence」近期获 3000 万美元 B 轮融资,由 Tiger Global 领投,前股东红杉资本、Harpoon Venture Capital、Engineering Capital 持续跟投。

迄今为止,「Robust Intelligence」已完成三轮融资,总金额达到 4400 万美元,本轮资金将会用于产品开发以及市场拓展。

当多数行业都进入了以 AI 模型作为决策基础的阶段,如何降低模型风险变得至关重要。

例如在识别欺诈交易的 AI 模型中,由于数据从多个不同来源收集,如字母大小写等输入格式的不同也会影响输出结果,给金融机构带来重大经济损失。

贷款保险机构的 AI 模型则依赖于统计学习,可能会倾向于特定人群,做出偏见决策。

为了模型的准确公平,数据科学团队通常需要花费大量时间、精力测试模型,这不仅会影响产品迭代效率,也会降低后续开发的可拓展性。

「Robust Intelligence」则希望在 AI 模型设计阶段就加入测试板块,从而降低后续模型的调试成本。

具体来说,「Robust Intelligence」为企业提供 AI 防火墙,也就是稳健智能模型引擎(RIME),通过不断对 AI 模型进行压力测试来检测错误。企业也可以通过将 AI 防火墙和模型集成在本地数据库中,从而保障数据安全。

漏洞检测

AI防火墙

「Robust Intelligence」于 2019 年由哈佛大学计算机科学与应用数据终身教授 Yaron Singer 和他的学生 Kojin Oshiba 共同创立。

Yaron Singer 表示,在研究对抗机器学习的过程中,发现了其在商业 AI 模型中的应用,从而希望研发出一套可以直接用于 AI 模型底层的防火墙,其核心是自动查找给定模型的故障模式,捕捉数据漂移等。

“AI 防火墙本身也是一个 AI 模型,用于预测某个数据点是否会导致错误的预测,这可能是目前机器学习领域中最困难的问题之一,我们在不断精进。”Singer 解释道,“RIME 现在能做到的是,如果企业有数据和 AI 模型,只需要点击按钮,就可以进行压力测试,并可以在模型设计和运行过程中自动测试数据和 AI 模型。”

在具体功能上,RIME 可以分为两部分:漏洞检测和错误预防。前者是在模型设计阶段,通过数百次测试自动识别架构中隐式假设和故障,便于模型开发;后者则是在模型部署后,检测数据漂移以及完整性等问题,修正模型。

更多精彩推荐:

1.AI+行业:

新能源:在电池安全健康领域,AI的用武之地在哪里?

制造业:吴恩达旗下AI公司Landing AI融资5700万美元,要把人工智能带到制造业

医疗:产业洞察:两年融资200亿元,AI+医疗赛道吸金能力显著

音乐:Musiio:使用AI 帮助音乐行业更有效地策划曲目

安全:微软收购AI内容审核解决方案提供商Two Hat

工业:走进施耐德武汉“灯塔工厂”:人工智能质检 工厂“万物互联”

元宇宙:

2.AI技术:

3.AI人物:

悬河ai 吐司AI绘画

©版权声明:如无特殊说明,本站所有内容均为AIHub原创发布和所有。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。否则,我站将依法保留追究相关法律责任的权利。
error: