蚂蚁集团发布AI安全检测平台“蚁鉴2.0”：一键识别AI模型漏洞
2023-07-07 21:01:10来源：快科技编辑：时寒峰
扫一扫
分享文章到微信
扫一扫
关注鹿财经网微信公众号
原标题：蚂蚁集团发布AI安全检测平台“蚁鉴2.0”：一键识别AI模型漏洞
7月7日消息，在2023世界人工智能大会期间，蚂蚁集团联合清华大学发布AI安全检测平台“蚁鉴2.0”。
大模型的发展，再度引发各界对AI的广泛关注。事实上，AI已经是推动数字化发展的重要生产力工具，如何让AI的应用符合安全规范，近年来已经成为业界重点攻坚的问题。
据介绍，蚁鉴2.0可实现用生成式AI能力检测生成式AI模型，可识别数据安全、内容安全、科技伦理三大类的数百种风险，覆盖表格、文本、图像等多种数据和任务类型，是业内首个实现产业级应用的全数据类型AI安全检测平台。
“蚁鉴2.0”可以通过智能对抗技术，生成海量测试集，对AIGC生成式模型进行交互诱导，很像一个24小时不眠不休的“安全黑客”在找茬大模型，从而找到大模型存在的弱点和安全问题所在。
除了支持数字金融，还可以支持教育、文化、医疗、电商等AI、AIGC应用突出的产业对AI安全性检测的需求。
投稿邮箱：lukejiwang@163.com 详情访问鹿财经网：http://www.lucaijing.com.cn
相关推荐
