英国抢先发布AI模型安全检测工具 以识别和评估相关风险
财联社5月12日讯(编辑 牛占林)英国人工智能(AI)安全研究所本周五发布了发布了一个新的测试平台，旨在加强监测先进AI模型的安全风险。
据介绍，该工具箱名为Inspect，可以用来评估一系列领域的AI模型，包括它们的核心知识、推理能力和自主能力。通过开源许可证发布，这意味着Inspect可以免费供全球AI社区使用。
英国去年10月份宣布成立人工智能安全研究所，将研究和测试新型AI模型；今年2月，英国还表示将斥资1亿多英镑启动9个新的研究中心，并对AI监管机构进行技术培训。
在新闻发布会上，英国人工智能安全研究所表示，Inspect是一个软件库，它使测试人员能够评估单个AI模型的具体能力，然后根据结果给出一个分数。
Inspect从周五开始可以使用，这也是由国家支持的机构率先推出的AI安全测试平台。
在当前AI竞赛热潮下，越来越多的AI模型将会在今年上市，这使得推动AI安全发展比以往任何时候都更加紧迫。
但目前要对AI模型进行基准测试还是比较困难的事情，因为当今最复杂的AI模型基本上都是“黑箱”，其基础架构、训练数据和其他关键细节通常被创造它们的公司保密，不对外公开。
那么，Inspect是如何应对这一挑战的呢？主要是通过其可扩展性，能够适应并接纳新的测试技术。Inspect内置组件可以通过使用Python编写的第三方软件包来增强或扩展。
Inspect由三个基本部分组成：数据集、求解器和计分器。数据集用于评估测试的样本集合，求解器是执行实际测试工作的组件，评分器的作用是评估求解器的工作成果，最终生成关于AI模型性能的综合评价，这种设计使得Inspect能够灵活地适应不同的测试需求和评估标准。
英国科学部长米歇尔・多内兰表示，作为英国在AI安全领域持续领导的一部分，我批准了开源的Inspect，这显示了英国在创新和科技发展方面的独特才能和创造力，并巩固了我们作为该领域世界领导者的地位。
人工智能安全研究所主席Ian Hogarth声称，成功的AI安全测试合作意味着拥有一个共享的、可访问的评估方法，我们希望Inspect能成为AI安全研究所、研究组织和学术界的基石。
本文链接：英国抢先发布AI模型安全检测工具 以识别和评估相关风险http://www.sushuapos.com/show-5-15352-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 斗鱼主播“电棍”直播中骂人被封禁7天
下一篇： 老字号餐饮出路在“新”