4月17日消息，第 27 届联合国科技大会（the 27th UN CSTD Annual Meeting）正在瑞士日内瓦召开。大会期间，世界数字技术院（WDTA）发布了两项国际标准：《生成式人工智能应用安全测试标准》、《大语言模型安全测试方法》。
这两项国际标准是由 OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成。蚂蚁集团牵头编制《大语言模型安全测试方法》，并参与制定了《生成式人工智能应用安全测试标准》。
图源：蚂蚁集团公众号
这次发布的两项标准是大模型及生成式 AI 应用程序方面的安全性测试标准，有助于行业构建安全、可靠的人工智能生态系统。
《生成式人工智能应用安全测试标准》由 WDTA 作为牵头单位，蚂蚁集团等多家单位共同参与。这项标准为测试和验证生成式 AI 应用的安全性提供了一个框架，特别是那些使用大语言模型（LLM）构建的应用程序。它定义了人工智能应用程序架构每一层的测试和验证范围，包括基础模型选择、嵌入和矢量数据库、RAG 或检索增强生成、AI 应用运行时安全等等。
《大语言模型安全测试方法》由蚂蚁集团作为牵头单位。这项标准则为大模型本身的安全性评估提供了一套全面、严谨且实操性强的结构性方案。它提出了大语言模型的安全风险分类、攻击的分类分级方法以及测试方法，并率先给出了四种不同攻击强度的攻击手法分类标准，系统地提供了大语言模型抗攻击测试的评估指标、能力分级、测试数据集构建要求和测试流程等。
WDTA 官网发布《大语言模型安全测试方法》标准 图源：蚂蚁集团公众号
蚂蚁集团机器智能部总经理、蚂蚁安全实验室首席科学家王维强表示，生成式 AI 将释放巨大的生产力，但也要对它带来的新风险高度警惕。大型科技公司应在促进生成式 AI 安全和负责任的发展中有所担当，利用其资源、专业知识和影响力推动最佳实践，构建一个优先考虑安全、隐私、可靠和伦理优先的生态系统。
新快报讯 3月2日，据中山纪检监察披露，日前，经中山市委批准，中山市纪委监委对中山市住房和城乡建设局原党委书记、局长崔振南严重违纪违法问题进行了立案审查调查。 经查，崔振南丧失理想信念，背弃初心使命，廉洁底线失守，由风及 国务院总理李强5日在政府工作报告中提出，今年发展主要预期目标是：国内生产总值增长5%左右；城镇新增就业1200万人以上，城镇调查失业率5.5%左右；居民消费价格涨幅3%左右；居民收入增长和经济增长同步；国际收支保持基本平衡；粮食 新华社北京3月5日电 国务院总理李强5日在政府工作报告中表示，我们要继续全面准确、坚定不移贯彻“一国两制”、“港人治港”、“澳人治澳”、高度自治的方针，坚持依法治港治澳，落实“爱国者治港”、“爱国者治澳”原则 建议像尊重科学家一样尊重企业家、解决科技成果转化问题、加快建设世界一流企业、推动卫星直连手机产业聚集和发展……在履职路上，全国政协委员、广州市政协副主席、九三学社广州市委会主委、广州市科技局局长王桂林步 龙年开工伊始，家庭服务平台天鹅到家发布了一项重磅员工福利：从今年开始，将为生娃的员工提供“免费月嫂服务”。天鹅到家表示，该政策主要为切实帮助员工解决家庭照顾问题，表达公司对新生儿家庭的关怀与支持 3月5日下午，江西省知名眼科医院南昌普瑞眼科医院隆重举办重量级眼科专家周文天教授、章晖博士、凌玲博士的加盟聘任仪式大会，并颁发聘书。大会上，普瑞集团专家侯乒教授及人力总监刘辉先生现场参会并宣布 。本文链接：蚂蚁集团、腾讯、百度等联合编制大模型安全国际标准正式发布http://www.sushuapos.com/show-1-10922-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 抖音本地生活大赚超1000亿
下一篇： 美团重拳整治，这类商家要凉了