未来已来。在生成式人工智能迅猛发展并深刻重塑产业格局的当下，安全与治理已成为关乎经济高质量发展、技术创新可持续性的核心议题。作为中国开放程度最高、经济活力最强的区域之一，粤港澳大湾区正率先探索系统性应对之策。
9月15日，粤港澳大湾区生成式人工智能安全发展联合实验室（以下简称“联合实验室”）在河套深港科技创新合作区正式揭牌。作为适应人工智能时代敏捷、弹性、高效的创新治理联合体，联合实验室将通过一系列安全服务举措，为大湾区AI产业的高质量发展注入新动能、提供新支撑。
9月15日，粤港澳大湾区生成式人工智能安全发展联合实验室在河套深港科技创新合作区正式揭牌。
适应AI时代
打造创新治理联合体
当前，人工智能已成为全球科技竞争与产业变革的焦点。作为国家经济发展与科技创新的重要引擎，粤港澳大湾区凭借多重优势，已发展成为国内人工智能与机器人产业链最完整、生态最丰富、应用场景最广泛的集聚区。
在技术底座方面，广东拥有鹏城实验室、琶洲实验室等一批高能级科研平台，以及5家高水平人工智能与先进计算研究院、25个省级以上人工智能开放创新平台。应用场景方面，广东已发布首批人工智能终端产品、行业大模型和应用解决方案名单。截至今年9月，全省已完成92款生成式人工智能服务备案，其中近半为“场景化定制”，在教育、工业、政务、交通、农业等领域实现深度融合。
然而，生成式人工智能带来生产力革新的同时，也伴生出新的治理挑战，数据安全、伦理对齐、内容治理等问题都有待创新应对。《中共广东省委关于贯彻落实党的二十届三中全会精神进一步全面深化改革、在推进中国式现代化建设中走在前列的意见》《广东省推动人工智能与机器人产业创新发展若干政策措施》，均明确“加快建设粤港澳大湾区生成式人工智能安全发展联合实验室”。
9月15日，粤港澳大湾区生成式人工智能安全发展联合实验室正式成立。这是贯彻落实习近平总书记关于人工智能的重要论述的具体行动，是落实党的二十届三中全会精神的重要任务，是践行国务院“人工智能+”行动意见的创新举措，是省委十三届五次全会作出的改革部署，更是大湾区立足“一点两地”全新定位、以科技创新赋能“一国两制”实践的积极探索。
据联合实验室相关负责人介绍，其本质上是一种为适应人工智能时代而构建的“动态敏捷、多元协同”的创新治理联合体。期待能通过探索出一套有效适配粤港澳三地政策、法律与技术标准的创新机制，为全国乃至全球的跨区域AI治理提供“大湾区方案”；通过提升安全能力释放产业动能，打造世界级AI产业集群，驱动产业应用创新，助力产业集聚发展，成为产业发展的“安全引擎”和“创新催化剂”；通过构建“政产学研用”深度融合、正向循环的创新生态，成为打通创新链、产业链、人才链的连接枢纽，形成一个能够自我演进、持续创新的生命共同体；通过建立高效协同机制，打造共同受益的价值循环，培育出活跃的生态社区，促进大湾区人工智能产业健康发展、向善而行。
服务企业，推动产业
加强安全监管
目前，全省已布局建设11个省级人工智能产业园。广州、深圳先后获批国家级人工智能创新应用先导区，广东成为全国唯一拥有两个先导区的省份。产业规模方面，广东人工智能核心产业规模突破2200亿元，稳居全国第一方阵；人工智能核心企业超1500家，人工智能领域国家专精特新“小巨人”企业147家，数量全国第一。
粤港澳大湾区AI产业基础良好、优势突出、前景广阔，广大企业、科研院所大显身手正当其时。联合实验室将在大湾区AI产业生态构建中扮演怎样的角色？相关负责人透露，立足粤港澳大湾区科技创新高地，联合实验室将从三个方面发挥独特优势：
一是服务企业发展。为属地企业提供覆盖生成式人工智能全生命周期的安全评估服务，实现高效精准的风险识别与防控，帮助企业建立安全管理机制，针对对抗攻击、数据泄露等突出安全风险，提供定制化安全解决方案，助力企业增强自身安全能力。针对企业内容安全短板，打造纯净基础语料库，增强企业大模型内容基础安全及运行安全。
二是推动产业落地。打造生成式人工智能赋能千行百业咨询平台，强化属地大模型企业和各行业企业的链接对接，助力大模型企业精准定位市场，同时为培育新型需求的企业匹配优质产品。制定行业安全发展标准，形成属地化安全标准体系，为企业提供合规指引，并同步探索与国际标准接轨的认证机制，助力属地生成式人工智能产品“走出去”。
三是加强安全监管。开发建设生成式人工智能安全评测系统，加强前瞻评估和监测处置，防范模型的黑箱、幻觉、算法歧视等带来的风险，协同建立健全人工智能技术监测、风险预警、应急响应体系，为“包容审慎、分类分级”监管提供有力的技术支撑，推进人工智能应用合规、透明、可信赖。组织开展人工智能安全知识公益普及活动，提高公众对人工智能安全的认识，推动形成社会共治格局。
“政产学研用”协同
形成治理合力
据悉，联合实验室由国家互联网应急中心作为指导单位，广东省委网信办和国家互联网应急中心广东分中心联合牵头，粤港澳有关部门、AI应用龙头企业和AI专精特新企业、高校、科研机构和主流媒体共同参与建设，将构建起“技术协同+敏捷治理+传播服务”的全新治理模式。建设运行过程中，联合实验室将协调各方资源，形成治理合力。
联合实验室相关负责人介绍，联合实验室将以企业为主，多方共同参与运行，充分利用本土人才，构建企业主导的产学研用协同创新体系，形成“政府引导+依托企业+产学协同”的建设模式，共同推动大湾区生成式人工智能安全健康有序发展。
聚焦企业面临的实际困难和长期发展需要，将联合开展科研攻关，统筹大湾区生成式人工智能领域资源，整合技术和人文，用好产业界、学术界技术力量，汇聚哲学、心理学、语言学等人文学科人才，探索建立跨学科、跨领域的联合攻关模式，围绕生成式人工智能安全发展基础理论、前沿技术、治理管理开展科研攻关。充分发挥粤港澳大湾区独特优势，用好港澳国际科研合作网络，利用港澳国际化、市场化优势，调动、整合全球优秀人才、先进技术助力大湾区生成式人工智能发展。
此外，联合实验室还将视情在香港、澳门、广州、珠海、东莞等地设立地方服务站。地方服务站负责对接地方具体工作并面向社会提供政策咨询、技术评测等安全相关服务，支持相关产业园区生成式人工智能领域企业发展、产业落地等工作。
回应AI治理挑战
探索系统性解决方案
当下，AI安全风险正呈现跨领域、复合型、动态化特征。如在技术层面存在动态演化的黑盒风险，生成式AI的随机性输出导致传统安全防护失效，传统规则引擎无法覆盖大模型深度伪造内容、隐蔽性数据泄露等风险。在生态层面存在产业安全能力断层，多数市场主体（尤其是中小微企业）的安全防御技术储备不足。而在治理层面，面临跨区域安全治理协同不足、多重合规壁垒等问题。
据了解，通过资源整合与机制创新，联合实验室将探索系统性解决方案。
联合实验室已初步研究出一套“安全可信+量化评级”的服务行业框架,以权威性、公平性、前瞻性为准则，将定期对国内外主流的大模型进行六大方面36个维度的深入评测，发现内在隐患、甄别存在不足、提出客观建议，以帮助大模型企业及时修复不足、降低合规成本、健康有序发展。
在标准协同方面，联合实验室将整合粤港澳政府、高校、科研机构及龙头企业资源，积极推动国家相关标准与区域法规的适配转化，构建安全评估体系，为建立区域统一的安全标准提供实践支撑。
在技术防御方面，联合实验室将依托腾讯等的算力支撑、中山大学等高校的科研力量、深信服等专业能力，推动安全防护技术的进步，向中小微企业输出轻量化防御方案，降低技术应用门槛。
构建AI安全发展标准体系
训练大模型安全智能评测引擎
在传统“事后监管”模式难以应对复杂挑战的现今，构建生成式人工智能安全评测体系与产业监管的深度融合机制，也将成为保障社会经济稳定运行的关键举措。
据了解，联合实验室将构建分级分类的标准体系，其中的AI安全评测体系将建立“基础共性+行业特性”的双层标准架构，实现与产业监管的精准对接，包括结合大湾区特点转化形成区域统一的评测基准、针对不同产业特性制定差异化评测指标。
同时，将构建多元参与的生态体系，形成从基础研究到产业应用的完整链条。此外，还将不断提升技术迭代赋能监管能力，建设本地化安全评测系统、训练智能评测引擎等核心能力，形成覆盖模型全生命周期的安全防护体系。
对于人工智能安全标准体系，联合实验室相关负责人介绍表示，其核心内容将涵盖从基础理论到具体应用的全生命周期安全要求，包括基础共性标准、安全管理标准、关键技术标准、测试评估标准、产品与应用标准、数据、算法和模型安全、安全管理与服务、安全测试与评估、安全治理与伦理等九大方面，旨在保障人工智能技术的安全、可靠和可控发展。
对于大模型安全智能评测引擎，该负责人表示，广东备案大模型服务已近百款，目前还保持着快速上升态势，依靠传统以人工为主的测试评估方式难以与之适配。因此，联合实验室创新性提出“AI评测AI”的思路，以智能应对智能，以技术管控技术，构建能够自动化、智能化评测大模型的安全智能评测引擎。
据了解，测试题集自动生成、测试结果自动研判是安全智能评测引擎的两个重要组成部分，测试题集用来生成大模型服务的输入内容，特别是模拟具有不同价值体系和具有恶意攻击目的的用户提问，结果研判则是用来评判大模型回答是否符合社会主义核心价值观和其它法律法规要求。测试题集自动生成、测试结果自动研判的组合正好覆盖了大模型服务一进一出两部分内容，这将大大降低人力消耗，从而实现大模型全流程自动化、智能化的闭环评测效果。
“希望通过这个自研的智能评测引擎，能为人工智能在粤港澳大湾区海量应用场景‘落地生根’中保驾护航，通过应用的规模化，加速技术能力的迭代，形成‘越用越好用’”的正循环。”联合实验室负责人表示。
具有大湾区特色的人工智能治理新范式，正在旺盛展开。“政产学研用”深度融合，生成式人工智能产业向安全、高效、集群化发展的未来值得期待。
（来源：南方都市报）
新快报讯 元宵节后，曾经代表喜庆热闹的年花年桔开始逐渐褪去它们的节日光环，迎来了它们的“退场”。3月4日，记者自市城市管理综合执法局获悉，今年全市共设744个临时收集点，以便市民分类投放废弃的年花年桔。但这些废弃的年 3月5日上午，十四届全国人大二次会议首场“部长通道”在人民大会堂举行，科学技术部部长阴和俊接受采访。 2023年我国研发投入超3.3万亿元 我国科技事业发展出现了一片新的气象。从投入看，去年全年研发投入超过3.3万亿元 浙江通超工贸有限公司（简称“通超工贸”）于近日签约入驻企知道科创空间，以专业的大数据科创管理平台，助力自身更高阶发展。作为一家专业从事开发、生产橡胶制品的民营企业，通超工贸经过多年的发展，在国内高 张玉卓 国务院国资委主任 5日的十四届全国人大二次会议首场“部长通道”上，国务院国有资产监督管理委员会主任张玉卓介绍说，今年《政府工作报告》对国资国企方面安排部署内容比较丰富，包括国有企业深化改革，国有 21世纪经济报道记者李德尚玉 实习生郝文琪 北京报道碳中和周报关注“双碳”领域的最新前沿动态，包括碳中和政策、地方动态、企业实践等。我们将通过精选每周碳中和领域的重大事件，并进 AI技术持续迭代，各类大模型层出不穷，算力军备竞赛不止。近日，海外人工智能公司推出的大模型Claude3，能力对标GPT-4，在同期AI模型中处于领先水平，进一步带来了AI大模型领域技术层面的新突破。AI模型端的不断 。本文链接：服务企业，大湾区AI安全发展“新引擎”发动！http://www.sushuapos.com/show-1-50328-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 广东两个大动作，透露AI发展新风向