党的二十届三中全会审议通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》强调，建立人工智能安全监管制度。作为一种战略性新兴技术，人工智能已深度融入人们的生产生活，对于工作效率的提升大有裨益，还不断催生出新产业、新业态、新商业模式，持续为经济社会发展注入新动能。作为人工智能的一个重要组成部分，生成式人工智能技术的飞速发展，涵盖虚拟现实、医疗保健、创意产业等多个领域，为各行各业带来更多创新与价值。不过，当前也要密切注意生成式人工智能可能引发的数据安全、信息误导等风险挑战，坚持发展与安全并重。
所谓生成式人工智能技术（AIGC），是指基于算法、模型、规则等，生成文本、声音、图片、视频等内容的新一代人工智能技术。算力、算法、数据是这种技术发展的三大核心要素，这几个要素的综合作用，使得其具备自生成模式，能实现闭环式学习体系的构建，通过利用海量数据信息，自主学习要素，进而生成原创性的专业知识内容或产品并可以不断更新，进行自我升级迭代。基于这些特点，越来越多的行业正将其作为提高生产力水平的新要素，创造出指数级的价值，并催生了大量的产业应用，教育、娱乐、商业等领域均有所及。2022年末，美国OpenAI公司推出的ChatGPT标志着这一技术在文本生成领域取得显著进展。世界知识产权组织（WIPO）不久前发布的《生成式人工智能专利态势报告》显示，2014年到2023年，中国生成式人工智能专利申请量超3.8万件，居世界第一位，是第二名美国的6倍。
生成式人工智能是把双刃剑，在加强技术研发和创新的同时，需努力提高其安全性和可控性，有效识别潜在风险和漏洞并形成应对策略。2023年8月15日正式施行的《生成式人工智能服务管理暂行办法》指出，有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。因此，未来要进一步推动生成式人工智能的发展，应从网络安全、数据安全、个人信息保护等层面入手，采取包容审慎的态度，从技术、伦理、法律等多方面设置“安全阀门”，防范生成式人工智能风险。
一方面，完善相关法律法规的有效界定，合理有效监管。加快立法进程，针对数据、内容安全、知识产权等生成式人工智能发展的关键问题，进行分类管理、分类立法，通过政策立法对生成式人工智能的设计、演进进行有效引导、统筹管理。明确监管底线，制定相应技术使用规则和行业规范，强化对生成式人工智能企业、平台和使用该技术高校各主体等失范行为的监管，及时发现处理违规行为。将“传统事后监管模式”转为“事前预防评估模式”和“事中控制模式”，制定事前评估、风险预警和事中控制规范，有效减少安全事件的发生、降低安全事件对企业、高校等造成的负面影响。加快制定相应的技术使用规则和应急处理措施，强化对应用生成式人工智能的企业、平台的监管和约束。
另一方面，持续增强数据安全。建立数据全生命周期监督管理，包括数据采集输入阶段的虚假、错误信息入库管控，数据处理加工阶段的数据标注管控监督，数据输出阶段（二次采集输入阶段）的数据真实性检测验真等。针对医疗、金融、电商、高校等重点领域，通过技术手段保障数据安全。及时发现和处理数据方面的违规行为，保障数据及隐私安全，防止滥用数据造成的损失，确保其符合法律法规和社会公德。
党的二十届三中全会审议通过的《中共中央关于进一步全面深化改革、推进中国式现代化的决定》强调，建立人工智能安全监管制度。作为一种战略性新兴技术，人工智能已深度融入人们的生产生活，对于工作效率的提升大有裨益，还不断催生出新产业、新业态、新商业模式，持续为经济社会发展注入新动能。作为人工智能的一个重要组成部分，生成式人工智能技术的飞速发展，涵盖虚拟现实、医疗保健、创意产业等多个领域，为各行各业带来更多创新与价值。不过，当前也要密切注意生成式人工智能可能引发的数据安全、信息误导等风险挑战，坚持发展与安全并重。
所谓生成式人工智能技术（AIGC），是指基于算法、模型、规则等，生成文本、声音、图片、视频等内容的新一代人工智能技术。算力、算法、数据是这种技术发展的三大核心要素，这几个要素的综合作用，使得其具备自生成模式，能实现闭环式学习体系的构建，通过利用海量数据信息，自主学习要素，进而生成原创性的专业知识内容或产品并可以不断更新，进行自我升级迭代。基于这些特点，越来越多的行业正将其作为提高生产力水平的新要素，创造出指数级的价值，并催生了大量的产业应用，教育、娱乐、商业等领域均有所及。2022年末，美国OpenAI公司推出的ChatGPT标志着这一技术在文本生成领域取得显著进展。世界知识产权组织（WIPO）不久前发布的《生成式人工智能专利态势报告》显示，2014年到2023年，中国生成式人工智能专利申请量超3.8万件，居世界第一位，是第二名美国的6倍。
生成式人工智能是把双刃剑，在加强技术研发和创新的同时，需努力提高其安全性和可控性，有效识别潜在风险和漏洞并形成应对策略。2023年8月15日正式施行的《生成式人工智能服务管理暂行办法》指出，有关主管部门依据职责对生成式人工智能服务开展监督检查，提供者应当依法予以配合，按要求对训练数据来源、规模、类型、标注规则、算法机制机理等予以说明，并提供必要的技术、数据等支持和协助。因此，未来要进一步推动生成式人工智能的发展，应从网络安全、数据安全、个人信息保护等层面入手，采取包容审慎的态度，从技术、伦理、法律等多方面设置“安全阀门”，防范生成式人工智能风险。
一方面，完善相关法律法规的有效界定，合理有效监管。加快立法进程，针对数据、内容安全、知识产权等生成式人工智能发展的关键问题，进行分类管理、分类立法，通过政策立法对生成式人工智能的设计、演进进行有效引导、统筹管理。明确监管底线，制定相应技术使用规则和行业规范，强化对生成式人工智能企业、平台和使用该技术高校各主体等失范行为的监管，及时发现处理违规行为。将“传统事后监管模式”转为“事前预防评估模式”和“事中控制模式”，制定事前评估、风险预警和事中控制规范，有效减少安全事件的发生、降低安全事件对企业、高校等造成的负面影响。加快制定相应的技术使用规则和应急处理措施，强化对应用生成式人工智能的企业、平台的监管和约束。
另一方面，持续增强数据安全。建立数据全生命周期监督管理，包括数据采集输入阶段的虚假、错误信息入库管控，数据处理加工阶段的数据标注管控监督，数据输出阶段（二次采集输入阶段）的数据真实性检测验真等。针对医疗、金融、电商、高校等重点领域，通过技术手段保障数据安全。及时发现和处理数据方面的违规行为，保障数据及隐私安全，防止滥用数据造成的损失，确保其符合法律法规和社会公德。
在近日举行的全球AI盛会GTC（GPU Technology Conference）2024上，联想集团与NVIDIA（英伟达）宣布合作推出全新混合人工智能解决方案，帮助企业和云提供商获得在人工智能时代成功所需的关键的加速计算能 3月21日上午，全球首列氢能源市域列车在中车长客股份公司（以下简称“中车长客”）试验线上进行了时速160公里满载运行试验。当日试验过程中，车以160公里/小时速度运行的列车，每公里实际运行平均能耗 3月22日消息，今天，数码博主“数码闲聊站”曝光了一部新款千元机的部分配置。该博主表示，欧加（OPPO/一加）有个5500mAh超大电池的千元曲屏机，正在测试IP68级防尘防水效果，主打就是防水抗摔耐用。该博主最 在日常生活中，隧道可以帮助人们翻山越岭。在植物细胞内，当内部物质穿过细胞膜时，往往也会通过类似的“隧道”。记者从中国科学技术大学获悉，该校孙林峰团队在第六大植物激素——油菜素 “啪嗒啪嗒......”一只机器狗在街上迈着规律的步伐，拉着牵引绳的盲人，在它的带领下越过沿路障碍，平稳地行走着，电子导盲犬能否取代传统导盲犬，解决视障人士一犬难求的困境？西工大团队在这方面开展 近日，民航华东地区管理局向峰飞科技公司颁发V2000CG无人驾驶航空器系统型号合格证，这也是中国民航系统颁发的首个无人驾驶吨级电动垂直起降航空器型号合格证。航空器型号合格证取证是保障航空 。本文链接：防范人工智能风险要有安全阀http://www.sushuapos.com/show-2-8087-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 3D打印技术催动高质量数实融合