【析理论道】
习近平总书记指出：“要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。”国务院近日印发的《关于深入实施“人工智能+”行动的意见》提出，“共同研判、积极应对人工智能应用风险，确保人工智能发展安全、可靠、可控”。当前，人工智能正以前所未有的深度与广度重塑着社会运行方式。同时，从大型语言模型的“幻觉”输出到自动驾驶系统的决策偏差，从深度伪造技术对社会信任的侵蚀到算法黑箱导致的不透明与偏见……人工智能系统在性能飞跃的同时，其内生性安全与可靠性问题成为制约其健康发展的不容忽视的因素。传统的事后补救、外挂防护式的治理模式，如同在高速运行的列车外部进行修补，不仅效率低下，也难以触及复杂系统内部深层结构性问题。因此，探索以系统治理推动人工智能安全可靠可控发展，具有实践上的紧迫性。
从“外挂补丁”到“免疫系统”的范式更新
“外挂补丁”模式承袭传统网络安全思路，其特征表现为事后补救、外部附加和局部修正，其在人工智能治理初期发挥了重要作用。例如，当发现人工智能系统学会了偏见和歧视，我们试图用“过滤网”去筛查它的回答；当发现它容易被“误导”或“欺骗”，我们再为其额外增加一道防护程序；当人工智能系统的决策过程像一个黑箱难以理解，我们再开发一个外部工具去试图解读它。然而，这种模式存在固有局限性：其预警响应往往滞后于风险显现，难以覆盖长链式、跨模态的新型风险；附加的安全模块可能与原生系统存在适配冲突，影响模型性能的同时产生新的脆弱点；规则化的应对方式无法适应快速迭代的攻击手法。正如修补漏洞无法替代建设坚固的城堡，依赖外部打补丁难以形成系统性的安全韧性。
确保人工智能系统安全可靠可控，需要从系统设计的底层逻辑出发，将安全与可靠目标内化为技术架构、算法模型、数据流程乃至开发范式的核心基因，使其具备类似生物免疫系统的自我识别、动态适应和协同防御功能，随系统演化而自适应进化，进而降低安全风险发生的概率与危害。这一范式涵盖三个核心维度：架构安全、过程安全与价值安全。具言之，筑牢架构安全防线，将安全属性嵌入模型底层，使其天生具备更强的抗干扰、抗欺骗能力，不易被“病毒”入侵，并能更好保护数据隐私；构建过程安全监控系统，在模型训练、部署、运行的全流程实施动态风险监测与反馈调节；设置价值安全指引，将价值观、伦理准则与社会规范内化为人工智能系统的行为指引，通过价值观对齐，使系统不仅能正确执行任务，更能理解行动的伦理意涵与社会影响。
从“概率正确”到“可知可控”的信任构建
当前，大多数人工智能系统基于大数据和概率模型运行，通过分析大量数据找出重复出现的模式，进而做出判断，这通常表现为“概率正确”。这种方式虽然高效，但也存在明显的局限和风险。一是结果的不确定性。模型可能会产生“幻觉”，即编造看似真实实则虚假的信息。在医疗诊断、司法辅助等严肃场景中，模型“幻觉”的代价是难以估量的。二是决策的不可溯性。当系统做出某个决定时，使用者往往无法了解其具体推理过程，这既影响了对结果的验证，也阻碍了错误发生后的纠正和改进。三是风险的不可预见性。系统在常规环境下可能表现良好，但在面对新情况或受到干扰时，可能出现无法预见的错误，给实际应用带来隐患。
人工智能系统的可靠性不能停留在统计意义上的“高概率正确”，而应追求在复杂、开放、动态环境下的“高置信可靠”。其核心在于建立可知、可控、可信的技术闭环，使人工智能系统不再是神秘莫测的“黑箱”，而是行为可预期、风险可管理、决策可追责的“透明箱”或“玻璃箱”，具有以下特性：可解释性，即系统不仅能输出结果，更能提供清晰、可理解的决策依据和推理路径，使其行为对开发者与使用者而言是透明、可追溯的；预期一致性，即系统的行为表现严格处于其声明的能力边界和设计目标之内，不会产生无法预知的、超出其功能范围的行为，确保其行动结果与人类预期高度吻合；可验证性，系统的性能、逻辑和输出结果可通过独立的、系统化的方法进行测试、检验与审计，确保其行为始终符合预设的技术规范和伦理标准；可干预性，即在关键决策点或系统表现异常时，人类能够进行及时干预、修正或中止，始终将最终控制权置于人类手中。
推进融合技术、标准、伦理的系统性“治理工程”
推动人工智能安全可靠可控发展，绝非单纯的技术优化，而是一项深度融合技术创新、标准规范、伦理准则的系统性“治理工程”，即将治理要求结构化、自动化地嵌入人工智能系统的设计、开发、部署、运行、迭代全过程。
以技术创新为治理根基，筑牢安全可控的底层支撑。技术是实现有效治理的根基。应重点发展以可信人工智能为核心的关键技术，从设计之初就内置安全特性，确保系统行为的可靠性，为治理提供坚实基础。主要包括以下几个方向：研发具有高稳定性和抗干扰能力的算法模型，使系统在面对恶意攻击或异常数据时仍能保持正常运行；推进可解释人工智能技术，让系统的决策过程变得清晰可见;构建测试验证和持续监测体系，实现对系统风险的实时预警和动态防护。
以标准规范为治理准绳，确立清晰一致的行业标尺。标准是治理体系的尺度，为技术创新和产业应用提供统一规范。应加快构建覆盖人工智能全生命周期、多维度的标准体系。在基础共性方面，建立术语、架构、评估基准标准；在关键技术领域，制定可解释性、隐私保护等技术标准；在行业应用层面，推出面向医疗、交通、金融等重点领域的应用规范和管理指南。这些标准不仅为产品研发和质量评价提供依据，也为监管执法和社会监督提供可靠参照，有助于推动产业形成共识，避免无序发展，实现在规范中创新、在标准下落地。
以伦理准则为治理灵魂，引领负责任的创新方向。伦理准则能够为技术发展提供价值引导。伦理治理的目标，是确保人工智能的发展始终遵循人类价值观和共同福祉，实现科技向善。为此，应当将以人为本、公平包容、责任明确、可控可信等伦理原则深度融入人工智能研发与应用全过程。具体而言，建立伦理审查和风险评估机制，对可能产生的伦理影响和社会后果进行前瞻性研判；推动算法公平性研究，努力消除数据偏见和歧视；明确研发者、使用者、监管者等各方责任，建立健全问责机制；鼓励开展人工智能伦理教育和公众讨论，提升全社会伦理意识。
当前，人工智能正以磅礴之力塑造人类文明新图景。唯有将安全、可靠、可控深植其技术生命基因，使其生长出强大的内在免疫系统，并辅以技术治理这一系统工程的精心雕琢，才能使人工智能真正成为驱动高质量发展的引擎而非脱缰野马。治理逻辑与技术逻辑实现有机融合之际，一个可知、可控、可信、可持续的人工智能时代才能真正到来。
（作者：曾楠，系广东省习近平新时代中国特色社会主义思想研究中心特约研究员，南方医科大学马克思主义学院院长、教授）
中新经纬1月11日电 据《华尔街日报》中文网11日报道，据Cognizant Impact周三发布的一份研究报告称，在未来10年内，生成性人工智能对美国经济的影响力将达到惊人的1万亿美元，但这可能会让工人付出代价。 报道称，这项 多家A股公司积极布局视频生成模型赛道 本报记者 郭冀川 丁 蓉 继ChatGPT这一现象级的应用推出一年之后，近日，美国开放人工智能研究中心OpenAI正式发布了旗下首款视频生成模型Sora，再次在全球掀起了人工智能关 增值税发票数据显示：春节假期中国服务消费火热 中新社北京2月18日电 (记者 赵建华)中国国家税务总局18日公布的增值税发票数据显示，今年春节假期(正月初一至初八)中国服务消费相关行业日均销售收入同比增长52.3% 作者：王成（广西师范大学副教授、广西高校人文社科重点研究基地广西师范大学马克思主义理论与区域实践研究中心研究员）日前，习近平总书记在主持中共中央政治局第十一次集体学习时指出：“发展新质生 新华社记者王自宸、宋立崑、侯文坤受大范围低温雨雪冰冻天气影响，至22日5时，湖北省绝大部分市县出现1至9厘米积雪。湖北省应急部门于22日10时将低温雨雪冰冻灾害应急响应由四级提升至三级。湖北各地各 中国发展网讯 据中国野生动物保护协会微信公众号消息，为持续推进大熊猫保护事业，中国野生动物保护协会已分别与西班牙马德里动物园和美国圣迭戈动物园就新一轮大熊猫国际保护合作事宜达成一致并签署协 。本文链接：推动人工智能安全可靠可控发展http://www.sushuapos.com/show-5-68977-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 把胸怀大局作为谋划工作的出发点