中新社博鳌3月26日电 题：AI迅猛发展，人类能否稳控“方向盘”
中新社记者 王晓斌
全球各大企业在AI(人工智能)技术赛道上竞相追逐，博鳌亚洲论坛2025年年会于3月26日举办的一场AI主题分论坛，关注相关的深层次话题：在AI技术迅猛发展的时代，人类能否继续稳坐“驾驶舱”，确保自己是掌控方向的司机，而非被动的乘客？
为何人类必须掌控AI“方向盘”
AI近年来的快速发展既令人振奋，又暗藏隐忧。上海科学智能研究院首席战略官、复旦大学经济学教授杨燕青指出，AI可能是人类历史上最强大的通用技术。“与蒸汽机、电力等增强人类体力的技术不同，AI直接赋能人类大脑，涉及计算与认知的深度融合。”杨燕青将AI特性描述为“类人”，这使得AI既能带来生产力提升，也可能引发威胁人类生存的风险。
中国工程院院士、清华大学智能产业研究院院长张亚勤介绍，2025年人工智能发展呈现三大趋势：从生成式大模型迈向智能体，从预训练走向推理，从信息智能走向物理智能和具身智能。
随着AI的快速迭代，一个令人不安的场景或从科幻电影中走向现实：本应协助人类的AI，可能因为算法偏差或外部操纵，做出违背伦理、危及人类利益的决策。
人类如何掌控AI“方向盘”
面对未知的AI风险，人类如何应对？中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅主张，将伦理安全融入AI开发的底层设计，视其为“第一性原则”，不可删除、不可违背。他强调，AI的伦理安全应成为技术发展的基因，确保其与人类价值观保持一致。
张亚勤进一步将AI风险分解为可信度与可控性两个层面。可信度要求AI在执行任务时遵循人类期望、伦理规范和社会法律，不产生误导性、有害或不公平的结果；可控性则确保人类能有效监控、干预和纠正AI行为，避免失控或不可预测的后果。他提出，设定技术红线与边界是关键，如限制智能体自我复制，以降低失控风险。
在具体实践上，国际社会已采取行动。欧盟《人工智能法案》于2024年实施，对高风险AI系统设定了严格的透明度和问责要求；中国2023年发布的《生成式人工智能服务管理暂行办法》则明确要求企业对AI输出内容负责。这些技术与伦理并重的措施，旨在确保人类脚踩AI超速的“刹车片”，手握AI发展的“方向盘”。
平衡AI：发展与治理的共生之道
有人担忧，给AI“装上刹车片”会削弱其竞争力。曾毅介绍，其所在的团队通过对大模型进行微调，可以将安全能力提升20%至30%，对其性能几乎没有负面影响。这一发现证明，安全治理与技术发展可以并行不悖。
当天在博鳌的讨论最终汇聚成共识：AI治理需要构建一个多元、立体的全方位治理体系。这一体系如同一个精密的生态系统，既有自上而下的宏观规划，也有自下而上的微观参与，涵盖技术、社会、经济等多元维度。
“我们怎么和人工智能共处？如何让人工智能使得整个世界变得更好，人类应有更大的责任。”杨燕青认为，AI治理是每个人的使命。社会大众应保持自身的价值观和创新力，在多元的理念中把握好自己的“方向盘”。(完)
美国布朗大学研究团队在最新一期《自然·电子学》上描述了一种无线通信网络。它可有效地传输、接收和解码来自数千个微电子芯片的数据。研究团队试图模仿大脑神秘且高效的工作方式。对 3月21日是世界睡眠日，中国主题为“健康睡眠 人人共享”。近日发布的《2023年中国居民睡眠白皮书》显示，我国居民平均睡眠时长6.75小时，平均在零点后入睡，夜间睡眠时长普遍偏短。你是否有睡眠困扰 2024年2月，OpenAI公司推出了文生视频人工智能（AI）模型Sora。OpenAI展示了Sora利用少量简短文字提示即可创建逼真视频的能力，并提供了包括一位女士在闪烁着霓虹灯的东京街道漫步，以及一只狗在两个 3月23日消息，京东与OPPO战略合作协议签约仪式举行，双方签订未来三年OPPO在京东全渠道实现销售额同比增长100%的目标。在签约仪式上，OPPO高级副CEO、首席产品官刘作虎表示，2024年线上突破是OPPO中国区 据英国《每日电讯报》网站3月18日报道，根据英国政府的新航空计划，首批电动飞行出租车将于2026年试飞。周一发布的《“飞行未来”行动计划》为飞行出租车在2030年广泛使用铺平道路。尽管在最初 近日，民航华东地区管理局向峰飞科技公司颁发V2000CG无人驾驶航空器系统型号合格证，这也是中国民航系统颁发的首个无人驾驶吨级电动垂直起降航空器型号合格证。航空器型号合格证取证是保障航空 。本文链接：（聚焦博鳌）AI迅猛发展，人类能否稳控“方向盘”http://www.sushuapos.com/show-2-11627-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 二硒化铌薄膜中发现隐形超导态