7月26日，中国人工智能发展与安全研究网络举办“人工智能发展与安全”全体会议。会议由清华大学文科资深教授、人工智能国际治理研究院院长薛澜主持，近20位资深专家围绕人工智能（AI）发展与安全的前沿进展与应用实践进行深入探讨。
会议伊始，诺贝尔奖和图灵奖得主、多伦多大学教授杰弗里·辛顿与图灵奖得主，清华大学交叉信息研究院、人工智能学院院长姚期智进行高端对谈，重点围绕AI与神经科学、AI的“自我意识”、量子计算对AI发展的影响等话题展开深度讨论。他们谈到，AI与合成生物学一样，都是在创造“新的生命”，当前AI已经初步展现出很强的理解能力甚至“自我意识”，人们应该抛弃只有人类存在“意识”的固有思维。如何训练对人类保持善意的AI，确保“智能向善”是人类必须关注和解决的重要问题。
加拿大蒙特利尔大学教授约书亚·本吉奥和美国加州大学伯克利分校教授大卫·帕特森分别线上发言。本吉奥强调，过去几年人们所见证的AI对社会的影响只是冰山一角，随着其能力的不断提升，安全风险也在同步增加，国际社会亟须加强合作，共同应对。帕特森团队发现，人机协同时的能力优于人类与人工智能各自的单打独斗，如果人类能把AI的应用聚焦于提升生产力，将获得更多收益。
随后的专家讨论环节由姚期智主持。美国加州大学伯克利分校教授斯图尔特·罗素、中国信息通信研究院院长余晓晖、英国皇家工程院院士约翰·麦克德米、清华大学交叉信息研究院副院长徐葳、奇安信集团合伙人邬怡等专家，围绕“AI与人类的和谐未来”问题展开研讨。嘉宾们指出，AI与网络等多领域的安全相互影响，需要在传统安全防护手段的基础上提升能力，呼吁加强跨学科协作，构建“辅助博弈”框架，促使AI系统主动学习人类偏好而非简单模仿行为，通过冗余验证等“软硬件结合”的方式降低人工智能风险等。
英国牛津大学布拉瓦尼克政府学院创始院长林奈莉、上海交通大学文科资深教授季卫东、美国微软公司前首席研究与战略官克雷格·蒙迪、中国电子信息产业发展研究院党委副书记胡国栋、中国电信集团网络与信息安全首席专家刘紫千、阿里云智能集团副总裁刘湘雯等专家参加了薛澜主持的讨论，围绕“人工智能发展与安全的全球治理”问题展开。他们谈到，智能体（Agent）的快速发展使得原本“点对点”的安全问题逐渐转变为系统性安全风险，仅依靠行业自我监管很难有效应对，呼吁世界各国加强合作，通过建立类似国际原子能机构的专门机构等方式，形成具有广泛共识的AI治理框架和标准规范，共同应对AI风险，
最后，中国信息通信研究院、中国电子信息产业发展研究院、清华大学、上海人工智能实验室4家网络成员单位代表网络联合发布《中国人工智能安全承诺框架》，框架在相关企业安全承诺基础上新增针对加强安全治理国际合作和关于防范前沿AI安全风险的重要内容。
本场论坛由清华大学人工智能国际治理研究院、中国电子信息产业发展研究院（赛迪研究院）、上海期智研究院、清华大学交叉信息研究院、中国信息通信研究院、上海人工智能实验室等多家网络成员单位共同承办。
“数据、模型和训练都是我们自己做的，我们将开放数据和模型，供每一位开发者免费使用。”12月15日，北京中科闻歌科技股份有 ·生产中的模型由“安全系统”团队管理。开发中的前沿模型有“准备”团队，该团队会在模型发布之前识别和量化风险 科技日报北京12月19日电 （记者马爱平）19日，记者从中国农业科学院茶叶研究所获悉，该所茶叶质量与风险评估创新团队首创了 12月16日，2023第二届可持续能源发展国际会议在北京开幕。此次会议以“零碳科技、创新未来”为主题，汇聚了来自全球多 教育、科技、人才三者相互促进、相辅相成。建设人才强国是实现建设教育强国和科技强国战略目标的关键条件。那么，一个重 ·“这项研究似乎说明，长期生活在食品不安全的状况中所带来的危害是没那么容易逆转的。研究也表明，对于那些因 。本文链接：探讨AI安全发展与人类共享，人工智能发展与安全会议举办http://www.sushuapos.com/show-11-24002-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 多项成果发布，科学前沿全体会议在沪举办