7月26日，中国人工智能发展与安全研究网络举办“人工智能发展与安全”全体会议。会议由清华大学文科资深教授、人工智能国际治理研究院院长薛澜主持，近20位资深专家围绕人工智能（AI）发展与安全的前沿进展与应用实践进行深入探讨。
会议伊始，诺贝尔奖和图灵奖得主、多伦多大学教授杰弗里·辛顿与图灵奖得主，清华大学交叉信息研究院、人工智能学院院长姚期智进行高端对谈，重点围绕AI与神经科学、AI的“自我意识”、量子计算对AI发展的影响等话题展开深度讨论。他们谈到，AI与合成生物学一样，都是在创造“新的生命”，当前AI已经初步展现出很强的理解能力甚至“自我意识”，人们应该抛弃只有人类存在“意识”的固有思维。如何训练对人类保持善意的AI，确保“智能向善”是人类必须关注和解决的重要问题。
加拿大蒙特利尔大学教授约书亚·本吉奥和美国加州大学伯克利分校教授大卫·帕特森分别线上发言。本吉奥强调，过去几年人们所见证的AI对社会的影响只是冰山一角，随着其能力的不断提升，安全风险也在同步增加，国际社会亟须加强合作，共同应对。帕特森团队发现，人机协同时的能力优于人类与人工智能各自的单打独斗，如果人类能把AI的应用聚焦于提升生产力，将获得更多收益。
随后的专家讨论环节由姚期智主持。美国加州大学伯克利分校教授斯图尔特·罗素、中国信息通信研究院院长余晓晖、英国皇家工程院院士约翰·麦克德米、清华大学交叉信息研究院副院长徐葳、奇安信集团合伙人邬怡等专家，围绕“AI与人类的和谐未来”问题展开研讨。嘉宾们指出，AI与网络等多领域的安全相互影响，需要在传统安全防护手段的基础上提升能力，呼吁加强跨学科协作，构建“辅助博弈”框架，促使AI系统主动学习人类偏好而非简单模仿行为，通过冗余验证等“软硬件结合”的方式降低人工智能风险等。
英国牛津大学布拉瓦尼克政府学院创始院长林奈莉、上海交通大学文科资深教授季卫东、美国微软公司前首席研究与战略官克雷格·蒙迪、中国电子信息产业发展研究院党委副书记胡国栋、中国电信集团网络与信息安全首席专家刘紫千、阿里云智能集团副总裁刘湘雯等专家参加了薛澜主持的讨论，围绕“人工智能发展与安全的全球治理”问题展开。他们谈到，智能体（Agent）的快速发展使得原本“点对点”的安全问题逐渐转变为系统性安全风险，仅依靠行业自我监管很难有效应对，呼吁世界各国加强合作，通过建立类似国际原子能机构的专门机构等方式，形成具有广泛共识的AI治理框架和标准规范，共同应对AI风险，
最后，中国信息通信研究院、中国电子信息产业发展研究院、清华大学、上海人工智能实验室4家网络成员单位代表网络联合发布《中国人工智能安全承诺框架》，框架在相关企业安全承诺基础上新增针对加强安全治理国际合作和关于防范前沿AI安全风险的重要内容。
本场论坛由清华大学人工智能国际治理研究院、中国电子信息产业发展研究院（赛迪研究院）、上海期智研究院、清华大学交叉信息研究院、中国信息通信研究院、上海人工智能实验室等多家网络成员单位共同承办。
未来，人工智能或将帮助科研工作者跳过文献检索、粗读的过程，直接找到需要的文献，大幅提升科研工作者的文献阅读效率。 “太忙了。”这是清华大学人工智能（AI）国际治理研究院副院长梁正面对记者脱口而出的一句话。 去年11 中新网北京12月19日电 (记者 孙自法)施普林格·自然旗下专业学术期刊《自然-计算科学》最新发表一篇论文称，研 人类蛋白质KRAS（蓝色）与其伴侣之一RAF1（黄色）相互作用的三维图。图片来源：西班牙巴塞罗那基因组调控中心 科技日报北京12 中新网伦敦1月2日电 (彭欣怡)当地1月2日，英国气象局发布数据指出，2023年是英国自1884年有气象记录以来第二热的一年，仅 近日，中国科学院大连化学物理研究所研究员周光远和副研究员聂赫然团队，在高性能聚酰亚胺气凝胶结构设计和研究方面取 。本文链接：探讨AI安全发展与人类共享，人工智能发展与安全会议举办http://www.sushuapos.com/show-11-24002-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 多项成果发布，科学前沿全体会议在沪举办