(经济观察)AI带来网络安全风险 专家建言“用魔法打败魔法”
中新社北京6月5日电 (记者 刘育英)通过AI换脸的网络诈骗、基于AI的钓鱼邮件、AI数据“投毒”......如何应对人工智能带来的网络安全挑战和攻击？专家认为，应尽快发挥AI赋能网络安全的积极作用，实现“用魔法打败魔法”。
在5日举行的2024北京网络安全大会上，中国新一代人工智能发展战略研究院执行院长龚克表示，人工智能是先进生产力，但远未成熟，存在技术瓶颈和社会忧虑。
他认为，人工智能的风险主要来自两个方面：一方面，是人工智能技术存在弱点和不足，而不是过于强大，需靠发展创新去解决；另一方面，是使用者对人工智能的滥用和恶意使用，以及依赖而非驾驭人工智能。
巴基斯坦NCERT主席阿巴斯・海德尔说，大型语言模型(LLM)正在彻底改变网络安全形势，AI在网络安全领域带来的既有挑战，也有机遇。例如，网络罪犯会使用AI生成具有强欺骗性的网络仿冒邮件，但企业也可以用AI完成威胁检测和事件响应、处置。
根据奇安信发布的《2024人工智能安全报告》，AI既放大现有网络安全威胁，又引入了新型威胁，引发网络安全事件指数级增长。其中，2023年基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件数量增长了1000%。
在中央网信办网络安全协调局副局长王营康看来，随着人工智能技术发展，攻击者可利用人工智能技术生成网络攻击和网络钓鱼工具等，网络安全从人人对抗、人机对抗逐渐向基于人工智能的攻防对抗演化。
当前中国新一代人工智能正在与实体经济深度融合，广泛应用于社会民生领域。龚克呼吁推进AI与网络安全融合创新。一方面，人工智能的发展推动了网络安全技术的创新。例如，基于深度学习的恶意软件检测、用户行为分析等新技术不断涌现。另一方面，人工智能的自动化和智能化特性又可以大大提高网络安全管理效率。通过自动化检测、响应和风险评估等流程，可以更快地应对网络威胁。
AI大模型能否解决问题？奇安信董事长齐向东说，AI大模型不是万能钥匙。做好“AI驱动安全”至少需要具备三大条件：其一，高质量的训练数据；其二，纵深防御的内生安全体系；其三，设备、体系具有统一的输入输出标准。
目前，AI驱动安全成效初显。国家电网有限公司副总信息师王继业介绍，国家电网依托大数据平台，加强人工智能与网络安全的融合，研究基于人工智能的风险异常检测方法，开展网络安全关联分析、事件处置和调查溯源，强化网络安全威胁监测和应急处置，实现网络安全事件的智能响应、联动防御。
在技术之外，与会者呼吁进一步提高对网络安全态势的重视，强化体系化安全能力建设。“数据安全是人工智能安全的前提和基础”，中国友谊促进会理事长、国家网信办原副主任陈智敏认为，要从网络安全保卫向数据安全保卫的工作模式拓展，为构建与数字生产力相适应的新型生产关系奠定基础。
王营康建议，要统筹网络安全各方力量，构建大网络安全工作格局，推动形成体系化防御能力；要统筹高质量发展和高水平安全，推动形成人工智能综合治理体系。(完)
美国布朗大学研究团队在最新一期《自然·电子学》上描述了一种无线通信网络。它可有效地传输、接收和解码来自数千个微电子芯片的数据。研究团队试图模仿大脑神秘且高效的工作方式。对 3月18日，伴随着搬运车的轰鸣声，全国首个大规模清洁能源特高压直流输电工程的送端±800千伏特高压祁连换流站迎来了一位“新成员”——1号调相机转子，该换流站第7次年度检修工作 记者3月17日从浙江大学获悉，该校医学院附属第二医院王良静教授团队、附属邵逸夫医院陈淑洁主任医师团队联合研究发现，一种肠道菌群产生的小分子代谢物吲哚丙酸，可以增强抗癌药物抗PD-1单抗对结 盲视技术已在猴子身上见效！马斯克脑机接口公司新目标：让盲人重见光明 澎湃新闻记者 吴遇利 Neuralink新技术或将造福数千万名失明人士。 当地时间3月21日，特斯拉CEO埃隆・马斯克在社交平台X(原推特)发文称， 3月24日，据央视财经消息，在今天开幕的中国发展高层论坛2024年年会现场，苹果公司首席执行官蒂姆·库克回应记者提问表示，苹果公司的Apple Vision Pro头显产品将在今年年内于中国市场上市， 为构建有效联动、密切配合的青少年科学教育协同机制，提升科学教育实施效能，3月23日，北京市关心下一代工作委员会（以下简称“北京市关工委”）、北京市科学技术协会（以下简称“北京市科协”）在北京科 。本文链接：AI带来网络安全风险 专家建言“用魔法打败魔法”http://www.sushuapos.com/show-2-6703-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： OpenAI报复“吹哨人”？前员工联名警告缺乏监管
下一篇： 谁能站稳折叠屏手机风口