近期,开源AI智能体“龙虾”持续走热,并引发广泛讨论。其是否存在安全风险、怎样才能安全使用?对此,记者采访了中国信息通信研究院副院长魏亮。
所谓“龙虾”,是开源AI智能体OpenClaw的别称,因其图标是红色的龙虾而得名。“龙虾”智能体通过整合调用通信软件和大语言模型,在用户本地电脑自主执行文件管理、邮件收发、数据处理等复杂任务。
“但也要注意到,它很强的执行能力也给用户带来了严峻的安全挑战。”魏亮说,作为本地运行的AI代理,“龙虾”智能体具有自主决策、调用系统资源等特点,加之信任边界模糊、技能包市场目前还缺乏严格审核,存在不少风险隐患。比如在调用大语言模型时可能误解用户指令内容,导致执行删除等有害操作;使用被植入恶意代码的技能包,可能导致数据泄露或系统受控等。
更新到最新版本,是否就没有安全风险了?在魏亮看来,更新到官方最新版本,确实能修复已知的安全漏洞,但并不意味着完全消除安全风险。“网络安全是动态的,黑客攻击手法也在不断迭代,不能把‘打补丁’和‘升版本’当成一劳永逸的安全保障。”
使用“龙虾”智能体需要注意哪些?
魏亮认为,必须坚持“最小权限、主动防御、持续审计”的原则。具体而言,建议从以下几方面来安全使用“龙虾”智能体。
——使用官方最新版本。在部署时,要优先从官方渠道下载最新稳定版,并开启自动更新提醒。在升级前备份数据,升级后重启服务并验证补丁是否生效。
——严格控制互联网暴露面。不要将“龙虾”智能体实例暴露到公网,确需互联网访问的,限制访问源地址,使用强密码或证书、硬件密钥等认证方式。同时,定期自查是否存在互联网暴露情况。
——坚持最小权限原则。在部署时,严禁使用管理员权限的账号,只授予完成任务必需的最小权限,建议在容器或虚拟机中隔离运行,以形成独立的权限区域。
——谨慎使用技能市场。ClawHub是专为“龙虾”智能体用户提供技能包的社区平台,其中的技能包存在恶意投毒风险,建议审慎下载,并在安装前审查技能包代码。
——防范社会工程学攻击和浏览器劫持。不要随意浏览来历不明的网站,避免点击陌生的网页链接。遇到可疑行为立即断开网关并重置密码。
——建立长效防护机制。启用详细日志审计功能,定期检查并修补漏洞。要定期关注工业和信息化部网络安全威胁和漏洞信息共享平台等漏洞库的风险预警。
“广大用户在使用‘龙虾’等AI智能体过程中,一定要把安全底线把握在自己手中,详细了解并落实安全配置规范要求,养成安全使用习惯。”魏亮说,有关方面也会持续做好安全监测,如发现相关安全风险将及时预警,为用户安全使用提供必要的技术支持。
近期,开源AI智能体“龙虾”持续走热,并引发广泛讨论。其是否存在安全风险、怎样才能安全使用?对此,记者采访了中国信息通信研究院副院长魏亮。
所谓“龙虾”,是开源AI智能体OpenClaw的别称,因其图标是红色的龙虾而得名。“龙虾”智能体通过整合调用通信软件和大语言模型,在用户本地电脑自主执行文件管理、邮件收发、数据处理等复杂任务。
“但也要注意到,它很强的执行能力也给用户带来了严峻的安全挑战。”魏亮说,作为本地运行的AI代理,“龙虾”智能体具有自主决策、调用系统资源等特点,加之信任边界模糊、技能包市场目前还缺乏严格审核,存在不少风险隐患。比如在调用大语言模型时可能误解用户指令内容,导致执行删除等有害操作;使用被植入恶意代码的技能包,可能导致数据泄露或系统受控等。
更新到最新版本,是否就没有安全风险了?在魏亮看来,更新到官方最新版本,确实能修复已知的安全漏洞,但并不意味着完全消除安全风险。“网络安全是动态的,黑客攻击手法也在不断迭代,不能把‘打补丁’和‘升版本’当成一劳永逸的安全保障。”
使用“龙虾”智能体需要注意哪些?
魏亮认为,必须坚持“最小权限、主动防御、持续审计”的原则。具体而言,建议从以下几方面来安全使用“龙虾”智能体。
——使用官方最新版本。在部署时,要优先从官方渠道下载最新稳定版,并开启自动更新提醒。在升级前备份数据,升级后重启服务并验证补丁是否生效。
——严格控制互联网暴露面。不要将“龙虾”智能体实例暴露到公网,确需互联网访问的,限制访问源地址,使用强密码或证书、硬件密钥等认证方式。同时,定期自查是否存在互联网暴露情况。
——坚持最小权限原则。在部署时,严禁使用管理员权限的账号,只授予完成任务必需的最小权限,建议在容器或虚拟机中隔离运行,以形成独立的权限区域。
——谨慎使用技能市场。ClawHub是专为“龙虾”智能体用户提供技能包的社区平台,其中的技能包存在恶意投毒风险,建议审慎下载,并在安装前审查技能包代码。
——防范社会工程学攻击和浏览器劫持。不要随意浏览来历不明的网站,避免点击陌生的网页链接。遇到可疑行为立即断开网关并重置密码。
——建立长效防护机制。启用详细日志审计功能,定期检查并修补漏洞。要定期关注工业和信息化部网络安全威胁和漏洞信息共享平台等漏洞库的风险预警。
“广大用户在使用‘龙虾’等AI智能体过程中,一定要把安全底线把握在自己手中,详细了解并落实安全配置规范要求,养成安全使用习惯。”魏亮说,有关方面也会持续做好安全监测,如发现相关安全风险将及时预警,为用户安全使用提供必要的技术支持。
3月20日对于我国抗衰老研究是个特殊的日子,经过近3年的不懈努力,八子补肾胶囊抗衰老取得又一重大突破。挑战人类生命极限是摆在全球科学家面前的重大课题,抗衰老研究已成为世界生命科学领域关注 据法新社巴黎3月15日报道,15日发布的一项新的重要分析称,影响神经系统的疾病——如中风、偏头痛和痴呆症——已经超过心脏病,成为全球范围内导致人们健康损害的主要原因。 记者从中国航天科技集团获悉,3月21日13时27分,长征二号丁运载火箭/远征三号上面级在酒泉卫星发射中心起飞,随后将云海二号02组卫星送入预定轨道,发射任务取得圆满成功。云海二号02组卫星由中国航 3月22日消息,中国互联网络信息中心(CNNIC)今天发布了《中国互联网络变化状况计算报告》。《报告》显示,截至2023年12月,我国网民规模达10.92亿人,较2022年12月新增网民2480万人,互联网普及率达77.5%。截 3月24日消息,今天数码博主“厂长是关同学”曝光了huaweiMate 70系列电话的部分配置信息。该博主表示,huawei全新的Mate 70系列首发会搭载新的芯片,芯片的性能差不多可以比肩5.5nm,还是值得期待的。同 据英国《自然》周刊网站3月19日报道,研究人员首次利用生成式人工智能(AI)制造出全新抗体。报道称,本周生物学预印本资料库中的一份预印本报告的原理验证研究,提高了将“AI指导的蛋白质设计引入治 。本文链接:“龙虾”智能体持续走热,如何确保使用安全http://www.sushuapos.com/show-2-15532-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 6G:构筑未来世界的神经网络