AI智能体，或将成为2025年的关键词之一，国内外厂商激战正酣，探索其能为千行百业带来的变化。但对数据安全的忧虑也浮出水面。有多少交互的工作内容会上传？用户数据会不会云上“裸奔”？
记者发现，目前用户在个人数据隐私方面的授权甚为被动，多名业内安全专家呼吁，期盼大模型出台强制性合规标准，落实隐私安全要求。
AI智能体今年或将规模化就业
“我相信2025年人们将会看到第一批AI智能体加入劳动力大军，从根本上改变各公司产出的东西。”日前，Open AI CEO山姆·奥尔特曼发布的一篇博客，引发业界对AI智能体的再度关注。英伟达CEO黄仁勋近日也表示，“AI智能体可能是下一个机器人产业，蕴藏着价值数万亿美元的机会”。
什么是AI智能体？它和去年如日中天的大模型又有何区别？业内专家表示，大模型虽然能理解、能问答、能生成，但是“不能直接干活”。只有加上知识获取、感知、推理、工具使用以及系统架构的能力，变成智能体后才能高效执行具体任务。
记者注意到，近段时间，国内外多个厂商在这个赛道中纷纷布局，展开激烈角逐。微软一口气发布了10个商业智能体，称一个智能体提升的生产力相当于增加187名全职员工；Open AI将要发布新的AI智能体工具，代表人类执行预订旅行、编码等任务。
国内企业也不甘落后。聚焦PPT制作、文书写作等，科大讯飞一口气升级了8款办公智能体；智谱清言最新AI智能体可以实现自动点咖啡、发红包；腾讯也透露，微信、QQ、输入法、浏览器等产品都将推出AI智能体。
用户个人数据或用于“炼”AI
上传附件，点击几个按键，不到2分钟，一份制作精美的PPT就通过某AI智能体自动生成。“这可比过去一页页排版轻松多了！”白领小孙感到欣慰的同时，一股担忧也在心底浮现：“PPT里的敏感财务数据会不会也上云了？”
小孙的担忧不是个例。记者随机采访了10名用户，有9名用户在使用AI智能体时，有过对数据隐私安全的疑虑：“我的个人敏感数据，会不会被直接采集，用来训练AI？”
AI智能体的驱动平台是大模型。记者查阅了Kimi、豆包、智谱清言、混元、讯飞星火等多个大模型的隐私条款，发现多个平台在这些隐私条款中声明，会在经过安全加密、严格去标识化且无法重新识别特定个人的前提下，将用户向AI输入的数据、发出的指令以及AI相应生成的回复、用户对产品的访问和使用情况进行分析并用于模型训练。有平台还称“处理后此类数据将不属于个人信息范畴，其使用无需另行征得用户同意。”
用户是否能明确拒绝大模型平台使用其个人对话进行模型训练？记者发现，相比Open AI、谷歌Gemini等国外大模型，目前国内多个大模型并没有“一键关闭”功能进行拒绝授权的操作。
业内盼望出台强制性合规标准
中国信通院泰尔实验室信息安全部副主任傅山认为，对用户而言，一条指令，往往会涉及多个App智能体产品，过度的数据收集会带来数据滥用、算法偏见、透明度不足等问题。
“对于用户来说，大模型的隐私安全问题涉及三个点，是否接触、是否计算和是否输出。”奇安信行业安全研究中心主任裴智勇表示，其中对外输出是核心点，一旦平台向不合法的用户输出敏感个人信息，不但可能损害用户隐私，甚至可能危害国家安全。
“这一问题的解题思路，还是在于对大模型和AI智能体的行业监管。”裴智勇说，可以通过对大模型抓取数据和输出数据的流量监测，知晓大模型是否读取了敏感个人信息，是否输出了敏感个人信息，从源头和终端两个层面把控个人信息的使用，从而及时发现问题，化解或减少大模型对于个人隐私带来的侵害。
多名业内专家也呼吁，期盼尽快完善大模型强制性合规标准，确保大模型及AI智能体研发、训练、部署过程的隐私安全要求得到遵守。
AI智能体，或将成为2025年的关键词之一，国内外厂商激战正酣，探索其能为千行百业带来的变化。但对数据安全的忧虑也浮出水面。有多少交互的工作内容会上传？用户数据会不会云上“裸奔”？
记者发现，目前用户在个人数据隐私方面的授权甚为被动，多名业内安全专家呼吁，期盼大模型出台强制性合规标准，落实隐私安全要求。
AI智能体今年或将规模化就业
“我相信2025年人们将会看到第一批AI智能体加入劳动力大军，从根本上改变各公司产出的东西。”日前，Open AI CEO山姆·奥尔特曼发布的一篇博客，引发业界对AI智能体的再度关注。英伟达CEO黄仁勋近日也表示，“AI智能体可能是下一个机器人产业，蕴藏着价值数万亿美元的机会”。
什么是AI智能体？它和去年如日中天的大模型又有何区别？业内专家表示，大模型虽然能理解、能问答、能生成，但是“不能直接干活”。只有加上知识获取、感知、推理、工具使用以及系统架构的能力，变成智能体后才能高效执行具体任务。
记者注意到，近段时间，国内外多个厂商在这个赛道中纷纷布局，展开激烈角逐。微软一口气发布了10个商业智能体，称一个智能体提升的生产力相当于增加187名全职员工；Open AI将要发布新的AI智能体工具，代表人类执行预订旅行、编码等任务。
国内企业也不甘落后。聚焦PPT制作、文书写作等，科大讯飞一口气升级了8款办公智能体；智谱清言最新AI智能体可以实现自动点咖啡、发红包；腾讯也透露，微信、QQ、输入法、浏览器等产品都将推出AI智能体。
用户个人数据或用于“炼”AI
上传附件，点击几个按键，不到2分钟，一份制作精美的PPT就通过某AI智能体自动生成。“这可比过去一页页排版轻松多了！”白领小孙感到欣慰的同时，一股担忧也在心底浮现：“PPT里的敏感财务数据会不会也上云了？”
小孙的担忧不是个例。记者随机采访了10名用户，有9名用户在使用AI智能体时，有过对数据隐私安全的疑虑：“我的个人敏感数据，会不会被直接采集，用来训练AI？”
AI智能体的驱动平台是大模型。记者查阅了Kimi、豆包、智谱清言、混元、讯飞星火等多个大模型的隐私条款，发现多个平台在这些隐私条款中声明，会在经过安全加密、严格去标识化且无法重新识别特定个人的前提下，将用户向AI输入的数据、发出的指令以及AI相应生成的回复、用户对产品的访问和使用情况进行分析并用于模型训练。有平台还称“处理后此类数据将不属于个人信息范畴，其使用无需另行征得用户同意。”
用户是否能明确拒绝大模型平台使用其个人对话进行模型训练？记者发现，相比Open AI、谷歌Gemini等国外大模型，目前国内多个大模型并没有“一键关闭”功能进行拒绝授权的操作。
业内盼望出台强制性合规标准
中国信通院泰尔实验室信息安全部副主任傅山认为，对用户而言，一条指令，往往会涉及多个App智能体产品，过度的数据收集会带来数据滥用、算法偏见、透明度不足等问题。
“对于用户来说，大模型的隐私安全问题涉及三个点，是否接触、是否计算和是否输出。”奇安信行业安全研究中心主任裴智勇表示，其中对外输出是核心点，一旦平台向不合法的用户输出敏感个人信息，不但可能损害用户隐私，甚至可能危害国家安全。
“这一问题的解题思路，还是在于对大模型和AI智能体的行业监管。”裴智勇说，可以通过对大模型抓取数据和输出数据的流量监测，知晓大模型是否读取了敏感个人信息，是否输出了敏感个人信息，从源头和终端两个层面把控个人信息的使用，从而及时发现问题，化解或减少大模型对于个人隐私带来的侵害。
多名业内专家也呼吁，期盼尽快完善大模型强制性合规标准，确保大模型及AI智能体研发、训练、部署过程的隐私安全要求得到遵守。
人体免疫系统中的小过滤器淋巴结有了新妙用。近日，浙江大学药学院、金华研究院教授顾臻团队联合多位科研人员，在国际上首次提出利用冷冻干燥的淋巴结组织提升抗肿瘤药物疗效的方法。相关论文发 近日，国家知识产权局等五部门联合印发了《专利产业化促进中小企业成长计划实施方案》（以下简称《实施方案》）。《实施方案》提出，到2025年底，中小企业知识产权意识和专利转化运用能力得到普遍提升 马斯克开源3140亿参数的Grok，大模型争相开源所为何求？ 作者：刘晓洁 特斯拉CEO埃隆・马斯克(Elon Musk)给大模型领域投下一枚重磅炸弹。 北京时间3月18日凌晨，马斯克旗下大模型公司 xAI 在官网宣布开源 3140 近日，美国纽约州立大学石溪分校科学家菲格罗阿等人在一篇发表于《自然·量子信息》上的论文中称，他们通过把两个独立的光子存储在铷气里，首次在室温条件下构建了一个量子存储器网络。鉴于 21世纪经济报道记者 石恩泽 深圳报道操作系统似乎对地理入迷。鸿蒙和深圳，就像Windows和西雅图，也似Linux和赫尔辛基。这是地理与技术的紧密交融。深圳，可以说是鸿蒙的诞生之地，在全球科 据英国《自然》周刊网站3月19日报道，研究人员首次利用生成式人工智能（AI）制造出全新抗体。报道称，本周生物学预印本资料库中的一份预印本报告的原理验证研究，提高了将“AI指导的蛋白质设计引入治 。本文链接：AI智能体火爆 用户担心个人数据被用于模型训练 大模型隐私安全亟待行业监管http://www.sushuapos.com/show-2-10194-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 尺素金声丨从三个维度读懂2024中国经济
下一篇： 一批互联网3.0“黑科技”在京亮相