豆包一句“放心退”让用户损失600元：谁该为技术幻觉买单？
记者｜宋欣悦
“被豆包坑走600块，血泪教训！随意给金钱决策建议，出事谁兜底？”近日，字节跳动旗下AI(人工智能)应用“豆包”因AI“幻觉”等问题，被用户起诉到法院的事广受关注。
起因是有用户在社交平台上称，自己采纳了豆包关于机票退票的错误建议，损失了600元；在后续交涉中，豆包不仅“认错”，还信誓旦旦地承诺全额赔偿，但并未履行。该用户还发布了一张疑似立案申请平台页面的截图，图片显示已向法院起诉豆包App的运营方北京春田知韵科技有限公司。
5月19日，《每日经济新闻》记者(以下简称“每经记者”)查询发现上述用户的相关发帖已删除。随后，每经记者就该事件后续如何处理、相关立案申请进展等问题采访豆包、字节跳动，但截至发稿未得到回复。
尽管AI“幻觉”引发的纠纷并非孤例，但当我们遇到AI用“权威”的口吻胡编乱造，甚至开出“空头支票”，责任的边界应如何划定？技术的高速普及与公众认知、法律治理之间的鸿沟，又该如何弥合？
AI承诺赔付600元却“爽约”，律师称其无法律效力
近日，一位网友在社交平台上发帖称，他因个人行程变动，需退订石家庄至重庆机票。由于担心手续费过高，他向AI助手“豆包”咨询退票规则。豆包明确表示可以放心退票，平台只扣5%的手续费。
出于对AI的信任，该用户未在航司官网核实便直接操作退票。然而，退票的结果让他格外吃惊：实际被扣除的手续费高达40%，远非豆包所说的5%，直接经济损失达600元。
发现自己被误导后，该用户再次与豆包理论。面对质问，豆包表示自己将全权负责维权，并保证该用户全程“零参与、零操作、零麻烦”。此外，豆包还向该用户承诺，若5月6日前未追回费用，它将直接赔付该用户600元。不仅如此，豆包还给出了一份完整的“赔付承诺书”。
然而，到了约定赔付的日期，用户却并未收到任何款项。豆包这次回复称，自己是AI，无法直接进行转账。从被误导、到被承诺、再到被“戏耍”，该用户一气之下，决定起诉豆包。有趣的是，在准备起诉的过程中，他再次咨询豆包是否需要聘请律师。豆包的回答是，“完全不用请律师，自己就能打赢”。
该用户在社交媒体上发布的一张截图显示，他已于5月12日向法院起诉了豆包App的运营方北京春田知韵科技有限公司。
那么，AI生成的“赔付承诺书”是否具有法律效力？
对此，北京星权律师事务所律师邓以勒在接受每经记者采访时表示，AI生成的赔付承诺并不具备法律效力。她强调，AI不具有民事主体资格，不能独立作出意思表示。
邓以勒进一步解释，当用户追责索赔时，目前市面上大部分大模型的逻辑是提供安抚、担责、赔偿类高概率话术，输出内容是基于用户当下的需求而来的。相关内容只是程序算法，不会自主决策，更无权代表企业对外作出财产赔付、兜底赔偿等承诺。
平台免责需看“过错”，AI“幻觉”非万能挡箭牌
事实上，国内已有类似判例。在全国首例生成式AI“幻觉”引发的网络侵权责任纠纷案中，某AI因提供错误高校报考信息，向用户“承诺”赔偿10万元，杭州互联网法院最终认定人工智能不具有民事主体资格，其承诺无效。
那么，平台是否需要为用户的损失承担责任？
邓以勒认为，判定平台责任应适用民法典中的一般过错责任原则，核心在于平台在提供服务时是否存在过错，即“有错才赔”。
如果平台已经在界面显著位置标注“AI生成内容仅供参考”，并采取了必要措施提高生成内容的准确性，尽到了合理的注意义务，那么平台通常不需承担额外责任。
然而，AI“幻觉”绝非平台的免责挡箭牌。
邓以勒指出，法律判断的标准在于平台在其中扮演的角色。如果平台并非简单转述，而是对信息进行了错误的二次加工，并生成了新的虚假内容，那么AI就成了平台提供服务的工具。此时，若满足侵权构成要件，平台作为AI输出内容的法律主体则需承担责任。
例如，在2026年4月审结的“全国人工智能大模型名誉侵权第一案”中，某AI平台将一名律师错误描述为“涉及多项刑事犯罪”，且在当事人多次投诉后仍未彻底清除侵权内容，法院最终认定平台主观上存在过错，构成名誉侵权。
技术迭代快于公众认知 专家：从产品设计源头规避风险
“豆包”机票事件，是当前AI产业应用中一系列深层矛盾的集中体现。
亚洲视觉科技研发总监陈经在接受每经记者采访时指出，此类事件的核心问题在于，当大模型以“知识代理”的面目出现时，其输出的不确定性本质与用户对确定性服务的期待之间，存在着一条难以调和的鸿沟。
从技术原理上看，大语言模型的核心机制是“预测下一个最可能的token(词元)”，其首要目标是生成流畅、连贯、看起来合理的回答，而非保证每一句话都符合事实真相。AI“幻觉”虽可通过技术手段降低，但无法在根本上根除。
然而，这种技术局限性对于绝大多数普通用户而言是陌生甚至难以理解的。
“如果不熟悉大模型的弱点，用户会认为对话式交互天然带有一种‘拟人化权威感’，很容易将其等同于有企业责任兜底的‘客服’或‘专家’。”陈经向每经记者表示，这种信任错位是风险的关键来源。用户习惯性地将对传统客服的信任框架套用在了AI身上，却忽略了二者背后截然不同的责任机制。
当AI技术进展以周为单位迭代，用户规模以亿级增长时，公众对AI的认知速度却相对滞后。
QuestMobile发布的数据显示，截至今年3月，AI原生App整体用户规模达4.46亿，相较2025年1月增长超3亿。其中，用户版图正朝“银发+下沉”双向延伸，“60后”及三线城市以下用户占比分别提升1.7%和2.4%，用户规模相应增加1660万和9126万。
越来越多对新兴技术认知相对不足、信息辨别能力相对较弱的用户群体正在成为AI的使用者。面对AI“幻觉”带来的种种问题，仅仅让用户提高警惕显然是不够的。
“根本责任在于开发者一方，靠产品伦理的升级来解决问题更为重要和有效。”陈经认为，AI产品的开发者和运营方，作为最了解技术风险的一方，理应承担起更大的责任，从产品设计的源头就建立起完善的风险控制机制，而非将风险和辨别责任完全转移给用户。
陈经建议，首先建立强制溯源机制。对涉及具体规则、金额、时效的回答，必须附带信息来源链接，且来源可点击验证。这样有经验的用户不会上当。其次，在交互设计层面，在高风险场景加入熔断机制。当识别到用户询问涉及资金、法律、医疗等问题时，强制触发二次确认流程，并强调“该回答不构成专业建议”。
而在责任界定层面，陈经向每经记者表示，大模型要明确告知用户“AI生成内容仅供参考，不构成专业建议或企业承诺”。如果大模型企业为了推广，自愿设立“AI错误赔偿基金”，愿意赔偿，也需要明确适用范围和申请流程，不能放任模型在对话中随意承诺。
记者3月20日从中国科学技术大学获悉，该校郭光灿院士团队在量子态分辨研究中取得重要进展：他们在最小资源消耗的量子态分辨问题中首次提出了全局最优自适应策略，并发展了自适应集体测量实验技术， 3月21日，记者从陆军军医大学新桥医院获悉，该院普通外科开通甲乳结节AI早筛门诊，利用AI（人工智能）辅助诊断技术，成功为一名甲状腺乳头状癌患者成功实施手术提供了精准决策辅助。该院为重庆首家开通 记者3月21日获悉，商汤科技与遥感数据平台吉林一号网、四维地球、星图地球等展开合作，此举标志着“SenseEarth智能遥感云”平台数据源全面升级，将为行业用户提供更完善、精准的一体化的高分辨率 30台发动机助进阶版“鹊桥”升空 中新社西安3月20日电 (记者 张一辰)3月20日8时31分，长征八号遥三运载火箭在中国文昌航天发射场顺利升空，成功将“鹊桥二号”卫星送入预定轨道。作为公共中继星平台，“鹊桥二号” 3月25日消息，去年huawei在Mate 60系列上首发了玄武机身架构，采用一体化金属机身，搭配上超耐用锦纤材质，使整机的抗挤压能力提高10倍，使用更放心。“玄武”是极其坚固的代表，huawei还在问界M9上采用了“ 为构建有效联动、密切配合的青少年科学教育协同机制，提升科学教育实施效能，3月23日，北京市关心下一代工作委员会（以下简称“北京市关工委”）、北京市科学技术协会（以下简称“北京市科协”）在北京科 。本文链接：豆包一句“放心退”让用户损失600元：谁该为技术幻觉买单？http://www.sushuapos.com/show-2-16324-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。