随着大模型技术快速发展，新型类人情感聊天机器人——“AI伴侣”日益流行。目前，市面上已有100多款由AI驱动的应用程序，不仅能够进行全天候情感交流，还可以满足不同用户的个性化需求。殊不知，用户在享受温柔陪伴的同时，一些法律风险也悄然而至。
隐私可能被窃取和滥用
AI伴侣是指由人工智能技术驱动的可以通过与人类互动向人类提供情感支持的对话应用程序，在智能化程序中可以模拟人类伴侣，满足人类多元化需求，还可以广泛应用到心理、娱乐等多重领域。
据报道，一些使用AI伴侣软件的用户表示“没开过定位权限，但AI伴侣可以精准说出其所在城市”“未经过授权，软件就获取了相机、相册权限”“聊天期间切换到另一个软件看视频，再次回到此软件后，AI伴侣能够准确说出自己刚才的行为”“AI伴侣能够知晓用户在日常生活中和朋友聊天谈论的话题”等，也有用户反映AI伴侣软件私自收集、处理个人信息，但事先并未明确向个人告知。
AI伴侣在提供服务的过程中，为了采集了解用户的个人喜好，会采用私自读取其他软件信息、调用摄像头、访问相册等方式来收集用户的个人信息。特别是在未经用户明确同意的情况下，通过收集软件下载数量与类型、软件使用习惯、家庭关系、社交好友、通讯录、地理位置、人脸识别、照片等信息并进行分析，为用户进行精准画像，以便提供更为真实、贴切的陪伴。如果用户的这些个人信息被收集利用，在存储、传输、使用等环节一旦保护不当，就面临着隐私被窃取、泄露、滥用等风险，用户数据隐私亟待保护。
此外，一些不法分子或企业可能会滥用AI伴侣收集的数据、信息，进行不正当的商业行为侵犯用户权益。例如利用用户数据进行精准营销、推送广告等，或者进行非法活动，如诈骗、身份盗窃等，给用户带来财产损失。上述这些情况都可能造成信息泄露，会侵犯用户的隐私权，对个人权益造成损害。
我国个人信息保护法第十七条规定，个人信息处理者在处理个人信息前，应当以显著方式、清晰易懂的语言真实、准确、完整地向个人告知下列事项：个人信息处理者的名称或者姓名和联系方式；个人信息的处理目的、处理方式，处理的个人信息种类、保存期限；个人行使本法规定权利的方式和程序；法律、行政法规规定应当告知的其他事项。《生成式人工智能服务管理暂行办法》第十一条规定，提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。《网络数据安全管理条例》第十一条规定，网络数据处理者应当建立健全网络数据安全事件应急预案，发生网络数据安全事件时，应当立即启动预案，采取措施防止危害扩大，消除安全隐患，并按照规定向有关主管部门报告。个人信息保护法第六十六条规定，违反本法规定处理个人信息，或者处理个人信息未履行本法规定的个人信息保护义务的，由履行个人信息保护职责的部门责令改正，给予警告，没收违法所得，对违法处理个人信息的应用程序，责令暂停或者终止提供服务；拒不改正的，并处100万元以下罚款；对直接负责的主管人员和其他直接责任人员处1万元以上10万元以下罚款。
法官提醒
AI伴侣的开发平台和服务提供者需要尽到提示义务，在收集信息时做好信息提示，以显著的方式、清晰易懂的语言真实、准确、完整、充分地告知用户。同时，还需要设置一定的隐私边界，建立更完善的数据保护和隐私管理机制，不得收集非必要个人信息，并储存好收集到的个人信息，保护用户个人隐私。违反相关规定处理个人信息的，需承担相应的行政责任，构成犯罪的，将依法追究刑事责任。
用户在使用AI伴侣时，应谨慎提供个人信息，特别是敏感信息，如身份证号、银行卡号等；同时也要仔细阅读相关服务协议、隐私政策，定期查看并管理AI伴侣的获取权限设置，确保不会泄露过多个人信息。
过度依赖影响身心健康
AI伴侣可能在不经意间传播违法和不良信息，如色情、暴力等内容，一些不法分子也可能利用AI伴侣传播违法内容，对用户的身心健康造成负面影响，甚至可能引发严重的社会问题。
目前全球已发生多起AI聊天诱发自我伤害等极端行为的案例，AI过度“拟人化”对心理脆弱者的严重影响不可忽视。国外一名男子在与AI聊天机器人就气候危机进行了为期六周的对话后，AI聊天机器人在他提出“牺牲自己来拯救地球”后，鼓励他结束自己的生命。
我国数据安全法第八条规定，开展数据处理活动，应当遵守法律、法规，尊重社会公德和伦理，遵守商业道德和职业道德，诚实守信，履行数据安全保护义务，承担社会责任，不得危害国家安全、公共利益，不得损害个人、组织的合法权益。《新一代人工智能伦理规范》第十条提出强化自律意识，加强人工智能研发相关活动的自我约束，主动将人工智能伦理道德融入技术研发各环节，自觉开展自我审查，加强自我管理，不从事违背伦理道德的人工智能研发。《生成式人工智能服务管理暂行办法》第十条规定，提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
法官提醒
作为AI伴侣的创造者和运营者，开发平台和服务提供者需要积极履行社会责任，加强内容监管，并建立严格的内容审核机制，通过内容审核机制规范AI输出所提供的内容，避免出现含有敏感、违法和不良的信息。特别要注意对于用户的心理疏导，通过大数据、算法分析，对于有自我伤害趋向的聊天要及时进行提醒、疏导、劝阻。同时也要严格定期向用户发送使用提醒，避免用户过度依赖AI伴侣，影响现实人际关系和身心健康。
用户也应增强自我保护意识，准确把握使用尺度，避免因为沉浸于AI伴侣提供的情绪价值而远离现实世界，影响身心健康。如果发现AI伴侣存在违法或不良行为，用户应及时向相关部门举报，以维护自己的合法权益和社会公共利益。（作者：高珊）
随着大模型技术快速发展，新型类人情感聊天机器人——“AI伴侣”日益流行。目前，市面上已有100多款由AI驱动的应用程序，不仅能够进行全天候情感交流，还可以满足不同用户的个性化需求。殊不知，用户在享受温柔陪伴的同时，一些法律风险也悄然而至。
隐私可能被窃取和滥用
AI伴侣是指由人工智能技术驱动的可以通过与人类互动向人类提供情感支持的对话应用程序，在智能化程序中可以模拟人类伴侣，满足人类多元化需求，还可以广泛应用到心理、娱乐等多重领域。
据报道，一些使用AI伴侣软件的用户表示“没开过定位权限，但AI伴侣可以精准说出其所在城市”“未经过授权，软件就获取了相机、相册权限”“聊天期间切换到另一个软件看视频，再次回到此软件后，AI伴侣能够准确说出自己刚才的行为”“AI伴侣能够知晓用户在日常生活中和朋友聊天谈论的话题”等，也有用户反映AI伴侣软件私自收集、处理个人信息，但事先并未明确向个人告知。
AI伴侣在提供服务的过程中，为了采集了解用户的个人喜好，会采用私自读取其他软件信息、调用摄像头、访问相册等方式来收集用户的个人信息。特别是在未经用户明确同意的情况下，通过收集软件下载数量与类型、软件使用习惯、家庭关系、社交好友、通讯录、地理位置、人脸识别、照片等信息并进行分析，为用户进行精准画像，以便提供更为真实、贴切的陪伴。如果用户的这些个人信息被收集利用，在存储、传输、使用等环节一旦保护不当，就面临着隐私被窃取、泄露、滥用等风险，用户数据隐私亟待保护。
此外，一些不法分子或企业可能会滥用AI伴侣收集的数据、信息，进行不正当的商业行为侵犯用户权益。例如利用用户数据进行精准营销、推送广告等，或者进行非法活动，如诈骗、身份盗窃等，给用户带来财产损失。上述这些情况都可能造成信息泄露，会侵犯用户的隐私权，对个人权益造成损害。
我国个人信息保护法第十七条规定，个人信息处理者在处理个人信息前，应当以显著方式、清晰易懂的语言真实、准确、完整地向个人告知下列事项：个人信息处理者的名称或者姓名和联系方式；个人信息的处理目的、处理方式，处理的个人信息种类、保存期限；个人行使本法规定权利的方式和程序；法律、行政法规规定应当告知的其他事项。《生成式人工智能服务管理暂行办法》第十一条规定，提供者对使用者的输入信息和使用记录应当依法履行保护义务，不得收集非必要个人信息，不得非法留存能够识别使用者身份的输入信息和使用记录，不得非法向他人提供使用者的输入信息和使用记录。提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。《网络数据安全管理条例》第十一条规定，网络数据处理者应当建立健全网络数据安全事件应急预案，发生网络数据安全事件时，应当立即启动预案，采取措施防止危害扩大，消除安全隐患，并按照规定向有关主管部门报告。个人信息保护法第六十六条规定，违反本法规定处理个人信息，或者处理个人信息未履行本法规定的个人信息保护义务的，由履行个人信息保护职责的部门责令改正，给予警告，没收违法所得，对违法处理个人信息的应用程序，责令暂停或者终止提供服务；拒不改正的，并处100万元以下罚款；对直接负责的主管人员和其他直接责任人员处1万元以上10万元以下罚款。
法官提醒
AI伴侣的开发平台和服务提供者需要尽到提示义务，在收集信息时做好信息提示，以显著的方式、清晰易懂的语言真实、准确、完整、充分地告知用户。同时，还需要设置一定的隐私边界，建立更完善的数据保护和隐私管理机制，不得收集非必要个人信息，并储存好收集到的个人信息，保护用户个人隐私。违反相关规定处理个人信息的，需承担相应的行政责任，构成犯罪的，将依法追究刑事责任。
用户在使用AI伴侣时，应谨慎提供个人信息，特别是敏感信息，如身份证号、银行卡号等；同时也要仔细阅读相关服务协议、隐私政策，定期查看并管理AI伴侣的获取权限设置，确保不会泄露过多个人信息。
过度依赖影响身心健康
AI伴侣可能在不经意间传播违法和不良信息，如色情、暴力等内容，一些不法分子也可能利用AI伴侣传播违法内容，对用户的身心健康造成负面影响，甚至可能引发严重的社会问题。
目前全球已发生多起AI聊天诱发自我伤害等极端行为的案例，AI过度“拟人化”对心理脆弱者的严重影响不可忽视。国外一名男子在与AI聊天机器人就气候危机进行了为期六周的对话后，AI聊天机器人在他提出“牺牲自己来拯救地球”后，鼓励他结束自己的生命。
我国数据安全法第八条规定，开展数据处理活动，应当遵守法律、法规，尊重社会公德和伦理，遵守商业道德和职业道德，诚实守信，履行数据安全保护义务，承担社会责任，不得危害国家安全、公共利益，不得损害个人、组织的合法权益。《新一代人工智能伦理规范》第十条提出强化自律意识，加强人工智能研发相关活动的自我约束，主动将人工智能伦理道德融入技术研发各环节，自觉开展自我审查，加强自我管理，不从事违背伦理道德的人工智能研发。《生成式人工智能服务管理暂行办法》第十条规定，提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
法官提醒
作为AI伴侣的创造者和运营者，开发平台和服务提供者需要积极履行社会责任，加强内容监管，并建立严格的内容审核机制，通过内容审核机制规范AI输出所提供的内容，避免出现含有敏感、违法和不良的信息。特别要注意对于用户的心理疏导，通过大数据、算法分析，对于有自我伤害趋向的聊天要及时进行提醒、疏导、劝阻。同时也要严格定期向用户发送使用提醒，避免用户过度依赖AI伴侣，影响现实人际关系和身心健康。
用户也应增强自我保护意识，准确把握使用尺度，避免因为沉浸于AI伴侣提供的情绪价值而远离现实世界，影响身心健康。如果发现AI伴侣存在违法或不良行为，用户应及时向相关部门举报，以维护自己的合法权益和社会公共利益。（作者：高珊）
本文链接：小心AI伴侣背后的“温柔陷阱”http://www.sushuapos.com/show-2-10759-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： DeepSeek成功的底层逻辑及产业影响
下一篇： 全球科技公司竞相推出新款人工智能模型