AI陪伴成隐忧？美FTC宣布调查聊天机器人对未成年人风险
财联社9月12日讯(编辑 赵昊)当地时间周四(9月11日)，美国联邦贸易委员会(FTC)宣布已向七家公司发出命令，要求他们提供信息，以了解人工智能聊天机器人可能对儿童和青少年的负面影响。
七家公司分别为谷歌母公司Alphabet、OpenAI、Meta、Meta旗下的子公司Instagram、Snap、xAI以及Character Technologies Inc.(Character.AI的开发商)。
这家监管机构表示，人工智能(AI)聊天机器人可能被用于模拟类人交流以及与用户建立人际关系，因此需要了解这些公司采取了哪些措施来“评估机器人在充当陪伴者时的安全性”。
声明提到，AI聊天机器人能够有效地模仿人类的特征、情感和意图，并且通常被设计成像朋友或知己一样进行交流，这可能会促使一些用户，尤其是儿童和青少年，信任聊天机器人并与其建立关系。
FTC主席安德鲁・弗格森(Andrew Ferguson)在声明中表示，保护儿童的网络安全是特朗普政府时期FTC的首要任务，同时该部门也致力于推动经济关键领域的创新。
FTC表示，其寻求的信息包括这些公司如何通过用户互动变现、如何开发和批准角色、如何使用和共享个人信息、如何监控并执行公司规则和服务条款的合规性，以及如何减轻负面影响等问题。
OpenAI回应道：“我们的首要任务是让ChatGPT对所有人都有用且安全，尤其在涉及年轻用户时，安全性至关重要。我们理解FTC存在一些问题和担忧，我们承诺将积极配合并直接回应。”
自2022年底ChatGPT推出以来，大量聊天机器人相继面世。与此同时，这些聊天机器人也带来了越来越多的伦理和隐私担忧。
尽管行业仍处于早期阶段，但聊天机器人“陪伴”功能可能会对社会产生深远影响，尤其是在美国正经历“孤独流行病”的背景下。
2023年时，美国政府医疗总监办公室曾公布了81页针对孤独危机的报告。报告指出，有约一半的美国人每天都会感到孤独。
研究表明，缺乏社会联系的人早逝风险比社会联系充分的人高出26%。缺乏社会联系还可能增加多种疾病风险，包括心脏病、中风、抑郁症等。
专家还表示，一旦AI技术开始自己训练自己，伦理与安全问题可能会进一步加剧，甚至导致不可预测的结果。
当下，全球一些最富有的企业家正在推动“陪伴型 AI”的发展。其中最知名的当属xAI推出的“AI伴侣”Ani――她的设定是一个金发碧眼、梳着辫子的女性人物。
在Ani上线将满30天时，马斯克透露，搭载该功能的Grok应用月活突破2000万，其中付费用户超400万，核心用户日均互动时长2.5小时，验证了情感交互场景的用户粘性。
不过，界定情感交互的边界非常复杂。上月，Meta在监管压力下调整了其AI聊天机器人的相关政策。
本月早些时候，OpenAI被迫推出一项政策，允许家长在系统检测到“严重痛苦”时链接帐户并接收警报。
本文链接：AI陪伴成隐忧？美FTC宣布调查聊天机器人对未成年人风险http://www.sushuapos.com/show-5-68731-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。