（文/万肇生 编辑/张广凯）
针对人工智能提供法律、医疗建议所带来的安全风险问题，美国纽约州正在审议一项新法案，旨在禁止AI聊天机器人冒充律师、医生等持证专业人士提供实质性回复，并允许被误导的用户起诉索赔。
据悉，这将是全美首部此类立法，其适用范围涵盖法律、医疗、心理健康等所有持证行业，是纽约州系列AI监管法案的重要组成部分之一。
涉及AI生成的健康类虚假信息，已充斥着美国互联网
据路透社报道，与全美各州一样，纽约州严禁无证人员冒充律师、医生提供服务，否则将构成非法执业。“但是，目前却没有任何法律可以限制大语言模型模仿律师、医生的回复”，纽约州参议员、法案发起人克里斯汀·冈萨雷斯5日称，“这非常令人担忧。”
冈萨雷斯还提到，如果有用户因轻信AI聊天机器人提供的错误行动建议而蒙受损失，有权提起诉讼。根据法案条款，即使平台标注了"非人类聊天机器人"的提示，也无法免除其法律责任。受害者可向法院起诉违规机器人所有者，要求损害赔偿。
该法案若通过，将在90天后正式生效
这里需要注意的是，法案规定“向所有者授权其聊天机器人技术的第三方开发商”排除在所有者定义之外，意味着OpenAI这类语言大模型提供商并非该法案的主要目标。而那些采用这些模型，并将其部署到专业咨询领域、供最终用户使用的公司和机构，才将承担法律风险。
另一方面，随着近年来美国医疗保健系统日益复杂且难以获取，美国人在OpenAI旗下的ChatGPT平台上进行健康提问，已从个别行为发展为一种普遍的社会现象。根据OpenAI在2026年初发布的一份报告显示，超过4000万美国人每天使用ChatGPT咨询医疗健康相关问题。
而从全球范围来看，与医疗相关的提示词已占ChatGPT所有消息的5%以上，有四分之一的用户，每周会提交至少一个健康相关的问题。同时，患者也在就医过程中越来越深入地使用AI问诊，包括将检查结果、医学影甚至医嘱发给AI，寻求解释或第二诊疗意见。
如此大规模的AI问诊现象，也引起临床医生及学者们的担忧。根据2025年4月一项针对PubMed中涉ChatGPT的文献分析报告显示，虽然ChatGPT可以回答常见医学问题、提供建议，并在不太复杂的场景中对症状进行分类，但其临床准确率却在20-95%之间大幅波动，极其不稳定，不适合作为独立的临床即时决策工具。
此外，OpenAI、谷歌Gemini及Character.AI还曾因AI生成的回复最终导致用户自杀而被起诉。虽然这些企业否认指控并达成了部分和解，但争议持续发酵。就在本周内，日本生命保险美国子公司刚刚起诉了OpenAI，指控ChatGPT无证执业、诱导前伤残索赔人违反和解协议，并向联邦法院提交了大量毫无根据的法律文件进行滥诉。而OpenAI则回应称，该指控"缺乏依据"。
至于这次的纽约州AI职业冒充禁令能否成功，将取决于其定义的精确性和法院的解释，关键在于“实质性回应”的定义。比如，AI摘要公开的法律条文或建议，可能只是提供信息。但当它将信息应用到用户的特定情况时，或被认定为越界，最终还需要法院来界定。
目前，OpenAI、 Anthropic等公司均未进行置评。
中新经纬5月22日电 22日，国家发展改革委召开5月份新闻发布会。会上，国家发展改革委政策研究室副主任、新闻发言人李超表示，当前厄尔尼诺现象仍处在发展初期，冬小麦灌浆期已基本结束，也就是说产量已经大体形成，预计异常 中新经纬5月22日电 国家发改委22日举行5月份新闻发布会。国家发改委新闻发言人李超在会上表示，近期正在谋划出台加快“人工智能+”落地的配套文件，进一步加大要素保障。 有媒体提问，郑栅洁主任近期赴上海人工智能 中新经纬5月21日电 (董文博)21日，韩国三星电子股价大幅飙升8.51%，截至收盘，该股报29.95万韩元/股(约合人民币1353.74元/股)。 三星电子全天走势 来源：富途 当日，韩国股市强势反弹，韩国综合指数全天单边上行，收盘大 靠谱回收七种方案：羊小咩消费额度怎么刷出来，2026秒到账新手必看羊小咩额度取现V【1024370571】提现介绍在当前网络消费快速发展的背景下，便荔卡包推出的一种信用支付方式，受到 。本文链接：美国纽约州立法监管“AI非法行医”，用户被误导可起诉http://www.sushuapos.com/show-3-168825-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。