OpenAI报复“吹哨人”？前员工联名警告缺乏监管
由安全问题引发的OpenAI“职场宫斗戏”还没有结束。当地时间周二，数十位OpenAI前员工通过一封公开信再次警告，像OpenAI这样的人工智能公司缺乏法律监管和内部批评机制，尤其是对“吹哨人”的保护远远不够。该公开信由十三名 OpenAI 前员工签名，并得到了包括“人工智能教父”Geoffrey Hinton 在内的三名外部人员署名支持。
与此前音乐行业、电影演员行业的公开警告类似，公开信强调了AI双刃剑的属性：他们相信人工智能技术可以造福人类，但也看到了风险，比如加剧社会不平等，操纵和捏造信息。在生成式AI风靡的这两年，人们已经见到了侵犯版权、深度造假影响政治选举、AI生成色情图片等冲突势不可挡地蔓延至现实生活。
去年7月，OpenAI、谷歌、微软、meta、亚马逊、Anthropic、Inflection曾向拜登政府承诺，愿意接受外部第三方的安全测试，并向外界公开测试结果。但这一承诺主要是自愿性质，硬性约束仍为空白。
公开信由此指出一个关键问题：在缺乏硬性监管的情况下，不能指望公司自愿披露AI系统的真实性能、局限和风险。员工有责任要求公司对AI安全风险负责，但员工正受制于公司的保密协议。
“整个行业发生过类似事件，我们中的一些人有理由担心各种形式的报复。我们并不是第一个遇到或谈论这些问题的人。”公开信暗指的是Ilya Sutskever离职引发的种种风波。半个月前，OpenAI解散了负责安全问题的“超级对齐”团队，团队负责人和成员――联合创始人兼首席科学家Ilya Sutskever、Jan Leike、Gretchen Krueger 纷纷离职。
据媒体报道，离职的原因是OpenAI在优先保证安全还是优先推出产品上有分歧。Jan Leike在社交平台上的发言直接证明了一点，他披露OpenAI曾直接砍掉“超级对齐”部门的算力资源，部门被边缘化。随后外媒曝光了OpenAI 的离职协议，指出公司禁止离职员工公开批评公司，甚至禁止承认保密协议的存在。
根据美国的《吹哨人保护法》(Whistleblower Protection Act)，举报工资违规、歧视、安全和欺诈等问题的员工受到保护，这意味着公司不能用解雇、降职等方式报复举报人。但签署公开信的前员工们称，AI安全风险问题往往不是非法活动，普通的法律保护措施是不够的。他们因此呼吁人工智能公司取消禁止批评的保密协议、建立匿名举报流程，并建设支持公开批评的公司文化。
公开资料显示，谷歌、Meta、亚马逊、微软等公司均有成立专门的内部安全团队，确保公司负责地开发AI系统。目前，OpenAI也已新建了由Sam Altman领导的安全团队，其首要任务是评估OpenAI 的安全流程和政策，由董事会拍板最终方案。不过，安全团队的三位负责人均在董事会任职，因此外界也质疑其能否真正解决安全隐患。OpenAI员工的举报信无疑加深了这一担忧和反思，在没有硬性监管的约束下，仅靠公司的自我约束能不能给予安全问题足够重视？需要打上一个问号。
科技日报从哈尔滨工业大学获悉，北京时间2024年3月20日8时31分28秒，“天都一号”“天都二号”通导技术试验星伴随探月工程四期鹊桥二号中继星任务搭乘长征八号遥三运载火箭从文昌航天发射场发射 3月21日是第二十五个“世界睡眠日”，中国睡眠研究会联合慕思集团在北京正式发布《2024情绪与健康睡眠白皮书》（以下简称《白皮书》）。《白皮书》指出，智能床垫运用算法将内在情绪与睡眠质量相关 记者从中国航天科技集团获悉，3月21日13时27分，长征二号丁运载火箭/远征三号上面级在酒泉卫星发射中心起飞，随后将云海二号02组卫星送入预定轨道，发射任务取得圆满成功。云海二号02组卫星由中国航 近日有消息称，huaweiMate60已经停产。作为huawei于2023年8月末发布的最新旗舰机型，huaweiMate60的停产意味着huawei新款旗舰或即将上市，接替Mate60。2023年8月29日，huaweiMate60 Pro、huaweiMate60等 3月23日，“天卫科技03星”暨“华祥苑壹号”卫星在厦门举行出征仪式，这是由厦门本土企业天卫科技制造研发的第三颗服务当地建设的商业卫星，标志着厦门航天卫星应用领域商业化、产业化发展更进一 俄罗斯国家航天集团23日发布消息说，俄当天成功发射了“联盟MS-25”载人飞船。消息说，莫斯科时间23日15时36分（北京时间20时36分），“联盟MS-25”载人飞船搭乘“联盟-2.1a”运载火箭从哈萨克斯坦境 。本文链接：OpenAI报复“吹哨人”？前员工联名警告缺乏监管http://www.sushuapos.com/show-2-6702-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。