首页 > 原创知识 > 原创知识 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57 来源: 152102

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

原创知识更多>>

2026年避开竞争激烈的国内市场、加大汽车“出海”步伐,已成为众多车企突破“内卷”的新途径 奥图亚的产品,除了贵其实也没啥毛病! 启辰推三重保障政策 自燃包赔权益跟车不跟人 上汽大众 ID. ERA 9X 解锁新配色 内饰设计首次完整公布 昊铂A800领衔 3月中旬即将发布新车盘点 新能源汽车是行业发展的必然趋势,城乡之间的消费观念和技术认知差异,也会随着基础设施的完善、技术的进步和体验的普及,逐渐缩小 11万买“超跑”?极狐阿尔法S5这波“掀桌子”,让年轻人怎么选? 年轻人第一台轿跑来了!3.7秒破百,11万级标配城区NOA 极狐全新阿尔法S5预售,11.28万起城区NOA+宁德时代全系标配 告别训练“军备竞赛”,AI决胜关键已转向推理芯片 2025年全球电动车销量增长20% 美加市场逆势下滑 赵长江回应智界R7风阻全球最低:不是吹出来的 吉利正式发布了一项名为“三个校园组合”的人才培养新模式 长安福特2025:销量成了“不宜公开的数据” 1月22日,智己汽车宣布,智己LS6累计交付100000台 政策换挡叠加季节因素,2026年车市开局遇冷,乘用车市场:触底微升,开局承压 大众Tayron将于9月登陆澳大利亚 有望接替Tiguan Allspace进入马来西亚市场 特斯拉调整超充站超时费:没空位才收费 宽限20分钟 小米潘九堂回应友商评估Pro Max机型传闻:对标是常见策略 真龙插混+奥特能电池:别克GL8家族2025年售出122373辆 章泽天谈育儿理念:不让孩子玩社交媒体 中国50岁以上网民突破3.51亿 最爱玩《开心消消乐》 消息称三星电子将向特斯拉供应车用5G调制解调器 Anthropic筑墙,DeepSeek修路 微软总裁:中国开源模型性价比高 正在西方以外市场超越美国 CES 2026即将开幕:机器人、AI眼镜,哪些黑科技将引领未来? 英媒:全球需求降温,2026年电动汽车销量将创六年来最慢增速 OpenAI的2026:要么封神,要么破产 乘联分会崔东树:2025年1-11月中国占世界新能源车份额68% 全国首单“具身智能数据集”在江苏省数据交易所上架并完成交易