首页 > 自媒体素材 > 自媒体素材 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 152102

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

自媒体素材更多>>

这家广州科技企业“多条腿”布局数智化 10秒生成高自然度数字人 智能驾驶安全新纪元,AEBS强制标准2028年起实施;国内首个脑机接口临床病房落地天坛医院——《投资早参》 浙江推动人工智能终端消费:家居机器人纳入以旧换新补贴范围 当教育打破围墙,如何让AI激发学生创新思维 从展销场到生活场,小红书亮相上海车展,打开车生活的万种想象 4月房价出炉 大连新房涨幅0.5%全国领跑! 楼市大预测,暴涨是神话还是预测?这4个真相太扎心! LPR名副其实吗?如果有所偏离又该如何调整? 每个月要还房贷压力有多大?看完评论才发现世人皆苦! 2025了,楼市有多大概率能再次暴涨?结果什么问题导致的? 国家统计局:房地产市场继续向止跌回稳方向迈进 事关5G-A,智算!上海这份文件很“硬核” 工信部:加速推进5G-A、6G;小米自研芯片,最新消息 消息称安卓17将自带桌面模式功能 【关注】南艺520毕业展演嘉年华活动即将启幕 玉禾田业绩交流会:“机器人+环卫”探索初见成效,稳步推进智能化替代 智能驾驶真要来了?L3级车型量产倒计时 陕文投集团:全面拥抱人工智能+,打造文旅新生态 蒲慕明院士:未来不是AI取代人,而是人类“重塑”AI 新手必看!3招爆款底层逻辑+避坑指南,让你的小红书笔记赞藏过万 直播倒计时!三地杂技荟萃佗城,2025年龙川县中国旅游日暨非遗杂…… 全国百余家媒体同步直播!带你直击贵州民族团结大巡游 移动支付巨头间的角逐:支付宝与微信的前行之路 一颗木瓜背后的数字经济学:“多多好特产”如何重塑传统农货电商 万图灵申请多机协同的工业机器人智能调度系统专利,有效提升工业机器人在复杂环境下的协同运动控制能力与生产效率 智元灵犀X2机器人公布新进展,内心戏丰富,还会功夫 天工06:仿生视觉重构智能驾驶的中国范式 无人驾驶出租车量产在即,成本狂降七成,方向盘会消失吗? 巅峰之战明日打响!抖音足球嘉年华青岛站组委会发布倡议:相约琴岛 携手文明 电商平台跨界寻求新增长 高品质外卖等细分市场仍有空间