首页 > 电脑教程 > 电脑教程 > OpenAI员工发表公开信,警示人工智能监管缺失风险

OpenAI员工发表公开信,警示人工智能监管缺失风险

发布时间:2024-06-06 17:09:57来源: 152102

美国开放人工智能研究中心(OpenAI)和谷歌旗下“深层思维”公司的13名现职员及前员工4日发表联名公开信,对人工智能行业在缺乏对“吹哨人”法律保护的背景下快速发展表达担忧。


据多家外媒援引信件报道,这些员工认为,人工智能企业受利益驱使缺乏有效监管,现有企业治理架构不足以改变这一点。而不受监管的人工智能会触发虚假信息传播、人工智能系统丧失独立性和社会阶层不平等深化等多重风险。

信件指出,外部人士对上述风险中的大部分不知情,因为人工智能企业“目前只承担与政府分享部分相关信息的微弱义务,也没有义务与公民社会分享信息”,“我们不认为能全然依靠企业自愿分享信息”。

信件还指出,一般的法律保护对人工智能行业“吹哨人”而言“不够”,因为不少引人担忧的风险在法律监管方面仍属空白。另外,人工智能企业员工受制于保密协议,通常不得对外实质性披露企业所掌握的人工智能实力。

联名信签署人中,2人与“深层思维”有关,4名OpenAI现员工要求匿名。组织者包括OpenAI前工程师丹尼尔·齐格勒和前员工丹尼尔·科科塔耶罗。

齐格勒4日告诉美联社记者,他2018年至2021年在OpenAI工作时参与聊天机器人ChatGPT部分技术研发,当时不担心在企业内部讲出他发现的问题,但他现在担心,行业内企业竞相将相关技术迅速商业化会让它们承受忽视风险的压力。“相较于责备OpenAI,我更感兴趣的是借此机会让全部人工智能前沿企业切实投入,强化监管和透明度,增进公众信任。”

科科塔耶罗则发表书面声明说,他今年早些时候离职,是对OpenAI“能采取负责任行为丧失希望”,特别是在企业尝试打造通用人工智能系统之后。对于这类功能强大、却又鲜为人熟知的技术,企业“快速出手、打破常规”,行事方式与所需“恰恰相反”。

OpenAI同一天回应联名信时强调,已设立匿名举报热线和安全委员会保护“吹哨人”,相信能以科学方法应对风险。

电脑教程更多>>

荣耀最强旗舰!荣耀Magic8 RSR保时捷设计明天首销:7999元起 荣耀MagicOS系统1月升级内容公布,含AI追色、带壳截屏等 iQOO15 Ultra双配色登场 以代号演绎未来科技 几场漂亮“大仗”背后,阿里已经重塑“组织优势” 分析清理微信储存空间的开源项目遭发函、下架?腾讯回应 存储涨价行情下如何省钱?新年高性价比DDR4主机配置推荐 华为手机迎来五则新消息:折叠屏、小屏、畅享、产能,均有新变化 这类ETF单周缩水超2000亿元,发生了什么?| ETF规模周报 京东健康发布AI产品“知医” 2.5K档最强!REDMI Turbo 5 Max跑分出炉:首发天玑9500s 联名泡泡玛特:荣耀500 Pro MOLLY 20周年限定版礼盒19日发布 开发周期紧张影响升级?消息称三星S26+屏幕尺寸与前代保持一致 快递驿站转让帖在线上涌现,经营者称每月只赚五六千,“不如去当保安” 小米澎湃OS3最后一批适配启动!你的手机能升吗?老用户必看 小米六款机型全面停更,你的手机会被波及吗,速速核对吧 荣耀Power2发布前瞻:外观、配置、续航、定价,基本没悬念了 真我手机更新到UI7.0?先看这3步,再决定要不要升级 苹果要出折叠屏了,这回真不是手机,是桌面? 全维赋能,智启征程!华为与中国互联网的2025精彩纷呈 VIVO迈出了第一步,抱住了一条大腿,身价直接上了一个档次! 余承东一锤定音,享界轿车改道旅行车成爆款 传长安汽车因2025年销量未达目标而取消员工年终奖引发不满!目标300万辆,完成291.3万辆,官方暂无回应 混动双雄终极对决:凯美瑞省油开10年,雅阁快得像电车? 5.59万配自动挡、倒车影像、无钥匙启动,起亚奕跑值得买吗? 车宽两米,续航超六百,别克这新车能行? 大众全新SUV亮相,省油还能装,这车能火? 1 月 8/10 日连发!比亚迪三款 DM-i 新车 210km 续航 + 云辇 - C 加持 奔驰“小g”官图疑似曝光 纯电动力 2027年首发亮相 全新一代宝马3系首次全面曝光,外观,内饰大升级,真漂亮 全新奔驰GLA曝光,21寸轮毂+贯穿尾灯,把轻奢智能SUV玩