ai“狂飙”引担忧 监管讨论在升温-凯发网址

欢迎来到中国贸易新闻网(中贸网)
主管:中国国际贸易促进委员会(ccpit) 主办:中国贸易报社

ai“狂飙”引担忧 监管讨论在升温

来源:科技日报 作者: 2023-07-05 09:28:02

  自去年底chatgpt“一夜成名”,人工智能(ai)迎来“狂飙”时刻,ai生成内容(aigc)领域快速发展。与此同时,数据泄漏、电信诈骗、个人隐私风险、著作权侵权、虚假信息等挑战层出不穷,关于ai监管的讨论正在全球范围内升温。

  包括埃隆·马斯克在内的1000多名科技领袖、技术人员和研究人员今年3月就签署过一封公开信,呼吁暂停开发最大的ai模型6个月,理由是担心“开发和部署更强大数字思维的竞赛失控”。超过350名ai领域的行业高管、研究人员和工程师5月30日又签署了一封公开信,他们在信中警告称,ai可能给人类带来“灭绝风险”,签署者包括美国openai首席执行官山姆·阿尔特曼和谷歌deepmind首席执行官杰米斯·哈萨比斯。

  从欧洲《ai法案》到七国集团(g7)“广岛ai进程”,目前,全球许多国家正在讨论ai的监管规则,不过它们正处于监管和立法过程的不同阶段。

  欧洲议会通过《ai法案》草案

  德国《法兰克福评论报》指出,目前关于ai的最具体、最先进的规则是欧盟的《ai法案》。作为其数字战略的一部分,欧盟希望对ai进行监管,以确保为这一创新技术的开发和使用提供更好的条件。

  当地时间6月14日,欧洲议会以499票赞成、28票反对和93票弃权的压倒性结果通过了《ai法案》草案。若最终法案获得通过,这将成为全球首个关于ai的法案。美国有线电视新闻网报道称,一旦获得通过,该法案将适用于在欧盟开发和部署ai系统的任何人,包括位于欧盟以外的公司。

  监管的程度取决于特定应用程序产生的风险,从最小到“不可接受”。属于后一类的系统将被彻底禁止。

  该法案对“高风险”ai应用设置了严格限制,“高风险”指的是可能“对人们的健康、安全、基本权利或环境造成重大损害”。

  该法案还概述了ai系统的透明度要求。例如,chatgpt等系统必须表明其内容是ai生成的,以方便区分深度伪造图像和真实图像,并提供防止非法内容生成的保障措施。用于训练这些ai系统的受凯发app的版权保护的数据详细摘要也必须公布。

  g7呼吁出台ai技术标准

  据《日本时报》报道,由于对生成式ai日益担忧,g7领导人5月在广岛召开峰会,同意成立一个工作组,以加强合作,解决与新技术相关的各种问题。他们还表示,将创建一个名为“广岛ai进程”的部长级论坛,在今年底前针对生成式ai导致的凯发app的版权、虚假信息等问题展开讨论。

  g7发布的联合声明表示:“我们认识到有必要立即评估生成式ai的机遇和挑战。”他们将致力于通过透明、公开和公平的方式与多个利益相关者合作,起草“负责任的ai”的标准。

  声明表示,各国对ai监管的立场可能有所不同,但需要有一定程度的标准化,这种标准化也适用于其他新兴技术趋势,例如元宇宙和量子信息科学。

  澳大利亚计划加强ai监管

  澳大利亚是最早提出监管ai的国家之一,于2018年推出了一个自愿的道德框架。

  澳大利亚工业和科学部长埃德·胡西克承认,凯发app的版权、隐私和消费者保护方面的法律目前仍然存在不足。他表示,鉴于ai行业的快速发展,政府希望确保其法律框架能起到有效保护效果。同时,如果在制定新的ai法律过程中,公众有强烈要求,澳大利亚也会考虑禁止ai中的高风险成分。

  在2023年的联邦预算中,澳大利亚政府宣布成立“负责任的ai网络”,并为在全国范围内负责任地推广多种ai技术提供约2690万美元的资金。

  此外,该国监管机构也意识到了现行法律的不足,拟对更广泛的《隐私法》进行修改,修改后的法律将涉及如何应对在没有人类监督的情况下,ai模型训练通过反馈环路可能出现的缺乏透明度的问题。

  美国ai监管仍在路上

  美国也加入了这场生成式ai的监管风暴。当地时间5月23日,美国政府宣布了一系列围绕美国ai使用和发展的新举措,希望全面了解并捕捉到快速发展的ai技术所蕴含的风险和机遇。

  白宫凯发网址官网发布消息称,“ai是我们这个时代最强大的技术之一,具有广泛的应用。为了抓住ai带来的机会,我们必须首先管控其风险。为此,政府已采取行动,促进负责任的ai创新,将人、社区和公共利益放在中心位置,并管理ai技术发展对个人和社会、安全和经济的风险。”

  不过,美国对于ai监管的思路与欧洲不同。欧盟倾向于由统一法案带来集中协调和全面的监管覆盖范围;而美国则采取不干涉的做法,着重于依靠业界“自律”,提出自己的保障措施。


责任编辑:葛岩

地址:北京市朝阳区北三环东路静安西街2号楼 | 办公室:8610-84541822 | 编辑部:8610-84541822

公安机关备案号:11010502034811    中国贸易报©凯发app的版权所有2006-2017

网站地图