人文化天下

E出版:《人工智能法案》草案获得批准，对出版业意味着什么？

时间：2023-06-26 10:53:36 发布：自动化网来源： E出版第一对焦：人工智能

【ZiDongHua 之人文化天下收录关键词：人工智能人工智能法案机器人欧盟 ChatGPT 出版业】

《人工智能法案》草案获得批准，对出版业意味着什么?

近年来，人工智能在为社会发展带来强大驱动力的同时也带来了诸多潜在的风险。鉴于此，欧盟公布了相关法案《人工智能法案》(Artificial Intelligence Act)。该法案将对有潜在使用风险的AI技术施加新的限制。它将严格限制面部识别软件的使用，同时要求聊天机器人人工智能系统(如ChatGPT)的制造商披露更多用于创建程序的数据。

在 6 月 14 日的关键投票中，欧盟的主要立法机构欧洲议会(European Parliament)以 499 票赞成、28 票反对、93 票弃权的结果通过了《人工智能法案》草案。该法案远未成为法律，但它可能是全球首批正式针对AI技术的规则之一。那么，出版商对该法案的态度如何?该法案对出版业又意味着什么呢?

1

草案的批准受到出版商的欢迎

根据 6 月 14 日该法案的最新版本，该法案中与出版业密切相关的内容主要有两点。其一，该法案将要求人工智能聊天机器人的开发者公布所有用于训练它们的科学家、音乐家、插画家、摄影师和记者的作品。他们还必须证明他们为训练机器所做的一切都符合法律规定。如果他们不这样做，他们可能会被要求立即删除应用程序，或者被罚款其收入的 7 %。其二，生成人工智能将面临新的透明度要求。在该法案规定的义务中，基于ChatGPT等模型的生成式人工智能系统必须保证其透明度(披露内容是人工智能生成的，区分所谓的深度虚假图像与真实图像)，并确保防止生成非法内容;培训中使用的受版权保护数据的详细摘要也必须公开，权利持有人可根据 2019 年《数字化单一市场版权指令》(DSM Directive)选择拒绝文本和数据挖掘的可能性。

该法案草案获得批准后，欧洲出版商联合会在 6 月 14 日于布鲁塞尔发表了一份声明，对欧洲议会批准「人工智能」法案表示欢迎。

出版商联合会表示，「特别欢迎欧洲议会关于解决日益严重的生成式人工智能问题的决定，例如ChatGPT，该问题在过去几个月获得了极大关注。」

出版商联合会在声明中写道:「虽然人工智能提供了巨大的机会，但它也引发了广泛的担忧，特别是在版权和透明度领域。《人工智能法案》的通过标志着世界上首次尝试为人工智能制定专门的规则，以确保这项技术的发展不会损害社会。」

2

为何出版业支持该草案的通过

生成式人工智能是一个黑箱，即使权利人行使了选择退出的权利，他们也不能知道自己的作品是否被未经授权使用。由于人工智能生成的内容模仿作者的风格，作者的权利和未来的作品也面临着风险。而且，消费者可能会被误导，认为人工智能生成的内容是真正来自人类作者的创造性作品。基于此，出版商联合会表示，「议会认识到问题的严重性，规定了生成式人工智能的具体义务，并强调了尊重版权的要求。」

出版业对该法案草案的通过表示欢迎，概括而言是期望该法案将来能对人工智能产生有效的监管效果以缓解由人工智能带来的风险问题。具体原因主要有两点。

第一，生成式人工智能的开发者使用大量的内容(包括受版权保护的书籍和文章)来训练他们的应用程序，并允许它们生成「新」内容。用于培训的受版权保护的内容经常在不知情或未经其权利人同意的情况下被访问和使用，甚至是通过非法网站获取。该法案对数据透明度的要求或许首先能从数据源头上防止人工智能生成非法内容。这是一个积极的第一步，因为进一步使训练数据集更加透明是非常必要的。

第二，该法案有望进一步帮助缓解生成式人工智能的侵权问题。一方面该法案若能落实或许能促使生成人工智能系统的制造商制定保障措施，以防止侵权行为的发生。另一方面该法案中罚款的相关规定，或许会对侵权人或生成式人工智能的开发者起到一定的震慑作用，尤其对于科技巨头来说，因违反规定而受到的处罚金额可能高达数亿欧元。

3

法案落地道阻且长，但出版业不失希望

此次关于该法案草案的投票，只是欧盟通过该法律漫长过程中的一步。在立法之前，欧洲议会议员将与欧盟国家一起制定细节。该法案的最终版本预计要在 2023 年晚些时候才能通过。

该法案草案的通过显示了欧盟在人工智能立法方面走在了世界的前沿。自 2021 年欧盟公布《人工智能法案》，这个由 27 个国家组成的集合体就这个话题进行了长达两年多的辩论，在去年ChatGPT发布后，这个问题变得更加紧迫，它加剧了人们对这项技术对社会的潜在影响的担忧。

各地都在试图对人工智能这一项不断发展的技术施加控制，这项技术甚至让一些最早的创造者感到担忧。例如，在国内，为促成生成式人工智能技术健康发展和规范应用，国家互联网办公室起草了《生成式人工智能服务管理办法(征求意见稿)》，其中包括对生成式人工智能的训练数据、内容等方面的规定;在美国，白宫发布了一些政策构想，其中包括在人工智能系统公开之前对其进行测试的规定，以及保护隐私权的规定。

目前还不清楚对人工智能的监管能有多少成效。有迹象表明，这项技术的新能力养成的速度似乎快于立法者能够解决的速度，欧盟法律的早期版本并没有对ChatGPT等所谓的生成式人工智能系统给予太多关注，尤其是关于ChatGPT可以根据提示生成文本、图像和视频方面。

艾达·洛芙莱斯研究所(Ada Lovelace Institute，该研究所位于伦敦，致力于推动人工智能立法)的代理主任Francine Bennett说，欧盟的提议是一个「重要的里程碑」。

发展迅速、可快速再利用的技术当然很难监管，就连开发这种技术的公司也不完全清楚事情会如何发展。但对我们所有人来说，在完全没有监管的情况下继续运营肯定会更糟糕。对于出版业而言也是如此，因此出版业也许不会失去人工智能受到监管的希望，正如出版商联合会主席Ricardo Franco Levi所说:「今天，欧洲议会决定直面生成人工智能的挑战，为我们指明了方向。现在，我们呼吁联合议员在三方谈判中展现雄心，以防止任何「数据清洗」的风险。生成式人工智能的提供者必须允许访问他们用于培训的书籍和文章的详细列表及其来源。如果没有有意义的透明度，我们的权利将变成一纸空谈，这只会给大型科技公司带来好处，同时还会损害文化多样性和整个社会。」因此，如果有相关法律能够对人工智能进行有效的监管，例如控制人工智能对版权可能产生的风险，也许更能为出版业提供良好的发展环境。

人工智能深刻而深远的变革潜力是划时代的，其正在影响、改变每个人的生活乃至包括出版业在内各行各业的发展，而发挥人工智能的良性作用的关键在于以正确的方式使用这项技术，并需要在人类和人工智能之间建立新的、道德的平衡。