日期: 15年2023月XNUMX日
演讲嘉宾
- 卡梅罗·丰塔纳博士,博科尼大学研究员。
- 托马斯·马戈尼教授博士, 鲁汶大学法学院 IT&IP 法中心 (CiTiP) 知识产权法研究教授
- 教授 哈维尔·费尔南德斯·拉斯奎蒂,Elzaburu 合伙人,IE 法学院知识产权教授。 成员 Fide的学术委员会。 学术协调员
目标 第29届全球数字盛会:
在跨大西洋地区和世界各地,人工智能驱动的语言模型(最早的模型之一是 ChatGPT,随后其他模型迅速跟进)的出现深刻影响了人工智能与知识产权之间的关系。 公共当局、企业和消费者在重新定义知识产权在创新背景下的作用方面面临着具有挑战性的问题。 社会的进一步数字化预计将刺激新的演变。 对于这样的变化,世界各地和国际上可能存在什么样的共识,以及与此事相关的什么样的知识产权转型/斗争? 在本次全球数字邂逅会议上,专门研究这一前沿且令人兴奋的话题的资深演讲者将以各种不同的观点,提供知识产权保护的可能未来以及与人工智能驱动的语言模型相关的战斗的全球图景。
报告
Laurent Manderieux教授 他在乐观的欢迎辞中表明,人工智能 (AI) 的热门话题是我们现在和未来的核心。因此,国际棋联和跨大西洋知识产权学院将在第 29 届全球数字大会上集中讨论人工智能,特别是生成式人工智能,如何彻底改变与知识产权及其他领域相关的问题的面貌。
在今天的讨论中,存在着增强对这一新兴主题的理解和知识的重要途径。 国际数字论坛有责任解决这一重要问题,并吸引世界各地该领域的一些最重要的专家参与。 博科尼大学的卡梅洛·丰塔纳教授和鲁汶大学的托马斯·马戈尼教授都在这一主题上拥有丰富的专业知识,并以多种身份和多种形式参与其中。
主持人 Prof. 哈维尔·费尔南德斯·拉斯奎蒂 指出今天的讨论重点是人工智能的发展动态及其对知识产权的影响。 从历史上看,我们研究人工智能相关问题已有大约七到八年的时间。 2019年,在西班牙阿利坎特举行了一次题为“人工智能与知识产权之间的对话”的重要会议,产生了引人注目的见解。
很明显,自 2015 年至 2016 年左右迭代以来,人工智能的当前状态已经发生了显着变化。 LLM(语言学习模型)的引入深刻地改变了这一领域,引发了知识产权、人格权和数据保护等不同领域的关注。 然而,本次活动的重点将是知识产权,特别是在法学硕士的背景下。 鉴于潜在主题的广泛性,我们的目标是围绕这项新兴技术引发的突出问题进行流畅的对话。
一个紧迫的问题是与法学硕士输出相关的版权问题,特别是考虑到美国版权局最近的决定。 他们最近对法学硕士生成的作品的版权保护的裁决似乎与之前的裁决一致,表明受版权保护的材料具有一定的潜力,尽管仍然存在模糊之处。
问题 1:考虑到这些系统需要人为干预,LLM 的输出是否可以受到版权保护?
演讲嘉宾 Thomas MARGONI 博士教授 帕梅拉·萨缪尔森教授 (Pamela Samuelson) 在其关于计算机生成作品所有权分配的开创性著作 (1985) 中指出,有关计算机生成作品的基本法律框架早在几十年前就已制定。 是最早发现这个问题的人之一。
如果作品纯粹是计算机生成的(即没有计算机辅助),则版权保护的空间即使不是完全不存在,也是非常有限的。 从历史上看,版权法已经成为保护人类聪明才智的一种形式,支持这种方法的各种理论(洛克和公平;康德和人格;边沁和功利主义)以不同的方式和可能不同的目标始终关注人类的角色。创建。 这种立场的原因可以是哲学上的,也可以是历史上的,因为计算机生成的作品或人工智能生成的作品的空间,比如 1710 年,显然是非常有限的! 纵观版权的历史,始终隐含地强调人类的创造力。
然而,当我们讨论人工智能辅助的计算机辅助创作时,传统的版权原则仍然成立。 如果人类创造力中有一个明显的元素,那么该元素可以而且通常受到版权保护,而人工智能的贡献通常不受版权保护。 困难可能在于如何正确区分它们,但这是不同类型的问题。 美国最近的决定似乎或多或少符合这样的认识。 可以想象,在未来,如果出现令人信服的理由向完全由计算机生成的作品授予版权,我们作为一个社会可能希望重新调整我们的法律框架。 这种转变将基于规范性考虑和我们对社会的愿景,但需要为这种转变提出明确的理由。 目前还不清楚是否有必要保护人工智能生成的作品。
演讲者 Carmelo FONTANA 博士 回应称,归根结底,人工智能辅助作品的版权保护问题取决于人类干预的程度以及技术的使用方式。 为了阐明这一点,我们可以将摄影师大卫·斯莱特(David Slater)的“猴子自拍”案进行类比。 如果人类的意图可以归因于计算过程,无论是在摄影师的脑海中还是理论上在机器的参数范围内,那么由此产生的作品可能需要版权保护。
例如,虽然人工智能执行的简单语言翻译可能不会引起知识产权问题,但当人工智能承担更复杂的转换任务时,例如将要点转换为综合文档,情况就会变得复杂。 这里的基本要素是人类意图的程度以及为人工智能提供的指导。 然而,问题的关键在于人工智能的贡献是否符合版权的主要目标——激发创造力和保护文化。 这一难题的解决很大程度上取决于技术使用方式的演变及其最终的商业影响。
主持人 Prof. 哈维尔·费尔南德斯·拉斯奎蒂 持有相同的想法,但对美国版权局最近的决定表示担忧。 我强调了技术不断发展的本质及其对版权考虑的影响。 回顾 2018 年左右关于人工智能受版权保护主题的一项研究,我注意到人类融合的三个潜在领域:数据选择、机器操作和输出决策。
然而,对于像法学硕士这样的现代系统,机器会预加载数据并自主运行,从而将人为干预很大程度上限制在输出选择上。 当前的争论集中在向人工智能提供提示的长度和深度上。 美国版权局最近的裁决非常严格,表明仅仅有指示不足以建立重大的人为干预。
问题 2:版权法是否需要进行调整以适应不断发展的技术?
演讲嘉宾 Thomas MARGONI 博士教授 认为挑战在于版权监管人工智能的目的和目标:无论是市场监管、引导科技行业、帮助创作者,还是通过产权建立人工智能的治理模式。 这些都是大问题,远远超出了“简单”的版权问题,并延伸到法律体系打算如何监管人工智能等技术,人工智能可能比过去的其他技术更有潜力成为任何人的重要工具未来业务、技术或人际关系的类型。
然而,在版权领域,充分了解当前的版权规则如何适用于人工智能、法学硕士和其他形式的技术非常重要。 例如,如果用户在人工智能应用程序界面中输入提示(当您作为用户向 ChatGPT“询问”某些内容时)并显示作者自己的智力创作,那么根据当前规则,它很可能受到版权保护。 然后,输出可以被视为部分副本,甚至可能被视为该输入的衍生物,具体取决于适用的法律和所涉及的具体技术流程。 也许,这是一个需要指出的重要方面。 人工智能是一个复杂的生态系统,不同的方法、算法和实现的运作方式不同。 对一个人有效的东西不一定对另一个人有效。
然而,与人工智能的大多数交互往往都是基本请求。 真正的挑战将是证明人为因素并将输入与输出进行比较以确定相似性或推导。 “人类因果关系”的概念(Hugenholtz & Quintais 2021)可能有助于辨别是否有足够的人为干预来授予作者身份。 实际应用和证明可能会给法庭带来挑战,但理论上,原则是比较明确的。
演讲者 Carmelo FONTANA 博士 对建立严格的基线(例如具体长度或结构)来确定什么受版权保护或被视为艺术品表示怀疑。 重点不应仅仅关注法学硕士或通用对抗网络 (GAN) 等技术,而应重点关注创建者创建特定输出的意图。
他从艺术世界中进行类比,参考了意大利画家露西娅·丰塔纳(Lucia Fontana)的作品,后者通过简单的画布剪裁创作了杰出的杰作,强调意向性而不是创作方法。 随着技术的进步并扩大了人类能力的范围,在评估创作的可保护性时,主要重点应放在辨别作者或艺术家的初衷上。 最终,这将是法院承担的任务。
主持人 Prof. 哈维尔·费尔南德斯·拉斯奎蒂 建议当前的尝试,例如 达布斯, 对新型人工智能创作进行分类造成了一种二元的情况。 从历史上看,版权授予非传统创作者权利。
问题3:是否有必要在版权法中专门针对使用人工智能和相关工具的创作设立一个新类别?
演讲嘉宾 Thomas MARGONI 博士教授 强调了围绕人工智能生成的作品分配产权的争论。 我对这种分配背后的意图提出了质疑,并注意到欧洲大陆和普通法国家之间对版权的不同解释。 欧洲认为版权是保护作者的人格,而普通法国家则强调功利主义方法。 英国等一些司法管辖区为计算机生成的作品提供了特定的权利,将权利分配给做出必要安排的人。 这样的框架可能提供一种解决人工智能生成输出的方法。
最近一项关于“重建欧洲”项目的研究发现,在英国,这些规定很少被使用。有限的采用可能是由于英国以前是欧盟成员,这可能会使这些条款与欧盟法院的裁决不相容。如果英国的经验具有参考意义的话,那么保护人工智能生成的内容并不紧迫,这似乎证实了之前讨论的理论框架。
演讲者 Carmelo FONTANA 博士 指出了解人工智能不断发展的价值链以及不同参与者之间的关系至关重要。 从服务提供商、程序员、部署人员到最终用户,许多人都与这些技术进行交互并从中获取价值。 与此同时,市场的经济状况仍然存在不确定性。 尽管订阅模式可能可行,但平台如何维持自身尚不清楚。 随着这些平台变得具有成本效益,将专有创作权转让给用户可能会支持我们的核心目标:促进创作、保护文化和公平分配社会利益。
与媒体和版权的出现相比,人工智能技术的进步明显更快。 全球规模和快速发展带来了独特的挑战和经济考虑,这表明传统版权或定制权利可能不是合适的解决方案。
主持人 Prof. 哈维尔·费尔南德斯·拉斯奎蒂 认为版权的历史演变,从印刷机的发明到维克多·雨果和巴尔扎克等人物的 19 世纪,由于人类创造力而将叙事转向版权。 这形成了我们目前对英国等地区解决方案的理解和差异。 当前面临的问题是侵权,特别是涉及大语言模型(LLM)的侵权。 人们担心法学硕士在培训和使用过程中侵犯第三方权利。 问题的关键是责任的确定。
问题4:LLM是否侵犯第三方的知识产权?
托马斯·马戈尼教授博士 指出,在人工智能驱动的时代,保留人类的创意过程和以此为基础的创意产业商业模式至关重要。 事实上,关键可能不在于监管人工智能的最终产品或输出,而在于更好地理解构成人工智能价值链起点的训练数据的作用。 在欧洲,我们有两个新的文本和数据挖掘例外情况。 尽管并不完美,但它们为原本不确定的领域提供了一定程度的清晰度。 这种明确性对于研究组织尤其有益,可以防止他们因法律模糊性而受阻。 正如最近的一篇论文所讨论的,个人、中小企业和其他商业参与者在不被权利人“保留”的情况下也可以从这些条款中受益(参见 https://academic.oup.com/grurint/article/71/8/685/6650009)。 像谷歌或微软这样的大公司,凭借其庞大的数据和财务资源,可以应对这种不确定性。
这些例外的一个重要方面是允许保留副本以供验证的规定,与传统的版权目标相比,这更符合公共政策目标(透明度和问责制)和研究需求(可复制性)。 然而,通过排除这些例外情况,我们含蓄地确认,在这些界限之外,存在训练模型的经济权利。 对于许多人来说,训练模型等同于文本和数据挖掘,这是一个广泛的定义,但可能涵盖一般人工智能用途。 然而,我们应该注意,使用 TDM 进行数据分析(例如预测流行病)与使用人工智能生产受版权保护的作品的市场替代品之间存在区别。 TDM 是一项基础研究技术,因此不应受版权监管。 使用生成式人工智能在创意和文化市场中竞争似乎是版权讨论中更常见的元素。 第 4 条,通用文本和数据挖掘例外(CDSM 指令)至关重要,因为它让作者可以选择允许或禁止他们的作品用于训练人工智能。 商业实践似乎正在开发 TDM.txt 或 AI.txt 标准,与过去美好时光中互联网搜索引擎用于索引网页的 Robot.txt 没有太大不同
当前的技术发展可以提供这种控制,确保作者的权利及其与作品的关系得到尊重。 有些人可能会寻求报酬,而另一些人可能会关注与其创作的个人和情感联系。 具有讽刺意味的是,虽然文本和数据挖掘例外可能无法完全满足文本和数据挖掘的需求,但它们为监管生成式人工智能的使用提供了有趣的可能性。
演讲者 Carmelo FONTANA 博士 声称文本和数据挖掘的规定偶然变得与技术无关,通过涵盖超出其最初范围的应用程序证明了其面向未来的性质。 数据被挖掘后,通常会在系统中进行操作。 一个重大挑战在于标准化选择退出机制。 如果通过个人通信进行管理,该过程可能会变得过于复杂且对平台来说造成负担。 平台正在积极开发有效的工具来实现这些有利于权利持有者的退出选择。 数据挖掘后出现了另一个复杂的问题:十一个文本在豁免下被使用并与其他数据同化,它们成为经过学习的复杂系统或算法的一部分。
提取这种“习得的智慧”具有挑战性。 要求技术“忘记”就像要求某人忘记他们觉得有趣的笑话。 在选择退出后有效删除数据的成本高昂,而且可能效率低下。 可能需要重置算法或引入手动删除,这两种方法都可能无法达到权利人的预期结果。 这提出了大型平台未来需要解决的挑战。
托马斯·马戈尼教授博士 指出了一种假设场景,即人工智能模型被发现侵犯版权,因为该模型使用了某个数据库或某件受保护的作品。 除了损害赔偿方面之外,与禁令救济补救措施相关的困难还在于需要使用不包含特定受保护工作的培训数据重新培训整个系统。 这不仅会产生更好的经济影响,而且还会产生更好的环境影响。
众所周知,这些法学硕士的计算能力不仅需要时间和经济资源,还需要使用能源,这也可能对环境产生重大影响。 这可能也是为什么我们目前只有少数来自提供这些服务的垂直整合平台的高度先进的法学硕士的原因。
主持人 Prof. 哈维尔·费尔南德斯·拉斯奎蒂 最后指出,这是一个比例问题,是整个知识产权领域的一个非常核心的问题。
演讲者 Carmelo FONTANA 博士 同意本案中的问题完全在于比例性。 可能会涉及损害赔偿,并向作者授予报酬。 如果涉及禁令救济,该禁令也可能对第三方的利益产生影响。 可能还有其他方实际上希望AI平台用他们的数据进行训练,如果禁令被执行,可能训练数据就无法恢复了,第三方的利益因此受到影响。
这种对技术最终效果的治理不符合社会的最佳利益。 还可以争论的是,一条信息是否受版权保护并包含在训练数据中,是否使用这样一条信息具有如此相关和重要的用途,以至于使用它是否等同于版权侵权。 归根结底,这是一个复杂的问题。 当技术成熟时,也可以看出相关立法能够取得适当的平衡,所涉及的权利应该得到其他利益相关者的尊重。
主持人 Prof. 哈维尔·费尔南德斯·拉斯奎蒂 总结说,比例问题是一个至关重要的主题,不同利益之间存在一定的紧张关系。 从某种角度来看,得出作者的知识产权受到侵犯的结论,但同时又以环境影响作为不执行这些权利的理由,也可能是有问题的。
托马斯·马戈尼教授博士 补充说,有趣的是,出于某种原因,我们同意版权应该单独受到监管。 他最近的著作认为,这是版权无法做到或单独无法做到的事情。 正如《人工智能法案》提案等其他举措所表明的那样,人工智能治理在很大程度上是在版权之外的。 缺少的是版权与人工智能监管之间适当接口的发展。
经济和监管理论认为,版权和人工智能治理是由不同的激励措施和政策目标推动的。 因此,利用一个目标来实现另一个目标将是一个逻辑和程序错误。 例如,拟议的《人工智能法案》议会版第 28b 条要求生成式人工智能模型的开发人员在培训材料受版权保护时记录并公开提供培训材料的摘要。 可以质疑这是否是保证人工智能更加透明的一种方式。 为什么这一要求仅适用于受版权保护的材料——人们也可以认为披露要求涵盖个人数据或其他类型的受保护内容。 如果这样做的目的不是提高透明度,而只是让权利人选择退出,那么就失去了公平、透明和可复制的人工智能环境的目标。 这些目标之间的不匹配现象越来越严重,目前还不清楚为什么会出现这种情况。
演讲者 Carmelo FONTANA 博士 补充说,拟议的人工智能法案第 28 条在封闭环境中是有意义的。 因此,如果训练数据基于图书馆或封闭数据库,那么第 28 条中提出的模型可能是一种可操作性并提高透明度的方法。 另一方面,当模型运行规模较大时,例如当数据挖掘的来源是整个互联网时,则需要识别相关网页是否包含受保护的作品以及这些作品的作者。 ,如果有被许可人并且无论许可是否已过期——尽职调查任务实际上将变得不可能完成。
最重要的是,还有一些不容忽视的重要商业秘密问题。 如果人工智能模型的开发者被要求通过披露训练数据和算法来确保透明度,他们最终可能会向竞争对手披露比他们真正想要披露的更多的信息。
丰塔纳博士公开批评拟议的第 28 条,该条并未包含在委员会或理事会的提案中。 很容易想象为什么第 28 条最终出现在议会版本中,但很难看出它在实践中如何运作——除非它是关于某个在许可图书馆中接受过许可数据培训的定制平台。 如果援引 TDM 例外并且突然也需要确定受保护的权利,那么第 28 条可能会挫败 TDM 例外的整个目的。
演讲者 Carmelo FONTANA 博士 与普通托管服务提供商的情况进行类比,其中权利持有者联系托管服务提供商(例如平台),声称他们是某个作品的权利所有者,并提供该作品和托管服务提供商的摘录或样本需要检查相关受保护作品是否出现在其服务中,如果匹配则迅速采取行动并删除该内容。
问题 5:如何使用《数据法》来创建数据社区?
托马斯·马戈尼教授博士 声称,用委员会的语言来说,这些是所谓的欧洲共同数据空间。 这些都取决于现任欧盟委员会的战略投资和许多举措。 不同领域已有大约 10 个垂直识别的数据空间,例如移动、循环经济、文化遗产、开放科学、智慧城市和健康数据空间。 这些数据空间的创建基于《数据法》、《数据治理法》、《开放数据指令》等立法,甚至包括(非个人)数据自由流动监管等较旧的立法。 这是一个非常雄心勃勃的项目,旨在为数据生态系统的出现创造市场、基础设施和监管条件,并将欧盟核心价值观融入其中。
如果我们假设现代人工智能只有在能够访问数据的情况下才能存在,那么监管数据基本上就等于监管人工智能。 这也可能影响产权所产生的激励作用。 马戈尼斯教授的一篇论文认为,数据法领域正在从基于财产的方法转向基于治理的方法。 因此,《数据法》正在为非个人数据创建以前仅在个人数据领域中出现的权利。 例如,数据可移植性权利要求物联网产品的制造商不仅要披露其收集的数据,还要将其传输给潜在的竞争对手,以实现维修权、消费者自由、避免消费者锁定, ETC。
如果以开放数据指令为例,它几乎创建了以各种方式使用数据所需的公共机构的分类。 陈述中指出的原因之一是公开提供高质量的数据。 在人工智能训练方面,高质量公共数据的开放获取至关重要。 如果获取高质量数据需要付费,大型在线平台就具有竞争优势,因为它们已经拥有大量数据和巨大的经济资源。 有趣的是,最近的许多欧盟立法举措,例如 DSA 或 CDSM 指令,几乎旨在“惩罚”这些非常大的在线平台在市场中的主导地位,但另一方面,通过滥用版权法,问题有点通过后门返回。
观众提问
聊天中提出了几个问题。 一个问题是,充当同声传译员的人工智能模型是否可能侵犯道德权利,因为人工智能模型的翻译可能无法反映当事人真正所说的内容。
同样涉及到比例问题,一位与会者指出,平衡是一个关键问题,版权作为一种财产权并非没有局限性。例如,西班牙有一项“ius usus inocui”原则,规定财产权不是绝对的。在马里奥大战中在谷歌案(172月2012日STS n° 3/XNUMX)中,西班牙最高法院一方面讨论了美国的合理使用原则,另一方面参考了西班牙法律的原则,得出了权利人财产受到限制的结论权利。
第三个问题围绕着人工智能输出与通过版权或相关权保护照片之间进行类比。
教授 曼努埃尔·德桑特斯雷亚尔 第 29 届全球数字盛会总结时指出,关于这一主题的讨论肯定会继续下去。 如果在《伯尔尼公约》框架之外寻求这些问题的解决方案,则令人担忧,因为一般而言,物权法并不像知识产权规则那样统一,因此很可能出现国家差异。
为以下目的撰写的报告 全球数字遭遇 由 GDE 支持团队成员提供 萧白洋 和 埃图胡塔





