--- 国家市场监督管理总局主管 ---
实时滚动新闻
当前位置:首页 > 产经分析 >

生成式AI技术快速发展带来多重挑战

2024-12-26   中国质量万里行   李颖   点击:

随着科技的日新月异,生成式AI(人工智能)技术正以惊人的速度蓬勃发展,成为推动全球产业升级的关键力量。2024年,多位诺贝尔奖获得者的目光聚焦于AI领域,进一步凸显了AI在全球范围内的深远影响。同时,由OpenAI、谷歌、微软等100多家企业共同签署的《人工智能公约》也彰显了全球范围内对AI技术发展的高度重视和规范化追求。

中国作为科技大国,积极响应全球AI技术的发展趋势,提出了“人工智能能力建设普惠计划”。在这一背景下,生成式AI技术在中国取得了显著成果,为各行各业带来了前所未有的变革和机遇。然而,正如硬币有两面,生成式AI技术的快速发展也伴随着一系列不容忽视的问题。

AI“魔改”经典影视作品现象严重

近年来,随着AI技术的不断发展和应用,一些短视频制作者开始利用AI技术对经典影视作品进行“魔改”,创作出大量荒诞不经的内容。例如,《红楼梦》变成了“武打戏”,孙悟空和鲁智深成为好朋友,唐僧抽烟、谈恋爱,诸葛亮品红酒、玩手机……这些“魔改”内容与原著精神内核相悖,且涉嫌构成侵权,不仅破坏了经典作品的完整性和艺术价值,也损害了粉丝的感情和利益。

\

来源/央视新闻截图

近日,广电总局针对AI“魔改”经典影视作品乱象发布了《管理提示(AI魔改)》,要求各相关短视频平台排查清理AI“魔改”影视剧的短视频,并限期反馈工作情况。同时,要求平台严格落实生成式人工智能内容审核要求,对平台开发的大模型或AI特效功能等进行自查,对相关技术产品严格准入和监看,并对AI生成内容作出显著提示。

然而,尽管广电总局已经采取了积极措施进行整治,但AI“魔改”现象仍然存在,这反映了技术监管的难度和挑战。

AI“魔改”现象不仅带来了版权和声誉等方面的法律争议,还引发了社会对于文化传承和价值观的担忧。一些专家认为,AI“魔改”会颠覆新生代对传统文化的理解,解构传统严肃文学,影响网络视听环境的健康和文化传承的严肃性。同时,“魔改”还可能会影响青少年的历史观、价值观,导致未成年人对历史文化认知的曲解。这不仅不利于青少年健康成长和全面发展,也不利于社会文化的传承和发展。

不可忽视的法律风险与司法难题

北京大学武汉人工智能研究院副院长、中国科学技术法学会常务副会长兼秘书长张平指出,生成式AI的研发与应用带来了一系列法律风险及司法适用难题。这些问题不仅涉及知识产权保护、个人隐私保护,以及内容的真实性和可靠性等,还因其智能化的特点而可能引发AI法律主体地位、侵权责任认定等新的法律议题。

\

深度伪造技术是生成式AI技术带来的首要法律风险之一。借助生成式对抗网络(GANs)等先进技术,深度伪造技术能够创造出高度逼真的虚假内容。这种技术一旦被滥用,极易导致虚假信息的泛滥,损害社会信任,破坏公共利益。例如,今年韩国曝出的“首尔大学版N号房”事件和另一起涉及未成年女孩的“Deepfake”事件,便是深度伪造技术被滥用的典型例证。

在前端数据训练环节,生成式AI技术需要海量数据作为支撑。但在实际操作中,未经著作权人许可擅自使用作品数据的情况时有发生,侵犯了著作权人的合法权益。全国首例生成式AI侵权案便是一个典型例证,该案不仅引发了社会各界的广泛关注,也促使人们开始深入思考如何有效防范和应对生成式AI技术带来的知识产权风险。

此外,在模型训练与应用阶段,由于数据集可能未经充分脱敏处理,包含了相关隐私信息或敏感个人信息,这大大增加了隐私泄露的风险。同时,生成式AI在生成内容时,可能会不当使用这些个人信息,从而在用户交互中无意中泄露隐私,对用户的个人信息安全构成严重威胁。这种风险不仅影响个人用户,还可能对企业和国家安全造成潜在威胁。

张平还介绍,在司法实践中,生成式AI技术同样带来了诸多难题。首先,真人驱动型数字虚拟人的法律主体地位问题成为焦点。随着AI技术的不断发展,真人驱动型数字虚拟人在娱乐、商业等领域的应用越来越广泛。然而,在司法实践中,对于真人驱动型数字虚拟人的法律主体认定仍持否定态度,认为其并非法律意义上的自然人。这一立场虽然反映了法律对于新兴技术现象的适应性和审慎性,但也暴露了法律在AI主体认定上的困境和滞后性。

其次,现有制度规范与实践之间存在不适应问题。生成式AI技术的出现引发了知识产权侵权、隐私与个人信息保护等法律问题的广泛探讨。这些法律问题的根源在于现有制度规范的缺失与实践对相应制度规范的需求之间的矛盾。如何在推动技术发展与保护合法权益之间寻求平衡,已成为实践关注的焦点和亟待解决的问题。

最后,生成式AI侵权责任认定同样成为司法实践中的一大难题。由于AI所生成的内容包含用户指令与AI服务提供者技术工具的双重贡献,导致在著作权侵权纠纷中难以准确界定侵权的行为主体。这不仅增加了司法审判的难度和复杂性,也加剧了相关利益方的矛盾和冲突。

\

来源/AI绘图生成

应对生成式AI技术挑战的措施

面对生成式AI技术带来的法律风险与司法难题以及其他方面的挑战,专家建议相关部门要采取积极有效的措施进行应对。

一是要完善法律法规体系,明确生成式AI技术的法律地位和监管要求。通过制定专门的法律法规或修订现有法律法规,将生成式AI技术纳入法律监管范畴,明确其法律责任和侵权责任认定标准。同时,加强法律法规的宣传和普及工作,提高公众对生成式AI技术法律风险的认知和防范意识。

二是要加强监管和自律机制建设。建立健全生成式AI技术的监管体系,加强对相关企业和平台的监管力度。同时,鼓励企业和平台加强自律机制建设,完善内部管理制度和技术手段,提高风险防范和应对能力。此外,还需要加强跨部门、跨地区的协同监管和合作机制建设,形成合力共同应对生成式AI技术带来的挑战。

三是要加大技术研发和创新力度。通过加大技术研发和创新投入,推动生成式AI技术的不断发展和完善。同时,加强技术研发与创新成果的转化和应用推广力度,促进生成式AI技术在各个领域的广泛应用和深度融合发展。在推动技术发展的同时,注重保护合法权益和平衡各方利益诉求,实现技术与社会的和谐共生。

专家表示,生成式AI技术的快速发展带来了一系列挑战和问题,需要正视这些挑战和问题并积极应对。通过完善法律法规、加强监管与自律、提升公众意识与素养等多方面的努力,共同推动生成式AI技术的健康发展与广泛应用。

扫码投诉

手机扫码

快速投诉

关于我们 | 联系我们 | 版权声明 | 杂志订阅
Copyright © 2002 - 2024 All Rights Reserved. 中国质量万里行 版权所有,未经许可不得转载
京公网安备11010502034432号    京ICP备13012862号