近期，“人工智能法：域外比较与中国实践学术研讨会”在广东财经大学立德楼七楼第一会议室成功举办。本次论坛由yl6809永利官网、yl6809永利官网人工智能法研究中心共同主办。这是yl6809永利官网人工智能法研究中心成立后的首次学术会议，据了解人工智能法研究中心也是广东省内首个专门研究人工智能法的学术机构。本次会议尝试从比较法的角度，结合学术界、司法界以及实务界的不同视角，观察、思考和研讨人工智能法律前沿的理论与实务问题。本次论坛共设置了四个环节，邀请了来自知名高校、企业的10余位学者、法务专家和企业代表从不同视角对该问题进行观察、思考和研讨就该问题进行充分讨论，现场讨论氛围浓厚。
首先，中国社会科学院信息情报院第八编研室副主任李延枫发表致辞，介绍了《人工智能法示范法》的基本情况以及本次会议的主题，旨在全面梳理域外人工智能规制现状，结合国内人工智能实践，听取企业代表对该法完善的建议和意见。接着，yl6809永利官网党委书记陈静代表主办方致辞，陈书记对各位专家的到来表示欢迎和感谢，并提到了2023年7月发布的《生成式人工智能服务管理暂行办法》及其重要性。陈书记还介绍了本次研讨会的目的，期待通过对国内外人工智能法律治理及实践的探讨，促进中国人工智能法律的进步。
开幕致辞后，会议进入第二个环节“主旨发言”，该环节由中国社会科学院法学所网络与信息法室副主任周辉主持。周主任首先进行发言，概述了欧美在人工智能立法方面的进展，指出国内自研的人工智能大模型陆续发布，相应的法规也迅速出台，如《生成式人工智能服务管理暂行办法》，有国外监管派的学者认为在这点上应该向我国学习。接着，周主任提及美国新近发布了人工智能行政命令，其监管特点为去中心化和有限的行政权力，指出其虽具示范作用，但缺乏强制性。美国各州在人工智能立法上也较为活跃，但与中国的监管重点不同，其更关注政府应用人工智能对公众的影响。此外，周主任还提到欧盟当前在《人工智能法案》上达成了共识，考虑到人工智能产业发展，可能会对小企业给予豁免。最后，周主任介绍了《人工智能法示范法》的主要内容，鼓励地方创新和试验区建设，引入欧盟的沙盒监管模式，并要求国务院每年定期汇报人工智能发展和监管现状。
入选国家级人才项目、yl6809永利官网教授赵景琛发表了主题为“董事会中的人工智能：以智能监管的视角”的主旨发言。赵教授探讨了人工智能在企业董事会中的应用及其对公司治理的影响，他指出，人工智能在董事会中的角色可以从辅助角色（如自动化风险评估和数据隐私合规任务）到顾问角色（如提供预测和选项以支持董事会决策），甚至可能成为决策者。人工智能的应用带来了巨大的商业机会，但同时也伴随着风险与挑战，如透明度、安全与算法歧视等问题。赵教授强调了监管人工智能的必要性与重要性，并提出了智能监管的概念，即在多元化的监管环境下鼓励利益关系者在整个监管周期中积极参与，同时让受监管影响最大的利益相关者在智能监管中发挥关键作用。最后，赵教授呼吁各方参与者保持对人工智能发展的前瞻性，以确保人工智能在董事会中的使用中符合安全、公平、以人为本、可解释与可问责等原则。
研讨会的第三个环节“主题发言”由李延枫主任主持。抖音集团互联网法律研究中心主任丁道勤围绕“生成式人工智能训练阶段的数据保护思考”进行了主题发言。丁主任认为，如果没有高质量的数据进行预训练，那么大模型的质量就难以保证。他指出，当前行业面临的问题是，如何既能保证企业获取高质量的数据，又能满足数据合规的相关要求。丁主任介绍了国内外相关案例以及全球典型国家和地区就相关问题出台的法律政策，进而提出了完善相关规制的初步想法。
虎牙科技合规中心总监王平进行了主题为“风险与义务对应分级的探讨——以深度合成标识义务为例”的分享。首先，王平简要介绍了目前AI技术在虎牙直播的应用现状，包括用于主播面部优化、游戏直播中智能提取精彩点等。接着，王平分别从标识义务的来源、标识义务的履行以及海外立法情况三部分进行了分享。在标识义务来源部分，《互联网信息服务深度合成管理规定》第十七条规定了深度合成服务提供者的显著标识义务，同时，全国信安标委发布的《网络安全实践指南——生成式人工智能服务内容标识要求》分别规定了显性标识和隐性标识两种标识方法，为标识义务的履行提供了更为明确的指引。在标识义务的履行部分，王平指出，目前对于AI功能提供者义务的规定是较为明确的，包括深度合成服务的提供者和使用者，但是对于第三方平台在AI应用中需要承担什么义务仍不够明确，例如，平台需要承担网络信息内容服务生产者责任，亦或是仅作为网络信息内容服务平台而只需要承担网络信息服务提供者的责任。最后，在海外立法现状部分，王平介绍了欧盟《人工智能法案》对AI监管采取的分级分类思路，即将AI应用分为了不可接受的风险、高风险、有限风险以及低风险四类。王平认为，基于名人/他人的生物模型可能属于有限风险，基于内容生成者本人的生物模型则可能属于低风险的情形。此外，她认为《人工智能法案》中设置的沙盒监管模式，有利于降低中小企业的合规成本，促进科技创新，对于促进创新和监管的协调发展具有积极的作用。
云从科技联合创始人/监事刘君指出在企业在实践的时候会和标准法规存在差异，企业关注的要点和标准法规制定者所关注的重点可能会有一些差别存在一些差异。刘总主要基于云从科技的实践展开分享和讨论。刘总首先简要地介绍了云从科技的基本情况和有关业务，云从科技研发并发布了“从容”AI大模型。基于“从容”大模型的研发实践，。刘总指出目前“从容”大模型进行了两个备案，分别是：（1）国家网信办第二批深度合成服务算法备案，法律依据是《互联网信息服务深度合成管理规定》；（2）生成式人工智能服务算法备案，法律依据是《生成式人工智能服务管理暂行办法》。刘总提出，目前存在公众将备案误解为一种许可的情况，并强调了备案过程中存在的一些问题，如“对公众提供服务”的适用范围是什么，以及在企业小范围自用情况下是否需要备案。他还指出，在提交备案材料和进行相关测试时，缺乏明确的标准，这增加了企业在合规性方面的困难。
唯品会合规部合规经理祝丰指出垂类大模型作为一种跨领域的技术，已经在教育、医疗和电商等行业中得到应用。祝经理认为，在电商领域，它通过智能对话交互显著提高了用户选购商品的效率，包括提供售前咨询、推荐商品链接和详细介绍商品卖点。然而，这些模型在合规性方面面临挑战，包括生成可能误导用户的错误或有害信息，以及在处理用户输入信息时必须遵守《个人信息保护法》的知情同意和最小必要原则，这可能会限制模型的优化和灵活性。因此，如何在保护用户信息权益和推动大模型技术发展之间找到平衡，成为了一个亟待解决的问题。
文远知行副总经理黄烨华则主要从自动驾驶的角度来谈对人工智能产业的监管和期待。他指出自动驾驶系统以人工智能算法为核心，本质是由系统逐渐代替人完成驾驶任务。人工智能可以在环境感知、预测和决策规划、控制执行三个应用场景中为自动驾驶系统提供较为安全、稳定的支持，从而让自动驾驶比人类驾驶更安全。在监管方面，现有法规需要升级以适应高级别自动驾驶的智能网联汽车产业的发展，例如对于合法驾驶主体、合法责任主体等的规定。多个其他国家都正在对原有道路交通法进行修订或通过制定新的法规来明确自动驾驶系统的合法地位。期待《人工智能法示范法》的出台，能够对于为高度和完全自动驾驶系统车辆在车辆上路、通行、准入方面提供法律保障和依据，对自动驾驶行业的发展起到加速器作用。对于《人工智能法示范法》，黄总指出第三条创新监管原则非常重要，给予了人工智能企业充分的发展空间。
美团华南法务总监梁博文从本公司市场经营情况出发发表主题讲话。他介绍，美团作为科技零售公司常年深耕于互联网服务零售与商品零售。近年来也加大投入在人工智能领域的投入，例如无人机、无人车配送。从无人车测试的角度考虑，很多风险管理的过程也都在不断发展，可以在研发过程中降低控制风险，先将部分研发成果投入试用，试用收益反馈研发。在人工智能应用方面，美团也在不断完善，寻求更多维度的权益与风险平衡。对于《人工智能法示范法》，梁总监也作出了以下思考：首先是负面清单的设置基准是许可亦或是备案？负面清单针对的对象是技术还是主体亦或是具体的产品与服务？怎么更合理地划分对象标准？众多问题亟待明确。关于人工智能的民事侵权责任，梁总监重点关注诉讼的举证责任问题，即如何通过回溯确定责任在人工智能，以及此种因果关系的证明、相关度应该如何衡量确定。
研讨会的第四个环节“研讨与谈”由yl6809永利官网教授、人工智能法研究中心主任姚志伟主持。21世纪经济报道合规新闻部副主任王俊首先对本单位情况进行了介绍，据介绍，21世纪经济报道在2023年间发出了将近200篇关于人工智能的报道，跟进最新人工智能动态。王主任认为人工智能技术迭代飞速，应当关注以下几个问题：（1）数据的合规与数据流动性不足之间的平衡问题。，数据如果做到完全的合规，就会产生流动性不足的问题；（2）在人工智能输入端的著作权问题是：著作权侵权豁免和媒体传统产业可持续发展之间可能会存在矛盾。在输出端的问题则是：生成内容是否能够受著作权保护，如果可以，那么著作权的归属又何如如何？王主任提到近日北京互联网法院作出的“生成式人工智能文生图第一案”判决在学术与实务领域都引起了巨大争议，这正是以上著作权问题没有厘清所致；（3）备案和安全评估的制度如何同发展相匹配，如何兼顾产业发展和安全保障。此外，王主任还分析了OpenAI董事变动争议中体现的商业化和合规化的冲突。她认为技术的演进和法律政策的发展是相互交织的，国内立法应参考欧盟基于风险制定监管制度，以原则性条文代替具体规则，为人工智能发展预留法律空间。最后，王主任还从媒体角度提出了自己的担忧：个人是否还具有主体权？要从更高维度视角去看人工智能和个人带来的迷思。
暨南大学yl6809永利官网/知识产权学院讲师韩书立分享了其对于人工智能订约法律思考的成果。韩老师先是引用了经济合作与发展组织、欧盟委员会人工智能独立高级专家组、贸易法委员会和国际统一私法协会的定义，作出了对人工智能系统的定义。紧接着，韩老师讨论了在人工智能系统生命周期中的关键行为方，包括开发方、数据提供方、部署方、运行方和受影响方。韩老师接着讨论弱冠之年人工智能订约中的法律制度，还探讨了人工智能在贸易中的应用，涉及合同法、侵权责任法和产品责任法。此外，韩老师提出了几个问题，首先是在合同法中，如何确定人工智能在违约以及如何认定损害与其存在因果关系；其次是在侵权责任法中，在确定侵权行为与损害的因果关系上存在着极大的举证难度。在探讨的过程中，韩老师还特别提到了B2C2 Ltd v. Quoine Pre.案作为案例研究。
广州大学yl6809永利官网讲师狄行思以“金融人工智能的信义法规范及中美监管”为主题，主要探讨了人工智能在金融服务中的应用、智能投顾的资产管理流程、智能投顾是否能满足信义义务的法律考量，以及中美两国在金融人工智能监管方面的路径和特点。狄老师指出，人工智能在金融领域的应用场景广泛，智能投顾通过算法为用户提供财富管理建议，如今已部分取代了传统理财顾问的角色，但智能投顾在满足信义义务方面面临挑战，包括难以评估投资适当性、信息披露不足和潜在的利益冲突。在金融人工智能的信义治理体系方面，狄老师探讨了私法路径和金融监管的要求，以及人工智能作为受信人的三种分类。狄老师还详细列举了中国金融科技规范性文件的进程，强调了监管原则和审慎监管的重要性。狄老师比较了中美两国在智能投顾监管方面的特征和不足，指出中国监管以顶层设计为基础，强调监管原则，而美国监管则依托衡平法构建灵活的信义规则。狄老师最后强调，应采取适应本国国情、符合智能投顾市场规律的监管策略，并及时调整。
北京理工大学yl6809永利官网博士后张心宇概述了人工智能立法的最新进展，重点关注了欧盟、美国和中国的立法动态。张博士介绍，从全球人工智能监管现状来看，欧盟关于人工智能的全面立法会在全球继续获得广泛关注，借鉴于GDPR曾决定IPHONE隐私政策的成功经验。欧盟对人工智能技术应用采取的“基于风险的方法”，将意味着广大在欧企业需要自己识别这些风险并采取适当措施，以继续获取欧盟市场。美国政府的分散结构、政治分歧以及人工智能的复杂性导致其很难采取统一有力的治理举措。美国可能会继续观察欧盟和当前监管行动的结果，并通过自下而上的方式拼凑出一个人工智能监管规则。对于中国而言，如何通过立法在拥抱技术发展的同时有效规制风险，贡献出具有中国特色的人工智能治理路径，将受到国内外各界的密切关注。人工智能立法需要抓住技术发展机遇，科学合理推进，以在未来新一轮科技革命和国际科技竞争中取得主动权。
香港大学法律学院博士候选人王伟主要分享了其关于人工智能之可操作性的问责性的工作论文（working paper）的内容，介绍了全球创制AI治理模式的情况和趋势。他首先分享了欧盟和巴西对AI的综合式立法情况，欧盟除了《人工智能法案》以外，还有如数字市场法案、数字服务方案、数据法案等一系列治理规范。巴西也已经多次研讨综合法案的可行性。美国对AI的监管目前主要可以参考拜登政府发布的行政命令以及权利蓝图，而总体而言美国对于AI的现行监管比较支持技术发展和自由市场。以新加坡为代表的东盟是以软法的形式，比如“Verify AI框架”，对AI进行监管。印度对AI的监管采取了一种自上而下的亲创新的态度。我国目前对于AI的监管是分部门（分级分类）的模式。实际上从各国的实践来看，尽管无法直接援引“人工智能法”，但部分国家或地区都已经有一定的规制工具来尝试处理AI引发的议题，比如国际上已经出现以AI生成内容的不准确性为由提起“诽谤”诉讼的案例。所以一定意义上说，对于AI的综合立法，其中一个重要的问题是处理好体系解释的法律间关系，以及同时明确是以“行为规则”还是“行动者归责”为制度骨架。
中国人民大学yl6809永利官网博士研究生闫文光围绕生成式人工智能的数据来源合规性进行了分享。闫博士认为，数据来源合法性是生成式人工智能产品合规的一个必要条件。生成式人工智能数据来源的合法性是指，数据是否以合法正当的方式取得，是否损害数据所有人的权益。闫博士认为，生成式人工智能的数据来源主要可以分成三部分，第一部分是规模十分庞大的训练知识库。第二部分是其在服务过程中所收集的用户输入的信息以及由人工智能合成的信息。未来如果人工智能的生成物受到著作权保护，那么可能会产生一系列知识产权领域上的纠纷和问题，如涉及署名权和修改权等人身权的侵权等问题。第三部分是数据爬虫，其受到robots协议的约束。使用数据爬虫获取第三方数据应当考虑可能会对计算机系统产生的不利影响。美国对于公司研发监管采取的是原则性的规定，主要还是持一种推动人工智能创新，审慎包容、先产业发展、后立法监管的监管态度。闫博士认为，应当审慎监管，坚持安全和发展并重，把合理使用从著作权法领域扩展到对生成式人工智能的监管中去，如通过借鉴开放授权模式规范文档、图片、音视频领域使用者的义务等。
最后，暨南大学《暨南学报》（哲学社会科学版）副主编李晶晶作为评议人发言。李主编对前述参会嘉宾的发言主题进行了简要的总结，并分享了自己的心得和看法。她认为各位实务界的专家学者从不同行业、不同研究机构的角度对人工智能的定义、使用场景、使用标识、风险、分级主体等各方面进行介绍和交流，她从中获益良多。她认为李主编表示，《暨南学报》作为学术出版机构，从几年前已经开始对人工智能的探讨。她发现从会议的讨论情况来看，目前对于人工智能的研究选题和研究对象，从务虚逐渐向务实转变，研究的范围从原先较为集中在知识产权领域到现在逐渐延伸至各部门法，其认为。她感觉现在的科学研究越来越能够落到实处。此外，李主编还表示，会议使她了解到很多业界真实的需求，以及当前对于人工智能司法监管的一些难点和痛点。最后，李主编向大家简要介绍了《暨南学报》的基本情况，以及最新的关于人工智能的征文选题清单，并表示欢迎各位专家学者投稿。
