探寻生成式人工智能算法规制的思路 当前热讯
近日,由中国人民大学法学院、中国人民大学未来法治研究院主办的“生成式人工智能算法规制——《生成式人工智能服务管理办法(征求意见稿)》学术研讨会议”召开,来自政府相关部门、高校研究机构、人工智能产业界的专家参加了本次研讨会。
(相关资料图)
■中国人民大学未来法治研究院执行院长张吉豫:
可以以发展、安全和法治三个关键词概括对ChatGPT为代表的大规模语言模型的系列关注。第一,生成式人工智能技术是划时代的发展,大模型在互联网、数据等架构上可能形成新的层次,深刻影响产业的发展和未来技术的进步。第二,从数据、算法、系统集成等角度来看,生成式人工智能的发展、创新中伴随着风险与挑战。第三,为调节好发展和安全之间的冲突,构建以人民为中心的智能社会法律秩序,对于推动人工智能技术健康有序发展具有重要意义。
■百度公司副总裁吴梦漪:
结合《生成式人工智能服务管理办法(征求意见稿)》的几个看法:一是将开放API和通过API调取功能认定为内容生产者可能提高了对合规义务的要求。二是将生成式人工智能认定为具有舆论属性和社会动员能力的互联网信息服务,可能泛化了适用范围。三是从实践的角度,内容生成的准确性与生成式人工智能技术原理存在冲突。因此,初始阶段监管层面的重点应从追求内容准确性转向对违法利用行为的打击。四是需要辩证看待数据的好坏。生成式人工智能具有一定的创作性,海量的训练数据有利于提高技术的发展速度,希望监管的重点在于生成式人工智能产品的质量,不宜对训练数据和技术路线做过于详尽的规定。五是综合考虑生成式人工智能服务的人机对话特点,简化对真实身份信息要求的规定。
■腾讯研究院首席数据法律政策专家王融:
对生成式人工智能的规制的几个建议。第一,生成式人工智能可能是未来新的信息时代最为基础的工具,超越了单纯的互联网信息服务,应以全新视角去看待。第二,制定规章是必要的,但是目前法律规范本身可能还需要进一步讨论新的问题;输出信息的质量方面有很强的市场自驱力;而大模型时代的底层网络安全和数据安全,发展更为优先。第三,三个月的模型优化训练期限在实践中难以落地,不妨考虑其他多种技术手段。最后,在AI发展领域,风险浮现是渐进式的,市场主体和监管主体应在共同目标和接近的立场下协同解决问题。
■中国人民大学法学院教授王利明:
应正视ChatGPT引发的问题,思考法律上如何积极应对。首先,面对生成式人工智能引发的人格权和知识产权方面的问题,立法过于超前可能会阻碍技术的发展和创新,通过发布管理办法或制定相关措施积累经验,条件成熟后再立法可能是相对稳妥的办法。
对ChatGPT引发的侵权问题,提出五点建议:一是在价值取向上积极支持人工智能产品的开发。二是ChatGPT不同于自动驾驶等一般产品,让服务提供者承担无过错责任会阻碍技术发展,不符合鼓励技术创新的价值取向。三是可借鉴医疗事故责任的减免规则,因技术水平限制而导致难以消除的漏洞时,可以适当减轻甚至免除服务提供者的责任。四是加强和强化服务提供者对个人隐私信息的安全保障义务。五是关于ChatGPT的幻觉回答导致的侵权责任分配问题,应区别平台大规模生成与用户恶意诱导的情形。
■中国社会科学院大学副教授刘晓春:
从四方面提出监管的建议。一是监管必要性,若在新技术场景下,原有体系能解决大部分问题,就缺乏专门规制的必要性。生成式人工智能的重要风险点在内容层面,如果生成的内容没有传播,是否存在风险仍存在疑问;如果已经传播,则要考虑原有的治理系统是否能够解决问题。二是监管有效性,其核心问题是公权力对产业的治理或干预是否能真实、有效地达到基于监管必要性的风险治理目的。三是结合我国现有产业背景考虑监管技术的应用场景。未必每个企业都研发大模型,但是在应用层面具有各自极大的拓展商业的可能性,应为应用层面的商业模式留出发展的空间。特别是在对内容生产者的定义上不应拓宽。四是从立法基础的角度考虑协调性。比如,在实名制问题上与网络安全法相协调,在算法的评估和备案问题上,也应基于现有的机制协调。
■对外经济贸易大学副教授许可:
《生成式人工智能服务管理办法(征求意见稿)》与之前的法律、现有的实践和技术存在四大矛盾。第一,新法和旧法的矛盾。《互联网信息服务深度合成管理规定》中的深度合成技术和《生成式人工智能服务管理办法(征求意见稿)》中的深层次人工智能技术之间有何异同尚不明确,未来执法过程中可能产生矛盾。第二,域外效力和属地管辖之间的矛盾。《生成式人工智能服务管理办法(征求意见稿)》涉及的内容超出了《个人信息保护法》覆盖范围,部门规章是否能设立超出上位法的域外管辖权存在疑问。第三,网络信息内容安全管理和通用技术规制之间的矛盾。将通用性的人工智能限制在网络信息内容上,可能出现规制工具和规制目标的不匹配。实际上,在不同的场景下,生成式人工智能的风险因形态而异,如何判断其风险,需要模块化判断。第四,全流程安全要求和技术内在特征的矛盾。全流程的管理和生成式人工智能的特性不符,例如,预训练数据的合法性难以实现,数据与最后信息生成之间也并不存在直接映射关系。
■对外经济贸易大学副教授张欣:
在监管对象上,我国的人工智能企业此前多集中在应用层,在基础层和技术层分布相对较少。在监管方式上,面向生成式人工智能的产业链特点,可以提升监管的互操作性、一致性。在监管创新上,一方面应注重监管的韧性,另一方面应积极探索以模块化监管为代表的新型监管方式。对《生成式人工智能服务管理办法(征求意见稿)》的四点修改意见:第一,进一步厘清第2条对“生成式人工智能”的定义。第二,面向产业链特点明确第5条中“产品生成内容生产者”的范围,不宜通过一刀切的方式让所有行为主体都承担产品内容生产者的责任。第三,第7条关于预训练数据和优化训练数据来源的准确性问题可以适当调整,只要在可接受的技术水平条件下,组织和企业履行了相应义务,可认为符合人工智能准确性原则。第四,第15条关于防止再次生成的期限和防止再次生成的方式聚焦于技术过程,目前的技术手段上难以达成,可以转换为从结果监管的角度防止被用户举报的不合法合规的内容再次出现。
■中国人民大学法学院教授万勇:
在生成式人工智能对著作权法合理使用制度的挑战方面,生成式人工智能可能涉及著作权法上的复制权、演绎权和向公众传播权。但是,目前的合理使用类型难以适用于人工智能技术。其次,为了解决相关的问题,应人工智能产业发展的合理使用制度改革,主要有两种解决方案:一是重塑理论基础,提出“作品性使用”与“非作品性使用”的概念,为了数据挖掘目的而使用作品,只有部分情形属于“非作品性使用”;二是改造制度规范,包括增设具体例外条款或引入开放式例外条款。建议修改《著作权法实施条例》,引入专门例外,兼顾产业发展和著作权人的权利。
■中国人民公安大学法学院教授苏宇:
处于追赶中的国内生成式人工智能在风险治理之外也非常需要制度支持。生成式人工智能大模型面临算法解释难、算法审计难、算法标准形成难、算法影响评估难、算法认证难等问题。《生成式人工智能服务管理办法(征求意见稿)》的主要考量问题是信息内容安全问题,在安全保障方面设计了“六重叠加”的机制,包括输出端的生成结果控制、输入端的数据来源和数据信息内容限制、扩展的内容生产者责任、用户举报与主动监管结合、宽泛的信息提供义务、与算法推荐和深度合成等已有立法的有限衔接等。其中部分机制存在不同程度的安全冗余。除此之外,还有需要充分考虑的治理要点,包括生成代码的单独归类、训练数据的必要区分、输出结果的类型提示、数据来源合法性的具体界定等。总体来说,对生成式人工智能的法律治理,大幅度降低无效或低效风险冗余应当是机制设计的重要目标。
■中国信通院高级工程师程莹:
生成式人工智能第一大特点是通用目的性。作为新底层基础平台,AIGC供应链被拉长,研发者是否应承担责任,研发者、平台方、B端用户、C端用户等如何分担责任成为关键问题。征求意见稿第5条应对各个主体进行精细划分。第二个特点是内容生成性,带来了知识产权、虚假信息等问题。未来生成式人工智能代表了知识调用方式的变迁,将掌握绝大多数信息来源,相较于深度合成的重点标识义务,负有更高算法评估、自我审查等义务。然而,一刀切要求训练数据和生成结果的真实性可能与生成式人工智能的技术本质存在一定冲突。第三个特点是数据依赖性,这是人工智能一直以来的典型特征,但是呈现了新的形式,例如中文语料库输入不足带来的文化偏见、数据虹吸效应带来的数据泄露风险等,相关法律义务应注意保持与上位法要求的一致性。
■中国科学技术信息研究所助理研究员刘鑫怡:
英国的监管框架是基于人工智能应用场景来规范人工智能应用,而非规范人工智能技术,并不为整个行业或技术设定规则或风险级别。在监管依据上,在不确定的技术应用和治理中探索可量化、可定性的成本收益及影响,这对我国监管政策的出台有启发意义。在目前的大模型监管上存在难点。主要包括三方面:一是技术的局限性导致目前难以达到治理的高标准;二是大模型治理的方式和限度难以把握;三是目前多样化治理工具没有完全发挥作用。随着多模态大模型的研发和广泛应用,未来的风险问题会逐步深化。建议在统筹发展与安全的基础上,构建全生命周期的差异化监管机制,加强人工智能重点领域关键环节监管。同时倡导“以技治技”,开展安全可信技术的治理。
(金灿)
标签:
推荐
- 探寻生成式人工智能算法规制的思路 当前热讯
- 东乡县达板镇排水系统配套工程(红柳村、舀水村、红庄村)中标公示_每日看点
- 当前简讯:中方呼吁苏丹冲突双方尽快停火止战,通过对话化解分歧
- 天天微头条丨海螺水泥:5月22日融资买入1525.2万元,融资融券余额20.32亿元
- 快讯:XD嘉化能(600273)5月22日主力资金净卖出1192.92万元
- 它们,越来越多;它们的家,越来越美!_天天报道
- 【世界新要闻】瓦拉内声援维尼修斯:终生禁止涉事球迷观赛的威胁还不够
- 闲看花开花落静观云卷云舒什么意思_闲看花开花落 静观云卷云舒什么意思
- 巴氏家用消毒浓度_巴氏消毒液配比浓度
- 《最终幻想16》前瞻解禁 大量战斗视频一览|今日要闻
- 4家“低碳先锋”公司齐聚深交所上市大厅集体业绩说明会 回应战略布局、产能利用等问题 全球新消息
- 全球热议:火麻树_关于火麻树介绍
- 黄埔推出“高质量发展30条”:奖励增量上不封顶,专门设置“引进外资奖”
- 世界新资讯:星座书上烟嗓_星座书上
- 数字人民币可以买基金等场外理财产品
- 当前快看:当日快讯:网传辽宁锦州北镇沟帮子火车站附近出租车司机索要高价语言粗暴,官方通报
- 教育部开展2023届高校毕业生就业“百日冲刺”行动
- 67岁吕良伟和60岁关之琳的同框照,彻底让我怀疑人生
- 【天天时快讯】鹤壁市市长赵宏宇调研鹤壁科创新城片区开发工作
- 山东城市文旅的机会在哪? 当前短讯
- 全省城乡精神文明融合发展观摩活动在长葛举办
- 中意人寿南充中心支公司开展“充惠保”宣传推广活动
- 5月22日减速器板块涨幅达3%_环球聚看点
- 被33岁不丹王后惊艳了:穿“民族装”有东方神韵,美得端庄体面|报道
- 当前头条:打脸了!谷歌竟然跟踪用户被罚2.8亿
- 天天速看:上海:一杯咖啡里的城市烟火气
- 岭南明珠体育馆六一嘉年华免费门票领取入口
- 民企发展,济南凭什么能? 环球动态
- 【财经分析】专家畅谈未来智能技术:许多行业都值得用AI重构一次_当前热议
- 环球动态:第三届中国—中东欧国家博览会落幕
- 南昌大学技术学院怎么样录取分数线
- 科创板基金有哪些_科创板基金有哪些
- 【机构调研记录】鑫元基金调研钱江摩托 环球快播
- 增额终身寿险上演存款“最后的狂欢”
- 焦点速讯:来搅小型车的局 静态体验江淮汽车钇为3
- 今日聚焦!德宏州旅游景点有哪些_德宏州属于哪个市
- 焦点热文:通告!永州公安将开展电话预警和见人见面预警劝阻
- 心系母队!布斯克茨社媒晒照庆祝巴萨夺冠,梅西迅速点赞|每日信息
- 全国助残日 成都市举行听力残疾人群众性运动会 世界播资讯
- 空持百千偈怎么读音_空持百千偈 不如吃茶去 出自哪里_全球快讯
- 台式电脑风扇多少伏电压_台式机电源风扇尺寸-热点聚焦
- 天天微速讯:Genshin Impact的夏洛特可能是第一个低温催化剂
- 自相矛盾寓言故事道理(自相矛盾告诉我们什么道理) 全球热文
- 孩子偷用患癌奶奶银行卡充值1.4万 游戏方:正协商_实时
- 视点!癌症患者、患者家属、爱心人士等参加公益跑活动
- 跟爱人说晚安浪漫句子 实时焦点
- 委托贷款是什么意思|世界播资讯
- 2023年5月21日云南省粳米批发价格行情
- 今天,茶饮店接万元大单的机会来了!你遇到了吗?
- 黄陵矿业集团有限责任公司股权_黄陵矿业集团有限责任公司
- 金山快盘是干什么的_金山快盘是什么_全球聚看点
- 前沿资讯!一架飞机在瑞士坠毁 三人死亡
- 微头条丨正荣就“保险箱事件”发声:已造成项目损失6500万元 拟采取进一步法律行动
- 世界观焦点:2023车险怎么买最划算_车险要怎么买才合适
- 陵水开展2023年“中国旅游日”主题活动 发布旅游推荐攻略|每日热门
- Instagram将允许用户发布最多500个字符的文本更新
- 武汉大学测绘学院空间定位与导航工程研究所(关于武汉大学测绘学院空间定位与导航工程研究所介绍) 今日聚焦
- 西宁至漠河旅游专列开行
- 环球消息!马斯克的大饼,不灵了?
- 读创公司调研|赣锋锂业:公司正在评估锂电池板块分拆上市的可行性以及必要性 环球快报
- 今日观点!全国港口唯一!山东港口青岛港自动化码头成为首个智慧、绿色“双五星”港口
- 广州白云国际机场三期扩建工程西四指廊完成金属屋面施工 当前快看
- 热火力克凯尔特人 系列赛总比分2-0领先
- 全年欲签约1.2万亿元山西以招商破解资源型经济转型难题
- 美食文化丰富学生课余生活 世界快报
- 播报:三星发布《奇幻夜狂想曲》微电影 用S23 Ultra拍摄
- 速看:中国电子与温州市签订战略合作协议
- 天天动态:漯河市生态环境局 “一把手走流程” 零距离抓服务
- 滚动:琉璃大结局腾蛇回去受罚_琉璃大结局是什么
- 日语n2是什么水平值不值得考_日语n2是什么水平|全球观热点
- 华为发布新一代分布式技术超级终端 每台设备可互相成为对方的功能模块
- 王国之泪卖1000万未助原神
- 平均数公式高中(平均数公式)
- 【天天新视野】学习的意义_学习的过程
- 怎么起名字读起来朗朗上口-怎么起名字_环球快播
- 湖北加速复元生物多样性 挽救正在消失的美丽
- 泡姜需要放冰箱吗 泡姜需不需要放冰箱
- 吉首大学五学院联合举办2023届毕业生校园招聘会
- 广西11死车祸:9人系越南籍人员|天天速看
- 人民银行、外汇局将遏制投机炒作 自律机制成员单位坚决抑制汇率大起大落 每日快看
- CUBAL全国淘汰赛-太原理工37分淘汰西安交大
- 每日讯息!康熙十阿哥生母背景(康熙十阿哥)
- 龙宇股份05月19日涨停分析-天天时讯
- 中粮期货:天气炒作渐入尾声,大豆利空渐至? 全球讯息
- 速看:越南沙金和黄金到底有什么区别_越南沙金和黄金区别
- 2023年温州端午节放假时间是几号? 环球观察
- 三星Crystal 4K iSmart电视系列发布
- 常州8所热点优质普高实行分配名额政策-全球视点
- 机遇海口 活力海口丨每日一图
- 女星张馨予吐槽女装品牌引发对女性身材审美的思考|全球快看点
- 【环球快播报】硬水软化
- 天天新消息丨健民集团携手陕西广电&合作伙伴,构建健民牌便通胶囊发展新格局
- 线速度与角速度的关系_线速度与转速的关系 天天实时
- 环球微头条丨中国-中亚峰会|中乌共绘人文交流新画卷
- 科学幼小衔接,天府九幼萌娃“零距离”体验小学生活 环球新消息
- 中国-中亚峰会|西安美食:八国语言品评八种风味 世界热文
- 每日时讯!忆往昔 听电力博物馆里的文物故事
- 烟台市出租车叫车又添新模式 试运行95128电召服务
- 环球快报:31省份最新城镇化率:9省份超70%,这10个省份城镇人口最多
- 京剧的特点和发源地 京剧的特点
X 关闭
行业规章
X 关闭