2019年5月11日下午,由js金沙3983总站大数据和人工智能法律研究中心举办的“大数据和人工智能法律前沿问题”系列讲座在研究生院科研楼A913会议室举行。环球律师事务所律师、北京市网络法学研究会理事、对外经济贸易大学数字经济与法律创新研究中心高级研究员刘元兴老师主讲“智能金融领域的风险与法律规制”,中国法学会法治研究所副研究员陈燕老师、js金沙3983总站法治信息管理学院副教授周果、js金沙3983总站讲师赵一单老师、中国人民大学js金沙3983总站博士刘信言作为与谈嘉宾参与本次讲座。js金沙3983总站董静姝老师担任主持。
刘元兴律师首先从金融领域AI的商用实践展开演讲。在这一部分中,他就人工智能在金融领域几大典型应用成果——“智能支付”、“智能风控”、“智能普惠”、“智能投顾”、“智能保险”以及“智能信贷”逐一展开阐释,描绘智能金融领域商业应用的前景。但紧接着他提出,人工智能在提高金融效率、降低资本率、坏账率、便利金融消费者以及促进社会进步的同时也伴随着不可避免的风险,例如算法失控可能导致的金融系统性风险、算法歧视将加剧贫富两极分化、算法黑箱侵害金融消费者的知情权、算法分散性和不连续性导致难以确定责任主体、算法为高精尖人士垄断所导致的不公平竞争、个人数据隐私被侵犯等。
对此,他认为金融领域需要多方位的风险规制和治理:针对数据隐私侵犯问题,他提出应从消费者和风险控制角度进行规制和治理,赋予消费者数据权。针对算法失控及系统安全问题,应严格限制算法的适用边界并加强算法的加密技术保障。就算法歧视,应从设计者主观偏见、数据标签的去标识化、外部审查监督以及信贷评分的多元考量因素入手加以解决。为解决算法黑箱问题,他提出应当从相关关系角度对消费者尽提示义务并将技术与监管手段相结合。就归责主体的确认问题,应针对不同领域区分界定相应责任主体。最后,他还提出要施行专业监管和沙盒监管并加强访问控制和身份认证,呼吁出台审计措施从而加强人工监督和控制,将技术与监管相融合以弥补法律的滞后性之不足。
在随后的与谈环节中,陈燕老师受转基因食品安全议题启发,认为同转基因食品安全相同,智能金融领域作为新兴技术领域,其制度设计目的应在保障技术安全和促进技术发展之间谋求平衡。以美国与欧盟就转基因食品安全问题的监管原则为参考系,他提出就智能金融应采取预防监管原则。在监管方式上,他提出转基因食品安全领域的产品推广前试验与沙盒监管存在相通之处。最后陈燕老师就金融性风险中的算法操纵应纳入工具风险还是使用者风险范畴、技术规制与法律规制之间的配比关系、数据隐私侵犯是否以建立在海量数据之上为必要三个问题与刘元兴律师进行探讨。周果老师就算法黑箱问题中的算法公开问题提出自己的见解,他认为算法公开应考虑公开后的算法存在恶意滥用问题,故应在算法公平与数据隐私之间谋求平衡。赵一单老师认为在人工智能和自动化决策背景下,数据保护由1.0走向3.0这一发展脉络的根本在于人们控制风险的态度和能力之演变。鉴于不同主体存在不同的风险偏好,他以电商平台服务协议为例,提出在未来是否可能存在针对不同风险偏好者提供私人定制化方案的可能性。刘信言博士就算法公平这一问题提出自己的思考:虽然在法律领域内能够就“算法公平”概念下定义,但计算机领域内“算法公平”却存在定量难以固定的困境,二者之间存在桥梁的缺失。最后,讲座在参会嘉宾和同学们热烈的掌声中结束。