金融机构如何规范伦理治理，促进金融科技健康发展？目前，我国金融科技伦理建设水平如何？持牌消费金融机构在科技伦理建设上怎样发力的？近日，人民网重庆频道专访全国消费金融头部企业、科技驱动型金融机构——马上消费金融股份有限公司(以下简称“马上消费”)副总经理、首席信息官蒋宁，就相关问题进行了深入探讨。

马上消费金融股份有限公司副总经理、首席信息官蒋宁。马上消费供图

人民网重庆频道：目前，我国金融科技伦理建设水平如何？

蒋宁：近年来，金融机构应用大数据、云计算、人工智能、区块链等技术，持续进行数字化转型，但也产生了数据滥用、算法歧视、数字鸿沟等不少伦理问题。实际上，目前的法律很难与新型科技相容，法律和监管往往滞后。同时，金融产品和服务的创新增强了业务关联，跨行业趋势显著，突破金融业分业经营、分业监管的体制框架，产生了行业界限模糊的问题，容易发生监管空白。当前，我国各地也积极开展金融科技伦理规范，深圳、浙江等地成立地方性金融科技伦理委员会。

人民网重庆频道：您刚刚说的伦理失范现象，请具体解释一下。

蒋宁：目前，金融科技在数据治理、算法设计和服务对象上都存在伦理失范的现象。第一，数据安全受到侵犯。一方面在数据获取上，存在采集过度的现象。部分金融机构超范围过度采集用户个人身份、行为、偏好等隐私数据，致使更多敏感信息暴露在开放网络环境；另一方面，数据的使用也存在道德危机。在未经用户同意情况下，金融数据甚至未经脱敏的个人信息被随意共享或售卖数据资源。

第二，算法滥用日益严重。算法不合理应用导致“算法歧视”“大数据杀熟”等，影响用户使用金融产品和服务，影响市场公平竞争，妨碍公平正义，受到越来越多的关注。例如算法导致的“大数据杀熟”现象，算法基于人的支付能力、消费偏好、使用习惯等，转变为对人们的各种打分和预测，在提供金融产品和服务实施差别定价，阻碍消费者自主选择。

第三，数字鸿沟不断扩大。部分数字化产品没有针对特殊群体进行痛点设计，导致这部分群体无法享受金融科技服务带来的便利，金融方面的“数字鸿沟”由此产生，并呈现不断扩大的趋势。数字时代弱势群体主要包括老人、农民及残疾人，由于认知能力、安全需求、个性偏好等多重因素影响，数字弱势群体在金融科技发展的浪潮中“掉队”，成为金融服务的盲区。

人民网重庆频道：您建议金融机构怎么应对？马上消费采取了哪些相关举措？

蒋宁：金融机构要践行常态化伦理治理。我们公司十分重视伦理治理。一是树立科技向善的企业文化。马上消费通过科技伦理培训提高员工伦理意识。针对新员工，设置伦理教育课程，使他们了解如何评估潜在的利害，为员工解释科技伦理原则和内部治理实践，引导其树立正向的伦理意识；针对研发人员，持续开展职业教育，提升其伦理水平和履职能力，开展负责任、可持续的研发工作。同时，马上消费注重科技伦理互动交流，对客户及社会公众进行科技伦理宣传，结合社会对公司的伦理评价完善伦理治理工作；向同业同步最新进展，辅助自身的金融科技伦理决策；响应政府和行业组织科技伦理相关的联合工作，为金融科技伦理公共基础设施建设贡献力量。

二是构建企业伦理规则体系。在组织框架方面，构建三级治理组织架构。通过科技伦理治理领导组、科技伦理治理委员会、科技伦理治理工作组三级治理组织架构，畅通问题上升反馈渠道和战略执行通道。在马上消费，领导组负责推动执行科技伦理治理战略；委员会负责制定指导方针，敦促公司和所有员工执行科技伦理原则；工作组负责产品伦理审核与风险把控、伦理生态建设、伦理标准讨论与制定、宣传培训。在制度规范方面，结合公司治理建立金融科技伦理的配套制度。马上消费结合公司实际，制定公司的《科技伦理治理规范》，明确要求所有科技研发活动，必须以安全为目的、对公众负责、保护个人隐私，使科技创新有利于增进社会福祉、避免歧视或偏见；健全和优化各项规章制度和规范，更新算法设计规范、个人信息保护等一系列制度，促进科技伦理治理进一步规范化、标准化；实施金融科技伦理标准，强化对违反金融科技伦理有关行为的责任追究。在风险监控方面，加强科技伦理风险评估及审查。马上消费建立了面向数据和算法的风险评估指标体系，用以辅助科技伦理治理委员会进行风险预测和识别。并且，以国家出台的金融科技伦理战略规划为风向标，结合已经识别出的风险进行伦理追溯，探索风险背后的价值冲突和伦理困境，建立科技伦理审查的质量控制和监督评价机制，定期审查科技伦理风险。

三是探索运营展业的伦理公平。马上消费积极落实政府规划，结合业务场景，具体推进伦理原则和规则实质性落地。

注重数据安全和隐私保护。数据是金融科技的基础要素，马上消费从数据视角进行伦理规范，避免数据采集、使用和保护方面的道德风险。在数据采集方面，规范用户授权，根据伦理规范需求，以合理必要为采集前提。在数据使用方面，建立数据治理长效机制，防范因为数据推销，造成骚扰电话、短信泛滥、暴力催收等恶劣的社会影响。在数据安全方面，制定数据安全保护制度，建立数据防泄密立体防控体系，配备专职安全监察人员，防范数据泄露。

将科技伦理嵌入业务全流程。通过在立项、需求分析和技术研发全流程增加科技伦理设计，金融科技从诞生便符合特定的科技伦理道德。技术研发应用和部署团队成员包含技术、合规、法律、伦理、信息安全等领域的人员，在产品立项、研发、测试、发布、运营的全生命周期设置科技伦理审查，将科技伦理要求嵌入技术设计开发中。以马上消费的AI心理学技术应用为例，通过发明一种带有同理心、面对多人沟通的对话技术，使得人工智能具备同理心。该论文被自然语言处理与计算语言学领域顶级学术会议ACL 2022成功录用。人工智能技术和心理学的应用改变了催收理念、模式和方法，显著提升效率，提升了催收行业的伦理道德规范。

以便民为中心弥合数字鸿沟。企业应创新和改善金融科技产品和服务，帮助偏远地区人口等特殊群体享受数字产品和应用，达到跨越数字鸿沟的目的。马上消费在技术研发中，注重操作使用的便捷性，突破时空限制。通过自主研发智能双录(远程视频)产品，实现业务办理人与客户“远程面对面”，完成便捷智能的音视频留痕服务；通过智能机器人引导操作流程，固化并不断优化录制流程，操作更便捷顺畅，有效提升双录效果并降低双录时长；通过人工智能自动进行语音播报，将AI算法深度融入到视频服务中，进一步提升展业的合规性和一次性通过率，减少重录。

人民网重庆频道：对于金融业践行科技伦理治理，您有哪些建议？

蒋宁：科技既是金融发展的利器，也可能带来新的伦理风险，金融科技的伦理规范不是一劳永逸的。下一步，马上消费持续探索伦理审查和评估，结合产学研合作和人才培养，坚持用户利益至上、体现人文关怀，推动有温度的科技创新发展，最大程度地实现治理的正义性及平等性。(张睿、向菊梅)