隨著央行下發(fā)《金融領域科技倫理指引》（下稱《指引》），金融科技的倫理治理建制再次成為市場關注的熱點。
《指引》提供了在金融領域開展科技活動需要遵循的守正創(chuàng)新、數(shù)據(jù)安全、包容普惠、公開透明、公平競爭、風險防控、綠色低碳等7個方面的價值理念和行為規(guī)范。適用于指導金融領域從業(yè)機構開展科技倫理治理工作，預防和化解金融科技活動倫理風險。
今年1月，央行《金融科技發(fā)展規(guī)劃（2022-2025年）》首次明確提出，加強金融科技倫理建設。堅持促進創(chuàng)新與防范風險相統(tǒng)一、制度規(guī)范與自我約束相結合原則，加快出臺符合國情、與國際接軌的金融科技倫理制度規(guī)則，健全多方參與、協(xié)同共治的金融科技倫理治理體系。
21世紀經(jīng)濟報道記者從相關人士處獲悉，央行自2021年8月就開始組織編寫《指引》，吸納了多地央行分支機構、商業(yè)銀行、行業(yè)協(xié)會、法院、研究院、金融科技企業(yè)、人工智能企業(yè)、頭部高校等各方建議。
過去，在科技倫理治理的過程中，數(shù)據(jù)治理與算法倫理存在偏見、治理機制與流程不完善等問題一直困擾著金融機構。
業(yè)內人士向記者表示，《指引》的性質為推薦性行業(yè)標準，為金融行業(yè)科技倫理治理提供了方向，但尚未出臺更詳細的評估指標與要求，機構目前嚴格按照《個人信息保護法》、《數(shù)據(jù)安全法》，以及《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》、《銀行保險機構信息科技外包風險監(jiān)管辦法》進行科技倫理治理，期待監(jiān)管出臺金融科技倫理評價的指標體系。
強調數(shù)據(jù)安全與算法合規(guī)
記者注意到，《指引》對金融機構數(shù)據(jù)治理提出了更高的倫理要求，在七個章節(jié)中，共有四個章節(jié)均強調數(shù)據(jù)安全、隱私保護、算法合規(guī)等與消費者權益息息相關的內容，分別是數(shù)據(jù)安全、包容普惠、公開透明、公平競爭。
在數(shù)據(jù)安全方面，《指引》要求金融機構充分獲取用戶授權，以最小必要原則采集數(shù)據(jù)，使用數(shù)據(jù)秉持“專事專用”原則，嚴格采取防護措施，依法合規(guī)共享數(shù)據(jù)，主動清理留存數(shù)據(jù)。
在包容普惠方面，《指引》要求金融機構提倡包容性設計，防止不公平歧視，履行無障礙義務。其中，在履行無障礙義務方面，文件要求建立“容錯型”產(chǎn)品交互機制，著力彌合因智能技術運用困難導致的數(shù)字鴻溝問題，不斷提升金融服務的深度、廣度和溫度。
在公開透明方面，《指引》要求金融機構充分披露產(chǎn)品服務信息，做好消費者適當性管理，自覺主動接受外部監(jiān)督，強化科技倫理宣貫教育。
在公平競爭方面，《指引》要求嚴防濫用數(shù)據(jù)與流量，公平公正使用智能算法，平等合理設置平臺規(guī)則，鼓勵科技服務開放互通。
一位參與《指引》編寫的機構人士向記者透露，這部分的關鍵在于算法的公平性、可解釋性、可問責性。“基于AI技術的機器學習會將原來金融領域的經(jīng)驗決策變成數(shù)據(jù)黑盒決策，同時，數(shù)據(jù)的片面性會引發(fā)決策的偏見，過度依賴數(shù)據(jù)應用也有可能造成數(shù)據(jù)泄露、隱私泄露等問題。”
“不僅是數(shù)據(jù)，模型運作的機制本身也可能帶來不公平。”他告訴記者，基于過往歷史、過往數(shù)據(jù)來預測未來導向，是模型訓練的一大形式，但這會形成馬太效應，讓最終決策偏向極端化，如果一開始就存在歧視，會形成歧視的循環(huán)。
在金融創(chuàng)新產(chǎn)品的決策鏈條上，“可問責性是最難以解決的部分，在產(chǎn)品的全生命周期中，數(shù)據(jù)、模型訓練都有可能會形成偏見，最終導致結果的不公平、不可解釋，但在整個決策鏈條上哪個要素應當對結果負責，哪個員工應當承擔責任，這是最困難的部分。”
目前已有金融機構對人工智能產(chǎn)品進行風險評估。據(jù)馬上消費金融研究院向記者提供的人工智能風險評估表顯示，其主要包括數(shù)據(jù)風險與算法風險兩項一級指標，二級指標包括數(shù)據(jù)安全風險、數(shù)據(jù)偏見風險、算法安全風險、算法可解釋性風險、算法決策風險等5項，具體風險指標則包括數(shù)據(jù)來源合法性、數(shù)據(jù)處理脫敏性、數(shù)據(jù)運用保密性，主客觀數(shù)據(jù)偏見，算法泄露、被篡改風險、算法透明性、算法可解釋性等。
明確倫理治理主體責任
在《指引》守正創(chuàng)新章節(jié)，首先明確金融機構履行倫理治理主體責任。建立健全倫理管理組織架構與制度規(guī)范，探索設立企業(yè)級科技倫理委員會，完善科技倫理審查、信息披露等常態(tài)化工作機制，壓實各方職責，做好金融科技活動的審查、批準與監(jiān)督，提前預防、有效化解金融科技活動倫理風險，嚴防技術濫用、誤用。
據(jù)記者了解，目前在金融機構內部開展相關科技倫理相關工作的組織主要是風險管理委員會、信息科技管理委員會、消費者權益保護委員會，對數(shù)據(jù)安全、算法合規(guī)、消費者權益保護等進行管理。但科技倫理涵蓋技術、業(yè)務、法律、風險、消費者權益保護等方方面面，涉及前臺零售運營、中臺風控、后臺法務等多個部門，金融機構科技倫理職責邊界較為模糊，治理機制不完善。
“很多人覺得數(shù)據(jù)安全、算法合規(guī)、APP客戶端建設等等就是信息技術部門的工作，但以客戶為中心的科技倫理治理應該貫穿金融業(yè)務的全生命周期。”某銀行科技部門人士表示。
為強化金融機構整體的科技倫理教育，《指引》指出應將科技倫理深度融入產(chǎn)品研發(fā)、業(yè)務運營、市場營銷、日常培訓、科研實踐等環(huán)節(jié)，引導從業(yè)人員主動學習科技倫理知識、提升科技倫理素養(yǎng)，自覺抵制違背科技倫理要求的行為。
同時，為完善金融科技風險內控管理與問責機制，《指引》要求明確相關崗位和人員的管理責任，分離不相容崗位并控制操作權限，增強風險綜合管理能力。在發(fā)生風險事件時，主動承擔風險管理主體責任，積極開展追責問責與問題整改，不斷提升金融科技產(chǎn)品和服務的安全性與可靠性。
記者梳理部分上市銀行2022年半年報發(fā)現(xiàn)，目前商業(yè)銀行主要在數(shù)據(jù)安全領域與個人信息保護方面進行規(guī)范化管理。
如建設銀行在今年上半年發(fā)布《落實數(shù)據(jù)安全管理工作方案》，從數(shù)據(jù)安全管理、數(shù)據(jù)安全保護、數(shù)據(jù)安全運維等維度，構建集團數(shù)據(jù)安全管理體系框架，明確各條線數(shù)據(jù)安全工作職責和實施計劃；工商銀行修訂了個人客戶信息安全管理辦法；中國銀行(601988)建立健全數(shù)據(jù)安全管理制度，建立數(shù)據(jù)安全影響性評估機制，夯實數(shù)據(jù)安全底線；農業(yè)銀行在一級分行增設了“網(wǎng)絡安全和數(shù)據(jù)安全管理”崗位；招商銀行(600036)發(fā)布了《招商銀行零售金融個人信息管理辦法（第五版）》，建立覆蓋零售金融個人信息收集、傳輸、使用、共享、保存等全生命周期的安全保護體系，以及個人信息保護應急預案、風險處置、監(jiān)督檢查、個人信息投訴通道等處理機制。
最新評論