蛋播视频一区,无码鲁丝一区二区,精品 久久 五月天,国产老熟女,五月草草在线观看,中文日韩欧美,情色一区二区三区,欧美日韩亚洲激情在线,亚洲制服在线香蕉

當(dāng)今的許多人工智能(AI)算法實(shí)際上是“黑箱”,缺乏“解釋”其背后的推理邏輯和機(jī)理。

在傳統(tǒng)規(guī)則型專家系統(tǒng)/邏輯回歸向全面AI算法升級(jí)的過程中,具有可解釋性的AI將更好地將“人”納入整個(gè)決策回路(human-in-the-loop,HITL),填補(bǔ)決策解析、提供說明支持、幫助業(yè)務(wù)人員/客戶更好地做出明智的選擇。

嚴(yán)格的監(jiān)管才能保障金融的穩(wěn)定和體系的安全,具有可解釋性的AI應(yīng)用既能更好地輔助金融機(jī)構(gòu)方的管理工作,又對(duì)監(jiān)管方的審查工作提供便利。

根據(jù)上海交通大學(xué)-中銀金科合作的可解釋人工智能(XAI)項(xiàng)目的探索，XAI可以成功應(yīng)用在金融領(lǐng)域的強(qiáng)監(jiān)管場(chǎng)景中。

作者簡(jiǎn)介PROFILE

李春曉

上海交通大學(xué)安泰經(jīng)濟(jì)與管理學(xué)院

交大安泰AI MBA項(xiàng)目主任

研究領(lǐng)域：

金融科技、用戶行為、社會(huì)網(wǎng)絡(luò)

什么是可解釋人工智能 ?

近年來,人工智能已被逐漸應(yīng)用到各個(gè)領(lǐng)域——金融業(yè)、醫(yī)療行業(yè)、建筑業(yè)、服務(wù)業(yè)等等,憑借其在諸多傳統(tǒng)復(fù)雜問題中的優(yōu)越表現(xiàn),AI技術(shù)獲得了廣泛的認(rèn)可。同時(shí),人們對(duì)人工智能有了越來越高的期待,關(guān)于AI的討論在社會(huì)輿論、政策研討中頻繁出現(xiàn)并不斷延展。在科幻電影《HER》中斯嘉麗.約翰遜扮演的AI甚至能對(duì)人的行為做出解釋,幫助人做出決策、與人產(chǎn)生深度交流,甚至戀愛沖突,而這一幕遲早會(huì)在現(xiàn)實(shí)生活中出現(xiàn)。

“學(xué)習(xí)”是人工智能的核心,即讓機(jī)器代替人來學(xué)習(xí)數(shù)據(jù),利用其一定程度上超越人類的學(xué)習(xí)、分析、推理能力,做出復(fù)雜的邏輯判斷。隨著人工智能技術(shù)的不斷發(fā)展,機(jī)器學(xué)習(xí)的模型越來越復(fù)雜、模型精度越來越高,但模型的可解釋性,即其透明度,卻越來越低。換言之,以人類的常識(shí)去理解機(jī)器學(xué)習(xí)模型的判斷邏輯變得愈發(fā)困難。因而,機(jī)器學(xué)習(xí)模型的精度和可解釋性,形成了一對(duì)此消彼長(zhǎng)的矛盾。比如在反洗錢、反欺詐等領(lǐng)域,為了達(dá)到較高的預(yù)測(cè)精度要求,銀行里逐步使用復(fù)雜的黑盒模型(如XGBoost、DNN等),更替了傳統(tǒng)規(guī)則型算法,取代原有的評(píng)分卡、邏輯回歸等白盒模型。黑盒模型雖然實(shí)現(xiàn)了精度的提升,卻又在另一方面妨礙了業(yè)務(wù)人員和監(jiān)管機(jī)構(gòu)對(duì)其的理解。不僅如此,復(fù)雜模型所依賴的各個(gè)組件之間也會(huì)相互影響,使得模型的預(yù)測(cè)結(jié)果可能存在著未知的風(fēng)險(xiǎn),在遭遇攻擊時(shí)也不易被察覺,更有可能造成算法歧視和不公平等倫理問題……這些因素反而形成了新的決策、治理和監(jiān)管的難題。

可解釋性人工智能出現(xiàn)的原因

在越來越多的日常使用場(chǎng)景中,往往是AI做出了決策,大眾就必須接受結(jié)果。例如,你去銀行申請(qǐng)貸款,如果銀行基于復(fù)雜算法的風(fēng)控系統(tǒng)建議將你(借款人)的申請(qǐng)拒絕,那么很可能你就沒有辦法最終獲得貸款。在這種情況下,即使你要求銀行的柜臺(tái)業(yè)務(wù)人員解釋為什么你會(huì)被拒絕,對(duì)方往往也只能表示無可奈何,無法提供具體的解釋。而在更普遍的線上人機(jī)互動(dòng)場(chǎng)景中,你得到的“解釋”可能更加單薄,例如銀行APP可能只是告訴你,你被拒絕是因?yàn)槟銢]有達(dá)標(biāo),但卻沒有告訴你銀行是否有其他更適合你的信貸產(chǎn)品。

在金融反洗錢的專業(yè)領(lǐng)域中,人類的反洗錢專家每天可以審核有限數(shù)量的可疑交易。但在相同或更短時(shí)間內(nèi),人工智能的復(fù)雜黑盒模型卻可以審核成千上萬份可疑交易和潛在的犯罪網(wǎng)絡(luò)。那么問題來了,如果不構(gòu)建可解釋人工智能,也即是XAI,那么反洗錢專家們?nèi)绾稳ヌ幚砟切┯珊诤心Ｐ驼页龅?、但和人類主觀判斷不一致的可疑交易,這時(shí)候究竟應(yīng)該是依照專家經(jīng)驗(yàn)還是直接采信AI的判斷結(jié)果?這些人機(jī)判斷不一致的問題一般來說會(huì)轉(zhuǎn)交給算法技術(shù)開發(fā)人員來進(jìn)行詳細(xì)解釋,這無疑是極其耗時(shí)的。而且,因?yàn)殡S著銀行業(yè)務(wù)的擴(kuò)大,反洗錢的篩查范圍也隨之?dāng)U大,可疑交易的數(shù)量逐年增加,那么寄希望于讓“程序員”來解釋每一樁存疑交易毫無疑問將是不可接受的。

與此同時(shí),隨著我國(guó)金融行業(yè)的國(guó)際化程度越來越高,金融業(yè)務(wù)越來越深入老百姓的日常生活,而監(jiān)管政策也日趨審慎,監(jiān)管標(biāo)準(zhǔn)日漸提高,因此,各方對(duì)常見AI黑盒模型的透明度、模型可解釋性的需求變得極其迫切——金融業(yè)務(wù)不僅需要AI提供準(zhǔn)確的預(yù)測(cè)結(jié)果,更要打開“黑盒”,向人類展示出其中的數(shù)據(jù)要素、神經(jīng)網(wǎng)絡(luò)的推理邏輯和決策原因,讓人類做出更準(zhǔn)確的選擇——這需要的正是具有可解釋性的、能提供充分信息的有效決策輔助的AI系統(tǒng)。因此,如何實(shí)現(xiàn)黑盒模型的可解釋、從而使AI同時(shí)具備精度和可解釋性,成為金融行業(yè)能否廣泛采用AI技術(shù)的重中之重。

上海交通大學(xué)與中銀金融科技有限公司強(qiáng)強(qiáng)合作,一起啟動(dòng)了‘AI算法與業(yè)務(wù)模型可解釋性研究’創(chuàng)新研發(fā)項(xiàng)目。核心研究人員是來自上海交通大學(xué)安泰經(jīng)管學(xué)院的李春曉博士(AI-MBA項(xiàng)目學(xué)術(shù)主任,信息技術(shù)與創(chuàng)新系助理教授)及其團(tuán)隊(duì),上海交通大學(xué)寧波人工智能學(xué)院的王冠博士(智慧金融實(shí)驗(yàn)室主任,可之科技 learnable.ai創(chuàng)始人)及其團(tuán)隊(duì),以及中銀金科創(chuàng)新研究中心郭朝陽總經(jīng)理帶領(lǐng)的數(shù)字智能服務(wù)團(tuán)隊(duì)。研究團(tuán)隊(duì)采用以可解釋性為中心的分析方法幫助業(yè)務(wù)人員深入了解各種影響模型輸出結(jié)果的參數(shù),這些深入的洞察有助于分析“可疑交易”之間的潛在關(guān)系,了解“可疑”點(diǎn)出現(xiàn)的原因,從而節(jié)省了大量時(shí)間并做出最終的可解釋的精準(zhǔn)決策。

可解釋人工智能的解釋方法

可解釋的人工智能(XAI)的核心能力就是它必須能夠向人類解釋人工智能算法是如何得出結(jié)論的。那么XAI究竟是如何解釋各種輸入數(shù)據(jù)對(duì)結(jié)果產(chǎn)生影響的呢?

一方面,在簡(jiǎn)單的分類模型中,我們可以解釋每個(gè)變量如何對(duì)預(yù)測(cè)結(jié)果做出的貢獻(xiàn)。例如,在預(yù)測(cè)某個(gè)借款人的違約幾率時(shí),輸入變量可能是年齡、學(xué)歷、當(dāng)前的工作和收入水平,以及是否有房產(chǎn)和車輛等等。決策樹類的算法能夠表示出各種變量之間明確的“如果-那么”的關(guān)系,因此容易被人類理解。

另一方面,在深度學(xué)習(xí)模型中,尤其是計(jì)算機(jī)視覺領(lǐng)域,研究者使用“注意力層”來突出圖像中對(duì)分類影響最大的區(qū)域。這讓人們可以確定如果某AI算法將圖像分類為“馬”時(shí),是否搜索了“尾巴”這個(gè)特征,或者是否搜索了“草地”或“馬鞍”等與“馬”相關(guān)的其他特征。另一類算法如LIME,則通過局部線性擬合,可以在任何模型上給出圖像各區(qū)域?qū)︻A(yù)測(cè)結(jié)果的影響。

為了實(shí)現(xiàn)更進(jìn)一步的解釋,研究者采用事實(shí)擾動(dòng)的方法,即對(duì)輸入數(shù)據(jù)故意的加以擾動(dòng),用于改變可以導(dǎo)致不同結(jié)果的條件,然后解釋需要改變哪些因素才能實(shí)現(xiàn)不同的結(jié)果。

探索可解釋人工智能在銀行業(yè)的應(yīng)用實(shí)踐

“AI算法與業(yè)務(wù)模型可解釋性研究”創(chuàng)新研究項(xiàng)目通過對(duì)可解釋人工智能(XAI)的探索,論證對(duì)銀行業(yè)各類常見的風(fēng)險(xiǎn)控制場(chǎng)景中(如反欺詐、反洗錢、信貸風(fēng)控等)使用的不同機(jī)器學(xué)習(xí)模型進(jìn)行可解釋分析的業(yè)務(wù)價(jià)值與技術(shù)可行性,給出一套在銀行系統(tǒng)中機(jī)器學(xué)習(xí)模型上實(shí)現(xiàn)可解釋算法的完整方法論及技術(shù)方案,達(dá)到了以下目標(biāo):

1)幫助銀行業(yè)務(wù)人員加深對(duì)于日常的業(yè)務(wù)流程中使用機(jī)器學(xué)習(xí)模型的信任,清晰的解釋使用機(jī)器學(xué)習(xí)模型不會(huì)在實(shí)際業(yè)務(wù)場(chǎng)景中產(chǎn)生算法歧視,即使偶爾出現(xiàn)偏差也在監(jiān)管的允許范圍內(nèi)。

2)幫助銀行優(yōu)化使用的機(jī)器學(xué)習(xí)模型的性能,準(zhǔn)確識(shí)別出模型異常和被攻擊的情況并發(fā)出警告,從而減少模型使用時(shí)不可預(yù)知的風(fēng)險(xiǎn),提高銀行在風(fēng)控場(chǎng)景的攻防能力,從而最終提升銀行業(yè)務(wù)的安全性。

3)幫助銀行的法規(guī)部快速定位可疑客戶的可疑特征,從而提高排查效率、提升排查精確性。

局部可解釋性:人工智能算法模型的局部可解釋方法,即在單個(gè)樣本的預(yù)測(cè)結(jié)果中,解釋各項(xiàng)影響結(jié)果的特征重要性占比,有助于用戶了解在預(yù)測(cè)結(jié)果中,到底是哪幾項(xiàng)特征影響最為關(guān)鍵。上海交大-中銀金科的算法研究團(tuán)隊(duì)通過特征構(gòu)造目標(biāo)的辦法,使用了包括線性構(gòu)造、非線性構(gòu)造、特征交互等多種構(gòu)造方法,可以在實(shí)驗(yàn)之前知道局部可解釋應(yīng)該導(dǎo)出哪些特征(即解釋真值,Ground Truth)。研究團(tuán)隊(duì)使用三種典型局部可解釋算法(LIME算法、SHAP算法、EBM Boosting算法)同時(shí)進(jìn)行實(shí)驗(yàn),然后將每個(gè)實(shí)驗(yàn)結(jié)果與解釋真值進(jìn)行比較,以此評(píng)價(jià)各種局部可解釋算法的解釋準(zhǔn)確性。

全局可解釋性:如果說局部可解釋性對(duì)應(yīng)的業(yè)務(wù)場(chǎng)景是貸款申請(qǐng)被拒絕后,銀行業(yè)務(wù)人員可以看出是是哪一項(xiàng)貸款條件沒有達(dá)標(biāo),那么全局可解釋性就是在為借款人辦理申請(qǐng)之前,為銀行的業(yè)務(wù)部門全體人員提供一個(gè)整體的貸款指標(biāo)定性要求以及重要性占比,幫助業(yè)務(wù)人員更好地理解哪些特征對(duì)于幫助客戶成功的申請(qǐng)貸款更為重要,從而更為精準(zhǔn)的篩選目標(biāo)人群,在提高貸款通過率的同時(shí)也確保銀行風(fēng)控管理的準(zhǔn)確性,進(jìn)一步促進(jìn)業(yè)務(wù)人員理解并信任黑盒模型。

具有全局可解釋性的經(jīng)典算法包括SHAP算法,XGBoost算法等。在實(shí)踐中研究團(tuán)隊(duì)使用了SHAP算法解釋模型,并且為了提高解釋結(jié)果的有效性,研究團(tuán)隊(duì)對(duì)強(qiáng)相關(guān)交互特征做了篩選濾波、PCA分解及特征工程處理。

可解釋平臺(tái):可解釋平臺(tái)的核心功能是展示不同樣本(比如客戶和交易信息)的預(yù)測(cè)結(jié)果及評(píng)判標(biāo)準(zhǔn),便于業(yè)務(wù)人員深入理解黑盒機(jī)器學(xué)習(xí)模型、并據(jù)此作出業(yè)務(wù)判斷。

中銀金科和上海交大的聯(lián)合研究團(tuán)隊(duì)在構(gòu)建可解釋性人工智能系統(tǒng)的實(shí)踐過程中發(fā)現(xiàn),“可解釋性人工智能”和“建立具有人類感知認(rèn)同和可信任的解釋性結(jié)果”是完全不同的目標(biāo)。一套具有實(shí)踐價(jià)值的可解釋人工智能系統(tǒng)其實(shí)是機(jī)器學(xué)習(xí)過程與人類用戶不停的交互,最終實(shí)現(xiàn)高度的互相理解的整體——也就是說,這其實(shí)是一個(gè)“人機(jī)互動(dòng)共生”的問題,而不僅是一個(gè)算法技術(shù)問題。

研究團(tuán)隊(duì)深信,隨著人機(jī)共生(Human-in-the-loop)的概念進(jìn)一步被人們所接受,可解釋人工智能將大大增強(qiáng)各個(gè)行業(yè)業(yè)務(wù)人員的判斷能力,企業(yè)的治理能力和相應(yīng)監(jiān)管部門的管理工作也將獲得極大的收益。

人工智能MBA項(xiàng)目（AI MBA）

培養(yǎng)目標(biāo)

AI MBA項(xiàng)目致力于培養(yǎng)理論與實(shí)踐兼?zhèn)?，具有?guó)際視野和創(chuàng)新精神的人工智能領(lǐng)域的高層次、復(fù)合型管理人才。

項(xiàng)目特色

(1). 對(duì)接國(guó)家戰(zhàn)略，支撐上海打造具有全球影響力的人工智能發(fā)展高地

(2). 安泰經(jīng)管學(xué)院與人工智能研究院合作開辦，匯聚兩者師資力量及行業(yè)資源

(3). 課程設(shè)置側(cè)重于人工智能行業(yè)的知識(shí)學(xué)習(xí)和綜合能力培養(yǎng)

(4). 配備一支精通理論又熟悉行業(yè)的專業(yè)教師隊(duì)伍

(5). 人工智能論壇定期邀請(qǐng)業(yè)界資深與成功人士與學(xué)員交流

關(guān)于項(xiàng)目

學(xué)習(xí)方式：非全日制

授課語言：中文

學(xué)　　制：學(xué)習(xí)年限一般為2年半