蛋播视频一区,无码鲁丝一区二区,精品 久久 五月天,国产老熟女,五月草草在线观看,中文日韩欧美,情色一区二区三区,欧美日韩亚洲激情在线,亚洲制服在线香蕉

未來某一天，你早晨起床感覺身體不適，于是前往市中心最好的醫(yī)院做檢查，該醫(yī)院提供人類醫(yī)生和AI醫(yī)生診斷服務。一番檢查之后，人類醫(yī)生拿著診斷報告對你說：“你的身體正常，最近多休息即可?！钡獳I醫(yī)生卻說：“你目前確實身體健康，但我們根據(jù)大數(shù)據(jù)分析和基因檢測發(fā)現(xiàn)，你在50歲后患有xxx癥的概率是21%，一旦發(fā)作將很危險。好消息是，現(xiàn)在已經(jīng)有新藥可以來預防它了，能將發(fā)病風險降到1%以下，只是服用這種新藥可能會讓你失眠和脫發(fā)，但建議你盡早服用?！蹦敲?，你會聽從人類醫(yī)生的建議，還是會聽從AI醫(yī)生的建議呢？

這是一個艱難的選擇，但可以想見，隨著人工智能技術的發(fā)展，在未來我們會遇到更多類似的場景?，F(xiàn)有的一些案例和研究卻表明，即使算法建議的質(zhì)量很高，人們也往往不愿意采納算法的建議。北京大學光華管理學院劉玉珍教授、孟涓涓教授利用“借貸領域”的數(shù)據(jù)探究了在人機合作的框架下是否存在“算法厭惡”現(xiàn)象，并解析其背后的機制。

本課題的部分研究成果已經(jīng)被國際頂級期刊

《我，機器人》劇照

01

AI比人類更有“識人之明”？

該研究聚焦于借貸領域，邀請人類決策者和人工智能根據(jù)提供的借款人的資料打出一個“還款分”（分數(shù)越高代表借款人還款可能性越高），并與實際還款情況進行對比。

研究選取了4895個樣本，其中有1103位違約者和3792位履約者，采用10分制打分方法。研究顯示，人類決策者對違約者的平均打分是 5.22，對履約者的平均打分是5.44。而AI對違約者的平均打分是3.21，對履約者的平均打分是6.94。也就是說在平均意義上，人工智能對還款概率的預測，比人類所做的預測更為準確。

圖 1 人類決策者（左）和機器學習算法（右）預測的“還款分”比較

那么是否部分具備“識人術”的人，可以超越人工智能算法呢？我們用統(tǒng)計學上的一個指標AUC（area under the receiver operating characteristic curve）來量化衡量“還款分”的質(zhì)量，取值越大代表質(zhì)量越高。圖2展示了每個決策者的AUC值的分布和人工智能的AUC值（右側虛線代表人工智能的預測質(zhì)量），可以看到，即使是辨人識人能力較強的那部分人類決策者，也無法超越人工智能。

圖 2 人類決策者的“還款分”質(zhì)量分布

02

人類愿意采用算法的決策嗎?

目前人工智能在很多任務上都可以超越人類的水平，但是有趣的是，人類很多時候并不愿意采用人工智能的建議，結果造成了效率的損失。這種現(xiàn)象被稱為“算法厭惡”。比如最近還有一項關于語音推銷機器人的研究（Luoet al. 2019.）可以生動地說明這種現(xiàn)象，現(xiàn)實中人們對人工智能存在著較為回避的態(tài)度。當顧客不知道與自己對話的推銷員是機器人時，語音機器人和人工推銷員的推銷效果一樣好；但是當顧客知道與自己對話的是機器人的時候，語音機器人的推銷效果相比人工推銷員下降了79.7%。

該研究進一步探索在借貸領域是否存在相似的“算法厭惡”。研究團隊評估了人類決策時對人工智能所提供的“還款分”所賦予的權重，并將其與最優(yōu)權重進行對比。這是首次在人機交互的場景下使用權重的方式對算法厭惡進行評估。在回歸分析中，算法給出的還款分每上升1分（滿分為10分），決策者認為還款概率將上升6.7個百分點，而實際上還款概率上升了8.9個百分點，這說明決策者對人工智能的權重誤差為-2.2個百分點。這一結果說明，大部分決策者都傾向于低估人工智能提供的信息的重要性，即他們存在算法厭惡。

03

過度自信導致“算法厭惡”

在人類的決策情景中，產(chǎn)生算法厭惡的因素是什么？該實驗結束后調(diào)查了參與者認為自己與人工智能在“還款分”打分任務中的相對表現(xiàn)。圖2的結果表明，沒有任何參與者的預測比人工智能更準確，因此研究團隊把所有回答自己比人工智能做得好的參與者標記為“過度自信”，其余參與者標記為“非過度自信”。兩類參與者對人工智能的權重誤差見圖3。其中灰色代表“過度自信”組，白色代表“非過度自信”組。

圖 3 人類-人工智能決策組中人類決策者對人工智能賦予的權重分布

在圖3中，過度自信組的權重偏誤分布在非過度自信組的左側，說明過度自信的人的算法厭惡程度高于非過度自信的人。在回歸分析中，過度自信可以很大程度上解釋人們對人工智能信息的算法厭惡現(xiàn)象。

過度自信是人類常見的行為偏誤，表示人們高估自己能力、低估他人能力的傾向。本研究發(fā)現(xiàn)，算法厭惡雖然是人工智能時代的新概念，但其本質(zhì)上與過度自信這種常見的非理性行為高度相關，只是這里的“他人”即“人工智能”。

現(xiàn)實中人們的決策經(jīng)常會犯很多錯誤，展現(xiàn)出非理性的行為。一種觀點認為人工智能替代人類決策可以讓決策變得更加理性。然而，我們的研究發(fā)現(xiàn)，人類“非理性”的成分本身可能阻礙了這一進程。這是在研究人機共處關系中特別需要注意的。

04

人類對于AI的常見誤解

除了過度自信，還有哪些因素可能會影響人們對算法的態(tài)度呢？

首先，人們存在對算法錯誤的預期。換言之，人們可能不了解機器學習算法的工作原理——現(xiàn)在的機器學習可以達到何種預測質(zhì)量，算法已經(jīng)涉及哪些任務類型，與算法從錯誤中進行反饋迭代的能力。對于這一原因，解決方式是從信息提供的角度，提高公眾掌握的算法知識水平。就像金融知識教育可以改進人們的投資行為一樣，研究團隊倡議進行機器學習智識教育，來提高人們在生活中對算法的接受度。例如，有研究曾發(fā)現(xiàn)，當人們看到算法犯錯的時候，即使他們知道算法比人類表現(xiàn)好，仍會更不愿意接受算法，而向人們闡明算法可以從犯錯中吸取經(jīng)驗，逐漸迭代提高準確率，則可以提高人們對算法的接受度。

其次，采用算法決策會讓人覺得缺乏對決策的掌控感。解決方式是讓人類成為決策的一環(huán)，而不是讓人工智能全權代理人類去做決策。例如，增加人們對最終結果的修改權，以增加人們對人工智能預測的接受度。

還有，人們傾向于認為，算法所擅長的僅僅是在既有數(shù)據(jù)框架下做決策，而人類身處的復雜的真實世界，這是算法所不能通過一些標準化的數(shù)據(jù)所理解的?；谶@一原因，人們不愿意采用算法去做涉及倫理的決策（例如交通、法律、醫(yī)藥、軍事領域），因為他們認為算法不能思考，也不能感受。有文獻曾研究人們是否相信推薦系統(tǒng)對哪個笑話更好笑的判斷。結果發(fā)現(xiàn)，即使知道推薦系統(tǒng)做得比人類好，人們也寧愿相信自己的朋友、家人，甚至是陌生人，而非推薦系統(tǒng)，理由是他們認為推薦系統(tǒng)的建議難以理解。

社會因素也影響著人們對于算法的態(tài)度。有研究發(fā)現(xiàn)媒體對機器學習的正面或負面報道對人們的態(tài)度有顯著影響，其中帶有“科學研究表明”的字樣更會增加這一影響。社會中其他人對算法的接受度也有所影響。例如，如果觀察到他人曾經(jīng)采用過算法完成某一任務，人們自己也會更愿意采用算法。

最后，是否采用算法也有市場因素。在競爭市場中，人人都選擇算法推薦，并不能提高自己的競爭力，所以堅持選擇人工，保留自己的優(yōu)勢。并且，人們有時會為了保持一定形象而寧愿選擇堅持人工決策。例如，醫(yī)院的患者會認為沒有算法輔助的醫(yī)生的診療水平更高，還會認為機器學習算法在診斷中會忽視自己的獨特性。那么，醫(yī)生反過來也就只好堅持自己診斷，不依賴機器學習算法。

小結

人工智能對生產(chǎn)力和效率的提升有目共睹，很多人認為這可以大大改善人類的決策、降低非理性行為的影響。但是該研究發(fā)現(xiàn)人們普遍存在著算法厭惡傾向，而這種傾向可能限制了人工智能技術的使用和效率的提升。這種傾向又和人們固有的非理性行為（過度自信）緊密相關。在數(shù)字化轉型過程中，管理者在引進人工智能的同時，應注意采取措施降低自身、員工、顧客等相關方對算法的偏見，促使人們更優(yōu)地采用算法，提升決策質(zhì)量。

課題組成員：陳澤陽博士、劉玉珍教授、孟涓涓教授、王曾博士

劉玉珍，獲得2017年中國金融研究杰出貢獻獎，孫冶方金融創(chuàng)新獎。在行為金融和市場微觀結構領域有著卓越的學術成就，主要的應用領域為財富管理，量化股權產(chǎn)品設計，證券市場制度，投資人保護與教育。在國際頂尖學術期刊

長期參與監(jiān)管部門的政策制定咨詢。為北京大學金融發(fā)展研究中心主任，上海證券交易所學術委員，上交所高級金融專家，證券公司獨立董事。曾擔任北京大學光華管理學院金融系系主任，金融碩士項目主任。

孟涓涓，現(xiàn)任北京大學光華管理學院應用經(jīng)濟系系主任、教授。曾獲得2017年北京大學教學優(yōu)秀獎與光華管理學院厲以寧教學獎。本科就讀于北京大學光華管理學院金融系，博士就讀于美國加州大學圣迭戈分校經(jīng)濟系。孟涓涓長期專注于行為經(jīng)濟學與行為金融學的研究。她的研究成果發(fā)表在諸多國外一流學術期刊上。