蛋播视频一区,无码鲁丝一区二区,精品 久久 五月天,国产老熟女,五月草草在线观看,中文日韩欧美,情色一区二区三区,欧美日韩亚洲激情在线,亚洲制服在线香蕉

題記：2021年上半年，北京大學(xué)國家發(fā)展研究院建立了一個包括近20位教授的《平臺經(jīng)濟(jì)創(chuàng)新與治理》課題組，對平臺經(jīng)濟(jì)問題做了全面分析，課題報告《有序繁榮：平臺經(jīng)濟(jì)的創(chuàng)新與治理》即將由中信出版社出版。為更好地分享對于平臺經(jīng)濟(jì)的見解，特別是對一些最新發(fā)展的看法，課題組決定與中新經(jīng)緯合作，推出系列評論文章《承澤觀察·平臺經(jīng)濟(jì)40評》。本文為北大國發(fā)院長聘副教授張俊妮的文章。

隨著平臺經(jīng)濟(jì)的全面深入發(fā)展，基于大數(shù)據(jù)和人工智能的算法服務(wù)日益滲透到我們的日常生活和社會運(yùn)轉(zhuǎn)之中，關(guān)于人的衣食住行、言論傳播、就業(yè)失業(yè)等方方面面的重要決定越來越多由算法作出。

算法引發(fā)現(xiàn)實(shí)問題，涉及算法的公平性

算法正在成為社會治理的核心，擁有超級權(quán)力，隨之而來的算法歧視、大數(shù)據(jù)殺熟等問題備受關(guān)注。

例如，暨南大學(xué)研究者通過研究網(wǎng)貸平臺“人人貸”2012年3月至2014年12月期間的170817筆訂單，發(fā)現(xiàn)在控制了其他因素的條件下：1)女性借款人的違約率(即不按時償還借款的比例)相比男性低38%；2)借款人性別與借款通過率的關(guān)系不顯著。按照傳統(tǒng)邏輯，借款人違約率低，應(yīng)該在借款通過率上有更顯著的優(yōu)勢。而女性違約率低于男性，在借款通過率上卻沒有優(yōu)勢，這說明存在對女性借款人的隱性歧視。

再如，復(fù)旦大學(xué)研究者發(fā)布的《2020打車報告》顯示，他們在五座城市打了800多趟車，發(fā)現(xiàn)了“蘋果稅”，即同樣一鍵呼叫經(jīng)濟(jì)型+舒適型(定價比經(jīng)濟(jì)型更高)兩檔車輛后，蘋果手機(jī)用戶更容易被舒適型車輛司機(jī)接單，比例是非蘋果手機(jī)用戶的3倍。

算法歧視、大數(shù)據(jù)殺熟等問題都涉及算法公平性。不少法律也都對算法公平性做出相應(yīng)的規(guī)定：

2021年11月正式生效的《個人信息保護(hù)法》對算法公平性有明確的規(guī)定：“個人信息處理者利用個人信息進(jìn)行自動化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正，不得對個人在交易價格等交易條件上實(shí)行不合理的差別待遇。”可見算法透明度被視為增強(qiáng)算法公平性的重要途徑。

2022年3月1日，國家網(wǎng)信辦、工信部、公安部、市場監(jiān)管總局四部門聯(lián)合發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》正式生效，要求算法推薦服務(wù)者對算法進(jìn)行備案，以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖和主要運(yùn)行機(jī)制等。

2022年4月8日至2022年12月初，中央網(wǎng)信辦牽頭開展“清朗·2022年算法綜合治理”專項(xiàng)行動，其中一項(xiàng)重要目標(biāo)是推動《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》的落實(shí)，督促整改算法不合理應(yīng)用帶來的信息繭房、算法歧視、大數(shù)據(jù)殺熟等影響網(wǎng)民生產(chǎn)生活的問題，切實(shí)維護(hù)好網(wǎng)民合法權(quán)益。

到底如何實(shí)現(xiàn)算法的公平性

若要切實(shí)解決算法不合理應(yīng)用帶來的算法歧視、大數(shù)據(jù)殺熟等問題，需要深入了解什么是算法公平性。算法公平性是一個復(fù)雜的問題，有多種互相沖突的評價角度，采納不同角度得到的結(jié)論往往不一樣，也具有不同的短期和長期影響。

我們通過兩個簡化的示例來進(jìn)行說明。

首先以金融科技平臺上個人貸款發(fā)放的性別差異為例。為了簡化起見，我們僅關(guān)注貸款通過率的性別差異。假設(shè)如下建立通過/不通過貸款的算法：根據(jù)關(guān)于貸款申請者個人特征以及貸款是否違約的歷史數(shù)據(jù)，建立統(tǒng)計模型來預(yù)測每個人的違約概率，并設(shè)立閾值，如果預(yù)測違約概率小于閾值就通過貸款申請，否則不予通過。假設(shè)根據(jù)歷史數(shù)據(jù)，在控制了其他因素的條件下，女性違約率低于男性。

下面我們討論四種評價算法公平性的角度。

角度一：在設(shè)計算法時不允許使用性別作為輸入。表面上看起來這樣做避免了基于性別施行貸款通過決策的差異化，但這存在兩個問題：第一，有一些與性別相關(guān)性比較高的其他輸入變量會在算法中占有更大權(quán)重。判斷哪些輸入變量是性別的不合理替代，哪些輸入變量是可接受的，具有模糊的邊界。第二，設(shè)計算法時不加入性別將影響算法對違約概率的預(yù)測準(zhǔn)確性，使更多實(shí)際違約風(fēng)險高的人獲得貸款，而更多實(shí)際違約風(fēng)險低的人無法獲得貸款。這會增加整個貸款系統(tǒng)的金融風(fēng)險，帶來較大社會成本。

角度二：人口統(tǒng)計均等，要求男性申請人中獲得貸款的比例和女性申請人中獲得貸款的比例相等。一方面，類似于前面“人人貸”研究的結(jié)論，這種做法對女性形成了隱性歧視。這種做法也會使更多實(shí)際違約風(fēng)險高的人獲得貸款，而更多實(shí)際違約風(fēng)險低的人無法獲得貸款，增加金融風(fēng)險。另一方面，長期來說，一些違約風(fēng)險高的男性本來不應(yīng)該獲得貸款，但因?yàn)樾枰獫M足這樣的公平原則而獲得貸款，之后無法按時償還，會降低他們未來的信用積分，反而不利于他們未來的借貸，有損公平性。

角度三：機(jī)會均等，要求實(shí)際會按時還款的男性中獲得貸款的比例和實(shí)際會按時還款的女性中獲得貸款的比例相等。因?yàn)槿巳褐信赃`約率低于男性，從而女性按時還款的比例高于男性，這種做法會使女性的貸款通過率高于男性；而且，會出現(xiàn)在其他輸入變量相同的情況下男性無法獲得貸款而女性能夠獲得貸款的情形。這又形成了另外一種不公平。另一方面，長期來說，男性獲得貸款的機(jī)會更少，更無法通過貸款來改善自己的生活，可能以后更加不容易獲得貸款。這會加劇貸款通過率的性別差異。

角度四：預(yù)測均等，要求獲得貸款的男性中違約率和獲得貸款的女性中違約率相等。機(jī)會均等著眼于實(shí)際會按時還款的借款人能獲得的貸款機(jī)會，而預(yù)測均等著眼于貸款通過決策帶來的違約率，通常兩者不等價。因?yàn)榕赃`約率低于男性，要求預(yù)測均等也會使女性中獲得貸款的比例高于男性，其影響與機(jī)會均等角度的影響類似。

前面提到，在設(shè)計的算法中，如果預(yù)測違約概率小于閾值就通過貸款申請，否則不通過。對男性、女性采用同樣的閾值看起來滿足一定公平性，但其結(jié)果往往不滿足人口統(tǒng)計均等、機(jī)會均等或預(yù)測均等。反過來，為了達(dá)到人口統(tǒng)計均等、機(jī)會均等或預(yù)測均等，需要為男性和女性設(shè)立不同的閾值，這又形成了另外一種不公平。

究竟選擇哪種公平性需要進(jìn)行價值判斷。

再以網(wǎng)約車平臺上派單規(guī)則的公平性為例。網(wǎng)約車平臺在乘客和司機(jī)(車)之間進(jìn)行匹配，其派單規(guī)則既涉及對乘客的公平性，也涉及對司機(jī)的公平性。

假想如下簡單情境：有經(jīng)濟(jì)型和舒適型兩檔車輛；乘客甲和乘客乙有同樣的出發(fā)地和目的地，乘客甲呼叫了經(jīng)濟(jì)型車輛，乘客乙呼叫了經(jīng)濟(jì)型+舒適型車輛，乘客乙更早發(fā)起呼叫。

考慮兩種派單規(guī)則。一種規(guī)則是先到先得，乘客乙先呼叫，因而先給其派車，因?yàn)榻?jīng)濟(jì)型比舒適型車便宜，所以給其派經(jīng)濟(jì)型車。這種規(guī)則看起來具有最樸素的公平性，但結(jié)果是乘客甲因?yàn)檫x擇有限需要等待，而開舒適型車的司機(jī)無法獲得乘客。另一種規(guī)則是最大化匹配，將舒適型車派給乘客乙而將經(jīng)濟(jì)型車派給乘客甲，這樣兩位乘客都不用等待，兩位司機(jī)也都載上了客。但明顯這種規(guī)則對于乘客乙有些不公平，他先呼叫，卻被派了價格更高的車。到底哪種規(guī)則總體來說更公平，也需要進(jìn)行價值判斷。

小結(jié)

總而言之，算法公平性是一個復(fù)雜的問題，需要在各種應(yīng)用場景中進(jìn)行細(xì)致的考量，無論選擇哪種公平性準(zhǔn)則都會有其不公平的一面，選擇公平性準(zhǔn)則時不可避免地需要進(jìn)行價值判斷。

這種復(fù)雜性給實(shí)現(xiàn)算法公平帶來很大挑戰(zhàn)，不同利益相關(guān)方有不同訴求。在某些情況下，平臺的盈利訴求和算法公平性準(zhǔn)則吻合，例如在金融科技平臺上發(fā)放貸款時使用機(jī)會均等準(zhǔn)則、或在網(wǎng)約車平臺上使用最大化匹配規(guī)則。但平臺的盈利訴求又會和其他算法公平性準(zhǔn)則沖突。類似地，消費(fèi)者或服務(wù)者(如司機(jī))的訴求也會與算法公平性準(zhǔn)則有時吻合、有時相悖。

長期而言，實(shí)現(xiàn)算法相對公平需要各利益相關(guān)方和監(jiān)管者進(jìn)行多輪全面溝通，達(dá)成兼顧不同算法公平性準(zhǔn)則的妥協(xié)方案。短期而言，建議平臺在算法備案時披露其采用的公平性準(zhǔn)則及理由，建議政府部門在算法綜合治理的過程中不要基于單一的公平性準(zhǔn)則來判斷。

本文來源：中新經(jīng)緯

張俊妮，哈佛大學(xué)統(tǒng)計學(xué)博士，北大國發(fā)院統(tǒng)計學(xué)副教授(長聘)。張俊妮老師的研究領(lǐng)域?yàn)樨惾~斯人口統(tǒng)計學(xué)、因果推斷、數(shù)據(jù)與文本挖掘