蛋播视频一区,无码鲁丝一区二区,精品 久久 五月天,国产老熟女,五月草草在线观看,中文日韩欧美,情色一区二区三区,欧美日韩亚洲激情在线,亚洲制服在线香蕉

12月4日，清華大學(xué)公共管理學(xué)院副教授、清華大學(xué)產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心主任陳玲出席2021人工智能合作與治理國際論壇，并在“人工智能與算法公平”專題論壇上作主旨演講。

我們特將發(fā)言內(nèi)容整理如下，經(jīng)其本人授權(quán)，全文分享給讀者。

陳玲

清華大學(xué)公共管理學(xué)院長聘副教授，清華大學(xué)產(chǎn)業(yè)發(fā)展與環(huán)境治理研究中心主任

“

發(fā)言實(shí)錄

陳玲主任做主旨演講

感謝主持人于洋教授，感謝各位嘉賓參與”人工智能與算法公平”專題論壇。我今天演講的題目是“可接受公平:全球算法治理的共識起點(diǎn)”。人工智能的合作與治理是一個(gè)全球性的問題，這兩天的論壇集中討論了AI治理的方方面面，很重要的一個(gè)目標(biāo)就是建立人工智能治理的全球合作框架。我今天的發(fā)言希望是拋磚引玉：建立一個(gè)全球算法治理的共識起點(diǎn)，建立最低限度的可接受的公平。

今天早上，我問我14歲的兒子——一個(gè)AI編程的狂熱愛好者，你怎么看待算法公平問題？他塞著耳機(jī)、從電腦前抬頭反問我：“算法公平？算法沒有歧視或者公平的問題。那是人的問題，不是算法的問題。”在孩子看來，算法是非常誠實(shí)的，你讓它做什么、它就給你做什么。我想這是非常典型的技術(shù)中立的觀點(diǎn)，認(rèn)為算法只是技術(shù)和工具，而如何使用這個(gè)技術(shù)和工具，人類需要達(dá)成共同的規(guī)則和共識。

的確，正如我兒子所言，算法借助大數(shù)據(jù)和算力大大提高了信息處理效率，也提高了準(zhǔn)確度和客觀性，某種意義上講，算法模型呈現(xiàn)出來的就是客觀事實(shí)，和客觀事實(shí)具有高度一致性。但不可否認(rèn)的是，AI算法在現(xiàn)實(shí)中，特別是在汽車和醫(yī)療保險(xiǎn)、犯罪風(fēng)險(xiǎn)審查、就業(yè)招聘等廣泛的領(lǐng)域里都引起了公平性爭議。

一方面算法應(yīng)用帶來很多社會不公正，另一方面算法作為一個(gè)技術(shù)，只是客觀的呈現(xiàn)了現(xiàn)實(shí)世界中的不公平。提高算法公平必然就會損失一部分效率，比如說我們在進(jìn)行犯罪風(fēng)險(xiǎn)審查的時(shí)候，不再用那些敏感信息進(jìn)行審查，包括像個(gè)人性別，居住地，種族，犯罪歷史等，勢必會降低算法準(zhǔn)確度，這樣會帶來社會風(fēng)險(xiǎn)，包括公共安全風(fēng)險(xiǎn)的提高，從而帶來更高的社會成本。因此，算法公平和效率其實(shí)是一個(gè)權(quán)衡問題。

算法歧視

算法歧視從何而來？我們?nèi)绾巫屑?xì)分析的話，可以發(fā)現(xiàn)算法歧視有三個(gè)來源：數(shù)據(jù)，算法和人類行為。有些源自數(shù)據(jù)的歧視是歷史造成的，比如說企業(yè)領(lǐng)導(dǎo)人數(shù)據(jù)庫中女性CEO非常少，那么根據(jù)這個(gè)數(shù)據(jù)庫訓(xùn)練出來的一些算法模型，一定會帶有性別歧視在里面，因?yàn)閷τ谂缘臄?shù)據(jù)本身就是少的；同樣，其他數(shù)據(jù)庫的采樣過程，以及樣本庫的覆蓋面等，都會帶來源自數(shù)據(jù)的算法歧視。還有一種數(shù)據(jù)造成的算法歧視，實(shí)際上是由數(shù)據(jù)總體和局部特征的差異帶來的，我們稱之為辛普森悖論。例如城市“剩女”似乎特別多，但實(shí)際上總體而言中國人口結(jié)構(gòu)是男性大大多于女性，這是總體和局部數(shù)據(jù)特征不同。其次，有些算法歧視是計(jì)算機(jī)程序（即狹義的“算法”）造成的。算法在測量、打標(biāo)簽、分類、排序、評估等環(huán)節(jié)，可能會帶有一些算法設(shè)計(jì)者所考慮的規(guī)則自身偏差。第三種算法歧視的來源，也是最根本的原因，是由人類行為自身造成的。由于人類行為有自我選擇偏差、關(guān)注度偏差、文化差異、制度差異等因素，體現(xiàn)在AI上，就轉(zhuǎn)化為算法歧視。例如社交媒體中大V，受到的關(guān)注度特別高，人就會自然而然的認(rèn)為大V討論的議題或觀點(diǎn)非常重要；還有不同的文化，不同的制度，人類行為自身帶來的歧視是最重要的部分。

我們也可以把算法歧視根據(jù)其結(jié)果分為不同的類型。第一種分類是分為直接歧視和間接歧視。有的會形成直接歧視，比如像性別、種族等等個(gè)人的敏感信息，會帶來對個(gè)體直接的傷害，這樣的算法就會帶來直接歧視的影響。而有的是間接性的，帶來整個(gè)社會成本或者是整個(gè)群體的區(qū)別對待。第二種分類是有意的歧視和無意的歧視。有意的歧視容易監(jiān)管和規(guī)避，而無意中造成的歧視是通過數(shù)據(jù)算法和人類行為長期積累的一個(gè)發(fā)現(xiàn)知識的過程，通過算法揭示出原來不知道存在的歧視。第三種分類是可解釋的歧視和不可解釋的歧視，前者可以通過算法修正，但對于不可解釋的歧視，現(xiàn)有的算法技術(shù)和治理機(jī)制可能是無能為力的。因此，我們從來源和結(jié)果來看，算法歧視有不同的類型，在治理或者應(yīng)對歧視上，就應(yīng)該采取不同的措施。

算法歧視的來源與類型（陳玲，2021）

算法公平

在了解了算法歧視后，我們就要思考，應(yīng)該怎么建立一個(gè)算法公平？公平這個(gè)詞特別難以定義，哲學(xué)、心理學(xué)、社會學(xué)、政治學(xué)等學(xué)科對公平有著長期研究。唯一可以確定的是，不同的學(xué)科和文化對公平的理解非常不一樣。

大致而言，我們可以把公平分為起點(diǎn)公平，過程公平，結(jié)果公平。有的人認(rèn)為就是在起點(diǎn)上，如果每個(gè)人擁有相同的初始稟賦，針對所有個(gè)體都不帶預(yù)設(shè)和偏見，那么決策就是公平的，這就是起點(diǎn)公正。有的認(rèn)為過程公正才是可取的，只有保證過程是一樣的程序、一樣的競爭規(guī)則，最后結(jié)果的個(gè)體差距就是正當(dāng)?shù)?。還有的人認(rèn)為，每個(gè)個(gè)體擁有相同的發(fā)展權(quán)利，應(yīng)當(dāng)擁有同等的生存和發(fā)展的資源，這就是對結(jié)果公平的要求。體現(xiàn)在算法上，計(jì)算機(jī)科學(xué)家們用很多方式計(jì)算公平，比如說概率相等，結(jié)果統(tǒng)計(jì)平均值相等，或者未知參數(shù)公平，后者就是把那些我們認(rèn)為帶來歧視的敏感信息隱掉，不作為決策參數(shù)，這樣的決策就是公平的。也有的是用相同的程序保證公平，或數(shù)據(jù)子集的均值相等。但是要注意到一點(diǎn)，我覺得特別令所有研究者糾結(jié)的是不同的公平觀是內(nèi)在沖突的，不可兼得的。既想要起點(diǎn)公平、過程公平，又想要結(jié)果公平，這是不可能實(shí)現(xiàn)的。

在相互沖突的觀念和計(jì)算方法里如何進(jìn)行抉擇？答案其實(shí)就是找到可接受公平。如果人們希望任何由AI算法帶來的歧視都應(yīng)該被消除掉，我認(rèn)為這是一種不合理的期待。如DIKW金字塔（參見下圖）所示，算法不僅僅是數(shù)據(jù)收集和信息生成的工具，而且還是一個(gè)知識生產(chǎn)和價(jià)值分配的機(jī)制。知識生產(chǎn)和價(jià)值分配的過程實(shí)際上是一種經(jīng)濟(jì)活動和社會交往的過程。只要是涉及不同主體的經(jīng)濟(jì)活動和社會交往過程，人們就不得不尋求相互之間的理解，妥協(xié)和共識。因此，在算法公平里尋求一種最低限度的、共識性的可接受公平，就是我們進(jìn)行全球算法治理的起點(diǎn)。

DIKW層次結(jié)構(gòu)圖（Ackoff, 1989）

隨著技術(shù)嵌入到社會生活和經(jīng)濟(jì)活動過程不斷深化，可接受公平的最低限度也是動態(tài)演進(jìn)的。

可接受公平：基線、調(diào)適和救濟(jì)

首先，讓我們來畫一個(gè)可接受公平的基線（baseline）。

在數(shù)據(jù)層次上，首先是保證數(shù)據(jù)集的完整性和準(zhǔn)確性，這是一個(gè)起點(diǎn)公平的必要要求。其次就是保證數(shù)據(jù)集在收集過程中開放的、透明的，即允許新的數(shù)據(jù)能夠進(jìn)入到數(shù)據(jù)集。上述兩點(diǎn)是保證在數(shù)據(jù)層面上的起點(diǎn)公平。

在算法層面上，我們希望能夠達(dá)到過程公平的基礎(chǔ)，算法的程序應(yīng)當(dāng)是透明、可追溯和可問責(zé)的。透明就是提供了驗(yàn)證的機(jī)會，而可追溯就是要求在算法程序里切入一些檢查點(diǎn)，這些檢查點(diǎn)能夠使得過程可追溯。可問責(zé)就是使每個(gè)數(shù)據(jù)產(chǎn)生、計(jì)算、以及應(yīng)用的過程都有特定的責(zé)任主體，即可追責(zé)的責(zé)任主體。上述準(zhǔn)則能夠保證算法的過程公平。

在人類行為層面上，人們希望算法結(jié)果用于智能輔助決策達(dá)到一種結(jié)果公平，但是真正的結(jié)果公平是很難實(shí)現(xiàn)的，我們從最低限度的結(jié)果公平來看，應(yīng)該是可計(jì)算的，可預(yù)期的，可解釋的結(jié)果。我們在購買汽車保險(xiǎn)或者醫(yī)療保險(xiǎn)的時(shí)候，實(shí)際上完全可以接受不同年齡、不同性別的人，付不同價(jià)格的保險(xiǎn)費(fèi)。這體現(xiàn)了經(jīng)濟(jì)效率。但是我們?yōu)槭裁丛敢饨邮芷缫曅远▋r(jià)的保險(xiǎn)費(fèi)呢？因?yàn)槲覀冎肋@個(gè)保險(xiǎn)費(fèi)的計(jì)算是基于大數(shù)據(jù)人口的預(yù)期壽命和事故發(fā)生概率等，這個(gè)概率的成本是可計(jì)算的，而我們的收益也是可預(yù)期的。在這個(gè)基礎(chǔ)上，如果算法結(jié)果也是可計(jì)算、可預(yù)期、可解釋的，這就使人們能夠在接受結(jié)果上感到公平。

可接受公平的基線（陳玲，2021）

其次，在基線上我們希望對可接受公平進(jìn)行一定的調(diào)適。在起點(diǎn)公平上，我們會碰到敏感信息保護(hù)和刪除這樣的問題。例如，刪除大量的敏感信息，包括性別、種族、經(jīng)歷等等，反而會提高監(jiān)管的難度——監(jiān)管者無從知道該算法是否對特定性別、種族的人造成歧視性對待。我們希望通過一些技術(shù)的手段解決，如區(qū)塊鏈、非對稱加密、可信計(jì)算等。在過程公平中，提高算法透明，追責(zé)和可追溯，會帶來一些商業(yè)秘密和知識產(chǎn)權(quán)保護(hù)的問題，需要在數(shù)據(jù)確權(quán)以及其他的新信息信任機(jī)制上給予突破。在結(jié)果公平中，由于解釋結(jié)果或者理解結(jié)果的專業(yè)知識是不均等分布的，在這樣的專業(yè)性知識存在社會分工的基礎(chǔ)上，應(yīng)該尋求多元、不同組織的治理模式。

可接受公平的調(diào)適（陳玲，2021）

另外我們也希望能夠在數(shù)據(jù)確權(quán)基礎(chǔ)上，基于不同的產(chǎn)權(quán)，像私人物品、集體物品或者公共物品，對數(shù)據(jù)、算法和人類行為有差別地制定可接受公平的具體準(zhǔn)則。

最后，我們即便做到了可接受公平的基線和調(diào)適，AI算法仍然會產(chǎn)生不合宜的結(jié)果，這是技術(shù)秩序與社會秩序的本質(zhì)差異造成的，是無法避免的。就像市場秩序會帶來市場失靈一樣，需要用政府干預(yù)來糾正市場失靈。算法歧視是技術(shù)秩序嵌入市場和社會秩序的結(jié)果，完整的可接受公平還應(yīng)該包括事后救濟(jì)等干預(yù)措施。在數(shù)據(jù)、算法和人類行為三類來源的算法歧視上，應(yīng)該有各自的救濟(jì)準(zhǔn)則和措施（如圖）。

可接受公平的整體框架（陳玲，2021）

結(jié) 論

總結(jié)一下，我今天的報(bào)告有如下幾點(diǎn)結(jié)論：一、算法歧視來自數(shù)據(jù)、算法和人類行為，本質(zhì)上是技術(shù)秩序的集中體現(xiàn)，無法根除。二、不存在“算法公平”的一致性觀點(diǎn)，消除算法歧視努力將帶來社會成本，兩者需要進(jìn)行審慎的取舍（trade-off）。三、我們應(yīng)倡導(dǎo)“可接受公平”的理念，尋求最低限度的、可接受的公平準(zhǔn)則。四、可接受公平準(zhǔn)則具有調(diào)適性，最低限度的可接受公平準(zhǔn)則將隨著技術(shù)發(fā)展和人類社會互動的過程而演進(jìn)。最后，政府對算法歧視進(jìn)行干預(yù)和救濟(jì)是必不可少的。

討 論

陳玲主任主旨演講后，清華大學(xué)交叉信息研究院助理教授于洋主持開展圓桌討論。圓桌論壇嘉賓包括：亨氏信息系統(tǒng)與公共政策學(xué)院機(jī)器學(xué)習(xí)系數(shù)據(jù)科學(xué)與公共政策中心主任伊德·加尼（Rayid Ghani）、科幻作家陳楸帆、麻省理工學(xué)院斯隆管理學(xué)院運(yùn)營管理助理教授丹尼爾·弗洛伊德（Daniel Freud）、聯(lián)合國婦女署項(xiàng)目和伙伴關(guān)系專家畢文韜（Birat Lekhak）。專家們就“能否通過純技術(shù)手段實(shí)現(xiàn)符合道德的人工智能”、“算法數(shù)據(jù)收集中的隱私風(fēng)險(xiǎn)”、“算法設(shè)計(jì)中目標(biāo)的選擇與權(quán)衡”、“AI應(yīng)該如實(shí)反映還是矯正現(xiàn)實(shí)中的歧視”、“如何平衡各群體承擔(dān)的消除歧視的新技術(shù)開發(fā)成本”等問題展開了精彩討論。