人工智能的發(fā)展如何解決隱私與便利的沖突問題？6月6日，2021全球人工智能技術(shù)大會(huì)可信AI專題論壇在杭州舉行，專家學(xué)者對下一代可信人工智能的機(jī)遇、挑戰(zhàn)和實(shí)現(xiàn)路徑進(jìn)行了討論。

直接共享數(shù)據(jù)，隱私就得不到保護(hù)；如若個(gè)人產(chǎn)生的數(shù)據(jù)不對外共享，就不能帶來經(jīng)濟(jì)價(jià)值。科技部高技術(shù)研究發(fā)展中心研究員嵇智源認(rèn)為，尋找隱私保護(hù)、政府監(jiān)管、商業(yè)訴求的平衡點(diǎn)尤為重要。我國工程院院士潘云鶴和同盾科技合伙人、人工智能研究院院長李曉林等均提出，運(yùn)用知識(shí)聯(lián)邦技術(shù)有望在數(shù)據(jù)安全方面取得突破。

談數(shù)據(jù)安全_知識(shí)聯(lián)邦實(shí)現(xiàn)數(shù)據(jù)可用不可見

科技部高技術(shù)研究發(fā)展中心研究員嵇智源表示，尋找人工智能時(shí)代隱私保護(hù)、政府監(jiān)管、商業(yè)訴求的平衡點(diǎn)，已經(jīng)成為產(chǎn)學(xué)研各界迫切需要解決的問題。在此背景下，“可信AI”的理念逐漸成為全球共識(shí)，也成為未來人工智能產(chǎn)業(yè)健康發(fā)展的必由之路。可信AI，就是確保AI公平性、可解釋性、健壯性和透明性，確保算法可被人信任。

在可信AI的實(shí)現(xiàn)中，數(shù)據(jù)安全尤為重要，其中一個(gè)重要趨勢是數(shù)據(jù)可用不可見。“可用”，即數(shù)據(jù)可以發(fā)揮她的經(jīng)濟(jì)價(jià)值，“不可見”，即個(gè)人數(shù)據(jù)隱私不會(huì)被泄露。

我國科學(xué)院院士、中科院醫(yī)學(xué)所所長譚蔚泓從醫(yī)療領(lǐng)域出發(fā)，認(rèn)為智慧醫(yī)療在未來大有作為，但生命科學(xué)涉及個(gè)人的方方面面，如何保障個(gè)人隱私和數(shù)據(jù)安全，是一個(gè)剛需。打造可信的智慧醫(yī)療，要實(shí)現(xiàn)數(shù)據(jù)可用不可見，知識(shí)共創(chuàng)可共享。

同盾科技合伙人、人工智能研究院院長李曉林認(rèn)為，數(shù)據(jù)已經(jīng)被列為一種新型生產(chǎn)要素，成為驅(qū)動(dòng)技術(shù)革命和重新定義人類社會(huì)未來的新動(dòng)力。近年來，數(shù)據(jù)安全相關(guān)法律法規(guī)也越來越完善。作為新型生產(chǎn)力的人工智能，迫切呼喚新型生產(chǎn)關(guān)系的支撐。

他提出的解決思路是知識(shí)聯(lián)邦技術(shù)。所謂知識(shí)聯(lián)邦，就是運(yùn)用人工智能、大數(shù)據(jù)、密碼學(xué)等領(lǐng)域技術(shù)，將散落在不同機(jī)構(gòu)或個(gè)人的數(shù)據(jù)聯(lián)合起來轉(zhuǎn)換成有價(jià)值的知識(shí)，同時(shí)在聯(lián)合過程中采用安全協(xié)議來保護(hù)數(shù)據(jù)隱私。李曉林介紹，知識(shí)聯(lián)邦通過將數(shù)據(jù)轉(zhuǎn)化成信息、模型、認(rèn)知和知識(shí)，滿足了數(shù)據(jù)不可見；此外，在數(shù)據(jù)交換層面，該框架通過安全的數(shù)據(jù)交換協(xié)議來使用數(shù)據(jù)，在不改變數(shù)據(jù)所有權(quán)的情況下，實(shí)現(xiàn)數(shù)據(jù)價(jià)值。

我國工程院院士潘云鶴認(rèn)為，處理大數(shù)據(jù)和處理多重知識(shí)，形成了AI發(fā)展的兩類核心技術(shù)。作為一項(xiàng)我國原創(chuàng)、自主可控的技術(shù)，知識(shí)聯(lián)邦有望成為推動(dòng)大數(shù)據(jù)智能突破發(fā)展的一個(gè)重要環(huán)節(jié)。

平安集團(tuán)首席科學(xué)家肖京也肯定了聯(lián)邦學(xué)習(xí)技術(shù)在數(shù)據(jù)安全方面的作用。他介紹，分布在不同機(jī)構(gòu)的數(shù)據(jù)，很多時(shí)候需要跨機(jī)構(gòu)使用來發(fā)揮價(jià)值。以前的常用方法是把數(shù)據(jù)直接拷貝到大的數(shù)據(jù)平臺(tái)上面，這個(gè)方法在風(fēng)險(xiǎn)控制、風(fēng)險(xiǎn)管理和服務(wù)領(lǐng)域產(chǎn)生了很好的作用，但是對隱私保護(hù)的能力非常差。

他指出，隱私計(jì)算、聯(lián)邦學(xué)習(xí)技術(shù)可以使數(shù)據(jù)交換的過程變得安全。例如，銀行為中小企業(yè)做貸款業(yè)務(wù)時(shí)，需要政府的稅收經(jīng)營分析數(shù)據(jù)，但是政府?dāng)?shù)據(jù)不能直接給銀行使用，所以銀行跟政府之間可以通過聯(lián)邦計(jì)算平臺(tái)，有效利用信息，但是不會(huì)泄露數(shù)據(jù)，不會(huì)有合規(guī)的風(fēng)險(xiǎn)。

談決策可信_(tái)正逼近可信AI，“與其恐慌不如擁抱”

除數(shù)據(jù)安全外，專家們還提出了可信人工智能面臨可解釋性差、算法偏差等挑戰(zhàn)。在未來，可信的人工智能到底能否實(shí)現(xiàn)？

李曉林認(rèn)為，在2040年，這些問題都可以被解決。“2040年，生活就是工作，AI把人們生活產(chǎn)生的數(shù)據(jù)利用起來，產(chǎn)生更好的東西。數(shù)據(jù)無所不在，并且可以以安全的方式獲得。到那時(shí)，你想要做什么，都可以按照你的興趣來。”

哈爾濱工業(yè)大學(xué)（深圳）人工智能研究院院長劉劼有不同觀點(diǎn)。在他看來，在人工智能領(lǐng)域，可信、分離、高效三者不可能同時(shí)兼得。他舉例，區(qū)塊鏈?zhǔn)欠植际郊夹g(shù)，但非常低效。如果數(shù)據(jù)集中處理，可信又高效，但集中式的系統(tǒng)很難分離。在他看來，可信AI的理想狀態(tài)或許不能實(shí)現(xiàn)，一定要在三者之間進(jìn)行折中，需要做一些犧牲。目前來看，需要在達(dá)到可信和分離的前提下盡可能提升效率，這是一個(gè)重要的研究課題。

龍盈智達(dá)（北京）科技有限公司首席數(shù)據(jù)科學(xué)家王彥博也認(rèn)為，最完美的可信AI我們永遠(yuǎn)達(dá)不到，但是我們的標(biāo)準(zhǔn)不斷在提升，可以漸漸逼近可信AI。

幾位專家都表達(dá)了對AI的樂觀。劉劼表示，在一些疾病的診斷領(lǐng)域，AI的準(zhǔn)確率已經(jīng)超過了醫(yī)生，但是大家對使用AI診斷還是不太接受。他認(rèn)為，今后在AI決策方面，可以采用AI承諾書的方式，讓人們自己選擇。“比如，從概率的角度來說，一個(gè)醫(yī)生的準(zhǔn)確率是80_，另外一個(gè)機(jī)器的準(zhǔn)確率是95_。你寫一個(gè)承諾書，承諾說接受AI檢測有5_的出錯(cuò)可能。大家迎接可信AI挑戰(zhàn)的同時(shí)，要接納這個(gè)東西。”他說。

我國科學(xué)技術(shù)大學(xué)計(jì)算機(jī)學(xué)院副院長張燕詠同樣肯定了AI在很多領(lǐng)域比人做得更好。比如，在汽車領(lǐng)域，無人車比駕駛員更安全。因?yàn)槊總€(gè)駕駛員不可控的因素太多，無人車是標(biāo)準(zhǔn)化的，可以根據(jù)問題不斷提高進(jìn)化，機(jī)器不會(huì)喝酒，不會(huì)疲勞駕駛，也不會(huì)看手機(jī)，所以比駕駛員開車更安全。她認(rèn)為，即使AI比人操作更安全，人們也還是對AI缺乏信任，一個(gè)很重要的原因在于人機(jī)交互的方式。例如，人類走在擁擠的街上，互相推一下是很正常的，但如果被機(jī)器人推一下，人們會(huì)覺得有威脅。人機(jī)互動(dòng)的研究對于信任是很重要的。

龍盈智達(dá)（北京）科技有限公司首席數(shù)據(jù)科學(xué)家王彥博提出，信任是相互的，我們今天談可信AI，前提是我們對她的態(tài)度是不是信任的。“我覺得人們對于AI時(shí)代以及可信AI時(shí)代應(yīng)該是充滿憧憬、擁抱的態(tài)度，科技的發(fā)展是不可逆的，與其感到恐慌，不如擁抱AI的發(fā)展，可信AI的是陽光普照下面正確的道路。”他說。

采寫_南都見習(xí)發(fā)文人李婭寧 發(fā)文人馬嘉璐