近期，一系列事件引發(fā)了公眾對于人臉識別技術(shù)濫用的廣泛關(guān)注。隨著人工智能技術(shù)不斷發(fā)展，人臉識別大規(guī)模地應(yīng)用于安防、支付等日常生活場景中，但這項(xiàng)改變生活的技術(shù)當(dāng)前卻處于爭議中。此前，全國人大常委會法工委發(fā)言人岳仲明在記者會上表示，人臉識別等新技術(shù)的應(yīng)用和發(fā)展，給個(gè)人信息保護(hù)帶來許多新挑戰(zhàn)。全國人大常委會法工委將就有關(guān)問題進(jìn)一步廣泛聽取意見，深入研究論證。就此，新京智庫組織舉辦“人臉識別不能被濫用”專題研討會，邀請多位法律學(xué)者與專業(yè)人士進(jìn)行深入的探討。

議題一

新京智庫：根據(jù)我們的調(diào)查顯示，許多人對人臉識別的使用已經(jīng)比較警惕，更傾向于選擇輸入密碼或指紋等驗(yàn)證方式。人臉識別技術(shù)為何會出現(xiàn)濫用問題，根本原因是什么？

“技術(shù)崇拜”導(dǎo)致人臉識別泛濫，須建立防火墻機(jī)制

人臉識別可能誘發(fā)智能化官僚主義

劉興亮：我是一個(gè)技術(shù)派，人臉識別剛出來的時(shí)候感覺還是很酷的。在車站、機(jī)場刷臉通過，非常快捷。但現(xiàn)在越來越多的地方和場景都在濫用人臉識別。這是因?yàn)槿四樧R別太方便了，而且準(zhǔn)確率越來越高。很多需要核實(shí)身份的地方，如小區(qū)門禁、上班考勤等都要進(jìn)行人臉識別。有些是出于管理方便，有些則是商業(yè)用途。

人臉識別是個(gè)好技術(shù)，但是毫無限制地在各種各樣的應(yīng)用場景中使用，“圖方便、圖省事”，為了效率而不顧背后潛在的隱患?？梢哉f，對技術(shù)的盲目崇拜和樂觀導(dǎo)致人臉識別技術(shù)的泛濫使用。

段偉文：企業(yè)或管理部門出于效率考慮，部署了人臉識別。但這只是表面上的原因，更深層次上，還有其他因素，比如說，人臉識別技術(shù)使用起來很方便，但可能誘發(fā)某種意義上的官僚主義，可稱之為機(jī)械或者智能化的官僚主義。

現(xiàn)在很多城市依賴智能監(jiān)測技術(shù)手段進(jìn)行城市治理，如果人們越來越多地生活在智能監(jiān)測環(huán)境之中，就意味著需要一種新型的社會契約，但是人們還沒有想清楚。過去講技術(shù)治理通常稱之為技術(shù)統(tǒng)治論或技治主義，是當(dāng)作貶義詞在討論，但現(xiàn)在更多的卻是肯定，缺乏必要的反思。

使用人臉識別必須要滿足必要性條件

薛軍：人臉信息和其他一些生物識別信息，都具有終身不可能或者不太可能被更改的特征。公眾對人臉識別有擔(dān)憂，主要原因在于公眾擔(dān)心自己的人臉信息在被搜集、被使用過程中失去控制，特別是很可能在不知不覺中被他人搜集了相關(guān)信息。這是人臉信息和指紋等其他生物識別信息存在比較大的差別之處。

由于人臉識別技術(shù)高效、便捷，只要把臉湊過去就可以，因此很容易激勵(lì)大家去使用這個(gè)技術(shù)。但是技術(shù)帶來的便利，還要與其存在的隱患、風(fēng)險(xiǎn)進(jìn)行綜合考量。在很多刷臉的場景中，相關(guān)操作單位并沒有建立數(shù)據(jù)后臺的專業(yè)能力，只能連通到其他的存儲網(wǎng)站或第三方公司才能完成刷臉認(rèn)證。這樣的機(jī)構(gòu)能否確保信息安全，會不會導(dǎo)致泄露出去，這都是大家特別擔(dān)心的問題。

所以，如果一定要利用人臉識別進(jìn)行身份驗(yàn)證，那么必須要滿足必要性的條件。比如進(jìn)入高度機(jī)密、特別重要的場合，需要絕對杜絕冒名頂替者時(shí)，運(yùn)用人臉識別具有一定的合理性。但進(jìn)入自己的小區(qū)或者其他營業(yè)場所，動用人臉識別的必要性與可能存在的風(fēng)險(xiǎn)就不成比例。從法律上來說，將來可能要規(guī)定一個(gè)可選擇性機(jī)制，讓人可以選擇不采用人臉識別的方法進(jìn)行身份驗(yàn)證。

建立采集、處理分離的防火墻很關(guān)鍵

朱?。簽槭裁慈四樧R別爭議這么大，因?yàn)槿四樖且话谚€匙，后面關(guān)聯(lián)到我們的身份信息。如果再結(jié)合其他的行為軌跡、IP地址等信息，就可以挖掘出很多個(gè)人的信息，并應(yīng)用到許多的商業(yè)場景中去。

人臉識別是趨勢，是發(fā)展的方向。它能解決很多現(xiàn)在其他方式解決不了的問題。比如網(wǎng)絡(luò)游戲中規(guī)定小朋友不能玩，但如果沒有人臉識別，很多小孩就會用家長的賬號密碼登錄使用。

人臉識別重要的是后面的兩個(gè)字——識別。這意味著它跟個(gè)人的隱私權(quán)聯(lián)系在一起。隱私權(quán)是絕對的權(quán)利。國外有這樣的案例，瑞典的一個(gè)高中事先未經(jīng)學(xué)生和家長同意，對學(xué)生進(jìn)行人臉識別，結(jié)果遭到了瑞典政府的罰款。

因此我要提出兩個(gè)建議。一是要有一個(gè)防火墻。采集者是采集者，處理者是處理者，二者要分開。目前，這個(gè)機(jī)制還沒有建立起來，誰采集了歸誰。

二要讓用戶擁有自我決定權(quán)。動物園、兒童樂園等場所做人臉識別，我是贊同的。因?yàn)橛腥四樧R別，可以保障這些場所的公共安全。但如果有人不接受人臉識別，那可以用身份證等人工方式辨別。這個(gè)決定權(quán)應(yīng)該交給消費(fèi)者本人。

議題二

新京智庫：《個(gè)人信息保護(hù)法（草案）》第13條中首次明確了個(gè)人信息處理的6項(xiàng)依據(jù)。如何才能真正確保對個(gè)人信息的處理合理合法？

被動“同意”不能真實(shí)反映個(gè)人自主意愿

需進(jìn)一步把人臉數(shù)據(jù)當(dāng)做特殊類型信息

段偉文：目前普通人的權(quán)利意識并不是那么強(qiáng)，在這樣的信息素養(yǎng)環(huán)境下，把個(gè)人信息權(quán)利或個(gè)人數(shù)據(jù)權(quán)利當(dāng)成“絕對”的權(quán)利，體現(xiàn)出一定的逆向制衡的智慧。

對人臉、虹膜、步態(tài)等信息的采集和使用實(shí)際上都走在了立法的前面。但與之對應(yīng)的現(xiàn)實(shí)卻是缺乏有效保護(hù)個(gè)人信息權(quán)利的機(jī)制，個(gè)人往往也沒有維護(hù)自己信息權(quán)利的意識和能力。

而且，人臉數(shù)據(jù)在采集之后完全可以用于其他目的，比如說做情感分析、心理評估等。這就導(dǎo)致了新的信息和認(rèn)知的不對稱。所以，人臉識別數(shù)據(jù)是一種具有開放性社會法律倫理影響的敏感的個(gè)人信息，在一定程度上賦予個(gè)人對其人臉數(shù)據(jù)的“絕對權(quán)利”，有利于應(yīng)對未來可能爆發(fā)的更大的社會法律倫理風(fēng)險(xiǎn)。

但我覺得，還是要更進(jìn)一步，在認(rèn)知上把人臉數(shù)據(jù)當(dāng)做特殊類型的信息。這就需要更多的研究，并且在概念上有所創(chuàng)新，這些概念可以是對經(jīng)驗(yàn)的提煉或由場景觸發(fā)，運(yùn)用它們可以更好地揭示人臉數(shù)據(jù)的法律與倫理內(nèi)涵，促進(jìn)人們對人臉數(shù)據(jù)濫用的法律與倫理風(fēng)險(xiǎn)的認(rèn)知。也就是說，人臉識別的法律規(guī)制與倫理治理需要更多具有創(chuàng)造性的實(shí)踐智慧。

同意只是入口，要重視強(qiáng)制性規(guī)則設(shè)置

薛軍：《民法典》規(guī)定個(gè)人信息是可以基于個(gè)人信息主體的同意，授權(quán)他人進(jìn)行處理。這個(gè)原則沒有問題。除此之外，在其他情況下合理、合法地處理他人的個(gè)人信息，必須明確列舉事由，并且范圍要明確，不能開太大口子。

現(xiàn)在比較大的問題在于“個(gè)人的同意”。一是“同意”可能淪為一種純粹的形式，二是“同意”可能帶有某種被迫，不是自由、真實(shí)地反映個(gè)人自主意思的“同意”。所以，怎么確保“同意”機(jī)制不淪為形式，這值得關(guān)注。

我曾經(jīng)與歐盟國家的數(shù)據(jù)保護(hù)專員討論過這一問題，發(fā)現(xiàn)他們也面臨同樣的困惑。雖然“同意”規(guī)則可以規(guī)定得比較細(xì)致，但是企業(yè)在獲得用戶的同意方面，可以很容易地做到形式上的合規(guī)。而如果用戶需要利用企業(yè)提供的服務(wù)，其實(shí)就只能同意，否則就沒有辦法獲得服務(wù)。

我可以很明確地說，未來能夠真正發(fā)揮作用的，是對于正當(dāng)、合理、必要收集個(gè)人信息之類的帶有強(qiáng)制性的規(guī)則。“同意”只是一個(gè)入口，不一定能夠真正發(fā)揮把關(guān)的作用。我認(rèn)為未來的個(gè)人信息保護(hù)體制應(yīng)該是以行政為主導(dǎo)的。因?yàn)閭€(gè)體太分散，維權(quán)意識和能力都比較弱，即使被侵害個(gè)人信息權(quán)益，也很難證明侵害者以及實(shí)際的損失，所以還是要高度重視相關(guān)法規(guī)中帶有強(qiáng)制性特征規(guī)則的設(shè)置是否合適、充分。

個(gè)人隱私權(quán)多數(shù)時(shí)候無需讓渡

劉興亮：個(gè)人隱私權(quán)，包括肖像權(quán)，是我們每個(gè)人“絕對”的權(quán)利。當(dāng)然，這種權(quán)利在某些時(shí)候要做一定的讓渡，比如在面對突發(fā)公共衛(wèi)生事件時(shí)，會有一些措施需要個(gè)人做出讓步，像疫情期間的健康碼就是一種案例。

一些企業(yè)和機(jī)構(gòu)可能認(rèn)為人們應(yīng)該是不在乎自己的隱私權(quán)，或者會為了某些便利而放棄隱私權(quán)。這是不對的。個(gè)人隱私權(quán)一定是在極少數(shù)的情況下才做出讓渡。

朱?。杭夹g(shù)的發(fā)展不能犧牲個(gè)人的權(quán)利。“同意”有主動同意和被動同意兩種?！秱€(gè)人信息保護(hù)法（草案）》規(guī)定的敏感信息處理的“同意”原則是主動同意。被動同意則包括一攬子協(xié)議，比如企業(yè)彈出的“同意”事項(xiàng)。通常，用戶都沒有仔細(xì)看，全部點(diǎn)同意。其實(shí)，很多隱私條款是需要單獨(dú)同意的。

而且，互聯(lián)網(wǎng)技術(shù)不斷迭代，在迭代過程中會更改網(wǎng)民協(xié)議和隱私條款，但并不會覆蓋此前的協(xié)議。這意味著，這些應(yīng)用或平臺在迭代技術(shù)，甚至變更服務(wù)的同時(shí)，卻不縮減索權(quán)，導(dǎo)致它們的索權(quán)范圍非常大，有些甚至已經(jīng)跟現(xiàn)在的服務(wù)沒有任何關(guān)系。

議題三

新京智庫：人臉識別技術(shù)在使用過程中，“同意”是一個(gè)重要環(huán)節(jié)?！秱€(gè)人信息保護(hù)法（草案）》第14條對不同情形的“同意”做了細(xì)化。此外第24條、第30條，也都涉及相關(guān)內(nèi)容。“同意”權(quán)利真的能保護(hù)個(gè)人隱私和數(shù)據(jù)安全嗎？

人臉識別使用的必要性，才是“同意”的關(guān)鍵

保護(hù)個(gè)人隱私不宜過分依賴“同意”

薛軍：《個(gè)人信息保護(hù)法（草案）》有一個(gè)很大的亮點(diǎn)，就是對“同意”規(guī)則進(jìn)行了細(xì)化。主要的思路是針對不同的場景，對于“同意”要求的強(qiáng)度或者方式，進(jìn)行差異化設(shè)置。這體現(xiàn)出區(qū)別對待的立法思路。

同時(shí)，可能還考慮了匹配性、比例性的要求。比如，區(qū)分敏感個(gè)人信息和其他個(gè)人信息，相應(yīng)的，對這些信息進(jìn)行處理時(shí)，在法律層面上所需要的“同意”的方式就是不一樣的。

“同意”能否保護(hù)個(gè)人隱私和數(shù)據(jù)安全？我覺得肯定是能發(fā)揮一定的積極作用，至少告知了用戶，讓用戶清晰地了解其個(gè)人信息是否被收集了，并且如何被處理了。同時(shí)，也便于相關(guān)監(jiān)管部門審查，企業(yè)是否存在違規(guī)搜集個(gè)人信息的問題。

但是，也不宜過分依賴“同意”。因?yàn)楝F(xiàn)在的各種個(gè)人信息處理的主體，肯定都會詳盡地研究個(gè)人信息保護(hù)方面的法律法規(guī)的要求，并做到形式上的合規(guī)。而用戶如果真的需要這個(gè)服務(wù)，他就只能同意，如果不同意就不能享有服務(wù)。

　“同意”環(huán)節(jié)里最重要的是，它是不是應(yīng)該放在同意范圍內(nèi)

段偉文：現(xiàn)在很多所謂的隱私條款，或“同意”條文，都只是為了達(dá)到數(shù)據(jù)合規(guī)的要求。但里面并沒有講清楚，這些采集的數(shù)據(jù)到底是干什么用，有時(shí)甚至明確表示，采集的數(shù)據(jù)如果對用戶造成傷害，企業(yè)是不負(fù)責(zé)任的。

這樣的“同意”條款存在兩個(gè)問題，一是形式化，過于冗長，讓人不好理解。二是，有的企業(yè)利用這樣的“同意”條款，使得對用戶隱私的侵犯和數(shù)據(jù)的泄露，變成了合法合規(guī)的事。

所以，從原則上說，“同意”的權(quán)利當(dāng)然是需要的，但更重要的是如何能夠真正地保證個(gè)人隱私和數(shù)據(jù)。

這意味著企業(yè)必須要有相應(yīng)的技術(shù)措施和手段，如果沒有采取相應(yīng)的技術(shù)措施和手段，這樣的“同意”就是形同虛設(shè)，甚至是明面上的欺騙。

“同意”環(huán)節(jié)里最重要的一點(diǎn)是，我們同意的是什么，以及它是不是應(yīng)該放在同意范圍內(nèi)。因此，討論“同意”要從必要性的角度切入，讓一些不必要的應(yīng)用受到制約。

現(xiàn)在這一訴求是非常明確的，就是要禁止一些領(lǐng)域里不必要的人臉識別，比如公園進(jìn)行人臉識別就是沒有必要的。

知情權(quán)是“同意”的前提，自我決定權(quán)是“同意”的核心

朱?。?ldquo;同意”不單純是能不能用的問題，這不是問題中最重要的。“同意”的核心，首先是跨場景使用問題。但是，目前這個(gè)問題在《個(gè)人信息保護(hù)法（草案）》和《民法典》中都沒有規(guī)定。

比如說用戶在這個(gè)場景上“同意”了，但你卻拿這些數(shù)據(jù)用到其他諸如人臉適配、消費(fèi)記錄等場景里，這樣就有問題了。

其次，用戶要有知情權(quán)。沒有知情權(quán)的“同意”沒有意義。比如，用戶要知道這個(gè)人臉識別到底用來做什么，對接什么數(shù)據(jù)庫，數(shù)據(jù)會保存多久，何人使用、何時(shí)會刪除等信息。

第三，用戶要知道對其個(gè)人信息、數(shù)據(jù)進(jìn)行處理用的是什么技術(shù)?，F(xiàn)在有一種成熟的照片活化技術(shù)，可以將靜態(tài)照片變成動態(tài)，從而能夠用于進(jìn)行人臉支付等場景。

因此，應(yīng)該在用戶“同意權(quán)”里加更多的分支，包括技術(shù)處理的限制，數(shù)據(jù)告知的限制等。

知情權(quán)是“同意”的前提，自我決定權(quán)是“同意”的核心。討論“同意”要把握住這兩點(diǎn)。

最后，對于個(gè)人的敏感信息還要進(jìn)行單獨(dú)的“同意”。敏感信息在不同的法律規(guī)定中的定義都不一樣。如果這個(gè)問題得不到解決，那么“同意”的問題就解決不了。

議題四

新京智庫：人臉識別被濫用的現(xiàn)象也側(cè)面反映了科技倫理問題，目前有哪些手段可以緩解技術(shù)與風(fēng)險(xiǎn)之間的張力？未來新技術(shù)的出現(xiàn)應(yīng)如何建立相應(yīng)的倫理，并重獲公眾的信任呢？

約束人臉識別技術(shù)，需要訂立新型社會契約

討論人臉識別技術(shù)倫理的三個(gè)前提

段偉文：討論人臉識別技術(shù)倫理、規(guī)范的建立，首先要考慮三個(gè)層面的問題。第一，人臉識別技術(shù)本身存在局限性和由易獲得性造成的濫用風(fēng)險(xiǎn)。只要不是百分百精準(zhǔn)，就意味著技術(shù)本身存在風(fēng)險(xiǎn)；同時(shí)，人臉識別技術(shù)也是非常容易獲得的，但技術(shù)水準(zhǔn)參差不齊，人臉識別技術(shù)因門檻低易濫用而具有很大的風(fēng)險(xiǎn)性。

第二，對于個(gè)人信息的保護(hù)和數(shù)據(jù)治理，公共部門既是數(shù)據(jù)治理的監(jiān)管者，又是數(shù)據(jù)的應(yīng)用者。雖然政府在很多領(lǐng)域具有更強(qiáng)的權(quán)威性，推廣起來更高效，但公共使用的邊界是什么，技術(shù)治理的公共倫理又是什么？

第三，從技術(shù)的長遠(yuǎn)發(fā)展來講，其應(yīng)用怎樣才能普惠公眾？這可能需要訂立新型社會契約。沒有契約，任何企業(yè)、任何人、任何地方只要存在可能就能夠部署人臉識別技術(shù)，采集的數(shù)據(jù)還能夠作為其他用途，這其中的風(fēng)險(xiǎn)非常大。

考慮這三點(diǎn)后，我們可以從三方面著手。一是相關(guān)技術(shù)的部署方和相關(guān)企業(yè)的利益相關(guān)方、受益人的責(zé)任，并且這種責(zé)任是要面向不確定性的開放后果的責(zé)任，要通過哲學(xué)上、倫理上的考量，一定程度上體現(xiàn)在法律里面。

二是要通過設(shè)計(jì)來保護(hù)一般使用對象、被監(jiān)測對象的權(quán)利。比如對人臉數(shù)據(jù)的加密技術(shù)或者遮蔽技術(shù)。

現(xiàn)在，人臉識別技術(shù)已經(jīng)開始打破皮膚表面和表面下的環(huán)節(jié)，通過熱敏識別，在戴口罩的情況下也可以進(jìn)行人臉識別，這意味著在技術(shù)上已經(jīng)能夠越過體表識別體內(nèi)的血液循環(huán)，包括靜脈曲張甚至甲亢都有可能識別。因此，需要加入相關(guān)的加密技術(shù)來保密數(shù)據(jù)；如果沒有，又沒有相關(guān)的法律和倫理規(guī)范，技術(shù)就不能“跑”這么快。

第三，我們不要忘記非技術(shù)性解決方案。在依靠大量技術(shù)手段時(shí)，同時(shí)要看到更多的人，包括老年人、少年兒童等需要特殊保護(hù)和關(guān)照的群體，應(yīng)該提供一些技術(shù)手段之外的非技術(shù)手段來滿足這些人的需要。

　約束新技術(shù)需要一套新社會規(guī)制體系

薛軍：高新技術(shù)的使用很受關(guān)注，需要一些社會規(guī)制，包括通過制定標(biāo)準(zhǔn)、法律法規(guī)、行業(yè)守則等。規(guī)制的體系可以很豐富而且多元化。不能把法律當(dāng)作唯一能夠發(fā)揮作用的角色，還需要通過更多靈活、多元化的機(jī)制。這是因?yàn)榧夹g(shù)本身發(fā)展很快，法律很難及時(shí)制定與修改。

所以，我們一定要發(fā)展出適應(yīng)高科技時(shí)代的新社會規(guī)制體系。技術(shù)準(zhǔn)則、安全評估準(zhǔn)則或者技術(shù)規(guī)范等，都是很有效的規(guī)制手段，都能夠發(fā)揮一定的作用。具體到人臉識別技術(shù)，目前雖然有一些規(guī)制手段，但是還是欠缺。

比如小區(qū)能否使用人臉識別技術(shù)，至少得有一個(gè)相對比較權(quán)威的指導(dǎo)性技術(shù)準(zhǔn)則來說明，在什么情況下，有技術(shù)保障能力、具備防范風(fēng)險(xiǎn)要求的時(shí)候可以使用，而其他情況則不能使用。如果有這樣的科技準(zhǔn)則就可以獲得很好的指導(dǎo)，并且標(biāo)準(zhǔn)可以隨著時(shí)間的演變不斷發(fā)展。

同時(shí)，技術(shù)問題可能還是要回歸到技術(shù)層面解決。比如像虛擬號碼技術(shù)以及條碼化就解決了網(wǎng)約車、快遞件上個(gè)人信息泄露的風(fēng)險(xiǎn)；比如在進(jìn)行算法模型訓(xùn)練時(shí)，模型動而數(shù)據(jù)不動等方式，也有利于確保不產(chǎn)生數(shù)據(jù)合并、轉(zhuǎn)移等風(fēng)險(xiǎn)。

朱?。簩ο嚓P(guān)技術(shù)進(jìn)行立法，并不是拖了技術(shù)、社會發(fā)展的后腿，而是為了維持社會更好的平衡。不能因?yàn)槿四樧R別技術(shù)提供了更高的效率，就把效率當(dāng)作新的正義觀。效率任何時(shí)候都不可能成為正義觀，除非有一定的背景制度。這個(gè)背景制度就是我們今天討論的，人臉識別技術(shù)需要一定的約束。只有在具備約束的背景下，技術(shù)產(chǎn)生的效率，才能被認(rèn)為符合正義觀。

現(xiàn)在很多企業(yè)強(qiáng)調(diào)科技向善、強(qiáng)調(diào)算法倫理等問題，不是在拉效率的后腿，而是要讓整個(gè)社會的福祉和個(gè)體權(quán)益的正義回到很高的位置上。人永遠(yuǎn)都是目的，而不是手段。(鄭偉彬 柯銳 王春蕊)