近日，一款主打“僅需一張照片，出演天下好戲”的換臉App——“ZAO”大火。該App使用AI技術(shù)，用戶只需要一張正臉照，就可以替換為影視作品或者小視頻中的人物，生成以自己為主角的視頻片段。這讓“戲精”上身的網(wǎng)友一夜之間刷屏朋友圈。

    天眼查信息顯示，ZAO所屬公司為長沙深度融合網(wǎng)絡(luò)科技有限公司，法定代表人為陌陌聯(lián)合創(chuàng)始人兼游戲業(yè)務(wù)部總裁雷小亮，由海南貓咖網(wǎng)絡(luò)科技有限公司100%控股。而后者由雷小亮和陌陌董事、總裁及COO王力各持股50%。

    爭議：

    1.“換臉視頻”收集的面部信息，是用戶最核心的個人信息

    由于換臉后需要進(jìn)行眨眼、抬頭等各種驗證，與刷臉支付采集的臉部信息類似，同時注冊平臺需要手機(jī)號碼，不少用戶擔(dān)心臉部數(shù)據(jù)被泄露會引發(fā)一系列問題。專家指出，此類軟件的確存在隱私泄露風(fēng)險。

    中國政法大學(xué)傳播法研究中心副主任朱巍分析，在這個過程中，可能存在核心個人信息泄露的風(fēng)險，“首先，換臉技術(shù)，包括在搜集信息過程中轉(zhuǎn)動臉部、眨眼，本質(zhì)是搜集了你面部的識別信息，這個是用戶最核心的個人信息。個人信息一旦被比對之后，如果落到壞人的手里，有可能涉及財產(chǎn)安全和人身安全的問題。”

    2.“換臉視頻”中，涉及影視劇著作權(quán)、知識產(chǎn)權(quán)

    在軟件內(nèi)置可供選擇的影視劇片段中，有包括《延禧攻略》《長安十二時辰》《還珠格格》在內(nèi)的多部熱門國內(nèi)電視劇，也有石原里美、萊昂納多·迪卡普里奧等國外明星的影視劇片段，還有大量熱門的綜藝片段。

    對此，朱巍指出：“換臉技術(shù)要把人臉放到影視劇里面去，影視劇本身涉及著作權(quán)、知識產(chǎn)權(quán)。突然間把臉換了，是不是構(gòu)成合理使用？這個可能跟知識產(chǎn)權(quán)法有密切關(guān)系。”

    3.App的用戶協(xié)議太霸道

    這款軟件的用戶協(xié)議寫道，使用這款軟件的換臉功能，需要同意授予這款軟件及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的肖像權(quán)利人的肖像權(quán)，以及利用技術(shù)對肖像權(quán)利人的肖像進(jìn)行形式改動。

    北京岳成律師事務(wù)所律師岳?山指出：“我授權(quán)給你以后，你不能把我的照片用于其他的非法用途，或者把我的照片進(jìn)行修改、丑化、惡搞，這對我授權(quán)給你使用肖像權(quán)的目的存在一定偏差。這個時候其實對于上傳照片的App用戶來講，可能構(gòu)成的是名譽(yù)上的侵權(quán)，或者導(dǎo)致他的社會評價降低等，這也有可能構(gòu)成侵權(quán)。”

    8月31日晚，該款軟件“用戶協(xié)議”中，“您的必要授權(quán)”這一項內(nèi)容與此前相比進(jìn)行了較大幅度的修改，去掉了關(guān)聯(lián)公司相關(guān)表述等內(nèi)容。

    回應(yīng)：“不管換得多逼真，都無法突破刷臉支付”

    “目前，網(wǎng)上各類換臉軟件有很多，但不管換得有多逼真，都是無法突破刷臉支付的。”8月31日中午，螞蟻金服官方回復(fù)21世紀(jì)經(jīng)濟(jì)報道記者時說。此外，在進(jìn)行人臉識別后，部分用戶還需要輸入與賬號綁定的手機(jī)號進(jìn)行校驗，進(jìn)一步提高了安全性。同時，支付寶還會通過各種安全風(fēng)控策略確保賬戶安全。

    一位國有大行網(wǎng)絡(luò)金融部負(fù)責(zé)人表示，其團(tuán)隊今年年初找權(quán)威機(jī)構(gòu)做過人臉識別相關(guān)的檢測，“在活體檢測、視頻攻擊等方面存在一定風(fēng)險；后臺算法升級會使防控效果有一定提升，但是類似換臉的攻擊威脅會一直存在。”

    觀點：“科技向善”應(yīng)該成為我們的底線

    在2019世界人工智能大會上，在以“科技有道，擇善而行”為主題的分論壇上，該App引起了嘉賓們的討論。

    英特爾副總裁陳偉提到，如果一些技術(shù)用得不當(dāng)，可能會造成不良后果，“技術(shù)能決定你走多高，向善能決定你走多遠(yuǎn)”。

    騰訊董事會主席兼首席執(zhí)行官馬化騰在2019世界人工智能大會開幕式演講時說，這也再次提醒人們思考如何探索人與AI的正確相處之道。“在AI的治理方面，以科技向善引領(lǐng)全方位治理，確保AI可知、可控、可用、可靠。這個‘四可’的原則，是我在去年大會上提出的。觀察這一年來的情況，我們發(fā)現(xiàn)AI治理的緊迫性越來越高。”

    騰訊優(yōu)圖實驗室總經(jīng)理吳運聲說，這個技術(shù)不僅僅涉及視頻，還有聲音。“科技向善確實應(yīng)該成為我們的一種底線。我們要不斷地去思考：我們技術(shù)的底線在什么地方？”

    思考：人工智能進(jìn)行“換臉”門檻逐漸降低，安全隱患增加

    其實，人工智能進(jìn)行“換臉”的技術(shù)數(shù)年前已經(jīng)出現(xiàn)。2017年，國外一個論壇用戶首先將自己制作的“換臉”視頻發(fā)布在網(wǎng)絡(luò)上，利用這一技術(shù)，他將國外女明星的照片與色情影片合成，幾乎以假亂真，一度引發(fā)巨大爭議。今年年初，有國內(nèi)用戶在網(wǎng)絡(luò)上發(fā)布一段合成的“換臉”視頻，將一段電影片段中朱茵的臉換成了楊冪，也曾引起爭議。隨著如今這款軟件的爆紅，視頻“換臉”門檻進(jìn)一步降低。

    AI換臉軟件所引發(fā)的爭議表面上是圍繞隱私保護(hù)，但在本質(zhì)上卻反映了一個全社會甚至全人類必須面對的新課題：人類技術(shù)在飛速進(jìn)步，在不斷進(jìn)入新的領(lǐng)域，它不僅給人類帶來更高品質(zhì)的生活，同時也會引發(fā)大量創(chuàng)造性破壞。這對人類現(xiàn)有制度體系、運行機(jī)制、法律規(guī)則和社會秩序等都將造成前所未有的挑戰(zhàn)。


作者：吳海舒
編輯：吉倩倩 實習(xí)編輯 王紅春
來源：據(jù)央廣網(wǎng)、上游新聞、新京報、澎湃新聞、第一財經(jīng)、21世紀(jì)經(jīng)濟(jì)報道