誕生之初，Deepfake是一種有趣的圖像處理技術(shù)，只帶來(lái)搞笑和娛樂(lè)視頻，但潘多拉魔盒打開(kāi)，催生黑產(chǎn)、惡劣政治家操縱民意，Deepfake逐漸進(jìn)化為新病毒，人類倫理道德的隱蔽布也被無(wú)情地揭開(kāi)。
圖：Saturday Night Live中凱特麥金農(nóng)換臉伊麗莎白沃倫
面對(duì)因新技術(shù)而引發(fā)的公眾恐慌，相關(guān)監(jiān)管機(jī)構(gòu)也加快采取行動(dòng)，出臺(tái)打假策略，旨在打擊Deepfake虛假音視頻，控制造假病毒的傳播。同時(shí)，國(guó)內(nèi)也迎來(lái)了最嚴(yán)數(shù)據(jù)管理的一年。
11月29日，中國(guó)國(guó)家網(wǎng)絡(luò)通信辦公室也正式發(fā)布了《網(wǎng)絡(luò)音頻視頻信息服務(wù)管理規(guī)定》，從2020年1月1日起，AI虛假視頻不得隨意發(fā)布。新規(guī)定中AI虛假視頻的規(guī)定主要有四條:按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)價(jià)，以顯著的方式顯示非真實(shí)的音頻信息，不得利用AI虛假技術(shù)發(fā)布虛假新聞，配置AI虛假視頻鑒別技術(shù)，健全虛假機(jī)制等。
新規(guī)則中，有效抑制Deepfake和類似虛假需要雙手抓住，不僅要利用法律法規(guī)嚴(yán)格控制，還要從源頭加強(qiáng)安全評(píng)價(jià)、鑒別技術(shù)等能力，利用技術(shù)手段提前布局，在檢查方面領(lǐng)先。
最近，來(lái)自清華大學(xué)的人工智能企業(yè)RealAI正式發(fā)布了深度偽造視頻檢測(cè)工具，可以實(shí)現(xiàn)深度偽造視頻的自動(dòng)正確識(shí)別。
一鍵換臉一鍵打假
RealAICEO田天表示，盡管需求一致，但目前大規(guī)模應(yīng)用的打假方法面臨很多困難。首先，Deepfake的開(kāi)源技術(shù)將AI變臉的使用閾值降低到手機(jī)美容、p圖的水平，單擊變臉帶來(lái)謠言成本的降低、爆炸性的傳播。但是，在防御層，幾乎沒(méi)有標(biāo)準(zhǔn)化的檢查工具，人工鑒別不僅專業(yè)性高，而且效率低。所以，無(wú)論對(duì)于個(gè)人、平臺(tái)還是第三方機(jī)構(gòu)而言，打假辟謠的時(shí)間窗口很短，難度卻很高。
下圖:雷佳音(左)變臉郭德綱(右)
更嚴(yán)重的問(wèn)題是，Deepfake往往以假亂真的程度極高，人眼難以察覺(jué)。此外，其算法目前無(wú)法建模分析，檢測(cè)技術(shù)的研究受到嚴(yán)重影響，但偽造者的適應(yīng)速度快，新技術(shù)越來(lái)越反復(fù)。
RealAI基于第三代AI技術(shù)推出的深度偽造視頻檢測(cè)產(chǎn)品，采用數(shù)據(jù)普及方式，通過(guò)偽造視頻培訓(xùn)新模型，模型更好地識(shí)別偽造痕跡，識(shí)別偽造視頻該產(chǎn)品支持圖像、視頻內(nèi)容的識(shí)別，用戶可以根據(jù)API接口上傳需要檢測(cè)的圖像、視頻，單擊即可反饋真?zhèn)巍?/p>
實(shí)際上，對(duì)Deepfake進(jìn)行虛假研究的團(tuán)隊(duì)已經(jīng)存在，但相關(guān)成果只停留在算法水平，為學(xué)術(shù)研究提供使用，無(wú)法應(yīng)對(duì)在現(xiàn)實(shí)環(huán)境中廣泛傳播的虛假內(nèi)容，因此RealAI發(fā)表的這個(gè)標(biāo)準(zhǔn)化自動(dòng)檢查工具可以說(shuō)給大規(guī)模的虛假行動(dòng)帶來(lái)了新的希望。
二、檢測(cè)精度達(dá)到99%，Deepfake逃不掉
作為清華大學(xué)人工智能研究院的核心孵化企業(yè)，國(guó)內(nèi)首家安全可控人工智能系統(tǒng)提供商，RealAI在AI安全和攻防技術(shù)領(lǐng)域具有行業(yè)領(lǐng)先優(yōu)勢(shì)。在今年剛剛結(jié)束的GeekPwn2019國(guó)際安全極客大賽中，與清華大學(xué)的聯(lián)合戰(zhàn)隊(duì)一舉獲得了CAAD、CTF圖像對(duì)抗樣本挑戰(zhàn)賽和CAAD隱身挑戰(zhàn)賽的冠軍。
深厚的技術(shù)積累也讓RealAI安全研究團(tuán)隊(duì)對(duì)造假方的攻擊原理有著更深刻的理解，能夠更有針對(duì)性地開(kāi)發(fā)檢測(cè)工具。本次推出的深度偽造視頻檢測(cè)產(chǎn)品，將原本高難度的檢測(cè)過(guò)程大幅簡(jiǎn)化，只需接入SDK即可一鍵實(shí)時(shí)檢測(cè)，調(diào)用簡(jiǎn)單快捷。
、Deepfake視頻檢測(cè)產(chǎn)品流程圖
與目前市面上銷售的檢測(cè)技術(shù)相比，RealAI的視頻檢測(cè)工具利用深入的學(xué)習(xí)算法、大量的數(shù)據(jù)集訓(xùn)練模型，可以檢測(cè)出絕大多數(shù)人工智能的假視頻在算法變臉效果越來(lái)越逼真的情況下，RealAI的研究開(kāi)發(fā)團(tuán)隊(duì)也集中開(kāi)發(fā)了新的檢查算法，反復(fù)更新RealAI的檢查算法庫(kù)。
更值得注意的是，該產(chǎn)品適用于復(fù)雜的視頻內(nèi)容檢測(cè)，支持多種格式和多人臉檢測(cè)模式，1S識(shí)別，最高可支持10人以上的同一屏幕。
三、Deepfake的潘多拉魔盒終于關(guān)閉了
隨著Deepfake技術(shù)的濫用，傳統(tǒng)意義上真實(shí)和虛假的界限模糊，對(duì)社會(huì)生活的影響很大，但現(xiàn)在技術(shù)惡作劇的負(fù)面影響正在全面爆發(fā)。
例如，在網(wǎng)上隨意傳播的視頻、照片內(nèi)容、內(nèi)容平臺(tái)的傳統(tǒng)審查機(jī)制無(wú)法識(shí)別Deepfake的生成內(nèi)容，采用人工審查，需要投入額外的時(shí)間、人工費(fèi)用的特定對(duì)象在社交平臺(tái)上廣泛傳播虛假信息，在輿論中心的當(dāng)事人因?yàn)檎也坏娇梢宰C明謠言是捏造的有效方法，個(gè)人聲譽(yù)受損的事件調(diào)查、法庭辯論中涉及的視頻、圖像等證據(jù)，警察、律師等人員不能僅僅通過(guò)肉眼識(shí)別證據(jù)，而且通過(guò)檢查個(gè)人的虛假信息
最后，在這場(chǎng)AI軍備競(jìng)賽中，Deepfake不斷進(jìn)化，RealAI也不斷反復(fù)技術(shù)，磨練產(chǎn)品。RealAICEO田天說(shuō)，未來(lái)的AI必然是安全可控的AI，一鍵休假超過(guò)一鍵換臉的速度，Deepfake的潘多拉魔盒也關(guān)閉。
