0
| 本文作者： 嘉嘉 | 2022-03-02 14:57 |
如今，新技術(shù)在全球范圍內(nèi)的蓬勃發(fā)展，不斷推動(dòng)著人工智能與經(jīng)濟(jì)社會(huì)的深度融合，人們的生產(chǎn)和生活方式，已經(jīng)越來(lái)越多地被人工智能改變。但與此同時(shí)，潛藏的問(wèn)題和風(fēng)險(xiǎn)也不斷被曝露出來(lái)，一個(gè)非常典型的例子，就是以視頻換臉作為主要表現(xiàn)形式的深度合成技術(shù)。采用這項(xiàng)技術(shù)制作的內(nèi)容在互聯(lián)網(wǎng)上廣泛傳播，已發(fā)展出多元化的商業(yè)應(yīng)用。如果不加以引導(dǎo)和治理，將會(huì)產(chǎn)生巨大的負(fù)面影響。
作為領(lǐng)先的第三代人工智能基礎(chǔ)設(shè)施和解決方案提供商，深度合成技術(shù)是瑞萊智慧持續(xù)關(guān)注的重點(diǎn)。3月1日，瑞萊智慧在北京舉辦了主題為“AI時(shí)代的‘面子’問(wèn)題”的媒體溝通會(huì)，中國(guó)社會(huì)科學(xué)院哲學(xué)所研究員、科學(xué)技術(shù)哲學(xué)研究室主任段偉文，瑞萊智慧CEO田天，副總裁唐家渝出席了此次會(huì)議。會(huì)上，瑞萊智慧通過(guò)對(duì)《深度合成十大趨勢(shì)報(bào)告（2022）》（以下簡(jiǎn)稱(chēng)“《報(bào)告》”）的詳細(xì)介紹，以及對(duì)深度合成內(nèi)容檢測(cè)平臺(tái)DeepReal的交流展示，在分享自身對(duì)于深度合成技術(shù)不同維度的探索和思考的同時(shí)，也產(chǎn)生了很多獨(dú)到見(jiàn)解和前沿觀點(diǎn)。
瑞萊智慧與清華大學(xué)人工智能研究院、清華大學(xué)智媒研究中心、國(guó)家工業(yè)信息安全發(fā)展研究中心、北京市大數(shù)據(jù)中心近日聯(lián)合發(fā)布《報(bào)告》，介紹和研判深度合成技術(shù)及應(yīng)用帶來(lái)的機(jī)遇與挑戰(zhàn)，并就其發(fā)展與治理給出切實(shí)可行的建議和措施。瑞萊智慧CEO田天在溝通會(huì)上對(duì)《報(bào)告》內(nèi)容進(jìn)行了深入解讀。
瑞萊智慧CEO田天
田天認(rèn)為，技術(shù)的不斷成熟是深度合成內(nèi)容迎來(lái)爆發(fā)式增長(zhǎng)的重要原因。研究論文的持續(xù)增加、開(kāi)源技術(shù)工具和大量代表性方法的涌現(xiàn)，令深度合成內(nèi)容的效果更加逼真、制作也更加高效，尤其是生成對(duì)抗網(wǎng)絡(luò)等算法的出現(xiàn)，讓合成內(nèi)容達(dá)到了“真假難辨”的程度?！靶滦蛡卧旆椒▽映霾桓F、網(wǎng)絡(luò)傳播環(huán)境的日趨復(fù)雜，加上基于檢測(cè)算法存在漏洞缺陷等，反深偽檢測(cè)技術(shù)面臨‘強(qiáng)對(duì)抗性’，需要持續(xù)更新與迭代”。
深度合成內(nèi)容的治理是一項(xiàng)長(zhǎng)期的工作，需要社會(huì)各方的通力協(xié)作。田天表示，瑞萊智慧希望為人工智能和深度合成技術(shù)的規(guī)范發(fā)展出力。對(duì)于深度偽造內(nèi)容，相關(guān)的檢測(cè)工具十分重要，瑞萊智慧研發(fā)的深度合成內(nèi)容檢測(cè)平臺(tái)DeepReal，將協(xié)助各界、各個(gè)機(jī)構(gòu)，讓深度合成技術(shù)健康發(fā)展。
近年來(lái)，中美兩國(guó)均出臺(tái)了人工智能發(fā)展戰(zhàn)略規(guī)劃，從國(guó)家層面整體向前推進(jìn)。無(wú)論是中國(guó)，還是美國(guó)，都有著完整的研發(fā)促進(jìn)、鼓勵(lì)創(chuàng)新的相關(guān)機(jī)制，在這些因素的驅(qū)動(dòng)下，中國(guó)在人工智能領(lǐng)域，有著很大的上升空間，這也給了AI企業(yè)非常好的發(fā)展機(jī)會(huì)。在人工智能安全這個(gè)有著非常廣闊發(fā)展空間的細(xì)分領(lǐng)域，中美兩國(guó)可謂是并駕齊驅(qū)。
近年來(lái)，人工智能安全已成為國(guó)家政策層面重點(diǎn)關(guān)注的領(lǐng)域，國(guó)家相關(guān)的法律法規(guī)的不斷完善以及各方對(duì)于算法治理、隱私保護(hù)等問(wèn)題的高度關(guān)注，人工智能安全已迎來(lái)關(guān)鍵窗口期。現(xiàn)在在國(guó)內(nèi)，尚未產(chǎn)生有世界影響力的人工智能產(chǎn)品和產(chǎn)業(yè)生態(tài)，這正是瑞萊智慧努力的目標(biāo)。未來(lái)，瑞萊智慧與各界的聯(lián)系和合作會(huì)越來(lái)越緊密，共同為人工智能領(lǐng)域的健康發(fā)展貢獻(xiàn)力量。
中國(guó)社會(huì)科學(xué)院哲學(xué)所研究員、科學(xué)技術(shù)哲學(xué)研究室主任段偉文
中國(guó)社會(huì)科學(xué)院哲學(xué)所研究員、科學(xué)技術(shù)哲學(xué)研究室主任段偉文受邀出席了本次溝通會(huì)，他在演講中表示，深度合成技術(shù)涉及到認(rèn)知安全，所以我們要提升社會(huì)認(rèn)知安全意識(shí)，將它作為集體責(zé)任，提升公眾的數(shù)字素養(yǎng)，以及每個(gè)人對(duì)深度合成時(shí)代真相的認(rèn)識(shí)和鑒別力，這里面有很多需要去努力的事情。人工智能企業(yè)都非常希望政府相關(guān)部門(mén)和各界積極開(kāi)展有關(guān)法律倫理、治理上的對(duì)話和相關(guān)規(guī)范的制定，以及相關(guān)最佳實(shí)踐的推廣，這其實(shí)都是為了實(shí)現(xiàn)創(chuàng)新和治理之間的動(dòng)態(tài)平衡，實(shí)施敏捷、穩(wěn)健治理，同時(shí)使科技更好地服務(wù)數(shù)字化轉(zhuǎn)型、數(shù)字生活。
深度偽造技術(shù)持續(xù)進(jìn)化，網(wǎng)絡(luò)數(shù)字內(nèi)容多變、隱匿性強(qiáng)，監(jiān)管難度大，因此開(kāi)展主動(dòng)技術(shù)防范與檢測(cè)工作是必要的。會(huì)上，瑞萊智慧副總裁唐家渝向媒體講解和演示了深度合成內(nèi)容檢測(cè)平臺(tái)DeepReal。他表示，深度偽造技術(shù)檢測(cè)工作當(dāng)前面臨兩大難點(diǎn)：一是肉眼難以辨別，傳統(tǒng)人工內(nèi)容審核團(tuán)隊(duì)無(wú)法應(yīng)對(duì)，二是深度偽造檢測(cè)面臨“強(qiáng)對(duì)抗性”，新型偽造方法層出不窮、網(wǎng)絡(luò)傳播環(huán)境復(fù)雜、深度學(xué)習(xí)檢測(cè)算法模型存在結(jié)構(gòu)性缺陷等。
瑞萊智慧副總裁唐家渝
唐家渝介紹，在結(jié)果準(zhǔn)確度方面，DeepReal在學(xué)術(shù)數(shù)據(jù)集和ZAO等主流方式生成的網(wǎng)絡(luò)數(shù)據(jù)集中，已達(dá)到99%以上的準(zhǔn)確率，而在實(shí)際應(yīng)用中，DeepReal的檢測(cè)準(zhǔn)確率也已達(dá)到業(yè)界頂尖水平，遠(yuǎn)超F(xiàn)acebook此前舉辦的Deepfake檢測(cè)挑戰(zhàn)賽所公布的最好成績(jī)。在檢測(cè)速度方面，DeepReal可實(shí)現(xiàn)每幀畫(huà)面的檢測(cè)時(shí)間僅用時(shí)30毫秒。DeepReal平臺(tái)此前在國(guó)際安全極客大賽等多個(gè)重要賽事中屢獲大獎(jiǎng)，無(wú)論是標(biāo)準(zhǔn)層面、實(shí)戰(zhàn)落地層面還是監(jiān)管層面，瑞萊智慧現(xiàn)已與多家單位開(kāi)展多方面的合作，DeepReal將在網(wǎng)絡(luò)虛假內(nèi)容甄別、人臉資料審核、影像物證真實(shí)性檢驗(yàn)等實(shí)際應(yīng)用場(chǎng)景中發(fā)揮強(qiáng)大作用。
唐家渝表示，除深度合成技術(shù)內(nèi)容檢測(cè)以外，瑞萊智慧目前也正在做相關(guān)研究，探索深度合成技術(shù)的正向應(yīng)用，例如人臉替換技術(shù)，包括演員的面部替換、影視本地化配音、后期更換演員臺(tái)詞等等。例如虛擬IP的打造和運(yùn)營(yíng)，這樣的虛擬資產(chǎn)，相比真人來(lái)說(shuō)更加可控，也更加有想象空間。在談到深度合成內(nèi)容制作的發(fā)展趨勢(shì)時(shí)，唐家渝認(rèn)為，目前該技術(shù)集中在人臉合成范圍內(nèi)，未來(lái)一定會(huì)擴(kuò)展到人體、環(huán)境等復(fù)雜場(chǎng)景下的合成。與此同時(shí)，未來(lái)相關(guān)的法律法規(guī)將更加完善，合法合規(guī)的應(yīng)用邊界更加清晰，會(huì)進(jìn)一步促成深度合成相關(guān)產(chǎn)品的加速落地。
憑借在人工智能安全領(lǐng)域的深度探索與實(shí)踐，瑞萊智慧將運(yùn)用最新科技，發(fā)揮技術(shù)優(yōu)勢(shì)，與優(yōu)秀的合作伙伴攜手，為人工智能安全和企業(yè)的轉(zhuǎn)型升級(jí)樹(shù)立更多標(biāo)桿，推動(dòng)智慧城市的高質(zhì)量發(fā)展，為人們帶來(lái)更加美好的生活。
雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))
雷峰網(wǎng)版權(quán)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。
