英國電視台第四台(Channel 4)每年都有製作「另類女王聖誕致辭」的傳統。今年他們的另類聖誕致辭將由一個「深度仿冒」(deepfake)的女王發表。
女王的傳統聖誕致辭將會在BBC及獨立電視台(ITV)上播放,而在第四台上將會有一名合成的「她」分享她的「思緒」。
白金漢宮向BBC表示,他們對此不予置評。
第四台稱,他們的初衷是針對數字化時代的假新聞提出一份「嚴正警告」。
深度仿冒技術可以用於製作讓人深信不疑但其實完全偽造的視頻,這一手段經常在散播虛假信息時被使用。
在這次致辭中,第四台的仿冒女王還將進行一項TikTok舞蹈挑戰。
「無數的模仿」
這段致辭時長五分鐘,其中將提及多個有爭議的話題,比如塞薩克斯公爵哈里王子及公爵夫人梅根(Duke and Duchess of Sussex)離開英國,同時還將影射約克公爵(Duke of York)安德魯王子今年早些時間卸下王室職責的決定。安德魯王子此前在與BBC的採訪中談及了他與性侵者傑弗裏·愛潑斯坦(Jeffrey Epstein)的關係。
BBC王室事務記者維切爾(Nicholas Witchell)對第四台的做法並不以為意:「已經有針對女王的無數模仿了。這並不是特別好的一個。」
「聲音聽上去就說明一切了,這是一個並不成功的嘗試。問題出在他們使用視頻技術去嘗試讓她的嘴唇和所說的內容同步。」
雖然目前的技術可以製作深度仿冒的聲音,但第四台的深度仿冒視頻由英國演員黛布拉·史蒂芬森(Debra Stephenson)配音。
史蒂芬森曾在2020年複播的英國時政木偶諷刺節目《Spitting Image》中用聲音出演木偶女王。
她表示:「作為一名演員這讓人激動,但一想到這可能會被用於其他情況,這同時也讓人感到害怕。」
這條深度仿冒視頻由奧斯卡獲獎團隊VFX studio Framestore製作。
深度仿冒的檢測
深度仿冒技術最早是在2018年開始崛起的。
當時一名程序員使用尖端的人工智能技術創造了一種軟件,可以把一個人的臉換到另一個人身上。
然而隨後這個方法變得更容易被更多人獲得使用。
現在已有無數個應用程序可以做到只需要一張照片,就可以把一名好萊塢的臉換到用戶身上。
本年早些時候,微軟發佈了一個可以發現深度仿冒技術的工具。
微軟稱,他們希望可以幫助抗擊不實信息,但專家警告稱,由於深度仿冒技術的進步,微軟的工具可能很快會面臨過時風險。
《Deep Fakes and the Infocalypse》一書的坐著尼娜·史克(Nina Schick)向BBC表示,目前有越來越多的人擔心,深度仿冒技術還可能被用於其他惡意用途。
「雖然它提供了巨大的商業和創作機會,改變了從娛樂業到通訊業等整個行業,但同時這也是一個可以被武器化的技術。」
「如果被惡意使用,人工智能生成的合成媒體,或者說是深度仿冒內容,就是智能形式的視覺化的不實信息。」
第四台的「另類聖誕致辭」(The Alternative Christmas Message)將於格林尼治標凖時間(GMT)12月25日15:25播出。