Deepfakes vznikajú manipuláciou obrázkov a videí pomocou umelej inteligencie s cieľom vytvoriť obsah, ktorý vyzerá ako skutočný, ale nie je ním: napríklad tvár filmovej hviezdy alebo politika sa môže prekrývať s existujúcim videom. Niekedy sú tieto videá až znepokojujúco realistické.
Táto technika je veľmi obľúbená na sociálnych sieťach, kde sa množia zábavné či podivné výtvory s celebritami, ktoré majú vymenenú tvár.
Čínske úrady v decembri varovali, že túto technológiu môžu zneužívať aj bezohľadní ľudia na šírenie nezákonne získaných informácií, hanobenie a poškodzovanie povesti iných či krádež identity s cieľom spáchať podvod. Ak sa deepfakes nebudú regulovať, predstavujú nebezpečenstvo pre národnú bezpečnosť a sociálnu stabilitu.
Nové nariadenia preto vyžadujú, aby spoločnosti ponúkajúce deepfake služby poznali skutočnú identitu svojich používateľov. Vyžadujú tiež, aby bol deepfake obsah náležite označený, čím sa má predísť „zmätku" na strane verejnosti.
V Číne zaviedli možnosť udelenia trestu za šírenie deepfakes bez náležitého upozornenia, že ide o upravený obsah, ešte začiatkom roka 2020. Novozavedené nariadenie, ktorého prvú verziu mohla verejnosť pripomienkovať pred rokom, ide ešte ďalej v snahe chrániť podobizeň ľudí pred vydávaním sa za nich bez ich súhlasu. Úrady toto opatrenie označujú za nástroj sociálnej stability.
Ako napísal ekonomický web Quartz, odvrátenou stranou je v podstate cenzúra. Okrem iného to pravdepodobne znamená, že už nebudú žiadne deepfakes čínskeho prezidenta Si Ťin-pchinga ako Medvedíka Pú.
Čína z dôvodu jeho prirovnávania k obľúbenému rozprávkovému detskému hrdinovi pred časom zakázala animovaný film štúdia Disney uvádzaný pod názvom Macko Pú.