Deepfake

Deepfake, süni intellekt (yapay zeka) ve maşın öyrənmə (makine öğrenimi) texnikalarından istifadə olunaraq yaradılan, gerçəyə olduqca bənzər, lakin tamamilə süni şəkildə formalaşdırılmış rəqəmsal görüntü, video və səs məzmunlarına verilən addır. Bu texnologiya kompüter görməsi, dərin öyrənmə (deep learning) və sinir şəbəkələri (neural networks) kimi süni intellekt metodlarını istifadə edərək orijinal media fayllarını dəyişdirmək və ya tamamilə yeni məzmunlar yaratmaq imkanını təqdim edir. Deepfake sistemləri, əsasən böyük verilənlər bazasından öyrənərək fərdlərin üz ifadələrini, nitqini və mimikalarını təhlil edir və bunları yeni məzmunlara inteqrasiya edə bilir. Bundan əlavə, səs klonlama texnologiyaları da bənzər prinsiplərlə işləyir və bir insanın səs tonunu, vurğularını və danışıq üslubunu təqlid edə bilir. Deepfake alqoritmləri, bir şəxsin üz ifadələrini, mimikalarını və hətta səsini kopyalayaraq gerçəkdə mövcud olmayan səhnələr və nitqlər yarada bilir. Əvvəlcə əyləncə, incəsənət və təhsil kimi sahələrdə innovativ həllər təqdim edən deepfake texnologiyası, eyni zamanda saxta xəbərlər, şəxsiyyət oğurluğu, siyasi manipulyasiya və məxfiliyin pozulması kimi etik və hüquqi problemlərə də səbəb olur. Süni intellekt texnologiyalarının inkişafı ilə deepfake məzmunları getdikcə daha real hala gəlir və onların aşkar edilməsi çətinləşir.

Deepfake texnologiyasının mənşəyi, 2014-cü ildə Ian Goodfellow və komandası tərəfindən yaradılan Generative Adversarial Networks (GANs) modeli ilə qoyulmuşdur. GANs, saxta görüntü və videolar yaratmaq üçün bir-biri ilə rəqabət aparan iki sinir şəbəkəsindən ibarət olan bir sistemdir. Əvvəlcə akademik tədqiqatların bir hissəsi olaraq hazırlanan bu texnologiya, qısa müddətdə media manipulyasiyası və vizual saxtakarlıq sahəsində mühüm bir vasitəyə çevrilmişdir. 2016-cı ildə Face2Face kimi real vaxtda üz dəyişdirmə proqramlarının ortaya çıxması, deepfake texnologiyasının daha geniş kütlələr üçün əlçatan olmasına səbəb oldu. Bu dövrdə OpenAI və digər süni intellekt araşdırma mərkəzləri, dərin öyrənmə texnikalarının media üzərində necə manipulyasiya yarada biləcəyini göstərən yeni tədqiqatlar aparmışdır.

İlk deepfake məzmunları 2017-ci ildə internet forumlarında populyarlıq qazanmış və zamanla daha da inkişaf etmişdir. 2017-ci ildən etibarən Reddit kimi platformalarda istifadəçilər məşhurların üzlərini mövcud videolara əlavə edərək deepfake məzmunlar yaratmağa başlamışdır. 2018-ci ildə isə deepfake proqramlarının açıq mənbə kodlu (open-source) olması bu texnologiyanı daha əlçatan etmişdir. Əvvəlcə deepfake texnologiyası əyləncə və media sektorunda səhnə canlandırmaları, dublyaj tətbiqləri və xüsusi effektlər kimi sahələrdə istifadə edilmişdir. Məsələn, kino sənayesi keçmişdə vəfat etmiş aktyorları səhnədə yenidən canlandırmaq və ya dialoqları müxtəlif dillərə dublyaj etmək üçün deepfake texnikalarından istifadə etməyə başlamışdır. Lakin deepfake texnologiyasının yayılması etik və təhlükəsizlik problemlərini də özü ilə gətirmişdir. 2019-cu ildə manipulyasiya edilmiş siyasi çıxışlar və saxta xəbərlər ictimaiyyəti çaşdıraraq yeni bir təhdid mənbəyi kimi ortaya çıxmışdır. 2020-ci illərdə isə deepfake texnologiyasının şəxsiyyət oğurluğu, dələduzluq və informasiya manipulyasiyası kimi məqsədlərlə istifadəsinə qarşı qlobal tənzimləmələr və qanunlar gündəmə gəlməyə başlamışdır.

Deepfake yaradılmasında ən çox istifadə olunan süni sinir şəbəkəsi modelləri autoencoderlər və Generative Adversarial Networks (GANs) kimi tanınır. Autoencoderlər bir insanın üzünü sıxılmış bir formata (latent space) çevirərək həmin üzün əsas xüsusiyyətlərini çıxarır. Model, üzün bu formata kodlaşdırılmasından sonra həmin məlumatlardan istifadə edərək orijinal görüntünü yenidən yaratmağa çalışır. Burada əsas məqam ondan ibarətdir ki, eyni model müxtəlif üzlərə tətbiq oluna bilər. Məsələn, iki fərqli şəxsin üzü autoencoderə tanıdıldıqda model bu üzləri ayrı-ayrılıqda kodlayır və daha sonra onları bir-birinə çevirməyi bacarır. Beləliklə, bir şəxsin üzü digər şəxsin üzü ilə dəyişdirilə bilər. Lakin autoencoderlər təkbaşına yetərli deyil. Daha yüksək keyfiyyət və realistik görüntülər əldə etmək üçün Generative Adversarial Networks (GANs) istifadə olunur. GANs, iki süni sinir şəbəkəsindən ibarətdir: generator (yaradıcı) və discriminator (ayırıcı). Generator saxta görüntülər yaratmağa çalışır, discriminator isə bu görüntülərin saxta olub-olmadığını müəyyən etməyə çalışır. Bir-birinə qarşı rəqabət aparan bu iki şəbəkə zaman keçdikcə generatorun daha realistik saxta görüntülər yaratmasına şərait yaradır. Başlanğıcda generator tərəfindən yaradılan görüntülər bulanıq və nizamsız ola bilər, lakin proses irəlilədikcə discriminator şəbəkəsini aldada biləcək qədər real hala gəlirlər.

Deepfake videolarında üz ifadələrinin və dodaq hərəkətlərinin gerçəyə daha yaxın olması üçün əlavə olaraq zaman ardıcıllığı analizləri (time-series analysis) də istifadə edilir. Bir insanın danışarkən etdiyi mikrohərəkətlər, üz əzələlərinin təbii hərəkətləri və göz qırpma kimi detallar süni intellekt tərəfindən öyrənilir və təqlid edilir. Beləliklə, yalnız statik görüntülərin dəyişdirilməsi deyil, videoların daha axıcı və təbii görünməsi təmin olunur. Üz dəyişdirmə prosesi zamanı şəxsin üzü müəyyən əsas nöqtələr (landmark points) ilə təyin edilir və yeni üz bu nöqtələrə uyğunlaşdırılaraq mövcud videonun üzərinə yerləşdirilir. Bu proses, fərqli üz xüsusiyyətlərini, işıqlandırmanı və perspektivi nəzərə alaraq optimallaşdırılır. Dodaq sinxronizasiyası üçün isə əlavə olaraq RNN (Recurrent Neural Networks) və Transformer modelləri istifadə olunur. Xüsusilə səsli deepfake videolarında model bir insanın səs yazısını analiz edir və dodaq hərəkətlərini həmin səsə uyğunlaşdırır. Bu prosesdə şəxsin hansı hecaları hansı şəkildə tələffüz etdiyi öyrənilir və dodaq hərəkətləri bu tələffüzə uyğun şəkildə formalaşdırılır. Beləliklə, danışıq səhnəsində insanın orijinal səsi ilə uyğunlaşan saxta bir üz hərəkəti yaradılır. Son mərhələdə isə görüntünün təbii görünüşünü artırmaq üçün müxtəlif post-produksiya texnikaları tətbiq edilir. İşıq, kölgə, dəri teksturası və hərəkət bulanıqlığı kimi detallar düzəldilərək deepfake görüntüsü olduqca real hala gətirilir. Süni intellekt eyni zamanda üzün ətrafındakı elementləri analiz edərək fırıldaqçılığı gizlətmək üçün arxa plan ilə üzü daha yaxşı birləşdirir.

Deepfake texnologiyasının ən böyük problemlərindən biri informasiya çirkliliyi və yanlış məlumatların yayılmasına təsiridir. Rəqəmsal medianın getdikcə daha çox informasiya mənbəyinə çevrilməsi ilə vizual və audio məzmunların etibarlılığı ilə bağlı ciddi narahatlıqlar yaranır. Realistik saxta videolar, səs yazıları və görüntülər fərdləri və cəmiyyəti yanlış istiqamətləndirə biləcək şəkildə istifadə oluna bilər. Bu vəziyyət xüsusilə siyasi, iqtisadi və sosial mövzularda dezinformasiya kampaniyalarının təsirini artıraraq ictimai rəyə manipulyasiya etmə imkanını genişləndirir. Deepfake məzmunlarının ən çox istifadə olunduğu sahələrdən biri siyasi manipulyasiya və təbliğat işləridir. Əhəmiyyətli şəxslərin saxta çıxışları və ya hərəkətləri cəmiyyəti müəyyən hadisələr barədə yanlış məlumatlandıraraq böyük təsir göstərə bilər. Məsələn, bir siyasətçinin gerçəkdə etmədiyi bir çıxışın deepfake texnologiyası ilə yaradılması seçki proseslərinə təsir edə və ya beynəlxalq böhranlara səbəb ola bilər. Bu cür məzmunlar sosial mediada sürətlə yayıla bildiyi üçün yalan informasiyanın qarşısını almaq olduqca çətinləşir.

Yanlış məlumatlandırmanın digər bir tərəfi media qurumları və xəbər mənbələrinin etibarlılığına mənfi təsiridir. Müəyyən bir hadisə ilə bağlı müxtəlif mənbələrdən bir-birinə zidd informasiyalar əldə edildikdə hansı məlumatın doğru olduğunu müəyyənləşdirmək çətinləşir. Deepfake videoları və saxta səs yazıları hadisələrin xronologiyasını və kontekstini dəyişdirərək cəmiyyətdə informasiya ilə bağlı ümumi şübhə mühiti yarada bilər. Fərdi səviyyədə qiymətləndirdikdə, deepfake texnologiyası rəqəmsal şantaj və zorakılıq üçün də təhlükəli bir vasitəyə çevrilmişdir. Xüsusilə icazəsiz şəkildə bir insanın üzünün və ya səsinin istifadə edilməsi ilə yaradılan saxta məzmunlar hədə-qorxu və şantaj məqsədilə sui-istifadə edilə bilər. Məsələn, bir insanın uyğun olmayan bir vəziyyətdə olduğu saxta video hazırlanaraq bu məzmunun yayılması ilə təhdid edilə bilər və beləliklə maddi və ya mənəvi qazanc əldə edilməyə çalışıla bilər. Bu cür şantaj cəhdləri xüsusilə gənclər və ictimaiyyətə açıq olmayan fərdlər üçün psixoloji təzyiq yaradaraq ciddi travmalara səbəb ola bilər.

Deepfake texnologiyasının inkişafı eyni zamanda incəsənət və media sahələrində köklü dəyişikliklərə yol aça biləcək potensiala sahibdir. Bu texnologiya vizual və audio məzmunların yaradılması, yayılması və istehlak edilməsi üsullarını yenidən formalaşdıraraq incəsənətin yaradıcı sərhədlərini genişləndirir. Bununla yanaşı, media etikası və etibarlılığı ilə bağlı yeni müzakirələrə səbəb olur. İncəsənət sahəsində deepfake sənətçilərin yeni ifadə formaları inkişaf etdirməsinə və yaradıcı proseslərini dəyişdirməsinə imkan yaradır. Süni intellekt dəstəyi ilə yaradılan vizual və audio məzmunlar ənənəvi incəsənət anlayışının hüdudlarından kənara çıxaraq sənətçilərin fiziki varlıqları olmadan belə yeni əsərlər yaratmalarına şərait yaradır. Xüsusilə kino və rəqəmsal incəsənət sahələrində deepfake texnologiyası ilə məşhur şəxslər keçmişdə heç iştirak etmədikləri layihələrdə görünə bilər və ya vəfat etmiş sənətçilər yeni əsərlərdə "yenidən canlandırıla" bilər. Lakin bu vəziyyət müəllif hüquqları və etik məsələləri də gündəmə gətirir. Bir sənətçinin razılığı olmadan hazırlanan məzmunların nə dərəcədə qanuni olduğu incəsənət və texnologiya arasındakı sərhədləri müəyyən etmək baxımından vacib bir məsələdir.

Əyləncə sektoruna baxıldıqda, deepfake texnologiyası film və serial istehsalında istehsal proseslərini əhəmiyyətli dərəcədə dəyişdirmə potensialına sahibdir. Aktyorların yaşlandırılması və ya cavanlaşdırılması kimi ənənəvi xüsusi effekt texnikaları əvəzinə deepfake texnologiyası ilə daha realistik və iqtisadi baxımdan daha səmərəli vizual effektlər əldə edilə bilər. Bundan əlavə, aktyorların fiziki olaraq çəkiliş meydançasına getmədən rəqəmsal mühitdə səhnələrdə yer alması mümkün hala gələ bilər. Lakin bu vəziyyət sektorda işçi qüvvəsi dinamikasını dəyişdirərək bəzi peşələrin gələcəyini təhlükəyə ata bilər.

Deepfake texnologiyasının inkişafı, saxta görüntü və videoların aşkar edilməsini daha da çətinləşdirir. Bunun üçün müxtəlif texnologiyalar və metodlar hazırlanmışdır:

Ənənəvi Metodlar

• Təbii olmayan göz hərəkətləri və göz qırpma sıxlığında uyğunsuzluq
• Üz ifadələrində asimmetriya və qeyri-təbii mimikalar
• Dodaq və səs sinxronizasiyasında pozuntular
• İşıq və kölgə səhvləri

Maşın Öyrənməsi və Süni İntellekt Tətbiqləri

• Convolutional Neural Networks (CNN) modelləri ilə vizual təhlil
• GANs istifadə edərək saxta məzmunu tapan alqoritmlər
• Optik axın analizi ilə video səhnələri arasındakı keçidlərin yoxlanılması
• Göz və ağız hərəkətlərinə diqqət yetirən modellər

Bundan əlavə, rəqəmsal su nişanlama və blockchain texnologiyası ilə məzmun doğrulama üsulları deepfake probleminin qarşısını almaq üçün istifadə olunan əsas yanaşmalardan biridir.