Цифрлық сурет жетістіктері фейк жаңалықтарға қалай әсер етеді?

Фото: telegraf.com.ua

Астана, BAQ.KZ. The New Yorker басылымының тұрақты авторларының бірі Джошуа Ротман жақында цифрлық сурттер технологияларының жетістіктері фейк жаңалықтарға қалай әсер ететіні туралы көлемді мақала жариялады. Baq.kz ақпарат агенттігі назарларыңызға мақаланың ықшамдалған аудармасын ұсынады.

Цифрлық суреттер саласындағы жетістіктер фейк жаңалықтар мен жалған ақпараттар легін арттыруы мүмкін.

2011 жылы Хани Фарид есімді фото-эксперт поштаға әкесінің жақын туысынан айырылғаны туралы хат алады. Үш жыл бұрын ол танысының ұлы жол көлік апатына тап болады. Сол жерде өтіп бара жатқандар оған қол ұшын созады. Бірақ бірнеше минуттан соң белгісіз себептермен оны атып кетеді. Бұл көрініс видеокамераға түсіп қалады. Дегенмен, видеоның сапасы өте нашар болғаны соншалықты, адамдардың беті, адам өлтіргендер мініп кеткен көліктің нөмірі көрінбейді. Ер адамның ұлын кім өлтіргені осылайша айғақ бола тұра анықталмай қалады.

Фарид ең алғаш рет өткен ғасырдың тоқсаныншы жылдары цифрлық суреттерге криминалистік анализ жүргізіп, көпшілікті таңғалдырған еді. Көптеген азаматтық және қылмыстық істерде сарапшы болған профессор Хани Фарид фейк суреттер мен видеоларды анықтау жасанды интеллект қарыштап дамып жатқан уақытта қиынға соғып жатқанын айтады. Оның ойынша, вирусты контент қаншалықты жылдам тараса, оның рас-өтірігін анықтау соншалықты қиынға соғып жатады.

Қазір Хани Фарид Дартмуттағы зертханасында поштасына танысынан келген видеоны жиі қайталап көрді. Адам өлтірушілерді анықтаудың жолын іздестіреді. Түрлі фильмдерде детективтер фотоның пиксельдерін жақсартып, күдіктілерді жылдам тауып жататынын елестетеді де, оның шын өмірде мүмкін емес екенін ойлайды. Видео бақылау камерасынан, яғни, объективтен, одан кейін поштаға көлемін кішірейту алгоритмінен кейін сапасын жоғалтқан. Қазір онда аз ақпарат қалған. Фарид образдар анық емес екенін айтып, әкесіне істің қиын екенін жеткізеді.

Бірнеше ай өткен соң Фарид бақылау камерасын көлік нөмірлерін фотоға түсіру үшін пайдаланса қалай болатынын ойлады. Бұл жағдайда жаңадан алынған суреттердегі анық емес пиксельдер арқылы нөмірді анықтауға мүмкін болар еді. Дегенмен, бұл ретте жарық, дизайн мен басқа да өзгермелі жағдайлар бар екені жағдайды қиындататыны анық. Ол миллиондаған суреттерге қол жеткізсе, видеодағы көлік нөмірін анықтауға көмектесуі мүмкін деп ойлады.

Дегенмен, бұл тәжірибе жүзінде мүмкін емес жағдай еді. Бірақ көп ұзамай жасанды интеллект пен компьютерлі графика біріктірілген «суреттер синтезі» пайда болды және ол жылдам дами түсті. Зерттеу нейрон жүйелерін қолданудың жаңа тәсілдерін ашты. Оның ішінде бағдарламалық жүйелер де пайда бола бастады.

«Синтетикалық медиа» дамыған заманда цифрлық сурет салу жаңа жүйелер арқылы автоматтандырыла алады және ол жоғары деңгейде реализм сипатында болады.

Жалған жаңалықтар толып тұрған бұқаралық ақпарат құралдары саласында мұндай технологияның салдары қандай болатыны көпшілікті алаңдатуы тиіс.

Былтыр күзде Redditor есімді аноним қолданушы кез келген адамға видеодағы адамдардың келбетін өзгертіп, бір-бірімен алмастыруға мүмкіндік беретін бағдарламалық құралдар жасаған болатын. Дәл сол уақытта Вашингтон университетінің зерттеушілер тобы Обаманың Трампты жамандап сөйлеген видеоның жалған екенін анықтаған еді. Видеодағы Иордан Пилдің дауысы да Обаманың өзіне тиесілі емес екенін ажыратудың өзі қиынға соққаны белгілі.

Дегенмен, синтетикалық суреттер мен видеолар үнемі кесірін тигізе бермейуі мүмкін. Мысалы, көпшілікке ұнаған «Black Panther», «Jurassic World», «Star Wars:The Last Jedi», «Blade Runner 2049» фильмдерінде бұрын қолдан келмейтін, ал қазір жақсы мүмкіндіктер ұсынып отырған синтез суреттер элементтерін қамтыған. Бұл фильмдерді көрермен жоғары бағалаған еді. Ал бүгіні таңда кез келгеннің қолындағы смартфондар да суреттерді өзгертуге көп мүмкіндіктер береді. Ал суреттер синтезі жасанды интеллект, робот техникасы мен басқа да салалардағы зерттеулер спектрін кеңейтті.

Фарид Дартмуттағы бірнеше көмекшісін көлік нөмірлерін суретке түсіруге жіберді. Сол суреттер арқылы оның командасы синтез жасайтын генератив модель жасады. Бірнеше апта бойы олар ондаған миллион уникалды реалистік сипаттағы фейк суреттер жасады. Одан кейін көлік нөмірлерін бақылау камерасы арқылы бұлыңғыр етті. Одан кейін олар нейрон жүйесіне образдарды қайта құрастыруға үйретті. Әрине, Фаридтің командасы өз технологиясын жетілдіру үшін көп тер төкті. Дегенмен, соңында видеодағы автокөлік нөмірін анық көрсете алатын жүйе жасалды. Содан кейін бұл бағдарлама видеодағы үш адамның суретін анық қылып берді.

Жазда Фарид бұл суреттерді осы іспен айналысып жүрген полиция қызметкеріне берді. Ал автокөлік нөмірі арқылы оның иесінің басқа бір қылмыстық іске қатысы бары анықталды. Шамамен он жылдай уақыт шешілмеген іс қазір қайта лаға жылжыды. Ал Фарид пен оның командасы өз зерттеулері туралы ғылыми журналға мақала жазды. Мақалада олар бұл жүйе қолданылмайтын миллиондаған бақылау камераларын пайдалануға тегін мүмкіндік екенін айтқан.

Фарид қазір Дартмуттан Берклидегі Калифорния университетіне көшуге дайындалып жүр. Оның жары Эмили Купер сол жерде виртуалды шындық және адам әрекетін зерттейтін психолог. Мен олардың үйіне барғанда, мені елу екі жастағы Фарид өзі күтіп алды.

Адамдар түрлі құралдар арқылы суреттерді бұрыннан бері синтездеп келеді. «Мұндай жағдайлар бұрын да болған. Мысалы, 1860 жылдардағы танымал суретте Авраам Линкольнның басы, құлдарды қорғаушы саясаткер Джон Калхунның денесіне салынған. Сталин кезінде де көп сурет өзгертілген. 1982 жылы National Geographic жариялаған суретте мұқабаға сыймай қалған пирамидалар орнынан жылжытылған. Джон Керри мен Джейн Фонд Вьетнамға қарсы өткен наразылық кезінде қатар отырған сурет те жалған, яғни, екі суреттен біріктірілген», дейді Фарид.

Фаридтің айтуынша, Photoshop пайда болған кезде оны кез келген адам сатып ала алатын. Бірақ онымен тек жоғары білікті мамандар ғана жұмыс істейтін. «Қазір технология дамып жатыр. Бұрын қарапайым адам суретті өзгерте алмайтынына сенімді болатын едік. Қазір шындыққа саясатын сурет пен видео жасау көп адамның қолынан келеді. Сталин неге өзінің жауларын суреттен өшіруді тапсырды? Себебі суреттен өшіру арқылы оларды тарихтан да өшіруге тырысты. Бұл визуалды суреттің қуатын көрсетеді. Яғни, суретті өзгертсеңіз, сіз тарихты да өзгертесіз. Сол себепті бұл әдістер әлі де сурет пен видеоларда қолданылады. Бірақ бұл «шындық» ұзаққа бара ма?», — деді Фарид.

Суреттерді зерттейтін әлемдегі ең үздік зертханалардың бірі Фаридтің үйінен жеті минуттық жерде, Беркли кампусының солтүстік жағында орналасқан. Зертхананы қырық үш жыл бойы Алексей Эфрос есімді ғалым басқарып келеді. Санкт-Петербургте дүниеге келген Эфрос Америка Құрама Штаттарына 1989 жылы әкесінің жұмысына байланысты көшіп келген. Эфрос Adobe Photoshop бағдарламасындағы детальдарды өзгертетін, ауыстыратын немесе бояйтын құралды жасаған. Оның айтуынша, мәтіндегі сөздерді автоматты түрде алмастыратын бағдарламаны сурет пен видеода да пайдалануға болады,

«Интернетке көптеп жүктеліп жатқан сурет пен видеолар басқа медиалардың шынайы екенін анықтауды жеңілдетеді. Бүгінде сарапшылар Стэнфорд пен Принстон унивесритетінің ғалымдары пайдаланатын ImageNet сайтына кіре алады. Онда әртүрлі объектілер мен орындардың он төрт миллионнан астам суреті бар. Бұл суреттер категория бойынша топтастырылған. Басында бұл жұмысты атқару үшін арнайы мамандар жалданатын еді. Ал 2012 жылы Торонто университетінің зерттеушілері суреттерді автоматты түрде топтастыратын нейронды жүйе ойлап тапты. Қазір соны қолданамыз. Тіпті, YouTube желісіндегі қамтаған керек емес, еш пайдасы жоқ видеолар да синтетикалық реализмнің жаңа деңгейіне жетуге көп көмектесті», — дейді Эфрос.

Дегенмен, цифрлық суреттер мен идеолар технологиясы дамыған сайын бұқаралық ақпарат құралдарындағы дезинформация арта береді. Мысалы, Мьянмадағы оқиға туралы жалған ақпарат тарату үшін әлеуметтік желінің бір өзі жеткілікті болды. Бұл оқиғада қарапайым халық өздері де білместен медиаманипуляторларға айналды.

Бүгінгі таңда сот залдарында сарапшылар суреттерді айғақ ретінде пайдалану керек пе деп бас қатырып жатыр. Жақында Мэриленд университетінің құқық профессорлары Даниэль Цитрон мен Роберт Чесни «Жалған суреттер: ұлттық қауіпсіздік, демократия мен құпиялықты сақтау міндеттері» атты мақала жариялады. Онда авторлар цифрлық сурет технологиясын еркін пайдалануға мемлекет тұрғысынан шектеу қою немесе оның кең таралуына жол бермейтін басқа да әдістерді табу керектігін жазды.

Эфрос пен Фарид үшеуіміз кешкісін дәмханаға бардық. Ол жерде екі профессор фейк жаңалықтар феноменінің тамыры тереңде жатқанын айтты. «Бұның барлығының бизнес моделі барынша көп адамның назарын аударуға бағытталған. Бірақ бұл у. Бұл мәселеге технологиялық шешім керек. Бірақ ол да проблеманы шеше алмайды деп ойлаймын. Бір білерім, бұл адамдардң проблемасына, қоғамның проблемасына, әлеуметтік проблемаға айналды», — деді Эфрос.

Бұл кампусқа келмес бұрын мен өзім түскен видеоны жіберіп, менің бейнеммен фейк видео жасауды сұрап көрген едім. Ертеңінде кампусқа бардым. Ол жерде Эфростың көмекшілерінің бірі видеоны көрсетті. Видеода мен әншілердің бірімен үлкен сахнада ән айтып, би билеп жүр екенмін. Видео расымен өте шынайы шыққан.

«Фото о бастан ешқашан объективті болған емес. Себебі біз суретке түскенде өзіміз қалаған ракурсты таңдаймыз. Сол арқылы біз өзімізді алдаймыз. Адамдар фото мен видеодағының бәрі рас деп ойлайтын еді. Қазір бұл пікір мүлдем жойылып барады. Негізінен, мұндай ой бұрыннан жоғалуы керек еді», — дейді Эфрос.

Біздің Telegram-парақшамызда Қазақстанның маңызды жаңалықтары. Жазылыңыздар!