딥페이크의 얼굴 (기술이 만든 얼굴이 우리에게 묻는 것)

딥페이크의 얼굴 (기술이 만든 얼굴이 우리에게 묻는 것)

$12.00
Ask a Question
Vendor: 스리체어스 - 이소은, 최순욱
Type: 인문교양
SKU: 9791192572925
Categories: ALL BOOKS 사회 사회_사회학
Tags: 딥페이크의얼굴기술이만든얼굴이우리에게묻는것 인문_인문학일반
Description
새로운 이미지와 새로운 얼굴의 시대다.
얼굴 불신의 시대 앞에서 물어야 할 것은 무엇인가?
새로운 기술 앞에서 사람들은 다가올 미래를 기대하기 마련이다. 그러나 딥페이크 앞에서는 달랐다. 정부와 기업, 개인은 모두 딥페이크의 부작용을 두려워한다. 허위정보의 범람, 포르노그래피로의 악용은 딥페이크의 폭력의 얼굴이다. 그러나 모든 기술이 그렇듯, 딥페이크 역시 양면적이다. 딥페이크를 통해 우리는 이미 세상을 떠난 배우의 연기를 볼 수 있고, 버추얼 인플루언서들은 기존의 얼굴로는 하지 못했던 새로운 시도를 만들어 나간다. 부작용 때문에 기술의 발전을 막을 수는 없는 노릇이다. 그래서 우리는 딥페이크의 진짜 얼굴에 대해 물어야 한다.

*북저널리즘은 북(book)과 저널리즘(journalism)의 합성어다. 우리가 지금, 깊이 읽어야 할 주제를 다룬다. 단순한 사실 전달을 넘어 새로운 관점과 해석을 제시하고 사유의 운동을 촉진한다. 현실과 밀착한 지식, 지혜로운 정보를 지향한다. bookjournalism.com
저자

이소은,최순욱

이소은은부경대학교미디어커뮤니케이션학부교수다.미디어,콘텐츠가일상에서가지는의미를테크놀로지와문화,이용자의관계속에서탐구한다.서울대학교언론정보학과를졸업하고동대학원에서석·박사학위를받았다.

목차


프롤로그;이얼굴,진짜일까?

1_딥페이크,얼굴을바꾸다
딥페이크는어떤기술인가?
쉽고,싸고,빠른딥페이크
딥페이크,심층적자동화의기술

2_딥페이크와폭력의얼굴
허위정보와사실의위기
포르노그래피와조작된정서
감춰진얼굴이묻다

3_딥페이크와창작의얼굴
되살아난인물,비즈니스가되다
진짜얼굴vs.가상의얼굴
가상의얼굴이묻다

4_폭력과창작사이,무엇을해야하나?
무엇이문제인가?
무엇을하고있나?
무엇을해야하나?

에필로그;새로운가면앞에서물어야할것

주

북저널리즘인사이드;불온함만큼의가능성을가진기술

출판사 서평

새하얀롱패딩을입은교황의모습이카메라에찍혔다.사진속교황은허리춤을벨트로조인형태의흰색롱패딩을입고바티칸시국의성베드로광장을산책하고있었다.이상한모습이었다.항상같은옷만입던교황이갑작스레추위라도탄것일까?생각이덧붙는차에,묘하게뭉개진손이눈에띄었다.옥에티같은흐트러진손은이사진의전말을드러냈다.흰색패딩을걸치고,반짝이는십자가목걸이를한교황의모습은이미지생성인공지능모델인‘미드저니(Midjourney)’가만든가상의이미지였다.

비슷한시기에논란이됐던또한장의사진은도널드트럼프미국전대통령이경찰에게체포돼연행되고있는이미지였다.트럼프의다급한표정을담은이이미지는소셜미디어에서“트럼프가맨해튼에서체포됐다”는설명과함께퍼져나갔다.트럼프전대통령이2016년대선직전,한배우와성관계를맺은사실을감추기위해회사자금으로합의금을지급한뒤회계를조작했다는혐의를받고있던터라,해당이미지가가져온파급력은더욱컸다.

과거의사진이순간을포착해,해당순간이‘존재했다’는진실을증명하는하나의자료였다면,지금의사진은그렇지않다.만들어진이미지는교묘하게현실의일면을파고든다.그럴듯한이미지는온전한상상과픽션보다현실에더큰힘을발휘한다.현실에서태어난가상의이미지가현실을바꿀수있는힘을갖고있는셈이다.증거의힘이사라진이미지의시대,이시대에서현실의믿음직스러움은더이상건재하지않다.

미국의작가‘아메리칸아티스트(AmericanArtist)’는2019년,한영상작업을내놓는다.그의작업〈MyBlueWindow〉는21분56초간인공지능도구인예측치안기술의실행화면을보여준다.해당영상에서비추는예측치안기술은실제미국경찰에게보급된도구다.이시스템은흑인과이주민이거주하는동네를지날때말이많아진다.범죄가발생할가능성이높다는의미다.이유는하나다.흑인이범죄를저지를확률이백인의범죄가능성보다높고,이주민의위험성이그렇지않은이들보다강력하다는것이다.경찰은AI가일러준위험지역을더오래,더샅샅이순찰한다.

〈MyBlueWindow〉는인공지능이학습한현실의일면이특정한형태의얼굴에덧붙을때의나비효과를연상시킨다.인공지능은결코공평하지않다.이미세상이만들어낸모든편견을학습하고있다는의미에서그렇다.인공지능에게흑인의얼굴과백인의얼굴은같은무게로다가오지않는다.인간은의도적인교육과반복된학습을통해편견을보정하지만,인공지능의블랙박스에게는그러한보정능력이없다.얼굴인식기술의시대에서,얼굴은0과1로쪼개져있고,자잘한픽셀의모음으로인식된다.그러나그이미지가현실에던져지는순간,모든픽셀들은연결된다.현실의편견은그연결속에서공고해지고,가속화된다.이미지와얼굴이가진폭력의얼굴,창작의얼굴도마찬가지다.딥페이크를통해양산되는수많은포르노그래피적이미지,인공지능생성도구를통해만들어지는여러창작의가능성들은이미존재했던현실과무관하지않다.AI시대의이미지들은현실과등을붙이고서있다.

AI시대의이미지는얼굴의모양과위상,얼굴의색,얼굴의출신을묻는다.이질문에담긴얼굴에‘진실’과‘거짓’에대한질문은무의미하다.눈과머리가싸우는데,진실과거짓의충돌이무슨소용이있겠는가?혹은범죄예방을위해위험지역을더돌아다닐뿐이라는,철옹성처럼보이는진실앞에서우리는어떤거짓의여지를물을수있겠는가?머지않아현실이될수있는가상의이미지앞에서,우리는그이미지를어떤죄목으로판결대에올릴수있을까?현실을먼저매개해대중의눈앞에선보였다는사실은충분한근거가되지못할것이다.

진실과거짓을구분하는일의무용함은‘딥페이크의얼굴’에서도제기되는문제다.우리는이미거짓얼굴의세상에살고있다.모두가일상적으로사용하는인스타그램의AR필터역시누군가의얼굴을조작하는형태다.혹자는가상의얼굴을빚어내는행위는초상화의시대에도,암실의시대,심지어는거울앞에도있지않았나물을수있다.그러나인스타그램의작동원리를모르는이도클릭한번에AR필터를쓸수있는세계에서,진실과거짓이뒤섞인얼굴은무엇이물이고,기름인지가불분명한기름띠같은형상일수있다.

최근논란이되는딥페이크기술은이기름띠를극대화하는도구다.딥페이크는메시지가아닌메신저를바꿔메시지가갖는힘을증폭시키거나와해시킨다.얼굴이일정수준이상의정체성을담보했던과거와달리,딥페이크시대이후의얼굴은한번쯤되물어야하는,의심해야하는대상이다.딥페이크는기술과사람을분리한다.어떠한지식도없이,특정인의얼굴과행동을선택하기만한다면손쉽게딥페이크사진을만들어낼수있다.얼굴은0과1로,진실과거짓으로,예술과기술로,감시와오해로쪼개진다.이흐름을막을수없다면,우리는결국얼굴을쪼개는기술을활용하고,진실을현명하게묻는법을찾아야한다.《딥페이크의얼굴》은그질문의방법을일러주는책이다.

과연딥페이크라는기술자체를금지하면,얼굴을신뢰할수없는시대의부작용도사라질까?얼굴이정체성을보증하던시기를뛰어넘어,우리는얼굴을다시사유해야하는시대에도착한것일지도모른다.얼굴이더이상믿을수있는정체성을담보하지못할때,그리고이미지가명백히존재했던현실을입증해주지못할때,새로운메시지와메신저의시대가열린다.새로운시대는묻는다.얼굴이가진무수한가능성에서,당신은무엇을취할것이냐고.세상이포착할수있는건폭력의얼굴일수도,한편으로는창작의얼굴일수도있다.기술은그자신이가진불온함만큼의가능성을갖기때문이다.

이시대에도착한딥페이크가범죄의얼굴이아닌,창작과창의의얼굴이되기위해서는우리는지금다시물어야한다.조건없는금지는다가오는미래의가능성마저앗아갈수있다.거짓의얼굴,가능성의얼굴앞에서질문과답은그어느때보다신중하고,입체적이어야한다.