보호받고 있다는 착각 (온라인 검열은 누구를 위한 것인가)

보호받고 있다는 착각 (온라인 검열은 누구를 위한 것인가)

$20.94
Description
테크기업들은 어떻게 표현의 자유를 통제하고
권력과 이익을 창출하는가
이 책의 주제는 거대 플랫폼과 그들의 검열, 그리고 그것이 사용자에게 미치는 영향과 그 대안이다. 저자 질리안 요크는 10여 년간 페이스북, 트위터, 인스타그램 등 실리콘밸리의 플랫폼 기업들이 초창기부터 현재까지 어떻게 그들 플랫폼에 올라온 언어 표현과 이미지, 영상들을 관리해왔는지, 그리고 그 관리 방식이 플랫폼 사용자들에게 어떤 영향력을 행사해왔는지를 연구하며 관련된 인사들과 중요한 교류를 이어왔다.
플랫폼 대기업과 정부들이 결합한 감시 자본주의가 표현의 자유에 미치는 영향은 한 나라의 정권을 바꿀 수도 있고, 반정부 민주시위를 철저히 고립시킬 수도 있다. 또한 억압받는 소수자 단체를 무자비하게 탄압하는 데 도움을 줄 수도 있으며, 세계 곳곳의 인권운동가들이 연대하는 것을 돕거나 방해하는 역할을 할 수도 있게 되었다.
인터넷은 한때 돈이나 정치가 통제할 수 없는 자유가 보장되는 환상적인 장소가 될 것이라고 생각되었던 때가 있었다. 그러나 오늘날 대기업과 거대 플랫폼은 정보를 수집하고 지식을 공유하는 능력이 어느 국가 정부보다 더 강력해졌다. 저자는 여러 세계사적 사건들과 역사의 소용돌이 속에서 디지털 권리를 둘러싼 ‘전쟁’을 목격해왔고, 플랫폼 대기업이 자신들의 커뮤니티 규정과 정책을 통해 어떻게 무책임한 검열의 주인공이 되었는지, 그리고 그것이 검열을 받은 사람들에게 어떤 충격적인 영향을 끼쳤는지를 생생한 인터뷰를 곁들여 들려준다.
또한 플랫폼들이 표현의 자유를 억압함으로써 자사에 이익이 되도록 미래의 강대국과 동맹을 맺은 방법, 그들이 개인 데이터를 수집하여 이를 기업의 이익으로 연결시키려는 욕망으로 인해 우리의 권리가 어떻게 점점 훼손되고 있는지를 살펴본다. 그리고 정부가 플랫폼과 동일한 기술을 사용하여 자국민을 겸열하고 위협하는 모습도 보여준다. 저자는 우리의 일상과 사적인 생각이 전례 없는 방식으로 실리콘밸리의 플랫폼 기업들에 의해 통제되고 있음을 강조하며, 정치적 논쟁과 증오심 표현의 차이를 누가 결정하는지, 이것이 우리의 정체성과 커뮤니티를 만들고 저항하는 능력에 어떤 영향을 줄 수 있는지, 그리고 과연 누가 빅브라더와 같은 이러한 거대 플랫폼과 빅테크기업들을 규제할 수 있는지 묻는다. 이에 대한 답으로 민주주의에 대한 이러한 플랫폼들의 위협에 대응하여 변화와 자신의 데이터에 대한 소유권의 새로운 형태를 요구하는 사용자 주도 운동을 강조한다.

북 트레일러

  • 출판사의 사정에 따라 서비스가 변경 또는 중지될 수 있습니다.
  • Window7의 경우 사운드 연결이 없을 시, 동영상 재생에 오류가 발생할 수 있습니다. 이어폰, 스피커 등이 연결되어 있는지 확인 하시고 재생하시기 바랍니다.
저자

질리안요크

JillianC.York
저널리스트이자사회운동가.빙햄튼대학교에서사회학을공부한후모로코에서연구와강의를했다.현재비아드리나유럽대학교‘인터넷과인권을위한센터’연구원,유럽대학교객원교수,인권단체‘전자프런티어재단ElectronicFrontierFoundation’이사직을동시에해내고있다.2000년부터《가디언》,《블룸버그》,《포린폴리시》같은언론매체와알자지라Aljazeera방송을통해권력층의감시와언론의자유,인권에관한의견을대중에게전하고있다.2011년《포린폴리시》가뽑은‘소셜미디어지식인100명’에선정되었다.

목차

들어가는글

1장새로운문지기들
2장오프라인의탄압이온라인에서재현되다
3장소셜미디어혁명가들
4장사람보다수익이먼저
5장극단주의에는극단적인조치가필요하다
6장빅토리아시대를살아가는21세기현대인들
7장성과의전쟁
8장인간에서기계로
9장혐오의전염성
10장미래는우리가써내려가는것

출판사 서평

온라인플랫폼에서어떤표현이허용되고금지되는가?
그것을결정하는콘텐츠관리규정은누가만드는가?

저자는오랜기간온라인과가상세계에서언론의자유논쟁의최전선에있었다.그녀는2011년전자프론티어재단에서일하기시작했으며,모로코에서아랍의봄까지이어지는캠페인에참여했다.우리의삶을중재하는플랫폼이우리가보고읽고쓰는것을감시하고관리및검열하는방법에대해누구보다많이알고있는저자는오프라인(현실세계)에서의억압이온라인(가상세계)에서도똑같이되풀이되고있다고말한다.
10여년전페이스북으로부터시작해서초창기온라인플랫폼들은콘텐츠관리규정이단지소수의관련업무를맡은직원에의해주먹구구식으로만들어졌고,이후에여러가지사건을겪으며외부의전문가의견을청취하기도하고관련정부와협의하기도하면서,때로는플랫폼CEO의임의적인판단으로변화를취해왔다.
하지만콘텐츠관리에서모호하고어려운문제는끊임없이발생했다.과연플랫폼에올라오는디지털콘텐츠는누가관리하고,공공영역이민영화된플랫폼이되면서누가감시자를감시할것인지,자동화알고리즘이혐오표현을올바로걸러낼수있는지,선전과항의의차이를구별할수있는지등인터넷의회색지대라고할수있는문제다.
아랍의봄동안의억압적인시위부터홀로코스트부정이나혐오표현에대한허용에이르기까지,그리고모유수유중인엄마나두남자가키스하는사진을내리는것을피드의맥락과상관없이차단시키는것이그런예들이다.
정부는플랫폼들의이러한콘텐츠관리에개입을특별히하지않았고,이공백은실리콘밸리플랫폼기업의최고위층을이루고있는백인미국인에의해채워졌고,그들이미국의가치관과자기계층의이익을콘텐츠관리규정에투영하고있다고저자는말한다.또한디지털식민주의와같이실리콘밸리가마치신흥제국처럼행동하고,그들앞에있는모든것을거세게정복하며,우리가정보에접근하고의사소통하는방식을사유화했다고설명한다.결론적으로저자는기술경영진이아니라사용자가온라인에서언론의자유를구성하는요소를결정해야한다고주장한다.

플랫폼의콘텐츠관리체계가표현의자유를왜곡하다
저자는표현의자유라는가장중요한가치가빅테크기업의최고위소수인물들의재정적전망과영향력있는로비에의해통제되고억제된다는사실에주목한다.이집트의경찰폭력및기타학대에대해폭로한와엘아바스와같이영향력있는활동가의트윗과게시물은관련정부또는권력자의압력에의해소셜미디어에서삭제됐다.이것은인류의기본권인표현의자유에위배되는것이라고말하는저자는페이스북의콘텐츠관리체계에대해비판한다.
페이스북에는세계층에걸쳐콘텐츠관리직원이있다.그중3등급의최하위직원들은끔찍한이미지를보고하루종일을게시물을삭제하거나유지시켜두는즉각적인결정을내리는데보내야한다.이직원들은빈약한급여에정신건강지원이절대적으로부족한것은말할것도없고낮은수준의교육도받지못한다.
이러한현실을개선하고전세계적으로인권의기본정신을보존하기위해GNI(GlobalNetworkInitiative)가통합되었고,야후!는구글,마이크로소프트와함께창립멤버로참여했으며수많은NGO,학술기관및주주그룹이이조직에합류했다.이후페이스북,구글,마이크로소프트,트위터는테러리즘에대응하기위한글로벌인터넷포럼(GlobalInternetForumtoCounterTerrorism,GIFCT)을만들기위해함께뭉쳤는데,GIFCT의목적은‘회원들의디지털플랫폼에대한테러리스트의남용을막는것’이었다.그러나‘테러’등의용어정의가미흡해서GIFCT의작업에아쉬움이있었다.
저자는또한미국정부의SESTA-FOSTA법안공포에따른성노동자들의게시물게시중단과같은콘텐츠관리에서의위험성을강조한다.고객선택및기타안전조치에대한정보를얻기위해온라인네트워크에의존했던많은성노동자들이위기에처하기도했다.한편기술지원콘텐츠관리에서도우려되는점이발생한다.빅테크기업은인공지능및기계학습도구를사용하여콘텐츠관리를시도하지만때로는엉뚱한결과를가져오기도한다고말한다.예를들어,영어마을‘Scunthorpe’의주민들은알파벳‘S’와‘h’사이에있는단어가일반적인욕설을나타내기때문에계정이삭제되거나등록을거부당한일,런던의‘HornimanMuseum’은필터가‘Horniman’을‘hornyman’과유사하게인식하기때문에자체스팸필터가메일을차단한일등이다.콘텐츠관리에내재된또다른문제는지역언어또는모국어에대한전문지식이부족하다는것이라고한다.예를들어,우간다에서사용자가800만명이상인가장널리사용되는언어루간다(Luganda)는관련게시물을분석하는데능숙한콘텐츠관리전문가를거의찾을수없다고한다.

감시자본주의와플랫폼검열에대응해우리가가야할길
페이스북과인스타그램같은빅테크플랫폼의가치시스템은사회내부가아닌개인외부에서세계에접근한다는것이다.저커버그와같은기술창업자들은민주주의를모두에게더건강하게만들기위해소프트웨어를어떻게사용해야하는지묻지않고,대신그들은어떻게개인이더많은목소리와더많은연결을가질수있도록할수있는지를연구했다.그런다음,수십억달러의돈을앞세운벤처캐피털리스트의도움과격려로수백만명의사용자를등록하고,사용자들의공공생활을식민지화하고,사용자들의연결을광고주에게판매되는제품으로전환했다.반면에,동시에많은사람이그것을사용하고있기때문에결과적으로는플랫폼은사회에좋은것이기도하다.
저자는이책에서트위터,구글,페이스북같은플랫폼기업들이초기에는이미사회에서영향력있는사람들뿐만아니라모든사람이플랫폼을사용하여목소리를내고관심을얻을수있도록진지하게노력했다는점을지적한다.그리고이후플랫폼의급속한성장과창립자의오만함,비용을낮추려는열망이결합되어실패를미리방지하기보다는사고후에정리하면서따라가기를반복해왔다는것을보여준다.
그리고대부분플랫폼이정치와강력한행위자의요구에부응함으로써그러한편견으로부터자유로울수없다는점을전세계의사례를통해강조하고있다.즉플랫폼기업이테러리즘및극단주의와같은문제를처리하는방식은특히미국외교정책의필요성에의해좌우된다고한다.
이러한플랫폼의검열권력에대해우리는어떤방식으로,어떤행동으로대응해야하는지에대해,저자는기업이현재콘텐츠를관리하는방법에대한더큰투명성을요구해야한다고답한다.“기업은데이터가가동중인알고리즘에어떻게공급되는지에대한정보를사용자에게제공하고,데이터가사용되는방식에대해의미있는동의를얻으며,사용자에게피드에서보는것에대해더많은옵션을제공해야한다.그들은정책결정에서시민사회를투명하게즉시참여시키기위해노력해야하고기존정책과인권기준의호환성을평가하기위해전면적인감사를수행해야한다”고저자는말한다.
그리고잘못된정보의피해가검열을정당화하는지또는성적자유와아동보호사이의올바른균형과같이쉽게해결되지않는어려운질문을던지며논의의앞길을열어놓았다.