자동화된 불평등

버지니아유뱅크스

지은이:버지니아유뱅크스(VirginiaEubanks)
뉴욕주립대학교정치학부교수이다.유뱅크스는20년동안지역의기술및경제정의를위한운동을했다.공동체의디지털정보가정부와기업에의해수집,저장,공유되고그것이다양한사회적의사결정에영향을미치는방식에관심을갖고활동하는아워데이터바디즈프로젝트OurDataBodiesProject창립자가운데한사람이며,미국의초당적싱크탱크뉴아메리카NewAmerica의일원이다.
『디지털의막다른길:정보시대의사회정의를위한싸움DigitalDeadEnd:FightingforSocialJusticeintheInformationAge』,『아무도내마음을돌려놓지못하리:바버라스미스와함께한사회운동40년Ain’tGonnaLetNobodyTurnMeAround:FortyYearsofMovementBuildingwithBarbaraSmith』(공저)을펴냈으며,현재뉴욕트로이에살고있다.
  

옮긴이:김영선
중앙대학교문예창작학과를졸업하고홍익대학교대학원미학과를수료했다.출판편집자,양육자를거쳐현재는전문번역자로일하고있다.옮긴책으로《망각의기술》,《왜하이데거를범죄화해서는안되는가》,《뉴레프트리뷰5호,6호》(공역),《부모인문학》,《지능의사생활》,《어느책중독자의고백》,《괴짜사회학》,《왼쪽-오른쪽의서양미술사》,《러브,섹스그리고비극》,《세상의모든영화》등이있다.  

해제:홍기빈
서울대학교경제학과를졸업하고동대학원외과학과석사과정을마쳤다.캐나다요크대학교대학원에서정치학박사과정을수료했다.금융경제연구소연구위원을거쳐칼폴라니사회경제연구소연구위원장과글로벌정치경제연구소소장을맡고있다.팟캐스트‘홍기빈의이야기로풀어보는거대한전환’을진행했으며,온?오프라인의여러매체에칼럼을기고하고있다.『살림/살이경제학을위하여』,『비그포르스,복지국가와잠정적유토피아』,『소유는춤춘다』등을썼고『도넛경제학』,『21세기기본소득』,『카를마르크스』,『차가운계산기』,『거대한전환』등을우리말로옮겼다.  

서론:적신호

1.구빈원에서데이터베이스로
2.미국심장부의자동화된적격성판정시스템
3.‘천사의도시’의노숙인통합등록시스템
4.앨러게니의알고리즘
5.디지털구빈원

결론:디지털구빈원해체하기
해제:복지국가의두얼굴과‘디지털구빈원’의현실성(홍기빈)

벽돌과모르타르로된구빈원은어떻게디지털구빈원으로진화했을까?
기술의중립성이라는가면을벗기다!

디지털시대가시작된이래공공분야에서의의사결정은획기적인변화를겪고있다.업무처리과정을고도화한다는명목아래공공서비스에자동화기술을적용하고전산화된알고리즘을활용하는등광범위한신기술도입이이뤄지고있다.이런변화를지지하는이들은흔히새로운세대의디지털도구를‘혁신적’이라고극찬한다.빅데이터,알고리즘등의첨단기술도구가형식적인관료주의를대대적으로개혁하고해결책을촉진하며투명성을높여,본질적으로더민주적인정부를만드는데기여한다는것이다.

하지만유뱅크스는가난한노동자계층을표적으로삼고있다는점에주목한다면,새로운데이터분석체제는‘혁명’이라기보다‘진화’에가깝다고통렬히지적한다.그에따르면미국의가난한노동자계층은오래전부터사생활침해적인감시,야밤의불시단속,그리고처벌적인공공정책의대상이되어왔다.19세기에는지방자치단체가설립한구빈원에격리되었고,20세기에는개별사회복지사의조사를받으며마치재판받는죄인처럼다뤄졌다.이책은현대의빈곤관리시스템이세련된첨단기술로무장하고있지만실은19세기부터존재해온처벌적인빈곤관리전략의단순한확대에지나지않는다고이야기한다.

『자동화된불평등』에서가장주목해야할개념은‘디지털구빈원’이다.이는자동화된의사결정시스템,데이터마이닝,위험예측모형등공적서비스분야에침투한첨단기술에대한저자의날카로운문제의식이담긴용어이다.저자버지니아유뱅크스는“기술과불평등을이야기하면서역사와맥락을삭제하는움직임에대한저항”의차원으로‘디지털구빈원’이라는용어를사용한다고힘주어말하며,빈곤을관리하는첨단기술이결코중립적이지않다고일갈한다.

유뱅크스에따르면디지털구빈원은소외집단이공공자원에접근하는것을단념시키고,이들의노동,지출,성생활,육아를감시하며,심지어이런요구에순응하지않는사람들은처벌하고범죄자취급한다.19세기의벽돌과모르타르로만들어진구빈원이그랬던것처럼말이다.저자는유색인,이민자,성적소수자,가난한사람들이공적서비스를받으려할때,어떤식으로첨단기술의표적으로지목되어감시와추적을받는지구체적인사례와함께세밀하게살펴나간다.그럼으로써복지혜택을합리화하고능률화하기위한방법이라고여겨왔던디지털기술의실상은결코소외집단에게호의적이지않다는것을사회구조적인측면에서고발하고있다.


가난한이들은디지털덫에어떻게걸려드는가!
소외집단을표적으로삼는은밀한알고리즘의실체

유뱅크스는디지털구빈원의실체를생생하게그려내기위해인디애나주와로스앤젤레스,피츠버그를직접찾아간다.당사자들과의인터뷰,재판참관,공공기록조사등의방법으로사회복지서비스현장에서일어나고있는일을분석해내는솜씨가집요한탐사저널리즘을방불케한다.

인디애나주에서는2006년복지수급자격판정현대화실험이진행됐다.복지서비스신청을온라인으로받아적격성판정을자동화한다는계획이었는데,3년동안의료보험,푸드스탬프,현금수당신청에대해무려100만건이나‘거부통지’를내보내는사태가발생했다.새로운컴퓨터시스템이신청상의오류를신청자의‘협조불이행’으로해석했기때문이다.자동화시기에메디케이드혜택을상실한소피(sophie)라는소녀는직접휠체어를타고주지사를찾아가사회복지정책실장과면담을한끝에겨우보험혜택을회복할수있었다.시스템상의오류때문에생명유지장치나다름없는공공서비스혜택을상실한소피같은사례는인디애나주에서차고넘친다.유뱅크스는자동화시스템이불러온무서운충격을견뎠지만,끝내목숨을잃게된소피에게이책을헌정한다.

2013년부터시험사용된로스앤젤레스의노숙인통합등록시스템에서도가난한이들은공공정책의수혜자라기보다표적이될뿐이다.이시스템은전산화된알고리즘을활용해등록된노숙인들을적절한주택자원과연결시켜주는서비스다.그런데로스앤젤레스시에서는통합데이터시스템을구축한다며노숙인들의내밀하고개인적인정보를수집하면서도,그대가로거의아무것도제공하지않고있는것이현실이다.
한편2016년8월에개시된앨러게니가정선별도구(AlleghenyFamilyScreeningTool,AFST)라는통계모형의사례를면밀히들여다보면,첨단기술도구가가난한이들의미래에도섣불리손을대고있음을알수있다.AFST는한가정을아동학대조사대상으로선별할지여부를판단하는‘위험예측점수’를계산해내는위험예측모형인데,그산출기준이매우편파적이다.이를테면음식부족,부적절한주거,무면허보육시설,건강관리부족과같은빈곤의지표를아동방치의징후로해석함으로써가난한이들에게‘문제부모’라는꼬리표를붙이는것이다.

유뱅크스는이세가지사례를면밀히분석하며,윤리적·기술적으로복잡한문제를갖는자동화된의사결정이점차빠르게증가하는상황에주목해야한다고강조한다.가난한이들이첨단기술도구의표적이되어정치적권리를잃고,생존자체가불법화되는상황은결국민주주의자체를위협할것이기때문이다.이책은첨단기술을이용한사회적분류에가장열광한곳이심각한불평등으로분열되고전체주의정권이통치하는나라들이라는사실을기억해야한다고꼬집는다.


디지털구빈원,어떻게해체할것인가!
변화는우리안에서시작되어야한다

현재‘디지털구빈원’은소수권력집단의손에행정권한을집중시키고있다.통합데이터시스템과디지털감시인프라는역사상비할데없는수준의통제력을제공하고있다.우리가주목해야할것은새로운기술이제도에통합되면추진력이생긴다는사실이다.또한그기술은원숙해질수록,이의를제기하거나방향을재설정하기가점점더어려워진다.

게다가‘디지털구빈원’은가난에대한문화적이해와정치적대응에관련된문제이기때문에,해결책을논의하는것이어렵고시간이오래걸리는일이기도하다.그렇다고가난을대하는새로운방식이등장하기를기다리는동안,기술발전이속도를늦출것같지는않은상황이다.따라서우리는새로운기술로인한피해를최소화하기위한기술설계원칙을지금당장논의하기시작해야한다.‘디지털구빈원’이그망을점점확장하기전에말이다.이책이다루고있는문제가그만큼시급하다는뜻이다.

그동안소프트웨어,알고리즘등의컴퓨터기술은오랫동안탈문화영역으로여겨져왔다.그운영의세부사항이복잡하기때문에보통사람들이기술의실체를파악하기어렵기도했다.잘못된데이터,소프트웨어등의잠재적영향력이광범위한상황인데도첨단기술이어떻게작동하는지,거기에어떻게대처해야할지제대로된논의조차시작하지못했다.이런점에서『자동화된불평등』은데이터마이닝,정책알고리즘,위험예측모형등의첨단기술에대한신비화를경계하고,이를사회적논쟁의장으로끌어오는데도움을줄것이다.