기술은중립적이지않다
알고리즘의문턱을넘어,다른세계를설계하는법
우리는매일수많은알고리즘을통과한다.무엇을볼지추천받고,어떤광고를만날지결정되며,금융과행정서비스의대상이되고,때로는복지와지원의자격을판정받는다.이러한과정은빠르고효율적이며객관적인것으로설명되지만,알고리즘의판단은결코아무런배경없이만들어지지않는다.그안에는특정한역사와제도,데이터와노동,자본의이해관계가얽혀있다.
《AI나라의홍콩할머니》는인공지능과알고리즘을단순한기술의문제가아니라‘사회적선별과배제의문제’로바라본다.알고리즘은코드만으로구성된것이아니다.그것을개발하고운영하는기업,데이터를생산하고가공하는노동,막대한전력을소비하는인프라,자동화의이름아래가려진사람들의손이합쳐져움직인다.따라서AI를이해한다는것은기술의성능만살피는일이아니라,그기술이어떤사회적조건속에서만들어지고누구의삶을기준으로운영하는지묻는일이다.
책의1부‘거대한나라의문턱에서’는AI생태계의거시적구조를살핀다.알고리즘뒤에숨은산업과인프라를추적하고,숫자와데이터가어디에서왔는지,과거의차별과불평등이어떻게데이터의형태로남아있는지를들여다본다.객관적사실처럼보이는숫자역시특정한방식으로세계를분류한결과일수있으며,기계는과거의편견을제거하기보다오히려더정교하게재생산할수있다.또한자동화뒤에가려진보이지않는노동과클라우드산업의환경비용을통해,편리함이결코공짜로주어지지않는다는사실을보여준다.
2부‘기묘한나라의선별자들’에서는알고리즘이국가와제도의문턱에서어떤역할을하는지살핀다.AI규제와감시의주체는누구인지,복지창구가알고리즘으로대체될때시민은누구에게설명을요구할수있는지,도움을요청하는행위가어떻게위험신호로변환되는지를묻는다.노동자는자신의일상을기록하는순간데이터가되고,그데이터는다시노동자를평가하고통제하는기준이된다.국가가사람을이해하기위해만든범주역시때로는범주에들어맞지않는삶을지워버린다.제도의언어로설명되지않는사람들은도움을받지못하는데서그치지않고,존재자체가읽히지않는사람이될수있다.
3부‘아주작은나라의비밀번호’는거대한시스템이개인의삶에닿는구체적인장면으로내려온다.클라이언트의데이터는어디로이동하는가.왜어떤설계는처음부터특정한사람들을고려하지않는가.시스템에협조하지않거나데이터제공을거부할권리는보장되는가.이러한질문은추상적인기술윤리의문제가아니라,우리의안전과존엄,사생활과자기결정권에관한현실적인문제다.
그러나《AI나라의홍콩할머니》는감시와배제의현실을고발하는데서멈추지않는다.책은보이지않던현실을새롭게기록하는대항데이터,기존의분류체계에이의를제기하는사람들,당사자의요구에서출발해기술과제도를다시상상하는실천을함께살핀다.이를통해기술은이미주어진운명이아니라,사회적선택에따라다시설계할수있는것임을강조한다.이책이던지는가장중요한질문은‘AI가인간을대신할수있는가’가아니라,
우리는어떤사람을정상으로설정하고,
누구의삶을예외로만들며,
어떤기준을미래의시스템에입력할것인가!
《AI나라의홍콩할머니》는AI를둘러싼논의를전문가와기업의영역에서시민의삶으로가져온다.알고리즘이누구를분류하고,어떤사람을문안으로들이며,누구를문밖에남겨두는지구체적으로보여준다.동시에기술을무조건믿거나두려워하는대신,기술이만든문턱을발견하고그문을다시설계할수있는가능성에대해이야기한다.
알고리즘의문턱앞에서우리에게필요한것은순응이아니라질문이다.그리고질문을넘어,더많은사람이들어갈수있는문을함께만드는일이다.문은이미우리앞에있다.이제그문을어떻게열것인지는우리의선택에달려있다.
