인공지능은 왜 정치적일 수밖에 없는가 : AI의 정치학과 자유, 평등, 정의, 민주주의, 권력, 동물과 환경

마크코켈버그

버밍엄대학교(UniversityofBirmingham)에서박사학위를받은벨기에출신의기술철학자이다.2007년에는네덜란드생명윤리학회상(PrizeoftheDutchSocietyforBioethics)을받았고,2014년에는기술철학석사프로그램최우수강사(BestLecturerofthePhilosophyofTechnologyMasterprogramme)로임명되었다.2017년4월에는벨기에기술선구자50인(Top50Belgiantech-pioneers)중한명으로임명되고,최근에는유네스코(UNESCO)세계과학기술윤리위원회(WorldCommissionontheEthicsofScientificKnowledgeandTechnology:COMEST)에임명되는등기술철학자로서전세계적으로명성을쌓고있다.그는기술철학분야,특히로봇공학과정보통신기술(ICT)의윤리에관해수많은논문과책을집필하였다.2015년부터빈대학교(UniversityofVienna)의미디어와기술철학교수로재직중이다.

저서
『해방과열정』(LiberationandPassion)(2002)
『자율성의형이상학』(TheMetaphysicsofAutonomy)(2004)
『상상력과원리』(ImaginationandPrinciples)(2007)
『성장하는도덕적관계』(GrowingMoralRelations)(2012)
『인간존재@위험』(HumanBeing@Risk)(2013)
『환경기술(EnvironmentalSkill』(2015)
『돈기계』(MoneyMachines)(2015)
『뉴로맨틱사이보그』(NewRomanticCyborgs)(2017)
『말과사물사용하기』(UsingWordsandThings)(2017)
『기계로넘어서다』(MovedbyMachines)(2019)
『기술철학입문』(IntroductiontoPhilosophyofTechnology)(2019)
『AI윤리학』(AIEthics)(2020)
『서사와기술윤리』(NarrativeandTechnologyEthics)(2020)

서론

1장자유,인공지능에의한조작과로봇노예
자유와현대판노예에대한역사적선언문
인공지능,감시,법집행,소극적자유의박탈
인공지능과인간행동의조종,인간의자율성기만하기
자기실현과해방에대한위협,인공지능을이용한착취와로봇노예의문제
누가인공지능에관한결정을내리는가?참여로서의자유,인공지능선거,표현의자유
자유와또다른가치들에대한정치적관념들

2장평등과정의,인공지능에의한편향과차별
평등과정의에관한문제제기,편향과차별에대해
편향은왜문제가되는가?(1)영어권자유주의정치철학에서의평등과정의
편향은왜문제가되는가?(2)보편주의적자유주의사상에비판적인,계급과정체성이론
정치적으로중립적이지않은인공지능

3장민주주의,반향실과기계전체주의
민주주의에대한위협으로서의인공지능
민주주의,지식,숙의정치를위협하는인공지능
플라톤에서시작하기,민주주의와지식과전문성
다수결원칙과대의제를넘어서
숙의적？참여적민주주의와경합적？급진적민주주의
정보거품,반향실,그리고포퓰리즘
더많은문제들,조종과대체와책임그리고권력
인공지능과전체주의의근원,아렌트로부터얻은교훈
인공지능과전체주의
전체주의의기원과악의평범성에관한아렌트의연구

4장권력,데이터에의한감시와자기규율
정치철학의주제로서의권력
권력과인공지능,일반적인개념적틀
마르크스주의,기술자본주의를위한도구로서의인공지능
푸코,인공지능은어떻게인간을종속시키고주체로만드는가?
규율과감시
지식과권력,주체와자아를형성하고만든다는것
기술수행과권력,그리고인공지능
결론과남은질문

5장비인간은어떻게되는가?환경정치와포스트휴머니즘
인공지능과로봇,인간중심정치를넘어서
인간만이정치적으로중요한것은아니다,동물과자연의정치적지위
인공지능과로봇정치학에대한함의
비인간과자연환경에인공지능이미치는영향의정치적함의
인공지능의정치적지위란?

6장정치적기술
이책의역할과결론
앞으로해야할일,정치적기술에관한문제

감사의말
참고문헌
찾아보기

이책은자유,인종차별,노예상태,정의,불평등,민주주의,권력,기후변화,동물권등오늘날정치적으로쟁점이되는가장중요한문제를인공지능과로봇에제기되는문제와관련지어다루면서그위험성과가능성을제기한다.

인공지능은인간의행동을조종하고자율성을기만하면서개인의자유를침범한다.
자유에대한정치철학의오랜논의(소극적자유와적극적자유)와관련하여,인공지능이소비자의선택을유도하는부드러운개입을의미하는자유주의적넛지가개인의자유를어떻게박탈하는지문제삼는다.의사결정까지인공지능이대신하는상황이장차어떤결과를가져올지그가능성도살펴본다.인간의노동을대체하는로봇의사용과그위험성을이야기한다.표현의자유와인공지능에의한미디어의내용조정문제도다룬다.

인공지능은하나부터열까지정치적이며,정치적으로중립적이지않다.
평등과정의측면에서인공지능과데이터과학,로봇의정치적영향력과자동화및디지털화가불러일으킬수있는인공지능을통한불평등과불공정문제,성차별,인종차별등편향과차별을롤스의긍정적차별,마르크스주의,자본주의,정체성정치이론,반인종차별주의,반식민주의사상등과연관지어설명한다.

인공지능은민주주의를위협한다.
“우리는이미인공지능을이용하여우리를조종하는거대기업에의해지배되고있다고할수있는데,이런상황은주보프가지적했듯이민주적통제를완전히벗어나있다.이미우리가구글,아마존,그리고또다른거대기업의지배를받고있다면누가지배해야하는지는이론적인질문일뿐이다.이점에서인공지능에는본질적으로반민주적인것이있다.”민주주의와관련하여플라톤식기술관료주의개념,듀이와하버마스의참여및숙의민주주의의이상,무페와랑시에르의경합적·급진적민주주의를살펴보고소셜미디어와인공지능이결합하여만들어낸정보거품과반향실,인공지능을이용한포퓰리즘등의문제들은다룬다.기술로생기는전체주의의문제,아렌트(2006)가이른바‘악의평범성’이라불렀던개념을가져와인공지능이기업차원의조작과관료주의적인사관리를위한도구로이용될때의위험성을지적하기도한다.

규율과감시,지식,권력관계에관한푸코이론을가져와,인공지능과관련지어그영향을살펴본다.
권력이사회곳곳에퍼져있다는푸코의권력개념을소개하고권력과인공지능의관계에대해생각할수있는개념적틀을제공한다.마르크스주의와비판이론,푸코와버틀러,수행중심적접근방식이라는세가지권력이론을통해인공지능이유도하는조작등을살펴보고자본주의맥락에서사람들을평가·분류·감시하는데이터과학을조명한다.

인간만이정치적으로중요한것은아니다.
비인간을포함하는자유,정의,민주주의같은개념에대해다시생각해야한다는주장과함께,비인간인동물과환경에미치는인공지능과동물,환경,인공지능의정치적지위에관해논하고,동물권과환경이론,인공지능과로봇윤리,전통적인간중심의정치적관점에문제를제기하는포스트휴머니즘,인공적인초지능자들이인간을대체할거라고주장하는트랜스휴머니즘이제기하는주장들을연관지어살펴본다.

추천사

“인공지능은근본적으로정치적이며이책이그이유를이해하기쉽게설명한다.또한이책은불평등,민주주의,권력,포스트휴머니즘에대한논의를아우르면서사회이론과정치이론이인공지능을이해하는데중요하다는점을보여준다.”
-『AI지도책AtlasofAI』의저자,케이트크로포드KateCrawford

“인공지능윤리와정치철학은수많은동일한문제에관심을기울이고있지만인공지능의정치학을이해하는데필요한정치철학의풍부한역사는거의찾아보기힘들다.그런데반갑게도코켈버그가이중요한책에정치철학의풍부한자원을활용하여인공지능및로봇정치학을이야기한다.”
-헨릭스카우그새트라HenrikSkaugSætra,ØstfoldUniversityCollege

"코켈버그는디지털공학이발전함에따라수천년간이어져온철학적사고의가치가자동으로쓸모없게되지않을것임을실제로분명히보여주고있다.“
-스콧맥레미ScottMcLemee,InsideHigherEd