AI 윤리에 대한 모든 것

AI 윤리에 대한 모든 것

$18.50
Description
세계적인 기술철학자 마크 코켈버그가 안내하는
AI 윤리에 대한 모든 것

AI와 관련한 윤리적 쟁점을 포괄적이고 체계적으로 망라한 최고의 길잡이
MIT 출판부의 ‘필수 지식 시리즈’ 중 하나인 AI Ethics(2020)를 옮긴 『AI 윤리에 대한 모든 것』은 현대판 '프로메테우스의 불'로 일컬어지는 인공지능 기술과 관련한 윤리적 쟁점을 포괄적이고 체계적으로 망라하는 가운데 그에 대한 실천적 대응 방향을 제시한 책이다. 18세기 산업혁명의 뒤를 이어 AI 기술의 눈부신 혁신과 함께 도래한 ‘제2의 기계 시대’는 AI에 대한 깊은 감탄과 실존적 두려움이라는 상반된 감정을 동시에 불러일으키고 있다. 오늘날 AI는 이미 운송, 마케팅, 건강관리, 금융과 보험, 보안, 군사, 과학, 교육, 사무, 엔터테인먼트, 예술, 농업, 제조업 등 많은 영역에서 활용되고 있으며, 심지어 법원의 의사 결정이나 치안에도 사용되고 있다. 바야흐로 기계가 인간을 ‘보완’하는 수준을 넘어 ‘대체’하는 수준으로까지 진화하면서 공상과학소설에서나 묘사된 장면은 이제 현실 세계로 들어오게 되었다.

이러한 전례 없는 기술적 도약은 인류의 자기 이해에 심대한 도전을 제기했을 뿐만 아니라, 여러 가지 윤리적, 사회적, 정치적 이슈를 야기했다. 이를테면 기계가 인간의 지능을 능가할 것이라는 발상이 담긴 ‘초지능’이나 ‘기술적 특이점’ 같은 개념은 인간 예외주의 혹은 인본주의에 대한 우리의 오래된 믿음을 그 뿌리부터 뒤흔들고 있으며, 그로 인해 AI가 인간의 삶을 장악하고 위협할 수 있다는 공포를 불러일으키는가 하면, 자율 주행 자동차나 자율 살상 무기에는 도덕적 책임을 어떻게 부여해야 하는지, 무엇인가 일이 잘못되면 누가 책임져야 하는지 같은 질문을 던지게 한다. 또한 AI로 인한 개인 정보 침해나 전체주의의 위험성, 사회적 불평등이나 편견 강화에 대한 우려 또한 꾸준히 제기되고 있다. 이와 같이 새로운 기술로 인해 의도하지 않은 결과가 초래될 수도 있다는 점에서 AI는 ‘오펜하이머의 원자탄’에 비견되기도 한다.

이 책은 AI를 둘러싼 수많은 과장된 서사를 넘어 AI 윤리와 관련한 거의 모든 문제와 쟁점을 다양한 각도에서 입체적으로 다룬다는 점에서 우리가 직면한 새로운 기술 세상을 한층 폭넓은 시선으로 조망하게 한다. AI 열풍과 함께 AI 윤리를 다룬 책들이 국내에도 이미 여럿 나와 있지만, 특정한 문제만을 다루거나 교양 차원에서 가볍게 읽을 만한 것들이 대부분이다. 주제의 범위나 문제를 다루는 방식에서 상당히 종합적이고 체계적이며 정확하여 다른 책들과 뚜렷이 차별되는 이 책은 인간과 기계의 조화로운 공존을 위한 성찰적 화두를 던져 준다는 점에서 어느 때보다도 지금 여기의 우리에게 긴요하게 다가올 것이다.

현재 오스트리아 빈대학교에서 미디어 기술 철학을 가르치고 있으며, 철학과기술학회Society for Philosophy and Technology 전 대표이기도 한 저자 마크 코켈버그Mark Coeckelbergh는 인공지능을 비롯한 과학기술 관련 담론을 주도적으로 이끌고 있는 벨기에 출신의 세계적인 학자로, 우리 시대 기술철학 분야에서 가장 다재다능하고 깊이가 있으며 독창적인 사상가로 손꼽힌다. 유네스코 세계과학기술윤리위원으로 임명되어 정책 자문에도 참여하고 있는 그는 인간의 본성과 미래에 대한 깊이 있는 철학적 이해를 보여 주는 한편으로, 기술로 인해 야기되는 당면 문제들에 대해 정책적으로 어떻게 대응해야 할지를 제시하는 등 이론가이자 실천가로서의 면모를 이 책에서 두루 유감없이 보여 준다.
저자

마크코켈버그

None

목차

1장거울아거울아
인공지능에대한과장과두려움:거울아,거울아,우리중누가가장똑똑할까?|AI의영향력|윤리적,사회적문제에대한논의를위하여

2장초지능,괴물,인공지능묵시록
초지능과트랜스휴머니즘|프랑켄슈타인의새로운괴물|초월과인공지능묵시록|경쟁서사와과장된이야기를넘어

3장인간에관한모든것
일반인공지능은가능한가?|근대성,(포스트)휴머니즘,포스트현상학

4장단지기계?
AI의도덕적지위|도덕행위주체성|도덕적피동성|더실천적인윤리적문제를향하여

5장기술
인공지능이란무엇인가?|다양한접근방식과하위분야|적용과영향

6장데이터(과학)을잊지말자
기계학습|데이터과학|응용

7장프라이버시와기타유력용의자들
프라이버시와데이터보호|조작,착취,취약한사용자|가짜뉴스,전체주의의위험성,그리고개인관계에미치는영향|안전과보안

8장책임없는기계와설명할수없는결정
우리는도덕적책임을어떻게부여할수있을까?|투명성과설명가능성

9장편향과삶의의미
편향|일의미래와삶의의미

10장정책제안
해야할일과,정책입안자들이답해야할질문들|윤리적원칙과정당성|기술적해결책및방법과운영의문제

11장정책입안자들의과제
선제적윤리|실천지향과상향식|긍정적윤리를향해|간학문적연구와학제초월성|AI겨울의위험과무분별한AI사용의위험성

12장문제는기후야,바보야!
AI윤리는인간중심적이어야할까?|우선순위올바르게정하기|AI,기후변화,인류세|새로운우주열풍과플라톤적유혹|지구로의귀환|지성과지혜를찾아서

감사의말
주석
옮긴이의말
용어해설
참고문헌
추천자료

출판사 서평

AI를둘러싼과장된서사를넘어서

이책은먼저AI의발전과미래를말하는영향력있는서사들을소개하는것으로시작한다.가장대표적인것으로는종국에는우리가기계를지배하는것이아니라기계가우리를지배하게될것이라는초지능에대한이야기다.이것은폭발적인기술발전으로인해세상에도대체무슨일이일어나는지더는이해할수없을정도가됨으로써인간사가종말을고하고말것이라는기술적특이점이라는생각과밀접한관계가있다.따라서오늘날우리가직면한과제는AI를어떻게든우리가원하는대로통제할수있어야한다는것이고,그러기위해서는첨단기술을이용해인간스스로자신을‘신’으로업그레이드해야한다고한편에서는주장한다.저자는이와같은인간과기계의경쟁서사혹은‘프랑켄슈타인콤플렉스’를넘어서기위한해법을서구문화바깥에서찾는다.거기에는종말에관한사상도없고,인간은근본적으로기계보다우월하며물질성을초월하려는존재임을끊임없이옹호하는플라톤적욕망도없으며,기계에대해보다우호적인태도를발견할수있기때문이다.

이어서저자는AI를둘러싼과장된이야기를넘어서고AI에대한윤리적논의를단순히미래에대한꿈혹은악몽으로제한하지않기위해기계에서인간같은지능이가능한지,인간과기계의차이점은무엇인지,AI는단지기계일뿐인지아니면어떤형태의도덕적고려를받을자격이있는지등을하나하나검토한다.

그런뒤저자는AI에관한철학적논의나역사적맥락화를뒤로하고AI기술이오늘날우리삶에서실제로어떻게작동하고있는지를설명하기위해AI의역사와함께기호적AI나신경망인공지능같은기술을소개하고기계학습,데이터과학을자세히들여다본다.그리고프라이버시,투명성,설명가능성,편향,공정성,불평등등AI윤리에서다루어지는쟁점들을개괄한다음이러한이슈들에정책적으로어떻게접근할지를검토한다.마지막으로기후변화나에너지문제같은전지구적현안을AI문제와연관지어논의함으로써지속가능한삶을구축하는방법에대해더깊이돌아보게한다.옮긴이는이렇게말한다.

“AI를그저막연하게두려워하거나,밑도끝도없이무작정신뢰하거나,혹은우리에게아무선택권도없다면서단지AI의혜택과해악을감수할뿐이라고수동적으로물러나있지만말고,이책을통해서우리가AI에대해서그리고AI와함께어떤일을할수있고또해야하는지고민할수있는계기가마련되었으면한다.”

책속에서

-이책은AI의미래에대한영향력있는서사와인간의본성과미래에관한철학적질문에서부터책임과편견에대한윤리적우려,그리고기술로인해제기되는현실세계의실천적인문제를정책을통해처리하는방법에이르기까지,폭넓게이해된AI의윤리적문제에대한좋은개괄을가능한한너무늦지않게독자에게제공하는것을목표로하고있다.(21~22쪽)

-AI에대한서구의사고는이러한근대적공포와매혹,그리고그고대의뿌리라는감옥에갇혀있을운명인가?우리는과장된이야기를넘어설수있을까,아니면논의의초점이계속초지능에맞춰질것인가?나는우리에게탈출구가있다고생각한다.첫째,우리는서구문화바깥에서기술에관한비프랑켄슈타인적서사와비플라톤적사고방식을찾아볼수있다.(41쪽)

-대륙철학자들은대개인간과마음은기계와근본적으로다르다는점을강조하며,형식적인기술이나과학적설명으로환원될수없고또한환원되어서도안되는자기의식적인인간경험과인간실존에초점을맞춘다.그러나대개분석철학전통에속하는다른철학자들은AI연구자들의인간관을지지한다.이들은인간의뇌와마음은컴퓨터모델과실제로같으며그렇게작동한다고생각한다.(48쪽)

-원칙적으로인간과기계사이에는많은유사성이있으며이론적으로일반AI가가능하다고믿는과학자와철학자조차도보스트롬의초지능에대한비전이나인간-같은AI가머지않았다는유사한생각을거부하는경우가많다는점에다시한번주목하자.(50쪽)

-AI에대한윤리적논의를간접적으로형성하는세가지분열에대해간략히살펴보자.첫번째는근대초기에빚어진계몽주의와낭만주의사이의분열이다.다른둘은비교적최근에전개된일이다.하나는근대성의긴장속에자리하고있는휴머니즘과트랜스휴머니즘사이의분열이고,다른하나는근대성을넘어서려는휴머니즘과포스트휴머니즘사이의분열이다.(52쪽)

-포스트휴머니스트들은근대존재론과윤리학에서인간의중심성에의문을제기한다.이들에따르면비인간도중요하며,우리는인간과비인간사이의경계를넘는것을두려워해서는안된다.이는인간과기계의경쟁서사를넘어서게한다는점에서흥미로운탐구의방향이다.(56쪽)

-이러한포스트휴머니즘에힘입어AI는인간을모방하거나재구성해야한다는부담에서벗어나여러다른비인간종류의존재,지능,창의성등을탐색할수있을것으로보인다.AI가꼭인간의모습으로만들어질필요는없다.여기서진보란인간을넘어비인간적인존재에게자신을개방하고그것으로부터배우는것을의미한다.(57~58쪽)

-AI에대해생각하는것은AI에관해서만알려주는것이아니라,우리자신에대해서도무엇인가를알려준다.우리가어떻게생각하고,실제로어떻게비인간과관계맺고있으며또관계맺어야하는지에관해서말이다.(중략)AI에관한질문은인간지식,인간사회,인간도덕의본성에관한비판적질문의심연을열어준다.(77쪽)

-그자체로존재하는AI는없다는말의또다른의미는기술이항상사회적이며인간적이라는것이다.AI는기술에관한것일뿐만아니라,인간이그것으로무엇을하는지,어떻게그것을사용하는지,어떻게그것을지각하고경험하는지,어떻게그것을더넓은사회적·기술적환경에내장시키는지에관한것이다.이는인간의결정에관한것이기도한윤리학에중요하며,윤리학이역사적·사회적·문화적관점도포함할필요가있음을의미한다.(96쪽)

-여기서위험은오늘날의민주주의사회에서도AI가새로운형태의조작,감시,전체주의로이어질수있으며,반드시권위주의정치의형태가아니더라도더은밀하되대단히효과적인방식으로그렇게될수있다는것이다.(120쪽)

-AI에특화된또다른쟁점은편향문제다.AI가결정을내리거나,아니더정확하게는결정을추천할때편향이발생할수있다.그결정이특정개인이나집단에부당하거나불공정할수있다는것이다.(149쪽)

-한계를설정하는부정적윤리말고도좋은삶과좋은사회의비전을발전시키는긍정적윤리를명시적이고정교하게만들어야할필요가있다.(204쪽)