AI, 헌법을 만나다 (초연결 인공지능 시대를 사는 우리의 자유와 권리에 관한 이야기)

AI, 헌법을 만나다 (초연결 인공지능 시대를 사는 우리의 자유와 권리에 관한 이야기)

$30.00
Description
어느 날 아침, 당신은 채용 탈락 통보를 받는다. 이유는 없다. 담당자도 없다. 알고리즘이 결정했다고 한다. 항의할 곳도, 설명을 들을 창구도 없다. 그저 화면에 뜬 한 줄의 문장이 당신의 기회를 닫아버린다. 낯선 이야기가 아니다. 지금 이 순간에도 수많은 사람들이 이런 경험을 하고 있다.

AI는 조용히, 그러나 놀랍도록 빠르게 우리 삶의 중심으로 들어왔다. 취업과 대출 심사, 의료 진단과 보험 가입, 행정 처분과 복지 수급 결정까지, 알고리즘이 사람을 대신해 판단하거나 그 판단에 깊숙이 개입하는 시대가 되었다. 스마트폰을 켜는 순간부터 잠자리에 들기까지, 우리가 무엇을 검색하고, 어디를 다니고, 누구와 연락하는지가 쉼 없이 수집되고 분석된다. 누군가의 얼굴과 목소리가 허락도 없이 복제되어 가짜 영상이 만들어지고, 그것이 한 사람의 삶을 완전히 무너뜨리기도 한다.

그런데 우리는 충분히 묻지 않았다. 알고리즘의 결정에 이의를 제기할 수 있는가. 나의 데이터가 어디에, 어떻게 쓰이는지 알 권리는 있는가. 나도 모르는 사이 만들어진 딥페이크 영상의 피해는 누가 책임지는가. 자동화된 행정 시스템이 내린 불합리한 결정에 맞서려면 어디에 호소해야 하는가.

이 책은 그 물음들을 헌법의 언어로 풀어낸다.
저자는 AI를 두려움이나 비난의 대상으로 보지 않는다. 다만 질문의 방향을 바꾼다. “AI가 왜 위험한가.”가 아니라, “AI가 우리의 자유와 권리에 어떤 영향을 미치고 있는가.”를 묻는다. 문제의 본질은 기술 그 자체에 있지 않다. 기술이 사람보다 앞서 달려가는 동안, 우리 사회가 그것을 뒷받침할 법과 제도를 아직 충분히 갖추지 못했다는 데 있다. 헌법이 오랫동안 지켜온 권리들, 즉 프라이버시, 평등, 노동, 교육, 환경, 그리고 절차적 권리들이 AI 시대에 어떻게 위협받고 있는지를 이 책은 시민의 일상과 맞닿은 구체적인 사례를 통해 차분히 살펴본다.

어렵고 딱딱한 법률 이야기가 아니다. 헌법재판소와 대법원이 우리의 자유와 권리를 위해 어떤 판단을 내려왔는지, 유럽연합은 왜 세계 최초로 AI 규제법을 만들었는지, 우리나라의 「인공지능 기본법」은 어떤 내용을 담고 있는지를 전문 용어 없이, 우리 모두의 이야기로 풀어낸다. 국내외 실제 사례들을 따라가다 보면, 낯설게만 느껴졌던 헌법의 조문들이 나의 일상을 지키는 살아 있는 언어로 다가온다.

이 책이 제시하는 해법은 단순한 AI 규제에 머물지 않는다. AI 시대에 맞는 기본권 목록을 새롭게 정립하고, 국가와 기업과 시민이 함께 그것을 바탕으로 대화할 수 있는 구조를 만들어 가는 일이 필요하다고 저자는 말한다. 기술의 속도를 따라잡는 것이 아니라, 기술이 사람의 존엄을 지키는 방향으로 나아가도록 우리 사회의 틀을 함께 다시 그려가자는 것이다.

AI를 안전하게 만드는 것만으로는 부족하다. AI가 사람의 존엄을 지키고, 나아가 사람을 진정으로 이롭게 하는 사회를 어떻게 만들 것인가. 그 답을 찾는 여정에, 이 책이 작은 나침반이 되기를 바란다.
저자

이윤호

과학기술정보통신부소속공무원으로,현재전북특별자치도지역의전파·방송통신행정전반을관장하는전주전파관리소장으로재직하고있다.방송·ICT·전파분야정책및행정의최일선에서오랜경험을쌓았다.
성균관대학교에서박사학위(헌법전공)를취득하였으며,숙명여자대학교·대진대학교(대학원)에서헌법을,중앙대학교(대학원)에서언론법을강의하며이론과정책의접점을꾸준히탐구해왔다.공직에서직접입안하고집행해온방송·정보통신정책경험에헌법적통찰을더해,급변하는기술환경속에서법치주의와기본권이나아가야할방향을심도있게연구하고있다.저서로는『헌법과방송규제』가있으며,「방송의개념및공익적기능에관한헌법적고찰」을비롯한방송·ICT법학분야의다수논문을발표하였다.
이책『AI,헌법을만나다』는인공지능과정보통신기술이제기하는법적쟁점들을헌법의시각으로풀어낸결과물로,기술과인간,그리고법의조화로운공존을모색하는저자의오랜문제의식이담겨있다.

목차

목차

들어가며-오래된나침반과새로운권력의만남

1.하나의의문:기술은과연가치중립적일까?
2.쏟아지는담론들,그리고건강한사회의증명
3.새로운권력앞에서,헌법이라는나침반
4.헌법의경이로운포용성
5.모두를위한쉽고재미있는헌법이야기

제1장AI시대,우리는어디에서있는가?

제1절기술의무한확장,그리고편리함에둘러싸인일상
1.‘도구’의시대에서‘환경’의시대로
2.새로운환경에서헌법은우리를어떻게보호할수있는가?
3.헌법이새롭게바라봐야할대상-거대기술기업

제2절초연결시대,편리함뒤에는무엇이숨어있나?
1.24시간연결된시대,무엇이문제인가?
2.편리함의대가로우리는무엇을내어주고있나?
3.우리는모두유리상자안에살고있다
4.연결되지않을자유,우리에게허락되어있나?

제3절데이터가된나,나는이제상품이되었다
1.AI는나를나보다더잘알고있다
2.우리는고객이아니라상품이되었다
3.알고리즘이규정한나,그것이진짜나인가?
4.‘동의합니다.’버튼,우리는정말동의한것인가?
5.데이터의주인은누구여야하는가?

제4절알고리즘이당신의인생을결정한다면
1.조언자에서결정권자로
2.왜그런결정을내렸는지,물어볼수조차없다
3.계산은판단이아니다
4.잘못되면누가책임지는가?

제5절헌법과기본권이란무엇인가?
1.헌법은왜존재하는가?
2.기본권이란무엇인가?
3.기본권은국가에게만적용되는가?
4.헌법은기술의적이아니라나침반이다

제2장AI는어떻게우리의권리를위협하는가?

제1절AI시대,기본권은어떻게위협받고있는가?

제2절인간의존엄과가치①(헌법제10조)
1.데이터경제와인간의도구화
2.당신의미래,알고리즘이판단한다
3.인간과기계,그경계는어디까지인가?
4.헌법제10조,인간을지키는근본원칙

제3절인간의존엄과가치②(생명권)
1.죽음의알고리즘,누구를살리고누구를죽일것인가?
2.생명권의절대성과인간의존엄
3.인간의생명,AI에게맡길수있는가?

제4절평등권(헌법제11조)
1.편견을학습한기계
2.디지털계급(DigitalDivide)의고착화
3.공정한알고리즘은가능한가?

제5절자유권①(헌법제16조·제17조·제19조)
1.내집안방이생중계된다(주거의자유,사생활의비밀과자유)
2.나의데이터가나를공격하다
3.알고리즘에의한마음의조종
4.정신의성역(Sanctuary)을지켜라

제6절자유권②(헌법제21조·제22조)
1.챗봇이쏟아낸혐오성표현들
2.조작된진실,딥페이크의공습
3.거짓말하는인공지능,환각(Hallucination)의습격
4.도둑맞은창작과생성형AI

제7절사회권:노동,교육,환경의위기(헌법제31조·제32조·제33조·제35조)
1.노동의종말과근로의권리위협
2.‘알고리즘사장님(Algo-Boss)’의지시
3.성적표대신운명을받다
4.인공지능과환경권
5.AI시대,사회권의과제

제8절적법절차와재판청구권(헌법제12조·제27조)
1.설명되지않는처분:이유는묻지마세요
2.인간법관에의한재판을받을권리의위기
3.결과의정확성보다과정의투명성을향하여

제9절AI시대,기본권의위기와헌법이나아가야할방향

제3장인간중심의AI를위해주요국은어떤노력을했나?

제1절미국
1.인공지능권리장전청사진(BlueprintforanAIBillofRights)
2.바이든행정명령제14110호의실행
3.트럼프행정부의AI정책전환

제2절유럽연합(EU):세계최초의포괄적AI규제법
1.왜이법을만들었을까요?
2.누가이법을지켜야할까요?
3.핵심내용:위험기반접근(Risk-BasedApproach)
4.법의실효성확보와단계적시행
5.EUAIACT의한계와시사점

제3절우리나라:「인공지능발전과신뢰기반조성등에관한기본법」의제정·시행
1.「인공지능기본법」의제정
2.헌법의시선으로바라본성과들
3.헌법적가치의온전한실현을위한과제들

제4절주요국AI법제의성과와한계,그리고헌법적대안
1.시각의문제:AI를‘제품’이아닌‘인권’의문제로바라보아야합니다
2.절차의문제:블랙박스를열열쇠를만들어야합니다
3.책임의문제:AI뒤에숨은인간들에게책임을물어야합니다
4.더나은법을향하여:비관을넘어진화로

제4장AI시대,기본권보호를위한헌법적해법

제1절AI권력을헌법의틀안으로
1.기본권의탄생,그리고진화-국가권력에서시장권력으로
2.21세기의새로운리바이어던-빅테크,국경없는권력의등장
3.헌법은사기업의문앞에서멈추지않는다
4.우리법원의입장-대법원과헌법재판소의시각
5.국가는어떻게해야하는가?
6.강한국가만이자유로운시민을만든다

제2절AI시대,기본권은어떻게확장되는가?
1.기본권은살아있는권리입니다
2.헌법해석을통해도출된기본권들
3.기본권확장은어떤방식으로이루어지는가?
4.AI는기존기본권으로충분히통제할수있는가?
5.기본권확장의한계-사법기관의역할과그경계

제3절AI시대,기본권의신설
1.기본권신설의필요성-현행헌법의한계와주권자의결단
2.제기되는신설기본권논의-AI시대의새로운기본권목록
3.신설기본권에대한냉철한검토-헌법화의타당성과대안
4.AI시대를주도할디지털헌법을향하여

제4절AI시대,기본권보호를위한제언
1.논의의성과와한계
2.세가지접근의상호보완적관계
3.입법·행정·사법의역할분담
4.지금우리가해야할일
5.헌법은기술보다느리지않다

제5장AI,더나은삶과더넓은권리를위한가능성

제1절과학기술과경제질서에관한국가의헌법적책무
1.과학기술혁신의의무-헌법제127조
2.과학적혜택을누릴권리-AI는모두를위한것이어야한다
3.창의적경제활동의보장-헌법제119조

제2절AI,사회적약자의날개가되다
1.AI가여는새로운감각의문
2.돌봄로봇과노인의인간다운생활
3.교육격차해소와교육받을권리

제3절AI,더안전하고공정한삶을만들다
1.의료AI와건강권의혁신
2.재난예측AI와국가의재해예방의무
3.행정의효율성과국민의편익
4.치안과범죄예방

제4절데이터경제와지식재산의보호
1.데이터의공정한이용과마이데이터(MyData)의확산
2.AI학습데이터와저작권보호
3.데이터독점과플랫폼규제

제5절헌법이라는두날개,규제와진흥의조화
1.인공지능기본법의탄생
2.규제와진흥은하나의목표를향한다
3.기계가인간을섬기게하라-휴먼센트릭AI의헌법적완성
4.미래세대를위한제언-세계의표준(GlobalStandard)을향하여

제6장AI시대,헌법의한계와우리의과제

제1절규제지체의구조적한계
1.달팽이와치타의경주
2.딥페이크다음은무엇인가?

제2절이해의장벽-설명할수없는것을심판할수있는가?
1.투명해질수없는블랙박스
2.이유를모르면반박할수없다

제3절책임의공백과민주주의의위기
1.법은사고를막는브레이크가아니라생명을구하는안전벨트
2.헌법이그어야할마지노선-타협할수없는가치
3.민주주의를위협하는알고리즘권력

제4절기술발전의최종목적지-속도보다방향이중요하다
1.우리는왜이토록숨가쁘게달리는가?
2.헌법제10조의나침반-인간을행복하게하지못하면실패한기술이다
3.살아숨쉬는헌법-1987년의문서가현재를말하다

나가며-기술은도구이고,방향을정하는것은인간이다

출판사 서평

“동의합니다.”버튼을누른적있는가.앱을설치할때마다마주치는그버튼을,우리는대부분아무생각없이누른다.그순간나의검색어,위치,소비패턴,심지어감정상태까지어딘가로흘러들어간다.이책은그버튼하나에서시작되는이야기다.
방송·ICT분야정책·행정의현장과헌법학연구를두루거친저자는,AI가우리의기본권에어떤영향을미치는지를추상적이론이아닌살아있는사례들로풀어낸다.MS의AI챗봇‘테이(Tay)’가출시16시간만에혐오발언을쏟아내다서비스를중단한사건,아마존이10년간의채용데이터를학습시킨AI가여성지원자를구조적으로낮게평가했던사건,2020년코로나19팬데믹으로시험이취소된영국에서알고리즘이학교의우편번호,즉빈부격차를근거로학생들의대학진학을결정했던사건까지.이사례들은모두기술의실패가아니라기본권의위기였다.
이책은특히우리가미처인식하지못했던영역에서조용히진행되는권리의위협에주목한다.얼굴도모르는‘알고리즘사장님’에게이의를제기할수도,설명을요구할수도없는배달라이더의현실,코드뒤에숨어버린플랫폼기업앞에서단체교섭권이사실상무력화된플랫폼노동자의처지,자율주행차가탑승자와보행자중누구를살릴지를코드로설계해야하는윤리적딜레마까지.저자는이모든것이결국헌법제10조의인간존엄,제11조의평등권,제32조의근로의권리가AI알고리즘과충돌하는현장임을차분하고명쾌하게짚는다.
그렇다고이책이AI를적으로그리지는않는다.시각장애인의눈이되어주는AI,독거노인의외로운밤을지키는돌봄로봇,부모의소득과거주지역과관계없이모든아이에게배움의문을여는AI튜터.저자는헌법제127조가국가에과학기술진흥을의무로부과하고있음을상기시키며,AI를규제하는것과AI를진흥하는것이대립관계가아님을설득력있게논증한다.인간의존엄을지키면서기술의혜택을최대한누릴수있도록하는것,그것이헌법이국가에동시에요청하는이중의과제다.
미국의AI권리장전청사진과바이든·트럼프두행정부의정반대AI정책,세계최초의포괄적AI규제법인EUAI법,그리고2024년12월제정된우리나라의AI기본법까지,주요국의입법동향을헌법적시각으로비교분석한대목은이책이단순한교양서를넘어서는지점이다.
법은완벽하지않다.딥페이크를규제하는법이만들어지면기술은이미딥보이스로진화해있다.저자는이구조적한계를솔직하게인정하면서도,포기하지않는이유를안전벨트의비유로설명한다.안전벨트가교통사고를막아주지는못하지만,사람이차밖으로튕겨나가는최악의결과만큼은막아준다.헌법도마찬가지다.기술의모든오류를차단할수는없지만,그오류가인간의존엄을파괴하는데까지이르지않도록하는최소한의기준이된다.
AI를두려워하는사람에게도,AI를낙관하는사람에게도이책은같은질문을건넨다.“이AI는나의헌법적권리를존중하고있는가.”이질문하나를품고세상을바라볼수있다면,우리는이미기술에끌려다니는수동적존재가아니라기술의방향을스스로결정하는주권자로선것이다.