블랙박스 안의 권력

김윤명

디지털정책연구소(DPI)소장이다.남도의니르바나,땅끝해남에서태어났다.광주인성고등학교와전남대학교문헌정보학과를졸업하고,경희대학교에서지식재산법을전공해박사학위를받았다.현재는세종사이버대학교에서정보보호학을공부하고있다.네이버정책수석,소프트웨어정책연구소(SPRi)에서소프트웨어와인공지능법제연구를맡았으며,국회에서는보좌관으로입법과정책을다루었다.이재명경기도지사캠프와인수위인새로운경기위원회에서,그리고이재명대통령후보(20대,21대)캠프에서활동했다.대통령소속국가지식재산위원회AI-IP특위에서AI시대에변화하는지식재산의지형을함께그렸다.경희대학교법무대학원에서‘인공지능법’을,전남대학교데이터사이언스대학원‘데이터사이언스법과윤리’를강의하며다음세대를준비하고있다.
사유하고질문하고기록하는일은일상이다.????블랙박스를열기위한인공지능법????은교육부우수학술도서로,????게임법????,????게임서비스와법????,????인터넷서비스와저작권법????은문화체육관광부세종도서(우수학술도서)로선정되었다.
시를짓고사진을찍는다.두아이들의강하중학교에서발간한시집????나에겐비도맛있다????에몇편의시를담았다.아내와아이들,그리고시고르자브종리카와밴,동네골목,바람과하늘,꽃과나무등세상의모든숨결이그의렌즈에깃든다.사람들의짠하고도아심찬한풍경을기록한다.시집을내고,사진겔러리를여는것이꿈이기도하다.
집안에‘도서관N’을세웠다.정사서1급자격증을가지고있지만,도서관장은아내다.‘N’은네이버와한게임의합병법인NHN(NextHumanNetwork)에서따온‘Next’를의미한다.“도서관엔(N)뭐가있을까?도서관엔(N)길이있지!도서관다음엔(N)뭘만들지?”이런장난스런물음속에세상을향한다음걸음을품는다.언젠가모두를위한더큰도서관N을짓겠다는꿈을품고있다.
그는다시길을내려하고있다.
AI를비롯한디지털법제와정책을연구하기위해양평에‘디지털정책연구소(DigitalPolicyInstitute)’를세웠다.그와의인연은digitallaw@naver.com을통해이어질것이다.

블랙박스안의권력에대한논의

01알고리즘편향의구조적원인
02블랙박스문제와설명가능성의한계
03알고리즘의사회적결정권탈취
04추천알고리즘의확증편향강화
05알고리즘은감시를일상화한다
06알고리즘차별의현실
07알고리즘책임의사각지대
08AI윤리와투명성의제도화과제
09정치적조작과알고리즘권력
10공공알고리즘과민주적통제의필요성

보이지않는권력,알고리즘의통치를해부하다
인공지능과알고리즘은더이상중립적도구가아니다.채용,대출,판결,뉴스배열까지인간의결정을대신하며새로운형태의권력으로작동하고있다.《블랙박스안의권력》은이러한알고리즘권력이어떻게편향을내재화하고,책임을회피하며,민주주의의토대를흔드는지를추적한다.딥러닝모델의불투명성,설명불가능한결정구조,데이터편향과사회적차별,감시의일상화,정치적조작의문제를10장에걸쳐구체적사례와제도분석으로다룬다.기술사회학,법철학,윤리학,정책학을아우르며,단순한비판을넘어설명요구권·알고리즘감사·공공통제같은제도적해법을제시한다.저자는말한다.“기술은통제되어야민주주의의일부가된다.”블랙박스를해체하는일은곧인간의통제권과사회정의를되찾는일이다.