AI 안전

김윤명

전디지털정책연구소(DPI)소장이다.남도의니르바나해남에서태어났다.광주인성고등학교와전남대학교를졸업하고,경희대학교에서지식재산법으로박사학위를받았다.네이버에서정책수석으로일했고,소프트웨어정책연구소(SPRi)에서SW·AI법에대해연구했다.국회에서보좌관으로,이재명경기도지사캠프및인수위인새로운경기위원회에서전문위원으로활동하기도했다.대통령소속국가지식재산위원회AI-IP특별위원회위원으로활동했다.현재기율특허에서연구위원으로,법무법인원의전문위원으로있다.경희대법무대학원에서‘인공지능법’을,전남대데이터사이언스대학원에서‘데이터사이언스법과윤리’를강의했다.글쓰기를좋아해《생성형AI창작과지식재산법》,《인공지능의생각》,《블랙박스를열기위한인공지능법》,《게임법》,《로보스케이프》,《인공지능과리걸프레임》,《소프트웨어와리걸프레임》,《게임서비스와법》,《인터넷서비스와저작권법》등의책을혼자쓰거나동료와같이썼다.그중《블랙박스를열기위한인공지능법》은교육부우수학술도서로,《게임법》,《게임서비스와법》및《인터넷서비스와저작권법》은문화부세종도서(우수학술도서)로선정되기도했다.늘시를짓고사진을찍는다.아이들의강하중학교에서발간한시집《나에겐비도맛있다》에몇편의시가실렸다.아내와아이들과시고르자브종리카와벤,동네풍경,하늘,바람,꽃등이피사체가된다.주변의짠하고도아심찬한모습도담는다.집에도서관N을두었다.정사서1급자격증이있지만도서관장은아내다.N의컨셉은네이버와한게임의합병법인NHN(NextHumanNetwork)의Next에서따왔다.‘도서관엔(N)뭐가있을까?’,‘도서관엔(N)길이있지!’,‘도서관다음엔(N)뭘만들지?’따위의장난스러운도서관N으로기억되길바란다.모든이를위해더큰도서관N을만들고자한다.

왜,AI안전인가?

01AI안전과안전권
02AI안전의가치
03AI안전을위한규제원칙
04AI서비스제공및이용의안전
05AI안전과소비자보호
06설명가능한AI와기술적구현
07AI안전과제조물책임
08AI안전거버넌스
09AI안전과신뢰사회
10시사점

AI안전의기준을묻다
AI는더이상기술실험의대상이아니다.사회·경제전반에깊숙이스며든AI는효용만큼이나위험의파급력도커지고있다.이변화의한가운데서‘통제되지않는알고리즘권력’이라는문제를정면으로다룬다.블레츨리선언과서울선언,EUAI법등최근의국제논의를바탕으로AI안전을기술문제가아닌사회적·법적과제로확장한다.이책은AI오류를단순한기술결함이아니라책임과신뢰의문제로바라본다.특히블랙박스로작동하는AI의의사결정에대해누가,어디까지책임을져야하는지를묻는다.알고리즘조작과조정의경계,자율규제의허상,플랫폼사업자의윤리문제를구체적사례를통해분석하며,규제는혁신의적이아니라예측가능성을높이는장치임을강조한다.AI안전은기술을억제하는논리가아니라,사회적신뢰를유지하기위한관리가능한상태를만드는일이다.AI시대의안전을헌법적가치,소비자보호,제조물책임,거버넌스의관점에서종합적으로정리하며,인간이만든기술의책임은결국인간에게있음을분명히한다.