AI와 소비자 보호

김윤명

디지털정책연구소(DPI)소장이다.남도의니르바나,땅끝해남에서태어났다.광주인성고등학교와전남대학교문헌정보학과를졸업하고,경희대학교에서지식재산법을전공해박사학위를받았다.현재는세종사이버대학교에서정보보호학을공부하고있다.네이버정책수석,소프트웨어정책연구소(SPRi)에서소프트웨어와인공지능법제연구를맡았으며,국회에서는보좌관으로입법과정책을다루었다.이재명경기도지사캠프와인수위인새로운경기위원회에서,그리고이재명대통령후보(20대,21대)캠프에서활동했다.대통령소속국가지식재산위원회AI-IP특위에서AI시대에변화하는지식재산의지형을함께그렸다.경희대학교법무대학원에서‘인공지능법’을,전남대학교데이터사이언스대학원‘데이터사이언스법과윤리’를강의하며다음세대를준비하고있다.
사유하고질문하고기록하는일은일상이다.《블랙박스를열기위한인공지능법》은교육부우수학술도서로,《게임법》,《게임서비스와법》,《인터넷서비스와저작권법》은문화체육관광부세종도서(우수학술도서)로선정되었다.
시를짓고사진을찍는다.두아이들의강하중학교에서발간한시집????나에겐비도맛있다????에몇편의시를담았다.아내와아이들,그리고시고르자브종리카와밴,동네골목,바람과하늘,꽃과나무등세상의모든숨결이그의렌즈에깃든다.사람들의짠하고도아심찬한풍경을기록한다.시집을내고,사진겔러리를여는것이꿈이기도하다.
집안에‘도서관N’을세웠다.정사서1급자격증을가지고있지만,도서관장은아내다.‘N’은네이버와한게임의합병법인NHN(NextHumanNetwork)에서따온‘Next’를의미한다.“도서관엔(N)뭐가있을까?도서관엔(N)길이있지!도서관다음엔(N)뭘만들지?”이런장난스런물음속에세상을향한다음걸음을품는다.언젠가모두를위한더큰도서관N을짓겠다는꿈을품고있다.
그는다시길을내려하고있다.
AI를비롯한디지털법제와정책을연구하기위해양평에‘디지털정책연구소(DigitalPolicyInstitute)’를세웠다.그와의인연은digitallaw@naver.com을통해이어질것이다.

왜,AI와소비자보호인가?

01알고리즘소비
02알고리즘소비자
03블랙박스화한알고리즘
04소비자후생의저해
05프로파일링과소비자권리
06주체별책임
07책임내용:투명성과설명가능성,신뢰성
08AI와소비자데이터주권
09소비자거버넌스
10시사점

AI규제시대,소비자를어떻게지킬것인가
유럽연합(EU)의인공지능법(EUAIAct)부터한국AI기본법까지,세계각국이빠르게재편하고있는규제환경속에서소비자를어떻게보호할것인지명확한기준을제시한다.AI가블랙박스처럼작동하는시대,기업도사용자도그내부를완전히이해하기어려운상황에서소비자권리는새로운위험에직면하고있다.생성형AI가방대한기록물과데이터를학습해예측·추천·결정을수행하면서개인정보침해,차별,오판,책임소재불분명성등기존법제만으로는충분히대응하기어려운문제가급증하고있다.이책은바로그공백을메우기위한실질적인해설서다.EUAIAct의구조,위험기반규제방식,고위험AI시스템의의무(투명성·책무성·데이터관리·인간개입등)를상세히분석하고,GDPR이글로벌규제의기준이되었듯AI법제또한국제표준으로확산될가능성을전망한다.동시에한국의AI기본법과EU체계의차이점,시행령마련과정의쟁점,국내기업이준비해야할대응전략을면밀히비교검토한다.특히AI가블랙박스처럼작동하는현실을직시하며,‘기계의학습·훈련’과‘인간의교육·문화적습득’이어떻게유사하고왜다른지,그간극에서어떤위험이발생하는지를철학적·법적관점에서짚어낸다.소비자보호는단순한규제준수가아니라투명성·책임성·설명가능성·안전성이라는신뢰의기반위에서이루어진다는점을명확히한다.복잡한AI규제의흐름을실무적으로정리한동시에,기술과인간의관계를다시묻는다.