AI와 딥페이크 음란물

김민호

1998년부터성균관대학교법학전문대학원교수로재직중이다.성균관대학교에서학사,석사,박사학위를받고,미국보스턴대학교(BostonUniversity)로스쿨에서박사후연구과정(PostDoc.)을수료했다.개인정보보호법학회회장,국가인권위원회인권위원,대통령소속규제개혁위원회위원,중앙행정심판위원회위원등을역임했다.지금은공공데이터분쟁조정위원회위원장,국가기준데이터위원회위원장,한국인터넷자율정책기구(KISO)이사회의장으로활동하고있다.주요저서로『행정법』(2023),『별난법학자의그림이야기』(2010)가있다.방송,통신,인터넷관련100편이상의논문을학술지에게재했다.

AI와딥페이크,그리고음란물

01AI와딥페이크
02딥페이크사기와명예훼손등
03딥페이크와초상권침해
04딥페이크음란물과인격권침해
05음란의판단기준
06딥페이크음란물제작자의책임
07AI개발및학습관여자의책임
08딥페이크음란물에대응하는현행법과한계
09딥페이크워터마크와신속차단
10디지털리터러시

딥페이크,음란물그리고AI의그림자

AI기술의발전과함께발생하는딥페이크음란물문제를다룬다.딥페이크는딥러닝기술을이용해얼굴이나신체등을조작해가짜영상을만들어내는기술로,AI발전과더불어누구나쉽게이를활용할수있게되었다.과거전문가들만이할수있었던영상조작이이제는일반인도간단히접근할수있는수준으로발전한것이다.
이책은특히딥페이크기술이음란물제작에악용되는현실에초점을맞춘다.AI기반딥페이크음란물은사실과구분하기어려운정교함을가지고있어피해자가심각한정신적피해를입을수있다.최근들어딥페이크음란물로인한성범죄피해가급증하고있으며,특히10대청소년들이이러한기술을악용하는사례가늘고있다.청소년들사이에서는이를범죄로인식하기보다는단순한장난으로여기는경우가많아더욱심각한문제로대두되고있다.실제로2023년,부산의한중학교에서는학생들이교사의사진을음란물과합성해돌려본사건이발생했으며,경찰이수사에나섰으나가해자를특정하지못해사건은'가해자없는교권침해'로마무리되었다.이러한사건은단순한장난이아니라범죄라는인식을사회전반에확산시키는것이필요하다.딥페이크음란물이사회적으로미치는영향을분석하고,이에대응하기위한법적·제도적해결방안을모색한다.딥페이크기술의발전이가져오는긍정적인면뿐만아니라그에따른부작용도깊이살펴보며,AI기술의윤리적사용에대한필요성을강조한다.