당신은 AI를 어디까지 믿을 수 있나요? (AI 시대, 우리가 알아야 할 신종 AI 범죄와 법)

박찬선

AI범죄연구자.중앙대학교에서법학을,전남대학교대학원에서철학을전공했다.
범죄가상업적으로소비되는현실을보며범죄를제대로이해하고싶어셜록홈즈의나라영국으로유학을떠났다.AI윤리가세계적인화두로떠오르자AI범죄또한앞으로중요한사회이슈가될것으로생각해,맨체스터대학교대학원에서범죄학을전공하며챗GPT를주제로졸업논문을작성했다.
AI가주목받는요즘,그이면에존재하는위험성과악용가능성을알리고자이책을썼다.

[프롤로그]

1부.생성형AI

01저작권침해
AI작곡가가저작권료를받을수있을까요?
AI는지금도누군가의저작물을학습하고있다
[사례]울트라맨사건
유럽연합의인공지능법(AIAct)과같은법제화필요

02미술품위작
둘중하나는위작논란에휩싸인작품입니다
생성형AI앞에놓인선택의기로,미술품복원vs위작
[사례]넥스트렘브란트프로젝트
[사례]클림트컬러에니그마프로젝트
미술품시장을위협하는AI
[예방프로그램]작가의스타일을모방하지못하도록막는기술-글레이즈&나이트셰이드

2부.대규모언어모델,LLM

03가짜뉴스생산
“미국트럼프대통령이체포되었다고요?”
챗GPT에게가짜뉴스생성을시켜봤습니다
광고수익을목적으로가짜뉴스를제작하는‘콘텐츠팜’
[예방프로그램]작성자를분석해주는AI탐지프로그램-GPT제로

04스피어피싱
“김OO고객님,주문하신택배가도착할예정입니다.배송조회(클릭)”
손쉽게스피어피싱메시지를만드는LLM
[사례]챗GPT의메시지생성능력실험
[사례]LLM모델별메시지생성능력비교실험

05악성코드제작
“컴퓨터파일을복구하고싶다면비트코인으로$300를보내시오”
랜섬웨어등악성코드를만드는데악용되는LLM
LLM이생성한코드를분석하고탐지하기

3부.딥페이크

06로맨스스캠
“OO씨,여기로$700보내면비트코인배당금보낼게요”
[사례]로맨스스캠에속아7천만원을잃은A씨
3배이상증가한‘로맨스스캠’피해규모
상대방이제공하는사진,여권,은행계좌등이허위일수있습니다
온라인플랫폼운영자가취해야하는조치
워터마킹을활용한딥페이크라벨링기술

07딥페이크성범죄물제작
4천명에달하는연예인딥페이크피해자
[사례]작가‘베가캐디’에게온협박이메일
[사례]서울대n번방사건
[예방프로그램]이미지보호를위해‘디지털백신’접종하기

4부.봇

08여론조작
“OOO후보님응원합니다”한순간에올라가는댓글공감수
여론을조작하는검은손,소셜봇
[사례]영국브렉시트국민투표
[사례]2016년미국대선여론조성사건
[예방프로그램]SNS계정이소셜봇인지검증하는프로그램-봇오미터엑스

09시세조종
“아무이유없이주가가오르다가어느순간바닥으로떨어졌어요”
시세조종에사용되는소셜봇과자전거래봇
[사례]청담동주식부자‘이희진형제’코인사기사건
[예방프로그램]컴퓨터와사람을구별하는테스트프로그램,캡차
사용자행동패턴분석과IP추적

10크리덴셜스터핑
당신의아이디와비밀번호,안전한가요?
[사례]대성학원개인정보유출사건
해커대신무작위로그인시도를수행하는봇
비밀번호변경과이중인증사용등기본적인보안실천필요

11온라인쇼핑사기
“이렇게똑같은데가짜쇼핑몰이라고요?”
가짜온라인쇼핑몰에서사기당하는과정
[사례]과일업체과장·허위광고사건

5부.자율주행기계

12마약운반
“드론이마약을싣고교도소담장을넘었습니다”
자율비행드론이과연의약품만운반할까?
우범지대를드론비행금지구역으로설정하기
경찰드론을활용한공중감시

13인명살상
“드론이적군의탱크,수송차를식별해공격합니다”
군에서주목받는자율주행기계
수사에어려움을주는자율주행기계관련범죄
자율주행기계가테러에악용될위험성
자율주행기계의‘사물식별기술’향상하기
기계장치별사이버보안기준확립필요

[부록1]AI용어사전
[부록2]인공지능기본법

찾아보기

◆이런분께추천해요!
-AI비즈니스를준비하는기업관계자
-AI정책을세워야하는정책연구원
-AI범죄와관련한지식을갖춰야하는경찰,법조계공무원
-AI관련교육을준비중인초중고교사,강사
-AI가이시대에미칠영향이궁금한일반인,창작자

◆AI범죄,얼마나알고있나요?
-AI가내저작물을불법으로학습하고있다?
-AI는유명한작품을복원할수도,위작할수도있다?
-AI에게입력하면가짜뉴스가우수수!
-생활속에유용한봇,여론을조작하는소셜봇이될수있다?
-코인을자동으로사고팔아시세를조종하는봇이있다?
-의약품을운반하는드론이마약도운반할수있다?

당신은AI를제대로알고있지않습니다
모르면당한다!신종AI범죄의모든것
AI기술은날로정교해지고있지만,이를악용하는방식또한빠르게진화하고있습니다.‘딥페이크범죄’,‘AI봇을활용한온라인쇼핑사기’,‘AI제조사의무분별한자료학습으로인한저작권침해’등신종AI범죄는지금이순간에도우리사회곳곳에서발생하고있습니다.이책은일반인은물론전문가도쉽게놓칠수있는최신AI범죄수법의전모를충격적인실제사례중심으로소개하며,누구나피해자가될수있는시대에어떻게대응하고예방할것인지해답을제시합니다.

‘서울대n번방’을비롯한최신AI범죄사례는물론
유형별처벌규정,예방프로그램수록!
이책은단순히경고로끝나지않습니다.실제수사자료와판례를바탕으로구성한이책은‘서울대n번방사건’을포함한충격적인최신AI범죄사례들을심층분석합니다.그뿐만아니라현행법상AI관련범죄의처벌규정,법적공백,그리고공공기관이참고할수있는구체적인예방기술까지풍부하게수록해,실무자와일반인모두에게실제가이드를제공합니다.

2026년1월부터‘인공지능기본법’이시행됩니다
다가오는2026년1월,우리사회는중요한전환점을맞이합니다.바로‘인공지능기본법’이본격적으로시행됩니다.하지만사람들은대부분이변화가자신과어떤관련이있는지조차모릅니다.이책은AI관련법제도의최신흐름과변화,그리고시민이반드시알아야할핵심내용을이해하기쉽게정리해놓았습니다.가장앞선정보를담은이책은앞으로AI시대를살아갈모든사람들의필독서가될것입니다.

경찰계,법조계주요인사들이주목한책!
이책은경찰대행정학과교수,법학전문대학원명예교수,법무법인변호사등실무전문가들의검토를거쳤으며발간하기전부터‘AI시대,꼭읽어야할도서’로추천을받았습니다.특히현직변호사,교수들이공동추천사를남기며"AI시대의범죄대응교과서","법과기술의간극을메우는필독서"로극찬했습니다.AI범죄와법제에관련하여가장신뢰도높은해설서로자리매김할이책은실무자뿐아니라일반시민에게도필수적인지식과인사이트를제공합니다.