인공지능 윤리하다 2

인공지능 윤리하다 2

$22.74
Description
‘사람’처럼 사고思考하는 인공지능의 시대?
사람처럼 ‘사고事故’ 치는 인공지능의 시대!
인공지능 혁신, 양날의 검 위에서 바라보는
인간-기계의 새로운 윤리학
“교육, 의료, 금융, 제조 등 다양한 분야”를 막론하고 확장하기 시작한 AI 혁명은 한때 분명히 인간의 노동 시간 감소나 삶의 질 개선과 같은 긍정적 효과를 기대하게 만들었다. 그러나 “AI 시스템의 편향성으로 인한 불공정한 결과, 생성형 AI의 오용으로 인한 허위 정보 확산 및 창작물 침해, 인간의 일자리 감소, 심지어 인간의 통제를 벗어”날 가능성이라는 치명적 부작용을 일으키기 시작한 인공지능은 급기야 사람들이 스스로 사고하는 능력을 잃게 만든다는 비판까지 받게 된 상황이다. 더욱이 인공지능으로 인해 사고가 발생할 경우 아직까지 그 책임 소재를 분명히 할 수 없다는 지점에서, 인공지능은 더 이상 ‘편리하고 똑똑한 도구’로만 여길 수 없는 존재가 되었다.
『인공지능 윤리하다』, 『로봇 윤리』, 『로봇 윤리란 무엇인가』, 『윤리적 AI 프로젝트』 등을 출간하며 인공지능과 로봇 윤리에 대한 활발한 연구를 지속해 오던 변순용 서울교육대학교 윤리교육과 교수가 다시 한번, 보다 심화된 물음과 탐구를 담은 『인공지능 윤리하다 2』로 돌아왔다. 『인공지능 윤리하다 2』는 ChatGPT로 대표되는 생성형 인공지능이 야기한 정보 오염과 지적 재산권 침해 문제, ‘메타버스’를 필두로 등장한 ‘디지털 휴먼’ 등의 가상-현실 사이 정체성 문제, 빅데이터를 기반으로 성장한 알고리즘 맞춤형 서비스의 편향성과 폐쇄성 문제 등 현재 시점에서 이미 우리 피부에 와닿기 시작한, 실제적이고 현실적인 문제를 다층적인 윤리학의 관점에서 다루고 있다. 이는 단순히 인공지능이 갖추어야 할 ‘윤리’가 무엇인지 그 개념을 제시하는 선에서 그치는 것이 아니라, 우리가 인공지능이라는 존재의 정체성과 법적 책임 소재를 어떻게 정의할 것인지, 그리고 인공지능 기술을 개발하는 기업과 이들이 만든 상품을 이용하는 소비자, 나아가 사회와 국가가 각자의 위치에서 준수해야 할 윤리란 과연 무엇이 있는지를 살피는 단계까지 뻗어 나가며 전문가적 시각에서의 수준 높은 분석을 이끌어 간다. ‘사람’처럼 사고思考하는 ‘기계’가 초래할 예정된 사고事故들을 바라보며, 우리는 어떻게 현명한 예방책을 만들 수 있을 것인가? 『인공지능 윤리하다 2』가 제시하는 논의를 통해 이제 우리 사회가 함께 숙고해야 할 것이다.
저자

변순용

저자:변순용
서울대학교윤리교육과석사,독일칼스루헤(Karlsruhe)대학교철학박사이며현재서울교육대학교윤리교육과교수이다.
저서및역서로는『윤리적인공지능』(2025),『세계의시민교육』(공저,2021),『인공지능윤리하다』(2020),『삶과철학이야기』(2019),『윤리적AI로봇프로젝트』(편저,2019),『철학·도덕교육의교수법』(역서,2017),『음식윤리』(공저,2015),『로봇윤리란무엇인가』(공저,2015),『삶의실천윤리적물음들』(2014),『로봇윤리』(공역,2013)등이있다.

목차

서문―7

제1장AI윤리의의미와필요성―12
제2장생성형인공지능의윤리적문제―27
제3장생성형인공지능의잠재적위험과새로운방향성모색―51
제4장데이터윤리에서인공지능편향성문제―96
제5장데이터윤리의의미와원칙―118
제6장기업의AI윤리대응―144
제7장AI윤리인증준거:책임성과투명성―175
제8장메타버스시대에디지털휴먼의민주적활용가능성―221
제9장지식생산과소비의새플랫폼으로서유튜브의윤리적문제―268
제10장AI에이전트로서휴머노이드로봇의윤리원칙과정당화―289
제11장AI시민성교육에대한시론―306
제12장AI윤리교육의필요성과내용구성―323
제13장AI를활용한AI윤리교육의성취기준과실제―363

부록―396

출판사 서평

‘사람’처럼사고思考하는인공지능의시대?
사람처럼‘사고事故’치는인공지능의시대!
인공지능혁신,양날의검위에서바라보는
인간-기계의새로운윤리학

인공지능과사물인터넷(IoT)기능의비약적인발전이촉발한이른바‘제4차산업혁명’은2015년최초로그개념이호명된이래숨가쁘게앞으로만내달리고있다.그동안‘전화걸어줘’,‘6시에알람맞춰줘’와같은단순한명령을넘어서생성형사진편집과통화요약및자료정리까지척척수행해내기시작한스마트폰속AI기능은어른,아이할것없이쉽게접근할수있는생활속인공지능이되었고,자료를찾기위해책을펼치거나인터넷검색을하는대신ChatGPT에“인공지능의정의에대해알려줘”라고묻는사람들을보는것도더이상어려운일이아니다.

“교육,의료,금융,제조등다양한분야”를막론하고확장하기시작한AI혁명은한때분명히인간의노동시간감소나삶의질개선과같은긍정적효과를기대하게만들었다.그러나“AI시스템의편향성으로인한불공정한결과,생성형AI의오용으로인한허위정보확산및창작물침해,인간의일자리감소,심지어인간의통제를벗어”날가능성이라는치명적부작용을일으키기시작한인공지능은급기야사람들이스스로사고하는능력을잃게만든다는비판까지받게된상황이다.더욱이인공지능으로인해사고가발생할경우아직까지그책임소재를분명히할수없다는지점에서,인공지능은더이상‘편리하고똑똑한도구’로만여길수없는존재가되었다.그렇다면우리는‘인간’적으로사고하고,인간처럼‘사고’를유발하는존재아닌존재,인공지능을어떻게바라보아야할까?기계는사람처럼,사람은기계처럼발전시키고있는우리에게‘인간’이란도대체무엇일까?『인공지능윤리하다2』는이러한지점에서우리시대의질문에응답하기위해인공지능‘윤리’의개념을다각적함의로분석하여펴낸본격적인인공지능윤리연구서이다.

인간은기계처럼,기계는인간처럼?
‘인간’과‘기계’의모호한경계에서
‘사람’답기위한윤리를말하다

『인공지능윤리하다』,『로봇윤리』,『로봇윤리란무엇인가』,『윤리적AI프로젝트』등을출간하며인공지능과로봇윤리에대한활발한연구를지속해오던변순용서울교육대학교윤리교육과교수가다시한번,보다심화된물음과탐구를담은『인공지능윤리하다2』로돌아왔다.『인공지능윤리하다2』는ChatGPT로대표되는생성형인공지능이야기한정보오염과지적재산권침해문제,‘메타버스’를필두로등장한‘디지털휴먼’등의가상-현실사이정체성문제,빅데이터를기반으로성장한알고리즘맞춤형서비스의편향성과폐쇄성문제등현재시점에서이미우리피부에와닿기시작한,실제적이고현실적인문제를다층적인윤리학의관점에서다루고있다.이는단순히인공지능이갖추어야할‘윤리’가무엇인지그개념을제시하는선에서그치는것이아니라,우리가인공지능이라는존재의정체성과법적책임소재를어떻게정의할것인지,그리고인공지능기술을개발하는기업과이들이만든상품을이용하는소비자,나아가사회와국가가각자의위치에서준수해야할윤리란과연무엇이있는지를살피는단계까지뻗어나가며전문가적시각에서의수준높은분석을이끌어간다.

우리는지금첨단기술이가져온편의성과그것이초래한인간성-인간자율성의상실이라는양날의검위에서있다.가상의존재인‘인공지능챗봇’에사랑을느껴현실과의소통을단절하거나,그들이생성한‘기표성’텍스트를절대적계시처럼믿는바람에스스로를위험에빠뜨리는사람들을우리가이제공상과학영화가아닌뉴스사회면에서찾아볼수있다는것이이를방증한다.여느때보다‘인공지능리터러시’의함양이주요능력으로부상하고있는이때,우리가고민해야만하는것은단순히‘인간인우리가기계인AI를어떻게효율적으로다룰것인가’를넘어,인간으로서우리가‘인간다움’을잃지않기위한방안이무엇인지,그리고인간을모방하여보다‘인간처럼’발전해나가고있는인공지능에우리가정말로부여해야할‘인간성’은무엇인지일것이다.무엇이우리를사람답게하고,무엇이우리가만드는기계를사랍답게할것인가?‘사람’처럼사고思考하는‘기계’가초래할예정된사고事故들을바라보며,우리는어떻게현명한예방책을만들수있을것인가?『인공지능윤리하다2』가제시하는논의를통해이제우리사회가함께숙고해야할것이다.