AI 윤리와 뇌신경과학 그리고 교육 : 인공지능은 주저하지 않는다

AI 윤리와 뇌신경과학 그리고 교육 : 인공지능은 주저하지 않는다

$23.00
Description
“마음에도 공식이 있나요?
인간과 인공지능의 ‘윤리적’ 공생을 꿈꾸다”
사람과 함께 대화하고, 사람처럼 ‘창작’하는 인공지능은 더 이상 공상 과학 영화 속 산물이 아니다. ChatGPT로 대표되는 인공지능 ‘챗봇’의 상용화 이후, 세상은 다시 한번 급속도로 변화의 물결을 타고 있다. 그러나 새로운 기술의 등장은 항상 새로운 문제를 견인하기 마련이다. 편향된 데이터를 수집한 AI가 인간 사회의 차별과 혐오를 답습하고, 오염된 정보를 수집한 AI가 실제로 존재하지 않는 사건을 ‘그럴싸하게’ 꾸며내 거짓말을 하거나, 심지어 사람의 감정을 이해하고 공감하는 ‘것처럼 보이는’ 챗봇의 대화 패턴 때문에 우울감이나 자살 충동 등의 부정적 감정 증폭을 겪는 피해자들까지 발생하고 있다. 과연 우리는 ‘도덕’을 모르는 인공지능에 ‘사람의 마음’을 가르칠 수 있을까? 그리고 발전하는 인공시대의 주역이 될 아이들은 인공지능과의 공존을 위해 무엇을 배우고 익혀야 할까?

『AI 윤리와 뇌신경과학 그리고 교육: 인공지능은 주저하지 않는다』는 현 시대 인공지능 기술이 가진 명확한 한계, 즉 ‘윤리 의식’이 부재한 인공지능의 문제를 전면적으로 다루며 이것을 어떤 방식으로 개선할 수 있을지에 대한 학술적 연구와 논의를 담은 책이다. 또한 이 책의 저자인 박형빈 교수는 한발 더 나아가 인공지능이 일상화의 초읽기 단계에 접어든 지금, ‘인공지능을 활용한 교육’을 경험하며 ‘인공지능 윤리 문제’를 실질적으로 경험하게 될 현 세대의 아이들과 교사들이 어떤 태도로 어떤 문제에 대응해 나가야 할지에 대해 탐구하며 이제 새로운 시대를 맞이하게 될 우리의 든든한 길잡이가 되어 준다.
저자

박형빈

저자:박형빈
서울교육대학교윤리교육과교수이다.미국UCLA교육학과에서VisitingScholar를지냈다.서울교육대학교교육전문대학원에듀테크전공및인공지능인문융합전공교수이다.서울교육대학교신경윤리융합교육연구센터및가치윤리AI허브센터센터장이다.도덕교육,인격교육,AI윤리교육,신경도덕교육,신경윤리학,통일교육등에관심을갖고연구하고있다.
대표적인저서로는『인공지능윤리와도덕교육』,『도덕지능수업』,『도덕교육학:그이론과실제』,『뇌신경과학과도덕교육』(2020세종학술도서),『통일교육학:그이론과실제』,『학교생활나라면어떻게할까?』,『가정생활나라면어떻게할까?』,『사회생활나라면어떻게할까?』등이있다.역서로는『양심:도덕적직관의기원』,『말빈벌코위츠의PRIMED인격교육론』(공역),『어린이도덕교육의새로운관점』(공역)(2019세종학술도서),『윤리적감수성』(공역),『윤리적판단력』(공역),『윤리적실천』(공역),『윤리적동기부여』(공역)등이있다.
논문으로는「뉴럴링크와인공지능윤리」,「기계윤리및신경윤리학관점에서본인공도덕행위자(AMA)도덕성기준과초등도덕교육의과제」,「AI도덕성신화와그실제:기계의인간도덕능력모델링가능성과한계」,「도덕교육신경과학,그가능성과한계:과학화와신화의갈림길에서」,「사이코패스(Psychopath)에대한신경생물학적이해와치유및도덕향상으로서의초등도덕교육」,「복잡계와뇌과학으로바라본인격특성과도덕교육의패러다임전환」,「언어분석과윌슨의도덕성요소에관한연구」등다수가있다.

목차


서문…005

제Ⅰ부:AI와인간
1장.AI는마음이있을까?…017
2장.AI는주저하지않는다.왜이것이문제일까?…035
3장.AI의선악문제:선악의디지털재해석…52
4장.뉴럴링크및신경상징AI(Neuro-SymbolicAI)와미래인류
:트랜스휴머니즘과포스트휴머니즘그리고디지털휴머니즘…75

제Ⅱ부:인공지능과뇌신경과학
5장.뇌신경과학에서인공지능까지:인간뇌를모방한기술의발전…99
6장.정서와공감의신경과학적이해와LisaBarrett의정서구성주의…117
7장.인공지능과도덕판단
:JonathanHaidt의도덕기반이론과신경과학의결정메커니즘…145
8장.정신건강과뇌신경과학관점에서본사회통합교육…178
9장.AI윤리도전및책임과사이버네틱스
:Jaspers,Heidegger,Wiener의관점에서본기술의본질…198

제Ⅲ부:인공지능윤리교육:이론
10장.생성형AI(GenerativeAI)의윤리문제와할루시네이션(hallucina
tion)이슈…225
11장.수학적계산너머윤리적로봇구현을위한전제
:신경과학의도전과제와도덕판단알고리즘구현을위한검토사항…258
12장.PatriciaChurchland의양심이론과뇌신경과학적양심론의
교육시사점…282

제Ⅳ부:인공지능윤리교육:실제
13장.교육신경과학을활용한윤리교사교육…325
14장.규범적AI윤리가이드라인과AI윤리교육적용방안…346
15장.인공지능도구챗봇을활용한AI윤리교육…379

참고문헌…402

출판사 서평

“마음에도공식이있나요?
:인간과인공지능의‘윤리적’공생을꿈꾸다”

사람과함께대화하고,사람처럼‘창작’하는인공지능은더이상공상과학영화속산물이아니다.ChatGPT로대표되는인공지능‘챗봇’의상용화이후,세상은다시한번급속도로변화의물결을타고있다.그러나새로운기술의등장은항상새로운문제를견인하기마련이다.편향된데이터를수집한AI가인간사회의차별과혐오를답습하고,오염된정보를수집한AI가실제로존재하지않는사건을‘그럴싸하게’꾸며내거짓말을하거나,심지어사람의감정을이해하고공감하는‘것처럼보이는’챗봇의대화패턴때문에우울감이나자살충동등의부정적감정증폭을겪는피해자들까지발생하고있다.과연우리는‘도덕’을모르는인공지능에‘사람의마음’을가르칠수있을까?그리고발전하는인공시대의주역이될아이들은인공지능과의공존을위해무엇을배우고익혀야할까?

『AI윤리와뇌신경과학그리고교육:인공지능은주저하지않는다』는현시대인공지능기술이가진명확한한계,즉‘윤리의식’이부재한인공지능의문제를전면적으로다루며이것을어떤방식으로개선할수있을지에대한학술적연구와논의를담은책이다.또한이책의저자인박형빈교수는한발더나아가인공지능이일상화의초읽기단계에접어든지금,‘인공지능을활용한교육’을경험하며‘인공지능윤리문제’를실질적으로경험하게될현세대의아이들과교사들이어떤태도로어떤문제에대응해나가야할지에대해탐구하며이제새로운시대를맞이하게될우리의든든한길잡이가되어준다.

2016년등장한인공지능바둑프로그램‘알파고’는그야말로‘고민한번없이’불세출의바둑기사들을뛰어넘으며세계를충격에빠뜨렸다.당시알파고와인간의바둑대결만큼이나화제를모은한장면이있는데,바로한국의바둑기사이세돌9단이알파고와의승부후혼자서이전의대국을복기하는장면이었다.일반적으로바둑에서복기는단순히자신의수만을재고하는것이아니라,상대방이어떤순간에왜어떤수를두었는지까지를헤아리며승부의전체적인맥락을읽고이해하기위한과정이다.철저한계산만으로이루어진,그러므로‘왜’가결여된알파고의수를수번에걸쳐가늠한끝에이세돌9단은알파고로부터1승을거두었고,이는현재까지도‘알파고전적상유일한패배’로기록되고있다.훗날이세돌9단은‘신의한수’로칭송받아온당시대국의묘수에대해서‘기계적결함을이용한꼼수였을뿐’이라는소감을밝혔다.그의대국상대였던알파고가감정없는기계였기때문에단지그것의‘계산능력’의허점을파고드는수밖에없었다는것이다.

그런데,기계가‘감정’을느끼지못하는것은왜문제가될까?

“망설이지않는것도문제가되나요?
:인공지능의마음을이해할수있을까?”

인공지능을활용한자율주행택시사업을확대중이던중국이오는2024년8월,‘무인버스’를공식운행하겠다는계획을발표했다.2023년샌프란시스코에서도시범운행된바있는이무인버스는‘인간보다빠른판단력,인간보다확실한집중력’을장점으로내세우며빠르게저변을확대중이다.한국의경우,제주도일부구간에서안전요원이탑승한자율차서비스가운영되고있으며,현행자율주행대중교통으로서는최장거리노선을달리고있다.이제사람과함께대화하고,사람처럼‘창작’하는인공지능은더이상공상과학영화속산물이아니다.ChatGPT로대표되는인공지능‘챗봇’의상용화이후,세상은다시한번급속도로변화의물결을타고있다.

한편,새로운기술의등장은항상새로운문제를견인하기마련이다.편향된데이터를수집한AI가인간사회의차별과혐오를답습하고,오염된정보를수집한AI가실제로존재하지않는사건을‘그럴싸하게’꾸며내거짓말을하거나,심지어사람의감정을이해하고공감하는‘것처럼보이는’챗봇의대화패턴때문에우울감이나자살충동등의부정적감정증폭을겪는피해자들이발생하기도했다.심지어자율주행차량의경우,‘무단횡단을하는보행자’를‘사람’으로판단하지못해인명사고를유발하기도했다.상황이이렇다보니,일각에서는여전히자율주행차량이나챗봇과같은인공지능기술의상용화에회의적이다.‘트롤리딜레마’의가정처럼,핸들을꺾어한사람을희생하고승객전부를구하거나반대로한사람을살리고승객전부를희생시켜야하는상황이펼쳐진다면과연인공지능은상황을‘이해’하고‘고민’하여‘판단’을내릴수있을까?또한인공지능이일정한판단을내려그계산결과대로작동했을때,과연인간은인공지능의판단을‘이해’하고받아들일수있을까?바로이러한문제를해결하기위해,현재인공지능개발연구에서가장중요하게다뤄지고있는것이바로‘인공지능에윤리적판단능력부여하기’다.하지만이문제에는중요한걸림돌이다.사람조차아직윤리가무엇이고도덕이무엇인지명확히정의하지못한다는점이다.

“마음에도공식이있나요?
:인공지능이마음을이해할수있을까?”

‘인간은선하게태어나는가,악하게태어나는가?선은무엇이고,악은무엇인가?’
인류역사상단한번도시원하게해명된바없는이논제가최근인공지능기술의가파른성장으로인해다시주요화두로떠올랐다.그런데,이번에는문제가좀더복잡하다.이전시대의선악에대한논의는선악의개념을파악하고자하는형이상학적인철학담론의양태를띠었지만,현시대의선악에대한논의는명료한‘정답’을요구하기때문이다.우리가더하기의공식을모르는채‘1+1=2’라는계산식을설명할수는없는것처럼,인간의선이무엇이고악이무엇인지,마음이무엇이고감정이무엇인지정의할수없다면그것을기계에이식하는것은불가능할것이다.현대의인공지능은과거공상과학영화에서나등장해왔던‘로봇비서’,‘무인차’등의역할수행을시작하며점차더큰자율성을획득하고있다.그러나인공지능의활동범위가넓어질수록,‘윤리의식’의개념이없는인공지능이발생시키는문제역시증가하고있다는것은부정할수없는사실이다.그렇다면과연우리는‘도덕’을모르는인공지능에어떻게‘사람의마음’을가르칠수있을까?그리고발전하는인공시대의주역이될아이들은인공지능과의공존을위해무엇을배우고익혀야할까?

『AI윤리와뇌신경과학그리고교육:인공지능은주저하지않는다』는현시대인공지능기술이가진명확한한계,즉‘윤리의식’이부재한인공지능의문제를전면적으로다루며이것을어떤방식으로개선할수있을지에대한학술적연구와논의를담은책이다.또한이책의저자인박형빈교수는한발더나아가인공지능이일상화의초읽기단계에접어든지금,‘인공지능을활용한교육’을경험하며‘인공지능윤리문제’를실질적으로경험하게될현세대의아이들과교사들이어떤태도로어떤문제에대응해나가야할지에대해탐구하며이제새로운시대를맞이하게될우리의든든한길잡이가되어준다.저자가책속에서말했듯,‘인공지능기술이성공적이지않거나중요한영향을미치지않을것이라고주장하는것은현재로서는그다지의미가없다.이기술은이미성공적이며,사회에실질적인영향력을행사하고있다.’‘특이점이온다’는표현이과언이아니게된이순간,우리는‘꿈꾸는’단계를넘어인공지능과의공존을준비해야할것이다.