결정하는 마음 : 현명한 선택을 위한 알고리즘 쉽게 이해하기

서성욱

성균관대학교의과대학삼성서울병원정형외과교수.희귀암센터장과삼성융합의과학원의료인공지능연구소소장을맡고있다.

서울대의과대학을졸업한후석사,박사및정형외과전문의,전임의과정을마쳤으며,이후뉴욕컬럼비아대학정형외과박사후연구원과정을거쳤다.삼성서울병원재직중에는샌디에이고주립대학의공과대학에서교환교수를지냈다.

이후환자치료와직접관련된빅데이터연구를하면서현대인공지능의기반인기계학습분야를연구하기시작했고,생존분석딥러닝알고리즘,인과관계강화학습알고리즘을비롯한새로운알고리즘을개발해여덟개의특허를출원하고,10여편의관련논문을국제학술지에발표한것이계기가되어,삼성융합의과학원에의료인공지능연구소를개설했다.

최근에는의료인공지능학회이사로서『의료인공지능백서』를공동출간했고,의학한림원이주관하는연구의책임자로서『의료인공지능개발및가이드라인정립』을펴냈다.현재정보통신산업진흥원이주관하는‘의료인공지능교육사업’의세부책임자로참여해개발자및의료인을위한인공지능교육과정개발을주도하고있다.

추천서문:인공지능으로부터배우는선택의지혜_임성빈고려대통계학과교수
머리말

1장의사결정의순간들
최선의결정을위한조건|의사결정의자유|불확실성|선택의위중도|여러문제의해결과결정의순서:문제의영향력을고려해야한다|유한한선택의조건|연역적의사결정방법|귀납적의사결정|혼합된의사결정

2장인간의한계점
인지단계에서의오류|기여인자를찾는단계에서의편향:귀인편향

3장직관:감정적사고와논리적사고

4장의사결정의기초
우연과확률,그리고불확실성의평가|선택의가치|탐색:현명해지는법|인과관계에대하여

5장베이지안사고방식
베이지안모델|결정장애의해결법:베이지안추론에의한신념과논리의융합|베이지안과유사한인간의사유방식:베이지안브레인|베이지안브레인과유사한인공지능의추론방식

6장선택의가치
현명한선택을위한사전지식|점쟁이가자기점을못치는이유:예측에개입할때생기는변화

7장본격적인인과관계분석
의학데이터에서연관성의오류,빅데이터활용의문제점|인과관계추론I|인과관계추론II

8장게임이론
불확실한상대가있을때의의사결정:게임이론으로풀기|교통환경의불확실성과내시균형|공정한판단이란무엇인가|해결되지않는불공정문제|내시균형의지혜:데이터의공정한판단이란무엇인가?|데이터수집의공정함을평가하는법:자기상관성

9장다중암밴딧:여러번의기회가있는문제의선택

10장집단의의사결정
집단에대한의존성과믿음|집단적편향성|집단의대립|집단은우리의의사결정을더풍요롭게한다

맺음말
감사의말
부록:동전던지기문제의베이지안추론

똑똑한결정장애자와자존감이낮은확신형인간

과학자김우빈씨는누구보다똑똑하고경우의수를꼼꼼히따지지만,결정적인사안들에대해더나은선택지를고려하다가많은것을놓치고말았다.대학교수가되고자원서를넣던시절그는지방대학에내려가거나혹은지방대학을우회해서서울로다시오는방안은절대선택지에두지않았고,폭좁은문턱을넘지못해결국교수가되지못했다.그는집을사는일에있어서도여러전문가가‘아직최저점을찍지않았다’는말을하자계속미루기만했다.김씨처럼스마트하고합리적인사람들은현실의증거들을계속수집하고자기경험을반추하다가결정장애에부딪힐때가많다.게다가현실에서맞닥뜨리는문제는대부분불확실성을내포하고있어이성적인사람일수록망설이다가선택지를놓쳐버린다.우리는불확실한상황에서합리적으로선택하는방법을배운적이없다.심지어불확실한상황에서합리적선택이가능한지조차모르고있다.

하지만과거데이터를분석해보면성공과연관성있는요소는무수히발견된다.게다가뇌의판단에대해오해하지말아야할점은이성적·과학적사고는뇌를통과할때감정이란요소까지더해‘직관’의형태로도출된다는것이다.저자는속도가아주빠른결정은종종“이미계산된감정의꼬리표의총합이기때문에”가능한것이라며,이것을‘반사적인감정’으로착각하지말라고이야기한다.이것은‘감성적’인것이아니며,앞선시행착오가업데이트된지극히합리적결과다.그럼에도불구하고당신은불안을느끼는가?저자는이런이들이활용할수있는데이터과학과인공지능을알려준다.인공지능분야에서는최근불확실성을측정하는다양한확률모델이개발되고있다.기계학습에서불확실성의측정은확률분포를추정하는통계적모델,특히베이지안모델을이용함으로써가능하다.다른한편의사결정이빠르며결정장애가없는사람이라고해서최적의의사결정을하는것도아니다.저자는신념에찬사상가처럼연역적판단을하는부류역시직관을결여할때가많다고본다.그들은자기믿음이확고하지만실은자신의직관과내적세계를완전히무시하고있으며,자존감이높아보이지만현실과정서의문제에서미숙한면모를언뜻언뜻드러낸다.이런부류도결정장애가있는사람과마찬가지로새로운문제에대해서최적의의사결정을할수없다.

신속한결정이해害가될때

합리적이고똑똑한선택을하는데있어가장중요한것은‘결정의자유도’다.저자가이책에서계속강조하는것은어떤문제가주어졌을때거기에참여하기전에반드시평가할것은‘결정의자유도’라는점이다.즉‘선택의조건’이현명한선택을만든다.만약자유도가크게제한됐지만응급한상황이아니라면,선택을보류하고더많은정보를수집하는단계인탐색에들어가야한다.하지만이게말처럼쉬울까?많은사람은불확실성이큰상황에서오히려결정을서두르며,사후에자신의의사결정을기대효용성의논리로합리화한다.저자는대표적인예로홈쇼핑소비자를든다.“홈쇼핑방송이소비자에게매우불공정한결정의환경인이유로는수십가지를들수있다”면서.우리에게선택의문제가주어질때사전정보가전혀없을뿐더러탐색의기회또한보장되지않는다면홈쇼핑소비처럼성급한결정은삼가야한다.이건매우불공정한상황으로,무리하게결정하지말고탐색을통해의사결정환경을자신한테유리하게조성해야한다.저자는“자신이행한탐색의결과를평가할필요는없다”고말한다.즉탐색할때는결과가좋으리라기대하기가어렵고,탐색결과가나쁘다고해서스스로에게실망할필요는없는것이다.더나은결정을하고자자유도를최대한활용하기위해탐색에필요한비용과시간을할당하면된다.

인공지능이결정에도움이될까

우리는자연과사회를아무리객관적으로관찰·분석하려해도,합리적논리에근거해서행동하려해도한계를벗어날수없다.그래서인간은기계의도움을필요로한다.판단하는데기계의도움을받는것은부끄러운일이아니다.인간은자신의신체적한계를기계를통해서극복해왔기때문이다.기존의딥러닝은확률분포를구할수없는기계학습방법이다.이는매우복잡한구조와파라미터로구성되어있지만,사실복잡한방정식으로이뤄진하나의함수라할수있다.이는입력값에대응하는출력값만제시하고확률분포에대한정보는제공하지않는데,이러한기계학습모델을결정론적모델이라고한다.
저자는의료지능을연구하며진단과치료에서사용될인공지능기술과제품들을검토하던중공학자들이고안한기계가현실과부합하지않는것을발견했다.결정론적모델은많은데이터를학습하면정확도가올라가지만,확률분포를알려주지않는탓에중요한의사결정에활용할수는없다는점을명심해야한다고저자는강조한다.

다행히최근에인공지능분야에서불확실성을측정하는다양한확률모델이개발되고있다.기계학습에서불확실성의측정은확률분포를추정하는통계적모델,특히베이지안모델을이용함으로써가능하다.인공신경망도불확실성의측정이가능한베이지안인공신경망연구가이뤄지고있다.물론인공지능이우리에게폐암이아닐확률이100퍼센트라고하더라도100퍼센트확실하다는뜻은아니라는것에주의를기울여야한다.게다가인공지능도젊고탐색의열정이넘치는알고리즘이있는가하면,효율적이긴하나‘꼰대’가돼버리는알고리즘도있다.많은인공지능개발자들은더나은선택지를찾기위해‘탐색’의열정을유지하면서도최소한의비용을치르고쉽사리꼰대가되지않는알고리즘을개발하기위해노력하고있다.이방법들을일상에잘활용한다면우리는의사결정을위한탐색과정을좀더합리적으로수행할수있을것이다.

자기전문분야에서빠져나와새로운탐색을

일반적으로경험많고전문지식을갖고있는이들은한가지일에만몰두할경우최고의효율을낼수있다.하지만그길이과연최선일까?저자는“경쟁이치열한현대사회에서최고의결과를얻는방법은지금하는일을더열심히하는것이라고착각하는데서벗어”나는것이라말한다.올해내모든것을쏟아부어110퍼센트의성과를냈다면,내년엔120퍼센트의노력을기울여야성장할수있다.이런상황에서우리는경로를바꿀생각은하지않고그경로를개선해효율을극대화하는데에만집중한다.하지만이는지속가능성이없어한계에부딪히게될것이다(이런식으로출로를찾는일에뒤처지거나번아웃되는이들이얼마나많은가).저자는늘더나은선택을찾아탐색을게을리하지말것을권하며,하던일에대한기대치를80퍼센트로낮추고나머지시간과에너지를다른경로탐색에들인다면우리시야는국소적인데갇히지않고더좋은길을찾아낼것이라고말한다.이는책에서저자가시도한여러시뮬레이션으로입증된다.

이를테면반복가능한문제에서UCB알고리즘은기존에가던길로만가지말라며,오히려새롭고불확실한것에가산점을주는논리를따른다.과연우리는새로운것을따를용기를낼수있을까?단한번의기회만있다면최선은확률이크고불확실성이적은선택을하는것이나,여러번의기회가주어진다면‘탐색’을통해불확실성을줄이고최적의선택을위한조건을확보하는것이낫다.직업을예로들어보자.우리가사는시대에는평생직업을여러번바꿀수있다.그동안사람들은의사와변호사등전통적으로수입이좋은것을선택했지만,요즘에는전망좋은새로운직업이더많이생겨났다.모든사람이이미유명한직업을선호하기때문에국소적탐색에빠지고,이를둘러싼경쟁은점점더치열해진다.따라서이런직업은예전보다더큰노력을들임에도불구하고만족도는예전만못하다.UCB알고리즘에따르면,조금불확실하더라도전망좋은새로운직업들을탐색해보는것이최종적인만족도를높이는데크게도움이될것이다.

***
이책엔환자가병원에서결정해야하는문제에관해서도선택의자유도를점검하며,현명한결정을하도록돕는다.예컨대수술을해야할까,항암치료를할까,말까?또건강보조식품은먹는게좋을까에대해저자는올바른의사결정의경로를보여준다.
현명한사람이란많은선택의옵션을이미생각해봤고,위중도의우선순위가있으며,불확실한일에대해사전조사를시행한사람이며,이들은선택의자유도를크게확보하고있다.이들은위중한문제에서도더확신있게행동할수있고,의외의상황에더유연하게대처할수있다.이책은이런선택의과정을통계및논리와함께설득력있게펼쳐나간다.선택의문제에있어서현명함을타고난사람은없다.현명한선택의준비가되어있는사람이있을뿐이다.

추천사

『결정하는마음』은기계학습기법을아우르면서데이터기반의사결정방법론을인공지능으로소개하고있다.이책은최적의선택을위해서는탐색이중요하다고강조한다.이런탐색기간은시간낭비처럼보일수있지만궁극적으로최적의선택지를고르는가장좋은방법이된다고저자는강조한다.인공지능알고리즘실험을통해인생의지혜를입증하려는이같은저자의노력은흥미롭다.데이터과학에관심있는이들이라면이책을통해기계학습과통계학사이에서균형잡힌시각을가질수있을것이다.또한인공지능을잘모르는독자라도의사결정방법론이어떤원리로사용되는지궁금하다면이책은좋은안내서가돼줄것이다._임성빈고려대통계학과교수

최근디지털헬스케어의흐름에서사물인터넷,빅데이터,클라우드컴퓨팅,모바일기술과같은핵심기술은인공지능이라는하나의거대한기술담론으로수렴될수밖에없고,이는결국사용자의의사결정도구로작동하게된다.챗GPT와같은기술을사용하면서도우리는여기서나오는지식을자신의의사결정에어떻게활용할지고민하게된다.즉인간의의사결정은인공지능에종속되지않고오히려이를좌우하는최종무기가될수있다.그런점에서『결정하는마음』은비공학도인의과대생과젊은의사들에게인공지능기술을대하는과학적·철학적기반을제시하고있다.또한일반인들에게도인공지능에대한이해를넓혀줘이로써올바른선택을하는데탁월한가이드를제시하고있다._황희카카오헬스케어대표

책속에서

특히자신이매우이성적이고과학적이라여기는사람들은증거가충분치못한불확실한상황에서몹시당황한다.스스로결정장애가있다고생각하는사람중다수는이처럼귀납적결정을선호하는부류다.사실결정이필요한대부분의문제는불확실성을내포하고있다.이성적이고현실감각이뛰어난사람일수록불확실성을있는그대로직면하기때문에판단이더어려워질수밖에없는것이다.만약감성적이거나,명제에따라행동하는연역적인사람이었다면,불확실한상황에서오히려빠른의사결정을했겠지만,그렇다고그들이더올바른결정을내렸다고볼수도없다.어쨌거나귀납적사고를하는사람이우물쭈물하는동안연역적이거나감성적인사람은먼저결정을내렸을테고,의사결정은늘그들의몫이니그들이리더가될수밖에없다.귀납적사고를하는사람들에게는좀억울한면이있지만어쩔수없다.이들은불확실한상황에서합리적인선택을하는방법을배우지못했다.심지어불확실한상황에서합리적선택이가능한지조차모르고있다._33~34쪽

선구적인인공지능연구자들은편향성을극복하고올바른의사결정을내리는과학적논리를찾기위해숱한실험과시행착오를거치며연구에매진하고있다.이책에서는이들연구자의최신결과물과그들의논리를소개하고,어떻게하면일상의의사결정에서이를활용할수있을지고민해보고자한다.물론독자들이개발자의시각으로연구내용을모두이해할필요는없다.게다가실생활에서이러한인공지능이적용될날은아직요원하다.다만합리적인공지능을만들려는연구자들의수많은논리와시행착오를소개함으로써독자들에게합리적의사결정이무엇인지생각해볼계기를마련해주고싶다._45쪽

반면위중도가높은문제는불확실성을줄여야결정이가능하다.이를테면항암제는약물효과도크지만,부작용또한치명적이다.결과의위중도가큰약물은동물실험을비롯해여러단계의임상시험을거친다.의사들은이런약물을사용하기전에수많은데이터를통해검증하며,불확실성이충분히적은지확인한다.앞서언급했듯이어떤문제에맞닥뜨렸을때이를바로해결하려하기보다자유도관점에서먼저살펴볼필요가있다._25~26쪽

이처럼반복된실험을통해운이좋은사람이든나쁜사람이든원래의참확률로수렴된다는것을알수있다.반복을통해우연의효과가사라진것이다.즉우연이라는변수와싸워서이길수있는유일한방법은꾸준한반복이다.우리는이점을간과한채성급하게결론을내리곤한다.면밀한분석을통해서의사결정방향이일단확정되면그방향을유지해야한다.한두차례의결과에실망해방향을급선회하는것은매우어리석은일이다._60쪽

효용성의문제에서는객관적불확실성뿐만아니라,개인의심리적감쇠율도큰역할을한다.심리적감쇠효과를적게느끼는사람은현실의이익보다는불확실한미래에가치를크게두며,성취도도높고진취적일가능성이크다(이들은자신의노력과인내에대한보상을자주경험한부류다).반면심리적감쇠효과를크게느끼는사람은미래의가치를효용적가치가없는사안으로여기고당장의이익에몰두할가능성이높다.이들은미래의가치에대한긍정적인경험이없거나,자신의노력에대해실망한경험이자주있어오래기다리는일이나불확실한가치에심리적감쇠효과를크게느낀다._79쪽

이처럼동일한소집단에서치료군과비치료군을비교하는시도는의학분야에서정밀의학이라는이름으로선도적으로시도되고있다.과거의인과관계문제또는치료효과의문제는무작위임상시험에근거한평균치료효과를추정하기위한연구들이었다.평균치료효과란전체집단에서이치료가효과를보이는지파악하는것으로,이를테면전체집단에서특정소그룹에효과가없거나부작용이있더라도이는무시하자는것이다.반면소집단의치료효과또는개인별치료효과를계산할수있다면,환자의상태에따른개인별맞춤치료가가능해진다._181~182쪽