멜트다운 (편리한 위험의 시대)

멜트다운 (편리한 위험의 시대)

$25.00
Description
바야흐로, ‘재난의 시대’다. 사람들은 늘상 정부기관에서 보내는 재난 문자를 받고, 재난 경보가 울리지 않더라도 매일 미세먼지 지수를 확인한다. 일상과 가장 먼 단어였던 ‘재난’은 이제 일상의 일부가 됐다. 그만큼 ‘재난’의 폭과 깊이도 다양해졌다. 개학 철을 맞추어 한유총이 소위 “폐원 투쟁”을 벌이고, 유치원 개학이 연기되자 각 지자체는 재난 경고 시스템을 활용해 연기 사실을 알렸다. ‘개학 연기’가 ‘재난’이 된 이 일련의 과정이 “폐원 투쟁” 만큼이나 논란과 화젯거리가 되었다. 이런 논란은 어쩌면 우리 앞에 닥친 재난의 모습이 이전에 상상해 온 것과는 전혀 다른 모습일 것을 방증해주는 사례인지도 모른다.
오늘날 ‘재난’으로 불리는 사고와 사건들은 발현되는 양상과 직접적인 원인에서는 일관된 규칙을 찾기 어렵다. 하지만 더 근본적인 원인을 파고들면 큰 틀에서 모두 ‘시스템 사고’다. KT 아현지사 화재 사고는 ‘익숙한 원인, 낯선 여파’라는, 오늘날 우리를 급습해오는, 그리고 미래에 더 자주 다가올 ‘시스템 사고’의 전형을 보여줬다. 『멜트다운』은 이런 ‘시스템 사고’ 사례들을 사회학, 심리학, 인지과학, 경제학 등을 활용해 전에 없던 폭과 깊이로 다룬다.
‘멜트다운’이란 원자로 냉각장치 정지로 인한 노심 용융을 가리키는 말이다. 이런 사고는 일본 후쿠시마 원전 사고에서처럼 지진이나 쓰나미 등 자연재해로 발발하기도 하지만, 부주의한 검사나 일상적인 실수로도 발생한다. 전자와 후자 중 직접적인 원인이 무엇이든 사고는 걷잡을 수 없이 빠른 속도로 진행되며, 그 결과는 끔찍한 참사로 이어진다. 오늘날 벌어지는 모든 참사는 그 원인과 속도, 그리고 결과 면에서 일종의 ‘멜트다운’이다. 이 책의 두 저자는 시스템 붕괴로 인해 발생하는 ‘멜트다운’들을 폭넓게 분석하고, 오늘 우리가 대비해야 할 ‘멜트다운’의 시나리오들과 그 실천적 해법을 제시한다.
저자

크리스클리어필드

하버드대학교에서물리학과생물학을전공했다.현재는사고관리컨설팅회사인‘시스템로직SystemLogic’을운영하고있다.과거뉴욕에근거지를둔투자회사에서파생상품을판매하는동안리먼브러더스와AIG가무너지고세계주식시장이붕괴하는것을지켜보았다.도쿄에체류하는동안에는후쿠시마원전사고가일어났고,허리케인샌디가뉴욕을덮쳤을때에도그곳에있었다.이러한일련의사건을겪는동안우리가믿어의심치않는가장중요한시스템이얼마나부서지기쉬운것인지를깨달았고,다른조직보다특별히위기관리에능한조직이있다는걸알게되었다.재난으로인한실패와기술,금융등을주제로《가디언》,《포브스》,《하버드비즈니스리뷰》등에글을써왔으며,콜럼비아대학교,프린스턴대학교,뉴욕시재해관리국을비롯한다양한곳에서강연을했다.

목차

프롤로그:평범한어느날

1부실패로가득한세상

1장위험구역
1.뭔가가잘못됐다
2.정상사고,조직이만드는참사
3.‘소급오류’라는무시무시한결론
4.긴밀한결합과복잡도
5.스타벅스가칙페로의세계에
떨어졌다

2장딥워터뉴호라이즌스
1.확장된‘위험구역’
2.복잡하고,불투명하며,
가차없는시스템
3.안전장치라는환상
4.복잡도속에몸을숨긴절도범

3장해킹,사기,
그리고지면을차지한가짜뉴스들
1.POS가해킹당했다고?
2.더똑똑하고편리해진위험
3.악마의술수가된시가평가
4.그는거기에없었다

2부복잡도정복하기

4장위험구역밖으로
1.재앙을낳은안전장치
2.단순하고,투명하게,
여유을더하는방법

5장복잡한시스템,단순한도구
1.핵발전소보다나은대피소는없었다
2.고약한환경과중요한결정
3.경기가끝나면이야기는달라진다

6장불길한징조읽기
1.하루60달러의대가
2.사라진열차
3.주위는어둡고,지시는모호했다
4.구사일생상황보고서작성하기

7장반대의견의진면목
1.죽음을불러온‘시체냄새’
2.반대의견의중요성
3.경고신호에귀를기울이기

8장과속방지턱효과
1.‘무죄추정효과’가불러온재앙
2.다양성전담반가동하기
3.비전문성이조직을구한다

9장낯선세계의낯선사람들
1.컴퓨터가철창을열어주다
2.모든권력을이방인에게!
3.배타성을키우는우물안개구리
4.일탈의정상화가일으킨
챌린저호의재앙

10장놀랐지!
1.무조건도착증세에저항하기
2.긍정적순환을위한‘잠깐멈춤’
3.다른모든사람의임무를
알아야합니다

에필로그:멜트다운의황금시대

감사의말
주석
찾아보기

출판사 서평

모든곳이‘위험구역’이다!
기술고도화가만든‘편리한위험’들

“아무도계산을확인하지않은채컴퓨터가말하는대로따르기만했다.
컴퓨터가자동으로철창을열어준셈이었다.”

2015년5월어느저녁,상점에서총격사건으로한소년이사망했다.범인은강도및폭행으로복역하고,2주전석방된제러미야스미스였다.그런데이사건에책임을지고사임한인물은경찰서장이나경찰총장이아닌워싱턴주교정국장댄파콜크였다.워싱턴주교정국에도입된재소자관리시스템에는문제가있었다.시스템오류로재소자들의복역기간을잘못계산하고있었고,이때문에3개월이상일찍석방된범인이다시범죄를저지르면서무고한희생이또다시발생한것이다.
사건이발생하기3년전,다른사건의피해자가족중하나가간단한계산으로출소일오류를알아차렸고,교정국에알렸다.하지만재소자관리프로그램을수정하는데에는3년이걸렸다.그사이에도평균2개월에서수년까지잘못계산된석방일에범죄자들은출소하고있었다.아무도컴퓨터를의심하지않았고,위험은계속해서커지며모습을드러낼날을기다리고있었다.
컴퓨터기술에사회시스템전반이의존하고있는사회에서위험과사고는더흔하고잦게우리삶을파고든다.이책에서다룬‘멜트다운’에는핵발전소,비행사고,우주탐사선발사사고등우리가‘참사’와‘재난’이라는단어에서금세떠올릴수있는사고들부터자율주행차,현금인출기,주식시장과금융시장,그리고우리가재난과연결시키려생각해본적도없는모든일상적상황들까지포함된다.
이전에는핵발전소,항공및우주산업등기술집약적인산업분야일부에서만이런‘멜트다운’이벌어졌다.극도로복잡하고전문화된기술때문에전체적관점에서문제상황을파악하거나대비하기어려웠기때문이다.하지만오늘날에는이런고도화된기술이어디에나적용되어있다.특히컴퓨터기술의발달은우리가눈을뜨는순간부터감는때까지생활모든곳에녹아들었다.버스나지하철,택시같은대중교통수단을이용할때,편의점에서물건을계산할때도우리는이제‘멜트다운’의사정권안이다.
『멜트다운』에서는지금까지우리가맞닥뜨려온여러‘위험구역’의면면으로치밀하게파고들며,‘막을수있었던’참사가아닌‘막아낼실패’의목록을늘려나갈것을제안한다.


매일‘재난문자’를받는시대
‘일탈의정상화’를경계하라!

“경고음은8분마다울렸다.…8분에한번씩늑대가나타났다고외친다면
사람들은곧관심을잃을것이다.”

‘멜트다운’을부르는근본적원인은‘시스템에대한무관심한신뢰’다.‘멜트다운’이다가오는신호는확실히알아보기어렵다.하지만두저자는반드시신호가존재한다고말한다.모든재난에서경고신호는무수히존재했고,우리는너무잦아서일상이된경고신호를무시했을뿐이라고말한다.
항공산업은‘멜트다운’이발생하기쉬운전형적인고위험산업이다.지난해10월에이어6개월만에재발한보잉737맥스추락사고역시전형적인‘멜트다운’사고다.보잉이라는굴지의항공산업체가갖춘생산시스템,기체를검증한미정부의시스템,그리고최신기술이적용된컴퓨터시스템에대한무관심한신뢰가반복된참사로이어진것이다.
두건의추락사고모두에서보잉맥스기종에탑재된최첨단장비인조종특성향상시스템(MCAS)과받음각(AOA)센서가사고의직접적인원인으로지목되고있다.기체탑재이전에도이두프로그램에는안전성문제가제기되었다.그럼에도기체를납품한후인도네시아항공소속편에서첫번째추락사고가일어나고나서야보잉은문제의기능을연말까지보완하기로약속했다.하지만그약속조차지켜지지않으면서에티오피아항공소속편사고로이어진것이다.결국보잉사가시스템업데이트조치를취한것은두번째참사가벌어진후였다.한국을포함한세계각국으로문제기종이판매되고운행되는중에도보잉사와당국의감사,검증시스템은곳곳에서나타난경고신호를무시했던것이다.
저자들은인간이기본적으로직관에의존하도록설계된존재라말한다.기계시스템,검증시스템의사소한오류가문제로드러나지않은채잠복해있으면,오류를품은시스템은점차‘정상’으로인지된다.이렇게결과로만시스템의정상여부를판단하는경향인‘결과편향(outcomebias)’은‘일탈의정상화’를낳는주범이다.이렇게정상으로탈바꿈한일탈들이쌓여참사로불거진다.저자들은‘일탈의정상화’를막기위해문제를수집하고,드러내고,공유하는비일상화(amornalizing)의과정의필요성을역설한다.
완벽한시스템은없다
하지만실패를막을해법은반드시있다!

“상황은나빠지고있는게아니라‘달라지고’있는것이다”

‘시스템’이란인간이안전과편의를위해설계한도구다.기계와같은물리적인시스템이될수도있고,국회나회사의이사회처럼중요한의사결정을위해만든조직이될수도있다.그리고실제로사회곳곳에도입된다양한시스템들은목적에걸맞게작동하고있는것처럼보인다.하지만인간이완벽할수없듯,인간이설계한시스템역시완벽할수없다.시스템에는반드시실수와실패가따른다.하지만문제는우리가이시스템에서한순간도벗어날수없다는사실,그리고컴퓨터와통신기술발달로더복잡하고촘촘하게짜이게된이시스템이어디서부터어떻게무너질지상상하기어렵다는사실에있다.또한과거의시스템들은비교적느리고불편했지만그렇기때문에누구든‘직관적’으로문제상황을파악하고해결할수있었다.하지만오늘날의시스템은편리하고빨라진만큼붕괴도쉽고빠르다.전문화된여러분야가결합한오늘날의시스템은전문가라도문제를쉽게파악하기어렵게한다.
그럼에도저자들은사고가반복되는오늘날의“상황은나빠지고있는게아니라‘달라지고’있는것”이라진단한다.‘달라지고’있는환경에도대응방식을바꾸지못한채직관에의존할때에실패가반복되는것이다.그렇다면이제우리가할일은명확하다.반드시찾아올시스템붕괴,즉‘멜트다운’의신호들을놓치지않고,적절한대응방법을세우는것이다.
이책에서는‘멜트다운’의근본적인원인중하나가‘고약한환경’에있다고말한다.짧은기간에높은성과를요구하는‘속도전식’계획과실행,문제상황을발견한다해도드러내지못하게만드는수직적의사소통구조,실패에대한낮은포용성,다양성이부족한조직구성,특히의사결정권을가진집단내다양성결핍.이런문제들은실제‘멜트다운’으로직결되는실수들처럼예측이불가능하고눈에보이지않아서해결할수없는난제가아니다.누구든의지만있다면개선을시작할수있다.『멜트다운』에는부정확한직관을보완해줄다양한도구들,무관심한상태로보내는시스템에대한신뢰를막는긍정적인순환구조등경직된개인과조직,사회를움직이게할실천적제안들이담겨있다.

소셜미디어부터핵발전소,금융시장까지‘멜트다운’의발생범위는기존상식과상상력을넘어섰고‘위험’은숨쉬듯당연해오히려무감한무엇이됐다.그럴수록매일울리는‘재난경고’를진지하게받아들이는사람들은점점더줄어들고있지만,재난의범위와숫자는매일늘어만간다.더는재난의나날들을정상상태로여겨선안된다고,저자들은강조한다.“시스템대부분을근본적으로바꿀수는없더라도그안에서움직이는방식은바꿀수있다”고말하는저자들은“내부고발자,이방인,경청하는리더들”이더많이이논의에참여하고,행동하기를청한다.확실히우리는‘멜트다운의황금시대’에살고있다.수많은‘멜트다운’들은우리를좌절시킨다.하지만실패앞에좌절하는것만으로변화는오지않는다.실패를직시하고,직관과관성을거부하기위한명확한지침을마련하고,지침이잊히지않도록끊임없이노력할유연한조직을시스템에갖추어야한다.이제‘시도하려는확신’만이필요할뿐이다.