AI, 편견을 넘다 : 다양성을 품은 인공지능의 미래
Description
인공지능이 만드는 미래는 축복인가, 불행인가?
차별과 편견을 넘어 다양성이 살아 있는 세상,
사람이 중심이 되는 AI 생태계를 그리다!
AI의 놀라운 발전은 그 어느 때보다 인류의 삶을 급속히 변화시키며 AI 없는 미래는 상상할 수조차 없게 만들고 있다. 하지만 우리가 감탄하고 놀라워하는 한편으로 AI가 제공하는 편향된 지식과 정보가 심각한 사회문제로 떠오르고 있다. 나날이 그 폐해가 커져감에도, 그에 대한 대비는 미흡하다는 사실에 공감한 산학연 전문가들이 한자리에 모였다. 이들은 모두 AI가 불러오는 사회변화를 가장 먼저 감지하고 새로운 생태계를 만들어가는 최전선에서 활동하는 전문가들로, 각자의 분야에 맞는 전문적이면서도 현실적인 통찰과 제안을 해주었다. AI 기술이 왜 편향성을 드러내는지 그 원인을 진단하고, 사회 각 분야에는 어떤 영향을 미치는지 평가한 다음, 기술이 가져다주는 혜택을 모두가 함께 누리기 위해서는 어떻게 나아가야 하는지 그 방향을 제시한다. 전례 없이 빠른 속도로 발전하는 AI 기술이기에, 그 발전 속도에서 배제되는 개인이나 계층은 사회에서 소외되거나 도태될 가능성이 크다. 이는 단순히 사회적 갈등의 골이 깊어지는 수준에만 머물지 않을 것이다. 따라서 AI 기술발전이 가져올 고통과 재앙의 가능성을 이야기하는 이 책을 읽는 것은 오픈AI에서 내건 기치인 ‘AI 기술의 민주화’를 다시금 생각해보는 기회가 될 것이다.

저자

강정한,곽진선,권오성,김지희,배순민,안현실,이건명,이상욱,이혜숙,조원영

기획:한국과학기술젠더혁신센터(GISTeR)
과학기술정보통신부의지원을받아2021년설립된젠더혁신교육및정책연구기관으로새로운가치를창출하는젠더혁신(GenderedInnovations)을선도·확산하고있으며,포용적연구혁신을위해각국의연구기관들과협력하여성별등특성을반영한연구와교육사업을수행하고있다.또한정책연구,인식제고및역량강화,국제네트워크확대를통한지속가능한젠더혁신생태계구축등을핵심가치로설정하고다양한활동을이어가고있다.www.gister.re.kr

저자:강정한
서울대학교수학과를졸업한뒤동대학대학원사회학과에서석사학위를받고,시카고대학교에서사회학박사학위를받았다.코넬대학교사회학과박사후연구원을지낸후,현재연세대학교사회학과교수로재직중이다.《디지털사회를생각한다》《서울의미래세대》(이상공저)를썼다.

저자:곽진선
제4차과학기술인재육성지원기본계획자문위원(2020),대통령직속국민통합위원회과학기술과의동행특위위원(2024)을역임했고,현재는국가과학기술인력개발원인재교육본부연구위원,한국기술혁신학회인재개발정책연구회장,한국여성과학기술단체총연합회정책위원회부회장등으로활동중이다.

저자:권오성
KAIST전기·전산학부에서소프트웨어공학석사학위를받고,건국대학교산업경영융합학부에서경영공학박사학위를받았다.IBMKoreaK-Lab연구소및소프트웨어그룹본부를거쳐,현재MicrosoftInnovationHub총괄,건국대학교겸임교수를맡고있다.

저자:김지희
서울대학교계산통계학과인공지능전공석사,서던캘리포니아대학교(USC)컴퓨터공학박사학위를받았다.삼성전자AI랩장,KT미래기술연구소소장을거쳐현재동국대학교AI소프트웨어융합학부교수로재직중이다.한국인최초로미국인공지능진흥협회(AAAI)Councilor에선출된바있다.(2022-2025)

저자:배순민
매사추세츠공대MIT에서전기전자컴퓨터공학석·박사학위를취득하고,네이버클로바AI리더,삼성/한화테크윈로봇사업부AI개발팀장을지냈다.현재는KTAIFutureLab랩장으로일하면서KAIST문화기술대학원겸직교수로학생들을만나고있다.

저자:안현실
서울대학교경제학과를졸업하고KAIST에서경영과학박사학위를받았다.〈한국경제신문〉에서AI경제연구소장과논설·전문위원을지냈고,지금은울산과학기술원UNIST연구부총장으로재직중이다.옮긴책으로《부의기원》《좋은경제학나쁜경제학》(이상공역)등이있다.

저자:이건명
KAIST전산학과졸업후,동대학대학원에서인공지능분야로석사및박사학위를받았다.프랑스INSALyon박사후연구원,미국실리콘밸리PSI사연구원,콜로라도대학교덴버캠퍼스객원교수를지냈으며,현재충북대학교소프웨어학부교수로있다.《인공지능》《응용이보이는선형대수학》등의책을썼다.

저자:이상욱
서울대학교에서물리학학사및석사학위를받고런던대학교LSE에서철학박사학위를받았다.현재한양대학교인문과학대학철학과&인공지능학과교수로재직중이며,유네스코세계과학기술윤리위원회(COMEST)위원(2018-2025)으로도활동하고있다.

저자:이혜숙
1978년캐나다퀸스대학교에서박사학위를받았다.국가과학기술위원회자문위원,한국여성과학기술단체총연합회회장을맡은바있으며,현재는(재)한국과학기술젠더혁신센터소장,이화여자대학교수학과명예교수로재직중이다.

저자:조원영
서강대학교에서경제학학사,KAIST에서경영학석사및박사학위를받았다.삼성경제연구소수석연구원등을거쳐현재소프트웨어정책연구소SW기반정책·인재연구실실장,과학기술정보통신부디지털인재얼라이언스정책지원분과분과장등으로일하고있다.《AI와사회변화》《플랫폼,경영을바꾸다》(이상공저)등의책을썼다.

목차


머리말
프롤로그_인간중심의AI생태계를위하여
1생성형AI기술발전은접근성강화의기회다
2AI기술의가능성은익숙한것과의결별로부터
3다양성을위한AI,넘어야할과제들
4AI다양성관점에서혁신전략을묻다
5지속가능한AI다양성을위한체크리스트
6AI시대는어떤학문과인재를원하는가
7AI혁신을촉진하는다양성과포용성
8세상을바꾸는AI,오늘마주한질문과우려
9편향과선입견을넘어AI의미래를준비하다
참고문헌

출판사 서평

AI가편견을뛰어넘어공정성을실현할수있을까?

정신을차리고보니어느새우리곁에도래한이AI시대에인공지능이편견에사로잡혀편향성을드러낸다면어떤일이벌어질까.그편견을방치해도문제,바로잡으려는의도를담아도오류가나올수있는지금기술단계에서인공지능이마주한공정성과투명성문제를각기다른측면에서바라보고엮어낸9가지시선을소개한다.
2016년구글딥마인드의알파고가서울에서프로기사이세돌과바둑대국을펼치고이겼을때그충격과파장은미디어를타고전세계로퍼져나갔다.하지만이사건은사람들머릿속에인공지능이라는낯선용어를각인시키는계기가됐을뿐,세간의관심을꾸준히끌고가지는못했다.그러다오픈AI에서출시한ChatGPT가폭발적인성공을거두고선풍적인인기를끌면서,인공지능은유례없이빠른속도로우리일상구석구석까지파고들고있다.이런추세라면가까운시일안에우리사회모든영역에서전반적혹은부분적으로AI기술을도입하게될것이라는연구보고서도나왔다.
그만큼이제인공지능,특히생성형AI는우리가내리는의사결정에무시할수없는영향력을발휘하는데,이때인공지능이다양한사용자를상대로드러내는편향이심각한사회문제로떠오르고있다.이에한국과학기술젠더혁신센터(GISTeR)는그폐해가심각한데대비는미흡하다는점에공감하는산학연전문가들과함께모여대책을논의하고포럼을열어발표한자료를묶어이한권의책으로펴냈다.여기에참여한여러전문가들의통찰에는AI생태계를한층더포용적으로변화시켜보자는염원이담겨있다.이들이한목소리로외치는키워드는바로다양성이다.

AI는왜편견에사로잡혀편향성을드러낼까?

AI가일부러그렇게행동하려고마음을먹어서는아니다.적어도당분간은아무리뛰어난AI라하더라도인간과똑같은감정적경험을누릴수는없다고판단되기때문이다.인간이편견이나고정관념에따라판단을내리면편향되기마련이어서누군가는차별받듯,AI알고리즘도그럴수밖에없다.
생성형AI는지시나질문이입력되면거기에대응해서새로운콘텐츠를만들어내는기술인데,이때인간처럼다양한내용을이해하고문제를해결하려면훈련용데이터를대규모로사용해서학습해야한다.그런데이데이터에편향이끼어들면AI가그대로학습해서편향된결과를생성하는것이다.학습데이터가편향에물드는이유로는몇가지가있다.학습데이터도사람이만들어내는자료인만큼그자체에편향이존재할수밖에없고,특정환경이나조건을설정해서데이터를수집하면그범위안에갇혀서다양성을잃는다.또한AI시스템을설계하고운영하는사람들이의식적으로나무의식적으로자신들의의도를시스템에반용할때도편향을피할수없다.그러다보면AI성능이떨어지는결과를가져오는데,과적합현상이나타난다든지과소표현된집단에대한오류가빈발해서,끝내는폐기되는수순을밟기도한다.문제는여기서그치지않는다는데있다.

AI에깃든편견을다양성으로해소할수있을까?

누가뭐라해도지금가장핫한기술인AI를두고전세계모든국가가기대와우려를동시에드러내는실정이다.장밋빛전망과어두운그림자가공존하는기술의속성때문이다.AI가국가간경쟁력을좌우하는핵심기술로떠올랐기에AI패권을둘러싸고새로운국제질서가재편될가능성이있고,AI가가져다주는경제적혜택이모든국가와계층에고루돌아가지않으면서경제격차가기술격차를낳고다시기술격차가경제격차를벌려놓을수도있다.AI알고리즘이데이터에포함된문화를반영해서사회적약자와소수자를상대로차별을조장하거나부추길수도있거니와,개인의자유와권리를침해하며감시사회로나아갈수도있다.이미그런사례가있다.더불어환경을파괴할우려도있고,법률문제가불거질수도있다.
이런문제를해결하기위해연구자들은AI다양성을확보해야한다고강조한다.여기에형평성과포용성까지함께묶는데,그래야만다양성가치가제대로발휘되기때문이다.그렇다면인공지능에게어느수준까지다양성을요구해야할까?모든층위까지다아울러야한다면그것이기술적으로가능한지도물어야한다.또한다양성을실현하는데따르는기회비용은무엇이며,다양성을위한사회적합의를끌어내기는쉬운지,더나아가다양성을추구한다고해서반드시의도한결과가보장되는지도살펴봐야할과제로남는다.
이런노력에발맞춰,기술혁신주체가변화하는추세에따라‘많이시도하고빨리실패하며’성장해나가는사회여건을조성하고,따로또같이의가치를존중하며혁신의다양성,혁신주체의다양성도추구해야한다.

AI다양성이지속가능하려면무엇을체크해야할까?

모든기술이그렇듯,기술과접근성사이격차를줄여야한다.접근성이란불편함없이환경을이용할수있는정도를말하는데,혁신을이끄는주요동력중하나이기도하다.장애인의접근성을높이는AI의잠재력에주목하는이유도그래서다.우리는누구나장기간혹은일시적으로어떤측면에서든장애를경험하거나취약해질수있다.따라서장애인과취약계층이자유로이이용할수있는기술이라면모든이에게장벽이가장낮은도구라할만하다.
AI다양성을통해이런일이실현되려면AI기술에참여하는과학자의다양성이먼저갖춰져야한다.사람은관심이있는주제에호기심을보이기마련이어서,비슷한부류들사이에서는자칫편향되기쉽다.나이,성별,인종,출신배경,경력등이다채로운사람들이모여야만서로간에공감이싹트고서사가생기면서진정성이묻어나와,진정한의미에서다양성을끌어올릴수있다.
이렇게다양성을추구하는환경에서는AI에연계되는지식과학문도경계가무너지며융합되는추세로나아간다.따라서이런시대에걸맞은인재를키워내는교육체계도달라져야한다.한사람이그모든지식을다습득할수는없기에국면을읽고시의적절하게제반조건을절충하는시야를갖추어야하기때문이다.
다양성을추구하는일은이토록어렵고까다롭지만,기술혁신이가져다주는혜택을함께누리며좀더나은사회로나아가는한갈래길이될수있다.