AGI의 시대 : 인간을 초월한 인공지능, AGI를 논하다

한상기

저자:한상기
서울대컴퓨터공학과를졸업하고카이스트에서인공지능분야중지식표현에관한연구로박사학위를취득했다.삼성전자전략기획실과미디어서비스사업팀에서인터넷사업을담당한후2003년다음커뮤니케이션전략대표와일본법인장을역임했다.카이스트와세종대학교교수를거쳐2011년부터테크프론티어대표를맡고있다.현재기업을위한기술전략컨설팅,정부정책자문과연구수행그리고기술과사회를주제로강연하고있다.인공지능윤리를위한기술프레임워크,신뢰가능한인공지능등에대한연구과제를수행했으며슬로우뉴스등여러매체에기술관련칼럼을기고하고있다.공공영역에서는인공지능데이터세트구축을위한AI데이터로드맵총괄기획위원,인공지능그랜드챌린지기획위원으로활동했다.지은책으로는『신뢰할수있는인공지능』『한상기의소셜미디어특강』이있으며『인공지능은어떻게산업의미래를바꾸는가』『4차산업혁명과미래사회Ⅱ』『초연결시대인간-미디어-문화』에공동저자로참여했다.

|1부|AGI의시대

1장논쟁의중심,AGI
1.1AGI의시작
1.2프론티어모델,AGI,ASI그리고ACI
1.3AGI가온다
1.4AGI는당분간달성하기어려울것이라는사람들
1.5AI전문연구자와기업인들의견해
1.6AGI는어떻게등장하는가
1.7AGI를레벨로나누어서분류하기
1.8GPT-4는튜링테스트를통과했는가

2장AGI의잠재적위험
2.1문학작품에나타난AGI에대한경고
2.2AI의최고연구자들의경고
2.3AI로인한인류멸종위기에대한논쟁
2.4파멸론자,효과적이타주의자,효과적가속주의자
2.5AI파멸론에대한비판

1부를마치며

|2부|얼라인먼트:연구와정책

3장얼라인먼트문제란무엇인가
3.1얼라인먼트
3.2속임수를사용하는AI
3.3챗GPT와트롤리문제

4장얼라인먼트연구의주요방향
4.1데이터,학습,평가영역에서의얼라인먼트
4.2안전과얼라인먼트연구의근본과제

5장얼라인먼트연구전문그룹
5.1얼라인먼트연구센터와모델평가및위협연구
5.2데이터출처이니셔티브
5.3주요대학과지역의얼라인먼트연구그룹

6장얼라인먼트문제에대응하는주요기업의접근방법
6.1오픈AI의접근
6.2앤스로픽의얼라인먼트기술과정책
6.3구글딥마인드
6.4집단얼라인먼트
6.5해석가능성을높이기위한연구

2부를마치며

|3부|정책적대응

7장AI안전과통제를위한주요국가의정책및국제협력
7.1G7히로시마AI프로세스
7.2유럽연합의AI법과관련이슈
7.3영국블레츨리선언과AI안전연구소
7.4미국바이든행정명령과후속조치들
7.5프랑스,중국,캐나다등여러국가의움직임
7.6프론티어모델포럼과AI얼라이언스

3부를마치며

“인간보다뛰어난존재가온다!”
인간을초월한지능,AGI를맞이할준비가되었는가

이책은AGI(인공일반지능)의시대를예견하며기술,철학,정책이교차하는가장첨예한논쟁을조망한다.세계적인AI석학들의통찰과빅테크기업가들의비즈니스관점을바탕으로AGI의본질을날카롭게파헤치며,이를둘러싼핵심쟁점부터각국의AI패권경쟁까지AGI와관련된뜨거운논의를한권에담았다.특히AGI를인간중심으로설계하기위한‘얼라인먼트’기술과AI안전정책의중요성을강조하며기술적진보와윤리적책임의접점을제시한다.인간이통제할수없는AGI가등장했을때우리는과연어떻게공존할것인가?이질문에답을찾고자한다면이책이그실마리를제공할것이다.

AGI를이해하기위해가장처음으로읽어야할책!
다가올‘AGI의시대’를한권으로정리하다

“우리는인간보다더똑똑한사물이생긴다는것이무엇인지경험해본적이없습니다.”

2024년노벨물리학을수상한제프리힌턴의이말은우리사회에강렬한경고를던진다.인간보다뛰어난존재인AGI가곧현실로다가올것이며이에대한준비가부족하다는사실을일깨우는메시지다.AGI의등장은단순한기술혁신을넘어,인간의가치와규범그리고통제력의본질을시험하는중대한전환점이될것이다.

이책은AGI시대를준비하기위해반드시알아야할핵심주제를다룬다.‘인공일반지능’,즉AGI의정의와그에대한논쟁은물론AGI가가져올기회와위협을균형있게소개하며,이를안전하게활용하기위한핵심기술인‘얼라인먼트’를기술및기업전략적관점에서분석한다.또한각국정부와국제기구,기업들이AGI선점을위해펼치는치열한경쟁과협력의현황을조명한다.이책을덮은후,우리는인공지능을바라보는현재의관점을새롭게정립하고정책적대응을명확히직시하며다가올AGI의시대를맞이하는데필요한통찰을얻을수있을것이다.