01 머리말 02 인공지능의 어두운 그림자 03 인공지능의 내재적 취약성 3.1 투명성 부족 3.2 견고성 이슈 ㆍ콘텐츠 필터링 분야 ㆍ국방 분야 ㆍ자율주행 분야 ㆍ법 집행 (Law Enforcement) 분야 ㆍ의료분야 ㆍ금융분야 ㆍ전통적인 사람기반 작업 분야 ㆍ시민사회 분야 3.3 편향 (Bias) 3.4 개인정보우려 (Privacy Concerns) 3.5 보안상의 위험 (보안리스크, Security Risks)
04 인공지능의 재앙적 위험 원천 4.1 악용 (malicious use) 가. 생화학테러(바이오테러리즘) 나. 설득형 AI: 가짜정보의 전파 다. 권력의 집중 라. ChaosGPT 마. 마치며 1) 목표 달성을 위한 수단이 필요 2) 목표의 지속적 추구 보장 3) 환경 통제 4) 도구적 목표 라. 속임수 행위 마. 제안 바, 마치며 4.6 막대한 에너지 소비 가. 인공지능은 개발과 사용과정에서 지구환경에 친화적이어야 한다 나. 기업들의 저탄소 배출 노력 다. 마치며 05 맺음말
최근 AI가 사회의 대부분의 영역에서 놀라운 신기술로 등장하고 있으며, 모든 강력한 기술과 마찬가지로 사회의 지속 발전을 위하여 AI의 잠재력을 신중하게 고민하고 활용해야 하는 시점이다. 그러나 AI가 가져다줄 장미빛 전망에 가리워져 고급 AI가 초래할 수 있는 재앙적이거나 종말적인 위험이 어떻게 일어날지 또는 어떻게 대처해야 하는지에 대해서는 제한된 정보만이 제공되고 있다. 이 주제에 대한 다수의 자료가 존재하지만, 이들 자료들은 종종 다양한 논문에 흩어져 있거나 특정 위험에 중점을 둔 특정한 독자를 대상으로 하는 것이 일반적이다. 이 책에서는 인공지능이 갖는 잠재적 재앙적 AI 위험의 주요 원천을 크게 두가지 범주로 나누어 설명한다. 첫째는 AI모델이 기본적으로 지니는 내재적인 취약성(Intrinsic Vulnerability)으로 인한 위험이 그것이다. 사람의 지능을 포함 어떠한 지능이든 고유의 내재적인 취약점은 있게 마련이며 인공지능 역시 몇 가지 내재적 취약성을 가지며 그로 인해 결정과정에서의 편향이나 불분명한 책임소재, 적대적 공격, 개인 정보 우려 등의 위험이 발생한다. 두번째 위험 원천은 AI 성능이 점차 사람의 지능에 도달하거나 넘어서는 단계로 진화함에 따라 재앙적 위험 (Catastrophic risks)의 형태로 나타나는 위험요소들을 말한다. 이 책에서는 다음과 같이 여섯 가지의 재앙적 위험에 대해 논하고자 한다: 악의적 사용(Malicious use), 초지능 숭배 (super intelligence cultism), 인공지능 경쟁(AI race), 취약한 안전 문화 (Weak safety culture), 로그 AI (Rogue AIs) 및 막대한 에너지소비가 그 들이다.
이 책은 인류와 지구의 지속가능성을 염원하고 노력하는 이들은 물론 가까이 다가온 범용 인공지능(AGI) 시대에 대한 막연한 두려움을 가지고 있는 모든 이에게 보다 구체적이고 명료한 이해를 제공하기 위해 쓰여진 것이다. 각 섹션을 통해 AI와 관련된 위험의 원천이 어떻게 대규모 재앙이나 심지어 종말적인 위협을 초래할 수 있는지를 구체적으로 설명함으로써, AI의 위험성에 대비하기 위한 우리의 이해와 관심을 높이고자 한다. 위험의 원천을 구체적으로 인지하고 적절히 관리함으로써 AI의 혜택을 인류가 누리면서도 잠재적으로 발생할 수 있는 재앙 가능성을 최대한 낮추게 되기를 바랄 뿐이다.
인공지능의 어두운 그림자 (위험은 어디에서 오는가)
$26.85
Choosing a selection results in a full page refresh.
