AI 신뢰성의 변화와 과제

AI 신뢰성의 변화와 과제

$31.94
Description
최근 딥페이크 및 딥보이스를 비롯하여 AI와 관련하여 점점 더 급증하고 있는 불미스러운 사건들의 심각성과 함께 AI 신뢰성의 중요성이 전례 없이 부각되고 있음에도 불구하고, 실제 국내외 AI 시스템의 개발과 운영 현장에서는 AI 신뢰성에 대한 체계적이고 심층적인 고려가 아직 충분하지 않은 것이 현실입니다. 이러한 현실의 바람직한 개선을 위한 노력의 일환으로, 본서는 한국지능정보시스템학회(Korea Intelligent Information Systems Society, KIISS) 산하 AI 신뢰성 연구회 소속 전문가 9인(영남대 허용석 교수, 경희사이버대 이주민 교수, 부산대 김은미 연구교수, 한국교통대 정해민 교수, 소프트웨어정책연구소 조원영 박사, 부산대 이민혁 교수, 명지대 김형진 교수, 조선대 권보람 교수, 투이컨설팅 김인현 대표)이 공동 집필하였습니다.
1993년에 설립된 한국지능정보시스템학회(KIISS)는 오랜 전통과 높은 전문성을 자랑하는 AI 분야 전문학술단체이며, AI 신뢰성 연구회는 2024년 5월 1일에 AI 신뢰성 분야에 특화된 연구를 위해 한국지능정보시스템학회(KIISS)에서 창립되어 AI 신뢰성 연구와 담론의 허브 역할을 하고 있습니다. 특히, 2024년 한국지능정보시스템학회(KIISS) AI 신뢰성 연구회에서 발간한 〈AI 신뢰성의 이해와 실천〉(허용석ㆍ이주민ㆍ이광연ㆍ김은미ㆍ정해민ㆍ조원영 공저, 도서출판 청람)은 2025년 대한민국학술원 우수학술도서로 선정되는 쾌거를 이루어, AI 신뢰성 관련 연구의 우수성을 인정받았습니다. 본서는 한국지능정보시스템학회(KIISS) AI 신뢰성 연구회에서 발간하는 두 번째 학술서로서, 〈AI 신뢰성의 변화와 과제〉라는 제목으로 AI 신뢰성과 관련된 다음과 같은 아홉 가지의 주요 내용을 집중적으로 조명하고 있습니다.
1. 신뢰가능한 AI에 기반한 지속적인 경쟁우위 창출: AI 신뢰성 연구의 주요 흐름 고찰과 AI 신뢰성 확보를 위한 제언(1장)
2. AI와 인간: 도구를 넘어 신뢰를 함께 만드는 시대(2장)
3. AI를 믿을 수 있는 힘: 설명가능성(3장)
4. AI 공정성 확보를 위한 분야별 과제와 정량적 지표(4장)
5. 지속가능한 혁신을 위한 AI 신뢰성 정책의 과제(5장)
6. AI 강건성의 중요성과 방향성(6장)
7. AI 기반 위조 기술과 사회적 신뢰의 붕괴(7장)
8. AI 신뢰성 확보를 위한 윤리, 규제, 표준화 및 인증(8장)
9. AI 경영 시스템 도입방안(9장)
본서가 AI의 바람직한 발전과 책임 있는 활용에 기여하는 의미있는 밑거름이 되기를 진심으로 기원합니다.
저자

허용석

[학력]
KAIST경영공학박사
서울대학교경영학석사
성균관대학교영어영문학학사및경영학학사
[주요경력]
(현) 영남대학교경영대학경영학과교수
영남대학교경영연구소AI경영전략연구센터장
한국지능정보시스템학회(KIISS)AI신뢰성연구회장
(전) 삼성경제연구소(SERI)수석연구원,대외경제정책연구원(KIEP)연구원
[주요연구분야]
AI경영전략,AI신뢰성·AI거버넌스·AI윤리,데이터사이언스·인공지능·빅데이터,혁신전략·제품혁신전략·서비스혁신전략,기술혁신전략·R&D전략,지식경영전략·지식네트워크

목차

Chaptert1신뢰가능한AI에기반한지속적인경쟁우위창출:AI신뢰성연구의주요흐름고찰과AI신뢰성확보를위한제언
1.1서론:AI신뢰성과지속적인경쟁우위창출들
1.2본론:AI신뢰성관련5대주요연구흐름고찰들
1.AI신뢰성관련주요연구흐름Ⅰ:AI신뢰성구성요소중심연구들
2.AI신뢰성관련주요연구흐름Ⅱ:AI신뢰성위계적계층구조중심연구
3.AI신뢰성관련주요연구흐름Ⅲ:사회기술시스템기반AI신뢰성연구
4.AI신뢰성관련주요연구흐름Ⅳ:AI시스템생애주기기반AI신뢰성연구
5.AI신뢰성관련주요연구흐름Ⅴ:AI거버넌스기반AI신뢰성연구
1.3결론:AI신뢰성확보를위한6대제언
1.AI신뢰성확보를위한제언Ⅰ:AI신뢰성은지속적인경쟁우위창출의필수요소이며전략적으로관리되어야하는‘핵심품질’이라는전사적공감대확립필요
2.AI신뢰성확보를위한제언Ⅱ:자사의제품및서비스와내외부프로세스에맞는AI신뢰성의필수구성요소의선제적이며능동적인파악필요
3.AI신뢰성확보를위한제언Ⅲ:자사에적합한AI신뢰성의필수구성요소들의상대적인영향력(중요도)분석필요
4.AI신뢰성확보를위한제언Ⅳ:효과적인AI신뢰성확보를위한다차원적인시각과접근법필요
5.AI신뢰성확보를위한제언Ⅴ:AI시스템생애주기차원의역동적관점에기반한AI신뢰성관리필요
6.AI신뢰성확보를위한제언Ⅵ:AI거버넌스를통한AI신뢰성의전략적관리필요
[참고문헌_References]

Chaptert2AI와인간:도구를넘어신뢰를함께만드는시대
2.1서론:신뢰의풍경이바뀌고있다!
2.2본론
1.신뢰에대한이해
2.신뢰는어떻게형성되는가?다차원프레임워크를통한AI신뢰의이해
3.시간흐름에따른신뢰의진화
4.AI와의관계관점에서의신뢰
5.의인화된AI,신뢰를유도하다
6.AI신뢰의그림자:의도하지않은결과와위험
2.3결론:신뢰할수있는AI,우리가함께설계해야할미래
[참고문헌_References]

Chaptert3AI를믿을수있는힘:설명가능성
3.1서론
1.기계도사람처럼생각할수있다
2.AI가내린결정을믿을수있을까
3.설명가능성은선택이아닌필수
3.2본론
1.AI의진화는계속된다
2.AI진화에따른XAI의필요성
3.XAI기법의발전과정
4.인간중심의XAI
3.3결론
1.XAI의중요성과역할
2.인간중심XAI의가치와진화방향
3.설명가능성이나아가야할방향
[참고문헌_References]

Chaptert4AI공정성확보를위한분야별과제와정량적지표
4.1서론
4.2공정성이슈
1.응용도메인에따른공정성이슈
2.모달리티에따른공정성이슈
4.3공정성개념및지표
1.공정성개념
2.공정성지표의분류
3.사례를통한공정성개념및지표의이해
4.개인기준공정성지표
5.공정성개념및지표선택전략
6.공정성지표간의상충관계
4.4결론
[참고문헌_References]

Chaptert5지속가능한혁신을위한AI신뢰성정책의과제
5.1정부의AI신뢰성정책은왜필요한가?
5.2정부의AI신뢰성정책은어떻게이뤄지는가?
5.3AI신뢰성정책의글로벌거버넌스
5.4AI신뢰성정책의산업별적용과그효과
1.자동차산업의AI신뢰성정책
2.금융산업의AI신뢰성정책
3.헬스케어산업의AI신뢰성정책
4.AI신뢰성정책과산업성장의관계
5.5사전적(Ex-ante)정책과사후적(Ex-post)정책의균형
5.6결론
[참고문헌_References]

Chaptert6AI강건성의중요성과방향성
6.1서론
1.컴퓨터비전모델에대한스티커교란공격연구
2.테슬라오토파일럿의인식오류로인한사고
3.마이크로소프트테이(Tay)챗봇사건
4.악성코드‘Skynet’의프롬프트인젝션공격
5.HSBC음성인증보안취약사례
6.2AI강건성의개념과정의
1.제어이론및최적화분야
2.통계학분야
3.소프트웨어및시스템공학분야
4.인공지능및머신러닝분야
6.3AI강건성연구의주요흐름과발전
1.딥러닝이전:전통적강건성개념의정의와해석(2004~2009년)
2.딥러닝의도입과취약성발견(2010~2014년)
3.적대적공격ㆍ방어연구의본격화(2015~2017년)
4.이론기반강건성의인증기법과다분야확산(2018~2020년)
5.대규모언어모델(LLM)중심강건성,벤치마크및규제대응(2021~2025년)
6.4강건한AI를위한조직적과제와노력
[참고문헌_References]

Chaptert7AI기반위조기술과사회적신뢰의붕괴
7.1서론
1.딥페이크기술개요
2.딥보이스기술개요
3.모델붕괴:생성형AI와신뢰할수없는정보생태계
7.2본론
1.기술적대응전략
2.예방을위한전략
3.대응을위한전략
7.3결론
1.기술·정책·사회문화의통합대응필요성
2.대한민국의대응방향:디지털신뢰회복을위한실천과제
[참고문헌_References]

Chaptert8AI신뢰성확보를위한윤리,규제,표준화및인증
8.1서론
8.2본론
1.모두윤리를우선으로두고있을까?
2.AI규제의필요성과그역할
3.AI신뢰성을위한표준및인증제도
8.3결론
[참고문헌_References]

Chaptert9AI경영시스템도입방안
9.1AI경영시스템대두
9.2AI경영시스템의개념
1.경영시스템의의미와발전
2.경영활동에AI적용확산
3.AI도입에따른경영시스템의변화방향
9.3AI경영시스템참조모델
1.ISO/IEC42001:국제표준AI경영시스템
2.NISTAIRMF:리스크관리프레임워크
3.EUAIAct:법적규제프레임워크
4.우리나라AI기본법:산업진흥과신뢰기반조성
5.참조모델비교분석및시사점
9.4AI경영시스템구성과도입
1.AIMS개념
2.AIMS의관리대상리스크
3.AIMS구성
4.AIMS도입방안
[참고문헌_References]