AI 신뢰성의 변화와 과제

허용석

[학력]
KAIST 경영공학 박사
서울대학교 경영학 석사
성균관대학교 영어영문학 학사 및 경영학 학사
[주요 경력]
(현) 영남대학교 경영대학 경영학과 교수
영남대학교 경영연구소 AI경영전략연구센터장
한국지능정보시스템학회(KIISS) AI 신뢰성 연구회장
(전) 삼성경제연구소(SERI) 수석연구원, 대외경제정책연구원(KIEP) 연구원
[주요 연구 분야]
AI 경영전략, AI 신뢰성·AI 거버넌스·AI 윤리, 데이터 사이언스·인공지능·빅데이터, 혁신전략·제품혁신전략·서비스혁신전략, 기술혁신전략·R&D전략, 지식경영전략·지식네트워크

Chaptert 1 신뢰가능한 AI에 기반한 지속적인 경쟁우위 창출: AI 신뢰성 연구의 주요 흐름 고찰과 AI 신뢰성 확보를 위한 제언
1.1 서론: AI 신뢰성과 지속적인 경쟁우위 창출들
1.2 본론: AI 신뢰성 관련 5대 주요 연구 흐름 고찰들
1. AI 신뢰성 관련 주요 연구 흐름 Ⅰ: AI 신뢰성 구성요소 중심 연구들
2. AI 신뢰성 관련 주요 연구 흐름 Ⅱ: AI 신뢰성 위계적 계층구조 중심 연구
3. AI 신뢰성 관련 주요 연구 흐름 Ⅲ: 사회 기술 시스템 기반 AI 신뢰성 연구
4. AI 신뢰성 관련 주요 연구 흐름 Ⅳ: AI 시스템 생애주기 기반 AI 신뢰성 연구
5. AI 신뢰성 관련 주요 연구 흐름 Ⅴ: AI 거버넌스 기반 AI 신뢰성 연구
1.3 결론: AI 신뢰성 확보를 위한 6대 제언
1. AI 신뢰성 확보를 위한 제언 Ⅰ: AI 신뢰성은 지속적인 경쟁우위 창출의 필수 요소이며 전략적으로 관리되어야 하는 ‘핵심 품질’이라는 전사적 공감대 확립 필요
2. AI 신뢰성 확보를 위한 제언 Ⅱ: 자사의 제품 및 서비스와 내외부 프로세스에 맞는 AI 신뢰성의 필수 구성요소의 선제적이며 능동적인 파악 필요
3. AI 신뢰성 확보를 위한 제언 Ⅲ: 자사에 적합한 AI 신뢰성의 필수 구성요소들의 상대적인 영향력(중요도) 분석 필요
4. AI 신뢰성 확보를 위한 제언 Ⅳ: 효과적인 AI 신뢰성 확보를 위한 다차원적인 시각과 접근법 필요
5. AI 신뢰성 확보를 위한 제언 Ⅴ: AI 시스템 생애주기 차원의 역동적 관점에 기반한 AI 신뢰성 관리 필요
6. AI 신뢰성 확보를 위한 제언 Ⅵ: AI 거버넌스를 통한 AI 신뢰성의 전략적 관리 필요
[참고문헌_ References]

Chaptert 2 AI와 인간: 도구를 넘어 신뢰를 함께 만드는 시대
2.1 서론: 신뢰의 풍경이 바뀌고 있다!
2.2 본론
1. 신뢰에 대한 이해
2. 신뢰는 어떻게 형성되는가? 다차원 프레임워크를 통한 AI 신뢰의 이해
3. 시간 흐름에 따른 신뢰의 진화
4. AI와의 관계 관점에서의 신뢰
5. 의인화된 AI, 신뢰를 유도하다
6. AI 신뢰의 그림자: 의도하지 않은 결과와 위험
2.3 결론: 신뢰할 수 있는 AI, 우리가 함께 설계해야 할 미래
[참고문헌_ References]

Chaptert 3 AI를 믿을 수 있는 힘: 설명가능성
3.1 서론
1. 기계도 사람처럼 생각할 수 있다
2. AI가 내린 결정을 믿을 수 있을까
3. 설명가능성은 선택이 아닌 필수
3.2 본론
1. AI의 진화는 계속된다
2. AI 진화에 따른 XAI의 필요성
3. XAI 기법의 발전과정
4. 인간 중심의 XAI
3.3 결론
1. XAI의 중요성과 역할
2. 인간 중심 XAI의 가치와 진화 방향
3. 설명가능성이 나아가야 할 방향
[참고문헌_ References]

Chaptert 4 AI 공정성 확보를 위한 분야별 과제와 정량적 지표
4.1 서론
4.2 공정성 이슈
1. 응용 도메인에 따른 공정성 이슈
2. 모달리티에 따른 공정성 이슈
4.3 공정성 개념 및 지표
1. 공정성 개념
2. 공정성 지표의 분류
3. 사례를 통한 공정성 개념 및 지표의 이해
4. 개인 기준 공정성 지표
5. 공정성 개념 및 지표 선택 전략
6. 공정성 지표 간의 상충관계
4.4 결론
[참고문헌_ References]

Chaptert 5 지속가능한 혁신을 위한 AI 신뢰성 정책의 과제
5.1 정부의 AI 신뢰성 정책은 왜 필요한가?
5.2 정부의 AI 신뢰성 정책은 어떻게 이뤄지는가?
5.3 AI 신뢰성 정책의 글로벌 거버넌스
5.4 AI 신뢰성 정책의 산업별 적용과 그 효과
1. 자동차 산업의 AI 신뢰성 정책
2. 금융산업의 AI 신뢰성 정책
3. 헬스케어 산업의 AI 신뢰성 정책
4. AI 신뢰성 정책과 산업 성장의 관계
5.5 사전적(Ex-ante) 정책과 사후적(Ex-post) 정책의 균형
5.6 결론
[참고문헌_ References]

Chaptert 6 AI 강건성의 중요성과 방향성
6.1 서론
1. 컴퓨터 비전 모델에 대한 스티커 교란 공격 연구
2. 테슬라 오토파일럿의 인식 오류로 인한 사고
3. 마이크로소프트 테이(Tay) 챗봇 사건
4. 악성코드 ‘Skynet’의 프롬프트 인젝션 공격
5. HSBC 음성 인증 보안 취약 사례
6.2 AI 강건성의 개념과 정의
1. 제어 이론 및 최적화 분야
2. 통계학 분야
3. 소프트웨어 및 시스템 공학 분야
4. 인공지능 및 머신러닝 분야
6.3 AI 강건성 연구의 주요 흐름과 발전
1. 딥러닝 이전: 전통적 강건성 개념의 정의와 해석(2004~2009년)
2. 딥러닝의 도입과 취약성 발견(2010~2014년)
3. 적대적 공격ㆍ방어 연구의 본격화(2015~2017년)
4. 이론 기반 강건성의 인증 기법과 다분야 확산 (2018~2020년)
5. 대규모 언어모델(LLM) 중심 강건성, 벤치마크 및 규제 대응(2021~2025년)
6.4 강건한 AI를 위한 조직적 과제와 노력
[참고문헌_ References]

Chaptert 7 AI 기반 위조 기술과 사회적 신뢰의 붕괴
7.1 서론
1. 딥페이크 기술 개요
2. 딥보이스 기술 개요
3. 모델 붕괴: 생성형 AI와 신뢰할 수 없는 정보 생태계
7.2 본론
1. 기술적 대응 전략
2. 예방을 위한 전략
3. 대응을 위한 전략
7.3 결론
1. 기술·정책·사회문화의 통합 대응 필요성
2. 대한민국의 대응 방향: 디지털 신뢰 회복을 위한 실천 과제
[참고문헌_ References]

Chaptert 8 AI 신뢰성 확보를 위한 윤리, 규제, 표준화 및 인증
8.1 서론
8.2 본론
1. 모두 윤리를 우선으로 두고 있을까?
2. AI 규제의 필요성과 그 역할
3. AI 신뢰성을 위한 표준 및 인증제도
8.3 결론
[참고문헌_ References]

Chaptert 9 AI 경영 시스템 도입방안
9.1 AI 경영 시스템 대두
9.2 AI 경영 시스템의 개념
1. 경영 시스템의 의미와 발전
2. 경영활동에 AI 적용 확산
3. AI 도입에 따른 경영 시스템의 변화 방향
9.3 AI 경영 시스템 참조 모델
1. ISO/IEC 42001: 국제표준 AI 경영 시스템
2. NIST AI RMF: 리스크 관리 프레임워크
3. EU AI Act: 법적 규제 프레임워크
4. 우리나라 AI 기본법: 산업 진흥과 신뢰 기반 조성
5. 참조 모델 비교 분석 및 시사점
9.4 AI 경영 시스템 구성과 도입
1. AIMS 개념
2. AIMS의 관리 대상 리스크
3. AIMS 구성
4. AIMS 도입방안
[참고문헌_ References]