생성형 AI 시대의 금융소비자 보호

정다워

법학박사,한국산업은행근무

머리말
약어표

제1장서론

제2장금융에서의생성형AI활용및정책현황
1.생성형AI의개념
2.금융에서의생성형AI활용현황
가.주요적용영역
1)대출심사및신용평가
2)리스크관리및부도예측
3)고객확인절차및사기탐지
4)고객서비스혁신
5)차세대기술:에이전틱AI
나.해외에서의활용현황
1)싱가포르개발은행의Digibank
2)OCBCBank
3)BankofAmerica
4)CrossRiverBank
5)홍콩상하이은행
6)EllieMaeInc.
7)해빗팩토리
다.국내에서의활용현황
1)우리은행
2)하나은행
3)기업은행
4)검토
3.생성형AI관련정책현황
가.AI기본법의제정
나.정부의AI금융활성화정책
4.소결

제3장금융거래에서의알고리즘차별과관련한문제
1.금융거래에서의알고리즘편향
가.알고리즘편향
1)개념
2)알고리즘편향과금융거래에서의차별
(1)금융거래에서의차별
(2)금융거래에서의알고리즘편향의위험성
3)알고리즘편향과신용도에따른차별
4)알고리즘편향과경쟁제한
나.알고리즘차별사례
1)제1유형:신한은행사례
2)제2유형:애플카드사례
3)제3유형:네이버사례
2.알고리즘편향에대한규제필요성
가.개요
나.알고리즘편향이유발하는문제
1)사회적불평등의심화
2)편향적의사결정
3)결과책임의모호성
다.알고리즘편향성검증의구조적한계
1)편향성판단의주관성과복잡성
2)AI환경에서차별관련규제의구조적한계
라.거래단계별알고리즘규제의필요성
3.금융분야차별금지규제의현황과문제점
가.법제간규율범위의차이
나.금융소비자보호법상차별개념의모호성
다.영향평가제도의한계
1)영향평가의개념과유형
2)실효성확보수단의미비
4.데이터활용의문제점
가.정보주체의권리
나.개인정보보호원칙과의충돌
다.금융분야에서의특수문제
1)프로파일링에대한입법적공백
2)개인정보활용의문제
라.안전성규제의문제
5.설명을요구할권리의문제점
가.알고리즘의불투명성
나.자동화평가에대한설명요구권
1)설명요구권관련규제현황
2)적용범위의불명확성
다.설명가능한AI
1)설명가능한AI의필요성
2)금융에서의적용현황
3)설명가능한AI의한계
6.불법행위책임의문제점
가.전통적불법행위책임의한계
나.제조물책임의대안적접근
다.금융소비자입증책임의문제
7.소결

제4장주요국의알고리즘차별규제현황
1.미국
가.규제개관
1)국가AI계획법(NationalArtificialIntelligenceInitiativeActof2020)
2)트럼프행정부의AI관련행정명령(EO14179)
3)미국AI행동계획(America’sAIActionPlan)
4)연방기관의AI사용및조달에관한정책
나.알고리즘차별규제의제도적기반마련
1)2019년알고리즘책임법안
2)2022년알고리즘책임법안
다.금융소비자보호법리의확장적용
1)재무부
2)소비자금융보호국
3)주별규제현황
(1)캘리포니아
(2)콜로라도
(3)뉴욕
2.EU160
가.규제개관
나.차별금지원칙의법제화
다.법제간연계를통한금융소비자보호
1)금융AI활용에의「EUAI법」적용
(1)기존금융규제와AI법의조화
(2)디지털운영회복력법
(3)금융데이터접근규정안
2)EUAI책임지침안
3)EU제조물책임지침
3.일본
가.규제개관
나.AI촉진법상규제
다.혁신과규제의균형
4.영국
가.규제개관
나.원칙기반방식의차별규제
1)AI백서
2)공공부문영향평가
3)유연하면서도예측가능한규제환경조성
다.금융소비자보호기준의강화
1)소비자보호원칙도입
2)알고리즘검증및모니터링의무
5.캐나다
가.규제개관
나.연방차원의법제정비추진
다.알고리즘영향평가를통한차별규제
1)자동화된의사결정에관한지침
2)한계
라.권고기반의책임있는AI활용체계구축
1)금융AI활용을위한EDGE원칙
2)금융기관의AI위험관리가이드라인
6.소결

제5장알고리즘차별규제개선방안
1.서설
2.사전적금융소비자보호개선방안
가.차별금지기준정비
1)법제간차별금지기준정비
2)차별금지적용범위의확대
나.규제간상호작용을위한보충규범의마련
다.정보주체로서의금융소비자보호
1)정보주체의실질적권리보장
2)데이터편향식별을통한공정성확보
3)안전성확보의무적용범위의확대
4)금융안전성확보를위한전담기관신설
라.영향평가제도의실효성강화
1)주요국의영향평가제도에대한검토
2)자율평가와독립검증체계구축
3.알고리즘기반거래관련개선방안
가.금융소비자선택권의실질적보장
1)금융조건비교제시의무
2)자동화결정재검토요구권부여
나.설명을요구할권리
1)설명의내용및범위구체화
2)설명가능한AI를통한기술적보완
(1)편향성검증도구로서의XAI
(2)평가기준수립과지속적개선체계
다.인간에의한감독의무화
라.규제당국의최종조정자로서의역할확대
4.사후적금융소비자보호개선방안
가.현행법상한계
나.알고리즘감사의의무화
1)개념
2)알고리즘감사의종류
3)알고리즘감사의구체적내용
다.피해구제의실질적보장
1)금융소비자보호수단의강화
2)입증책임의전환
3)분쟁조정제도의활용
4)사후책임에대한특례규정마련
라.금융포용과의연계
1)금융포용
2)알고리즘차별규제를통한금융포용기반마련
3)제도기반마련을위한데이터다양성확보
4)샌드박스를활용한맞춤형금융포용정책구현
5.소결

제6장결론

표목차
[표1]AI의발전과정
[표2]AI에이전트와에이전틱AI의비교
[표3]해외은행의AI활용사례
[표4]국내은행의AI활용사례
[표5]고영향AI사업자책무가이드라인
[표6]금융분야AI관련규제현황
[표7]금융권AI이원(Two-track)활용체계
[표8]대출에서의가격차별유형
[표9]금융거래에서의알고리즘차별유형
[표10]위험평가와영향평가의차이
[표11]AI윤리영향평가측정문항구성(안)
[표12]개인정보보호법과EUGDPR의비교
[표13]「EUAI법」의위험기반규제
[표14]정보주체의권리보장관련문제점과개선방안
[표15]영향평가의구체적내용
[표16]설명사항의구체적내용
[표17]알고리즘감사의목적
[표18]알고리즘감사의종류
[표19]금융포용의기준
[표20]알고리즘차별규제개선방안

생성형AI가금융산업전반에빠르게스며들고있다.신용평가에서맞춤형상품추천까지,알고리즘은이제금융기관의사결정의핵심으로자리잡았다.그러나이책은묻는다.방대한데이터를학습한AI가내린결정은과연공정한가?편향된데이터로훈련된알고리즘이금융소비자의대출조건과서비스접근성을좌우한다면,그것은첨단기술의탈을쓴차별이아닌가?

이책은이러한질문을법학적언어로정면에서파고든다.알고리즘차별의개념과적용범위를어떻게정의할것인지,개인정보보호법익과기술활용사이의균형을어떻게설계할것인지,그리고자동화된의사결정앞에선소비자가어떤권리를가져야하는지를치밀하게검토한다.

특히주목할만한것은알고리즘이산출한거래조건과전통적방식으로산정한거래조건을나란히보여주는‘금융조건비교제시방식’이라는실용적제안이다.이는금융소비자스스로차별여부를간접적으로가늠할수있게함으로써금융현장에서작동가능한현실적해법을제시한다는점에서돋보인다.나아가설명가능한AI의도입과소비자의설명요구권이결합될때알고리즘의공정성은선언이아닌제도로담보될수있음을강조한다.

저자는개인의권리구제만으로는알고리즘차별문제를해소하는데구조적한계가있음을인정하면서,금융위원회가사후적분쟁조정자를넘어시장의차별요인을선제적으로제거하는능동적규제자로거듭나야한다고역설한다.알고리즘감사의도입,분쟁조정제도의실효성강화,영국의금융옴부즈만제도를참조한편면적구속력부여등구체적이고다층적인제도개선안은이책을단순한이론서가아닌정책설계의실질적참고서로만든다.