인공지능과 편향

김효은

국립한밭대학교인문교양학부교수이며과학철학자,실험철학자다.국내최초로인공지능윤리교과를개설했고,IEEE(국제전기전자공학자협회)인공지능윤리지침위원으로참여했다.철학과인공지능학사,세인트루이스소재워싱턴대학교의철학ᐨ신경과학ᐨ심리학프로그램(PNPprogram)인지과학석사,이화여자대학교에서의식연구로박사를마쳤고,뉴욕대학교와듀크대학교,매쿼리대학교에서객원학자를지내면서분석철학을전산방법론과연계하는연구를모색해왔다.딥러닝을이용한도덕판단유형예측시스템을특허등록(2022)했으며,가치개념들의디지털구현및현실적용에관심을두고있다.최근연구로는재범예측시스템데이터,MLforKids등디지털도구를활용한교육방법개발,생성형AI활용교육가이드라인개발등이있다.주요저서는『인공지능과윤리』(2021),『인지과학실험실』(2021)등이다.

인공지능에서편향의위치

01인공지능편향정책
02인공지능편향의원인
03보호속성과인공지능공정성
04인공지능공정성의유형
05공정성기준들간상충
06인공지능구성단계에서의편향
07편향제거가아닌완화
08인공지능편향완화기술
09정확도-공정성트레이드오프
10편향완화플랫폼과인간판단

인공지능은왜편향되는가
데이터기반의현대인공지능은기획,설계,학습,배포의전단계에서인간의선택과사회적조건에의해다양한편향을내포한다.인공지능편향의개념과발생원리를기계학습구조속에서설명하고,단순한데이터불균형을넘어윤리적·사회적차원의구조적차별이어떻게알고리즘을통해증폭되는지를짚는다.나아가블랙박스구조속편향탐지의어려움,공정성기준의충돌,의도하지않은차별효과등현재인공지능이직면한핵심문제를구체적사례와함께제시한다.
인공지능개발자뿐아니라정책입안자,일반사용자모두가편향을인식하고대응해야할이유를설명하며,데이터전처리부터공정성기준의적용,편향완화기술까지총망라해AI윤리실천의길을제시한다.인간의편향이만든AI,그편향을다룰책임도결국인간에게있다는사실을강조한다.