Description
인간을 대신하여 결정할 권한을 넘겨 받은 AI
무책임한 AI ‘때문에’
무고한 시민이 체포되거나, 유죄 판결을 받거나,
심지어 목숨까지 잃고 있다
정말 AI 때문일까?
무책임한 AI ‘때문에’
무고한 시민이 체포되거나, 유죄 판결을 받거나,
심지어 목숨까지 잃고 있다
정말 AI 때문일까?
눈도 코도 입도, 심지어 마음도 없는 AI. 하지만 인간은 왜 이토록 AI를 신뢰하고, AI의 결정이라면 아무런 반박도 하지 않고 따르려고만 하는가? AI를 창조해낸 것이 바로 인간이라는 점을 고려해봤을 때 이런 AI 맹종 현상은 설명이 불가할 정도로 신기한 부분이 있다.
AI 맹종이라는 말에 동의하기 어려운가? 그렇다면 현재 AI가 처리하고 있는 일의 범주를 살펴보자. 거의 ‘전능하다’라고 할 정도다! 취업 서류심사, 채용 면접, 은행 대출 심사, 법원 판결 보조, 범죄 리스트 등재, 테러리스트 색출, 자율주행차 운행... 인간들이 하고 있는 일을 몽땅 AI에게 던져버렸나 싶을 정도로 일의 종류도 다양하지만, 심지어 인간의 목숨을 좌지우지하는 일까지 AI가 맡고 있다는 점은 놀라울 정도다.
AI 때문에 사라지거나 사라질 인간의 직업 리스트는 지금도 계속 업데이트 중이며, 사람과 AI와의 ‘경쟁’에서 사람이 패배하는 것은 불을 보듯 뻔하다는 서사가 계속해서 확산하고 있다. 이것은 마치 ‘인간이 AI보다 더 열등하고 더 부정확하며 오류가 잦다’라는 전제가 참이라는 것처럼 들린다. 하지만 과연 그럴까?
이 책은 현재 지구촌에 무차별적으로 확산되는 AI 맹신 현상을 구체적인 사례들을 통해 ‘역시 AI는 기계에 불과하며 인간의 철저한 관리 감독을 통해서만 제 기능을 발휘할 수 있다’라며 바로잡아 주는 역할을 한다. 뿐만 아니라, 우리가 ‘내 탓이 아니에요, AI가 그랬어요’라고 요리조리 책임을 회피하며 방패막이로 이용하던 AI에서 방패의 지위를 빼앗고, ‘모든 무거운 책임은 인간에게 있다’라는 아프지만 진실인 명제를 마주하게 한다.
저자인 카트리나 츠바이크는 오류를 저지르는 AI와 그것을 맹신하는 인간의 마음속 현상을 직접 다루지는 않는다. 하지만 구체적이고 능수능란한 단계적인 사례 제시를 통하여, 인간의 심연에서 어떤 일이 벌어지고 있을지를 마치 추리소설을 읽으면서 범인을 예상할 때처럼 독자가 스스로 유추해 나가도록 이끈다.
AI 맹종이라는 말에 동의하기 어려운가? 그렇다면 현재 AI가 처리하고 있는 일의 범주를 살펴보자. 거의 ‘전능하다’라고 할 정도다! 취업 서류심사, 채용 면접, 은행 대출 심사, 법원 판결 보조, 범죄 리스트 등재, 테러리스트 색출, 자율주행차 운행... 인간들이 하고 있는 일을 몽땅 AI에게 던져버렸나 싶을 정도로 일의 종류도 다양하지만, 심지어 인간의 목숨을 좌지우지하는 일까지 AI가 맡고 있다는 점은 놀라울 정도다.
AI 때문에 사라지거나 사라질 인간의 직업 리스트는 지금도 계속 업데이트 중이며, 사람과 AI와의 ‘경쟁’에서 사람이 패배하는 것은 불을 보듯 뻔하다는 서사가 계속해서 확산하고 있다. 이것은 마치 ‘인간이 AI보다 더 열등하고 더 부정확하며 오류가 잦다’라는 전제가 참이라는 것처럼 들린다. 하지만 과연 그럴까?
이 책은 현재 지구촌에 무차별적으로 확산되는 AI 맹신 현상을 구체적인 사례들을 통해 ‘역시 AI는 기계에 불과하며 인간의 철저한 관리 감독을 통해서만 제 기능을 발휘할 수 있다’라며 바로잡아 주는 역할을 한다. 뿐만 아니라, 우리가 ‘내 탓이 아니에요, AI가 그랬어요’라고 요리조리 책임을 회피하며 방패막이로 이용하던 AI에서 방패의 지위를 빼앗고, ‘모든 무거운 책임은 인간에게 있다’라는 아프지만 진실인 명제를 마주하게 한다.
저자인 카트리나 츠바이크는 오류를 저지르는 AI와 그것을 맹신하는 인간의 마음속 현상을 직접 다루지는 않는다. 하지만 구체적이고 능수능란한 단계적인 사례 제시를 통하여, 인간의 심연에서 어떤 일이 벌어지고 있을지를 마치 추리소설을 읽으면서 범인을 예상할 때처럼 독자가 스스로 유추해 나가도록 이끈다.
무책임한 AI (사소한 오류부터 치명적 위협까지)
$22.00