Description
알파고로 인공지능에 대한 관심이 증가한 이후, 인공지능의 열기는 식지않고 다양한 분야에서 활용되고 있다. CNN, RNN 등 다양한 알고리즘이 개발되었고, 이에 다양한 분야에서 인공지능을 활용하여 자동화 등을 이룩하고 있다. 하지만 밝은 부분이 있다면 어두운 부분도 있는 것이 순리인 바, 기존 인공지능 알고리즘의 문제점 또한 두드러지기 시작했다.
초기 인공지능과 다르게 최근 인공지능을 위한 신경망은 다양한 층을 가지게 되었고, 이에 따라 인공지능이 결정을 추론하는 방법과 과정을 사용자 뿐만 아니라 개발자 조차도 모르게 되었다. 이를 우리는 인공지능의 블랙박스 또는 불투명성이라고 하는데, 이러한 부분을 해결하지 못한다면 인공지능의 활용은 어느 순간 신뢰를 잃게 될 것이다.
일례로, 말 사진을 분류하는 인공지능의 경우 말 사진은 저작권으로 보호되는 경우가 많기 때문에 이 신경망은 ? 기호를 찾아 말을 분류했던 것으로 파악되었는데, 결국 우리가 원하는 방식으로 분류 기준을 세우지 않았기 때문에 실생활에 적용하기에는 문제가 있게 된다.
이러한 문제점을 해결하고자 설명 가능한 인공지능 (Explainable AI; XAI)이 개발되었다. 설명 가능한 인공지능은 위에서 살펴본 인공지능의 문제점 중 하나인 블랙박스 문제를 해결하기 위해 개발된 알고리즘으로, 인공지능이 내린 최종 결과를 사용자가 정확히 이해하고 해석할 수 있도록 확장된 개념이다.
본 보고서에서는 설명 가능한 인공지능의 등장 배경부터 기술동향, 시장동향 등을 통해 설명 가능한 인공지능 산업을 전망해보고자 한다.
초기 인공지능과 다르게 최근 인공지능을 위한 신경망은 다양한 층을 가지게 되었고, 이에 따라 인공지능이 결정을 추론하는 방법과 과정을 사용자 뿐만 아니라 개발자 조차도 모르게 되었다. 이를 우리는 인공지능의 블랙박스 또는 불투명성이라고 하는데, 이러한 부분을 해결하지 못한다면 인공지능의 활용은 어느 순간 신뢰를 잃게 될 것이다.
일례로, 말 사진을 분류하는 인공지능의 경우 말 사진은 저작권으로 보호되는 경우가 많기 때문에 이 신경망은 ? 기호를 찾아 말을 분류했던 것으로 파악되었는데, 결국 우리가 원하는 방식으로 분류 기준을 세우지 않았기 때문에 실생활에 적용하기에는 문제가 있게 된다.
이러한 문제점을 해결하고자 설명 가능한 인공지능 (Explainable AI; XAI)이 개발되었다. 설명 가능한 인공지능은 위에서 살펴본 인공지능의 문제점 중 하나인 블랙박스 문제를 해결하기 위해 개발된 알고리즘으로, 인공지능이 내린 최종 결과를 사용자가 정확히 이해하고 해석할 수 있도록 확장된 개념이다.
본 보고서에서는 설명 가능한 인공지능의 등장 배경부터 기술동향, 시장동향 등을 통해 설명 가능한 인공지능 산업을 전망해보고자 한다.
설명가능한 인공지능(XAI)관련 산업분석보고서
$66.00