엣지 AI (임베디드 시스템으로 현실 문제를 해결하는)

다니엘시투나야케,제니플런켓

임베디드머신러닝연구와개발을이끄는엣지임펄스의머신러닝책임자다.오라일리에서출판한임베디드머신러닝의표준교과서인『초소형머신러닝TinyML』(한빛미디어,2020)의공동저자이며,하버드,UC버클리,UNIFEI에서초청강연을진행한바있다.이전에구글에서텐서플로라이트(TensorFlowLite)를개발했으며,미국최초로자동화를통해산업규모로곤충단백질을생산하는회사인타이니팜스(TinyFarms)를공동설립했다.버밍엄시티대학교에서자동식별과데이터캡처를강의하는것으로경력을시작했다.

제1장엣지AI에대한간략한소개
__핵심용어정의
____임베디드
____엣지(와사물인터넷)
____인공지능
____머신러닝
____엣지AI
____임베디드머신러닝과TinyML
____디지털신호처리
__엣지AI가필요한이유는무엇인가?
____엣지AI의이점을이해하려면BLERP만있으면된다
____좋은일을위한엣지AI
____엣지AI와일반AI의주요차이점
__요약

제2장현실세계에서의엣지AI
__엣지AI의일반적인사용사례
____그린필드와브라운필드프로젝트
____실제제품
__애플리케이션유형
____사물추적
____시스템이해와제어
____사람과생물에대한이해
____신호변환
__책임감있게애플리케이션만들기
____책임감있는설계와AI윤리
____블랙박스와편향성
____도움이아니라해를끼치는기술
__요약

제3장엣지AI의하드웨어
__센서,신호,데이터소스
____센서와신호의종류
____음향과진동
____시각과장면
____동작과위치
____힘과촉각
____광학,전자기,방사선
____환경,생물학,화학
____기타신호
__엣지AI용프로세서
____엣지AI하드웨어아키텍처
____마이크로컨트롤러와디지털신호프로세서
____시스템온칩
____딥러닝가속기
____FPGA와ASIC
____엣지서버
____다중장치아키텍처
____장치와워크로드
__요약

제4장엣지AI용알고리듬
__피처엔지니어링
____데이터스트림작업
____디지털신호처리알고리듬
____피처와센서결합하기
__인공지능알고리듬
____기능별알고리듬유형
____구현별알고리듬유형
____엣지장치를위한최적화
____온디바이스학습
__요약

제5장도구와전문지식
__엣지AI를위한팀구축
____도메인전문지식
____다양성
____이해관계자
____역할과책임
____엣지AI채용
____엣지AI기술배우기
__비장의무기
____소프트웨어공학
____데이터작업
____알고리듬개발
____장치에서알고리듬실행하기
____임베디드소프트웨어공학과전자공학
____엣지AI를위한엔드투엔드플랫폼
__요약

제6장문제를이해하고표현하기
__엣지AI워크플로
____엣지AI워크플로의책임감있는AI
__엣지AI가필요할까?
문제설명하기
____엣지에배치해야하는가?
____머신러닝이필요할까?
____실전연습
__실현가능성결정하기
____도덕적타당성
____사업타당성
____데이터세트타당성
____기술타당성
__최종결정내리기
____엣지AI프로젝트계획하기
__요약

제7장어떻게데이터세트를만들것인가
__데이터세트는어떻게생겼나?
__이상적인데이터세트
__데이터세트와도메인전문지식
__데이터,윤리,책임감있는AI
____모르는것을최소화하기
____도메인전문성확보하기
__데이터중심머신러닝
__데이터요구사항추정하기
____데이터요구사항추정을위한실용적인워크플로
__데이터활용하기
____엣지에서데이터를캡처할때의고유한과제
__데이터를저장하고가져오기
____데이터저장소로데이터가져오기
____메타데이터수집하기
__데이터품질보장하기
____대표데이터세트확보하기
____샘플링을통한데이터검토
____레이블노이즈
____일반적인데이터오류
____드리프트와시프트
____고르지않은오류분포
__데이터준비
____레이블링
____포맷지정
____데이터클리닝
____피처엔지니어링
____데이터분할
____데이터증강
____데이터파이프라인
__시간에따른데이터세트구축
__요약

제8장엣지AI애플리케이션설계하기
__제품과경험설계
____설계원칙
____솔루션범위설정
____설계목표설정
__아키텍처설계
____하드웨어,소프트웨어,서비스
____기본애플리케이션아키텍처
____복잡한애플리케이션아키텍처와설계패턴
____설계패턴으로작업하기
__설계선택에대한설명
____설계결과물
__요약

제9장엣지AI애플리케이션개발
__엣지AI개발을위한반복적워크플로
__탐색
____목표설정
____부트스트랩
____테스트와반복
____배치
____지원
__요약

제10장엣지AI애플리케이션평가,배치,지원하기
__엣지AI시스템평가하기
____시스템평가방법
____유용한지표
____평가기법
____평가와책임감있는AI
__엣지AI애플리케이션배치하기
____배치전작업
____배치중작업
____배치후작업
__엣지AI애플리케이션지원
____배치후모니터링
____라이브애플리케이션개선하기
____윤리와장기지원
__다음단계

제11장사용사례:야생동물모니터링
__문제탐색
__솔루션탐색
__목표설정
__솔루션설계
____어떤솔루션이이미존재하는가?
____솔루션설계접근방식
____설계고려사항
____환경영향
____부트스트래핑
____머신러닝클래스정의
__데이터세트수집
____엣지임펄스
____하드웨어와센서선택
____데이터수집
____iNaturalist
____데이터세트의한계
____데이터세트라이선스와법적의무
____데이터세트클리닝
____엣지임펄스에데이터업로드
__DSP와머신러닝워크플로
____디지털신호처리블록
____머신러닝블록
__모델테스트
____라이브분류
____모델테스트
____로컬에서모델테스트하기
__배치
____라이브러리생성
____휴대폰과컴퓨터
____사전빌드된바이너리플래싱하기
____임펄스러너
____깃허브소스코드
__반복과피드백루프
__공익을위한AI
__관련연구
____데이터세트
____연구

제12장사용사례:식품품질보증
__문제탐색
__솔루션탐색
__목표설정
__솔루션설계
____어떤솔루션이이미존재할까?
____솔루션설계접근방식
____설계고려사항
____환경과사회적영향
____부트스트랩
____머신러닝클래스정의
__데이터세트수집
____엣지임펄스
____하드웨어와센서선택
____데이터수집
____데이터수집펌웨어
____엣지임펄스에데이터업로드
____데이터세트클리닝
____데이터세트라이선스와법적의무
__DSP와머신러닝워크플로
____디지털신호처리블록
____머신러닝블록
__모델테스트
____실시간분류
____모델테스트
__배치
____사전빌드된바이너리플래싱
____깃허브소스코드
__반복과피드백루프
__관련연구
____연구
____뉴스와기타기사

제13장사용사례:소비자제품
__문제탐색
__목표설정
__솔루션설계
____어떤솔루션이이미존재하는가?
____솔루션설계접근법
____설계고려사항
____환경과사회적영향
____부트스트랩
____머신러닝클래스정의
__데이터세트수집
____엣지임펄스
____하드웨어와센서선택
____데이터수집
____데이터수집펌웨어
____데이터세트클리닝
____데이터세트라이선스와법적의무
__DSP와머신러닝워크플로
____디지털신호처리블록
____머신러닝블록
__모델테스트
____실시간분류
____모델테스트
__배포
____사전빌드된바이너리플래싱
____깃허브소스코드
__반복과피드백루프
__관련연구
____연구
____뉴스와기타기사
찾아보기

◈이책에서다루는내용◈

◆엣지디바이스용AI와ML에대한전문성개발하기
◆엣지AI로가장잘해결할수있는프로젝트이해하기
◆엣지AI앱을위한주요디자인패턴살펴보기
◆AI시스템개발을위한반복적인워크플로알아보기
◆실제문제를해결할수있는기술을갖춘팀구성하기
◆책임감있는AI프로세스를따라효과적인제품만들기


◈이책의대상독자◈

◆마이크로컨트롤러나DSP(DigitalSignalProcessor)같은리소스가제한된장치나임베디드리눅스컴퓨터같은범용장치에대한임베디드개발고급개념을알고있는개발자
◆엣지AI기술을통해성공적인엣지AI제품을만들고자하는과학자,제품관리자,의사결정권자
◆엔지니어링분야의실용적인로드맵을높은수준에서다루길바라는엔지니어


◈이책의구성◈

처음몇개장에서는핵심개념을소개하고논의하여형세를이해하는데도움을준다.다음몇개장은애플리케이션을설계하고구현하는데도움이되는실제프로세스를안내한다.
11장에서시작하는이책의두번째부분에서는과학,산업,소비자프로젝트에서실제문제를해결하기위한지식을차근차근설명,적용하는방법을보여준다.
이책을다읽고나면엣지AI라는렌즈를통해세상을보는데자신감을갖게될것이며,효과적인솔루션을구축하는데사용할수있는견고한도구들을얻게될것이다.

◈옮긴이의말◈

1956년인공지능이라는용어가처음언급된이후인공지능은몇번의부흥기와침체기를맞으며발전해왔다.현대머신러닝의뿌리라고할수있는퍼셉트론도1958년에고안됐으나1969년XOR을해결할수없음이수학적으로증명되면서한동안잊혀졌다.1980년대에는입력된규칙을기반으로판단을내리는전문가시스템이등장하여충분한데이터만있으면분야별전문가를대체할수도있겠다는기대를모으기도했으나,방대한지식을일일이규칙으로저장하는데는한계가있어다시한번인공지능의겨울이오기도했다.
그러던중,1986년다층퍼셉트론이론과역전파알고리듬을적용하여머신러닝의불씨를다시되살리고,2016년지금도잊을수없는이세돌과알파고의대국을기점으로인공지능에대한기대가다시급성장했다.2022년챗GPT의등장은인공지능을거스를수없는대세로만들었고,인간의최후의보루로여겨졌던창의적인작업조차인공지능으로대체될수있다는위기감이휘몰아쳤다.
진정인공지능이인간의일자리를모두빼앗아버릴지,아니면고도로발전된펜과종이로서여전히인간을돕게될지는앞으로인간이어떻게대응할지에달려있겠지만,현재로서는대세에역행하려고부질없이애쓰기보다는기술을어떻게활용할지를생각할단계인것같다.
이책은날로강력해지는엣지장치,즉인터넷말단에장착된임베디드시스템의CPU파워를활용하여,멀리있는클라우드서버에덜의존하고현장에서즉각적인판단을내릴수있는엣지AI시스템을설계하는방법을다룬다.또한클라우드AI와엣지AI각각의장단점을실제사례를기반으로네트워크,경제성,신뢰성,윤리적측면에서살펴보고,둘사이에서균형점을찾을수있도록도와준다.특히학습데이터준비와프라이버시측면은엣지AI에만국한되지않고일반적인AI시스템을만드는사람이라면누구든지고려해야할사항을실제사례와함께자세하게소개하고있다.
마지막으로엣지임펄스에서개발한도구를기반으로엣지AI장치를설계,구현하는실습예제를보여주고,엣지AI에입문하는사람이직접과정을따라가면서쉽게배울수있는기회를제공했다.