XAI, 설명 가능한 AI

• 부제 주요 파이썬 라이브러리를 활용한 개별 기술 학습과 실습까지
• 저자 오오쓰보 나오키, 나카에 도시히로, 후카사와 유타, 도요카 쇼, 사카모토 뎃페이, 사토 마코토, 이가라시 겐타, 이치하라 다이키, 호리우치 신고
• 역자 김대희
• 출판사 비제이퍼블릭
• 출간/배본가능일 2022년 11월 24일
• 정가 27,000원
• 페이지 284쪽

책 소개

그 순간, 인공지능은 왜 그렇게 생각했을까?

설명 가능한 AI인 XAI로, AI의 마음속을 들여다본다!

어느덧 우리 주변에서 AI를 쉽게 접할 수 있는 시대가 되었다. 여러 다양한 기업에서도 AI를 통해 전략을 수립하거나 투자를 결정하고, 데이터 관련 법이 제정 및 공표되어 빅데이터를 수집하고 활용하는 근거가 마련되고 있다. 하지만 AI가 갑자기 일반적인 결과에서 벗어나 엉뚱한 결과를 도출한다면 어떻게 될까? 만약 생명과 관련된 AI에 이러한 문제가 발생한다면 큰 사고로도 이어질 수 있다. 하지만 ‘AI의 책임성’, 즉 AI가 도출하는 추론 결과에 명확한 근거를 제시하기 어려운 것이 현실인데, 이때 그 해결책으로써 'eXplainable AI', 즉 XAI가 주목받고 있다.
XAI는 AI에 관한 업무를 수행하거나 관심이 있다면 반드시 알아두어야 할 분야이다. 이 책은 XAI의 배경부터 개별 기술까지 체계적으로 학습하고 몇 가지 주요 라이브러리를 시험 삼아 구동해 보면서 실무 지식을 얻을 수 있는 해설서이다. 특히 각 기술들을 최소한의 수학적 전개를 통해 설명하며, 파이썬으로 구현하기 때문에 XAI를 실무에서 빠르게 적용할 수 있도록 하며, 그 외에 XAI에 대한 주요 이슈 및 앞으로의 전망도 설명한다. XAI가 무엇인지 개념을 잡고 싶거나 각 기술을 직접 소스 코드로 구현해 빠르게 확인해 보고 실무에 적용하려는 분들에게 꼭 필요한 책이 될 것이다.

소스 코드 다운로드 https://github.com/bjpublic/XAI

저자 소개

오오쓰보 나오키大坪直樹

2015년 NTT 데이터에 입사하여 헬스케어 분야 패키지 소프트웨어의 개발 업무를 거쳐서 2018년부터 AI 및 데이터 분석 기술 연구개발에 종사하고 있다. 헬스케어를 시작으로 사람의 판단에 중대한 책임을 지는 비즈니스 영역에 대해 업무의 고도화ㆍ효율화를 목표로 AI 개발에 매진하고 있다. ‘설명 가능한 AI’이 비즈니스와 기계 학습을 접목시키는 주요 기술이라고 생각하며, 고객ㆍ사용자 시선에서 사용하기 쉽고 이해하기 쉬운 것이 가장 중요하다고 생각한다.

나카에 도시히로中江俊博

2003년 NTT 데이터 수리 시스템에 입사하고 데이터 마이닝ㆍ기계학습 관련 조직에서 데이터 분석 수탁 안건을 다수 담당하는 한편 패키지 소프트웨어 판매ㆍ영업 등을 병행하며 수행했다. IoT 스타트업 기업으로 이직을 거쳐서 2019년부터 비즈리치(Visional 그룹)에 소속되어, 현재 Recommend 시스템 등 기계학습 관련 구축 등 코딩 관련 업무에 종사하고 있다.

후카사와 유타深沢祐太

2016년 NTT데이터 수리 시스템에 입사하여 제조업 대상 과학 계산, 데이터 분석의 연구 개발에 종사했다. 2018년부터 엣지 디바이스 대상 이미지 분석 연구 개발 분야에 몸을 담았다. LeapMind를 거쳐서 현재는 수리 모델의 개발 및 이미지 분석의 경험을 바탕으로 2021년부터 자동차 제조사에서 운전 주행 데이터 분석, 차량 탑재 카메라의 이미지 분석 연구 개발 분야에 종사하고 있다.

도요카 쇼豊岡 祥

2017년 NTT 데이터 수리 시스템에 입사하여 수리최적화ㆍ시뮬레이션ㆍ기계학습 등 폭넓은 기술을 활용해 실제 문제 해결에 힘쓰고 있다. 코로나 사태를 계기로 경기 프로그래밍을 시작하였고 ‘2020년 PG BATTLE’ 기업 부문 6위 입상 등 열심히 매진하고 있다. 취미는 합창으로, 국내 및 유럽 무대에서의 연주 경험이 있다. 2016 ~ 2018년 전일본 합창 연맹 유스콰이어 멤버이기도 하다.

사카모토 뎃페이坂元哲平

2018년 NTT 데이터에 입사하여 AI 기술의 사회적 도입을 위한 연구 개발에 종사하고 있다. 또한 공공 분야와 금융 분야 등 폭넓은 업계에서 AIㆍ데이터 분석 프로젝트에 참여하고 있다. 기술 및 업무를 이해하고 그 징검다리가 되는 날을 위해 열심히 매진 중이다.

사토 마코토佐藤 誠

2005년 NTT 데이터 수리 시스템에 입사하여 수리계획ㆍ최적화 개발 엔지니어로서 고객 컨설팅 활동 등을 병행하고 있다. 그 후 기계학습 등 기술 전반에 대해 고객의 과제 정리, 적용 지원 등을 중심으로 영업ㆍ컨설팅 팀의 리더로 활동하고 있다.

이가라시 겐타五十嵐健太

2010년 NTT 데이터 수리 시스템에 입사하여 기계학습ㆍ통계해석 등을 사용한 데이터 분석 수탁 안건을 다수 담당하고 자사 개발 분석 도구의 개발에 종사했다. 현재는 AIㆍ기계학습 등의 도입을 검토하는 고객의 과제 정리, 적용 지원 등을 수행하고 있다.

이치하라 다이키市原大暉

2017년 NTT 데이터에 입사하여 커뮤니케이션 로봇과 드론, IoT에 관한 연구개발에 종사해, 현재는 신뢰성 있는 AI 시스템을 구현하고 개발 공정을 체계화하고 품질 보증 방법을 구체화하는 것에 집중하고 있다. 자택의 스마트 홈을 추진하고 있으나 아파트의 오토락을 돌파하지 못해 고뇌하고 있으며, 취미로는 프로듀서 일을 병행하거나 말의 육성에도 힘쓰고 있다.

호리우치 신고堀内新吾

2013년 NTT데이터에 입사하여 빅데이터 분석과 이미지 인식에 관한 업무 및 연구에 종사했다. 2018년부터 실제 비즈니스에서의 AI 활용이라는 과제에 관심이 생겨 AI 시스템 개발을 위한 프로세스 및 품질 관리 검토 팀을 만들어 계몽활동을 진행하고 있다. 알고리즘 검토부터 기계학습 기술 활용 컨설팅과 데이터 활용까지 폭넓게 잘할 수 있기를 바라고 있다. 공동 저서로 『데이터 과학자의 기초 지식』(『データサイエンティストの基礎知識』, 2014년, 릭 텔레콤 간행)이 있다.

역자 소개

김대희

강남대학교 컴퓨터 공학과를 졸업 후 서비스 데스크 업무 및 시스템 운영 관리를 거쳐 일본계 회사인 (주)랏쿠에 입사했다. 일본 관공서 / 대기업 관련 프로젝트에 참여해 정보 보호 시스템 개발 및 유지보수를 수행했으며, 국내 정보 보안 컨설팅 프로젝트에도 참가했다. 현재는 SK쉴더스에서 고객사 정보 보안 시스템 구축/운영 업무 PM으로 업무 수행 중이며, 역서로는 ‘반응형 웹 디자인’, ‘IT 시스템 개발 철저공략’, ‘가장 쉬운 알고리즘 책’, ‘데이터베이스 철저공략’이 있다.

출판사 리뷰

XAI를 실무 현장에 적용하여 풀어낸 기술적 해설서 출간!

이 책으로 당신의 AI를 한층 더 이해하고 업그레이드하라!

본격적으로 AI가 업무 환경에 투입되고 있습니다. 이에 따라 AI 차세대 기술인 XAI(eXplainable AI, AI가 도출한 결과에 인간이 이해할 수 있는 이유나 근거를 제시하여, 인간과 AI를 연결하는 기술)도 동시에 각광받고 있습니다. 하지만 현재 공개된 다양한 XAI 소스 코드들 중 대부분은 연구자를 대상으로 한 논문이고, 실무 현장의 실정에 입각한 기술적 해설서는 그리 많지 않습니다. 특히 AI 업무 시 ‘공평성’, ‘책임성’, ‘투명성’이라는 3가지 요구사항을 갖추어야 하며, 그중에서도 ‘AI의 책임성’은 엔지니어와 사업가 양쪽에서 중요한 과제임에도 불구하고 책임성에 대한 기본적인 인식을 포함한 모든 내용들이 체계적으로 정리되지 못한 상황입니다.
이 책에서는 실제로 AI에 어떠한 ‘설명’이 필요하고 XAI를 통해 무엇이 가능한지를 친절하게 설명합니다. XAI의 기본 이론 및 대표적인 XAI 기술을 소개하고, 소스 코드를 구현하면서 실무적인 XAI 지식도 습득할 수 있습니다. 또한 파이썬의 XAI 라이브러리인 LIME이나 SHAP 등의 사용 방법도 소개합니다. 이 책을 통해 당신의 AI를 한층 더 이해하고 발전시켜 보시기 바랍니다.