통계적 기계 학습

최근 10여 년간 다양한 분야에서의 데이터와 이의 활용에 대한 요구의 증가로 기계 학습 방법에 대한 관심은 계속 증가하고 있다. 이 책은 기계 학습 알고리즘의 기본 원리를 이해하고자 하는 학계 및 산업체의 연구자들이 사용할 수 있는 입문서로서, 입문자들이 알고리즘의 기본 원리를 상당히 깊이까지 이해할 수 있도록 쓰인 책이다. 생성적 알고리즘의 기본 원리는 파라미터 추정의 정확성에 대한 원리다. 제한된 양의 데이터를 가지고 파라미터 추정을 할 때 이해해야 할 중요한 이론들의 의미에 대해 이 책은 입문자의 입장에서 직관적이고 정확한 설명을 제공한다. 특별히 이 부분은 한국에서 출판된 기계 학습 서적들에서 관련된 내용을 많이 간과하고 있는 중요한 부분이다.

머리말

역자 서문



1장. 패턴 인식의 기초

1.1 패턴 인식이란

1.2 결정론적 패턴 인식과 통계적 패턴 인식

1.3 통계적 패턴 인식의 수식화



2장. 준비

2.1 확률·통계의 기초

2.2 Octave의 사용 방법



3장. 판별 함수의 평가 기준

3.1 학습 표본을 이용한 판별 함수의 학습

3.2 최대 사후 확률 법칙

3.3 최소 오판별률 법칙

3.4 베이즈 결정 규칙

3.5 생성 모델 기반 패턴 인식



4장. 최대 우도 추정법

4.1 최대 우도 추정법의 정의

4.2 가우시안 모델

4.3 카테고리의 사후 확률 계산

4.4 선형 판별 분석



5장. 최대 우도 추정법의 이론적 성질

5.1 준비

5.2 일치성

5.3 점근 불편성

5.4 점근 유효성

5.5 점근 정규성



6장. 선형 판별 분석을 사용한 필기 인식

6.1 숫자 필기 데이터를 로드하여 표시하기

6.2 선형 판별 분석의 구현

6.3 2개 이상 분류 항목 문자 인식 결과 평가



7장. 최대 우도 추정법의 모델 선택

7.1 모델 선택이란?

7.2 확률 밀도 함수의 근접성 측정 기준

7.3 아카이케의 정보량 기준

7.4 다케우치의 정보량 기준



8장. 가우스 혼합 모델의 최대 우도 추정

8.1 가우스 혼합 모델

8.2 경사법

8.3 EM 알고리즘



9장. 베이즈 추론법

9.1 베이즈 추론법의 정의

9.2 베이즈 추론법과 최대 우도 추정법의 차이

9.3 최대 사후 확률 추정법

9.4 켤레 사전 분포



10장. 베이즈 추론법

10.1 몬테카를로 적분

10.2 중요 샘플링

10.3 컴퓨터로 유사 난수 만들기



11장. 베이즈 추론법의 모델 선택론

11.1 사전 확률의 설정과 모델 선택

11.2 주변 우도의 라플라스 근사

11.3 베이즈 정보량 기준

11.4 변분 베이지안 방법



12장. 커널 밀도 추정법

12.1 히스토그램 방법

12.2 논파라메트릭 방법의 기본 개념

12.3 파젠 윈도우 방법과 커널 밀도 추정법

12.4 우도 교차 검증법



13장. 근접 이웃 밀도 추정법

13.1 근접 이웃 밀도 추정법

13.2 최근접 밀도 추정을 이용한 패턴 인식

13.3 k-근접 이웃 분류기



맺음말

참고문헌

찾아보기

스기야마 마사시 저자 스기야마 마사시(杉山?)는 1974년 오사카 출생. 정보공학 학사, 석사, 박사 학위를 각각 1997년, 1999년, 2001년 도쿄공업대학에서 받았다. 2001년부터 동 대학의 조수, 조교수, 교수로 재직했다. 2014년부터는 도쿄대학의 교수로 재직 중이다. 2003년에 알렉산더 폰 훔볼트 재단 연구원으로 독일 베를린의 프라운호퍼 연구소에서, 2006년에는 유럽위원회의 Erasmus Mundus Scholarship을 받아 영국 에든버러대학에서 연구했다. 2007년 비정상 환경에서의 기계 학습 연구로 IBM Faculty Award를 수상했고, 확률비 추정에 기반을 둔 기계 학습 연구로 2011년 일본 정보처리학회 나가오 기념 특별상 및 2014년 문부과학성의 과학기술 분야 대신이 수여하는 젊은 과학자상을 받았다. 기계 학습 및 데이터 마이닝의 이론 연구와 알고리즘의 개발 및 그 신호 처리, 이미지 처리, 로봇 제어 등의 응용에 관한 연구를 하고 있다. 주요 저서로는 Machine Learning in Non-stationary Environments (MIT Press), Density Ratio Estimation in Machine Learning (Cambridge University Press) 등이 있다.