신경망 설계(2판)(acorn ADVANCED)

★ 이 책에서 다루는 내용 ★

■ (다층 신경망 및 방사형 기저 네트워크를 포함한) 피드포워드 네트워크와 순환망의 훈련 기법을 상세히 다루고 있다. 켤레 경사 및 레벤버그-마쿼트 역전파 알고리즘의 변형 외에 훈련된 네트워크의 일반화를 보장하기 위한 베이지안 정규화와 조기 종료에 대해서도 다룬다.

■ 특징 맵, 벡터 양자화 학습을 포함하는 연상 네트워크와 경쟁 네트워크를 간단한 구성요소와 함께 설명한다.

■ 상세한 실제 사례 연구를 제시하는 5개의 장과 함께 함수 근사, 패턴 인식, 군집화, 예측에 관한 실용적인 훈련 팁에 관한 장을 제공한다.

■ 상세한 예제와 다양한 문제 풀이를 제공한다. 슬라이드와 종합적인 데모 소프트웨어를 hagan.okstate.edu/nnd.html에서 내려 받을 수 있다.



★ 이 책의 대상 독자 ★

대학교 졸업반이나 대학원 1년 차를 위한 한 학기 신경망 입문 과정으로 구성됐다(물론 단기 과정이나 독학, 참고용으로도 적합하다). 독자는 선형대수, 확률, 미분 방정식에 관한 배경지식이 어느 정도 있어야 한다.



★ 옮긴이의 말 ★

대부분의 머신 러닝 입문자들은 현재 머신 러닝 기법 중 가장 성능이 좋고 광범위하게 적용할 수 있는 딥러닝으로 입문할 것이다. 딥러닝을 공부하다 보면 DNN, CNN, RNN 같은 신경망이 어떤 배경으로 탄생하고 발전해왔는지 궁금해지는데, 이 책은 그런 궁금증을 해소해줄 뿐만 아니라 신경망의 이론적 기반을 더욱 탄탄히 하는 데 도움을 줄 수 있다.

인간이 자신의 뇌와 신경망을 직접 들여다보고 이해하기 시작한 것은 불과 100년 전이다. 19세기 말에 생체 신경망의 연구가 본격적으로 시작됐고, 그 후 얼마 지나지 않아 사람들은 기계로 생체 신경망을 모방하면 인간 수준의 추론을 할 수 있으리란 믿음으로 인공 신경망을 연구하기 시작했다. 1940년대에 인공 신경망의 역사가 시작됐으니, 그 역사는 컴퓨터의 역사와 비교해봐도 결코 짧다고 할 수 없다.

지난 70여 년 동안 인간 수준의 인공 신경망을 만들기 위해 수많은 노력이 있었으며, 그 안에서 다양한 형태의 신경망이 나타나고 발전해왔다. 이 책에서는 인공 신경망의 역사에 변곡점을 만든 주요 신경망의 개념과 구조, 훈련 방식을 체계적이고 상세하게 소개하고 있다.

이 책은 신경망 이론 입문서로서 전 세계 독자들에게 많은 사랑을 받고 있으며, 대학원 교재로 채택될 정도로 그 효용성을 인정받고 있다.



이는 다음과 같은 차별화된 특징들 때문이다.

1. 신경망 이론의 수학적 이해를 돕기 위해 선형대수 이론을 주요하게 다루고 있다.

2. 예제와 문제 풀이를 통해 개념을 아주 쉽게 설명하고 있어서 누구나 흥미롭게 이해하고 따라갈 수 있다

3. 신경망 이론의 수학적 증명을 포함하고 있어서 수학적 타당성을 깊이 있게 이해하게 해준다.



모쪼록 이 책이 신경망의 이론적 기반을 더욱 탄탄히 다질 수 있는 기회를 독자들에게 제공할 수 있기를 바란다.

1장. 소개

목표

역사

응용

생체 영감

참고 문헌



2장. 뉴런 모델과 네트워크 구조

목표

이론과 예제

표기법

뉴런 모델

네트워크 구조

결과 요약

문제 풀이

맺음말

연습문제



3장. 신경망 예제

목표

이론과 예제

문제 정의

퍼셉트론

해밍 네트워크

홉필드 네트워크

맺음말

연습문제



4장. 퍼셉트론 학습 규칙

목표

이론과 예제

학습 규칙

퍼셉트론 구조

퍼셉트론 학습 규칙

수렴의 증명

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



5장. 신호 및 가중치 벡터 공간

목표

이론과 예제

선형 벡터 공간

선형 독립

공간 생성

내적

놈

직교성

벡터 전개

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



6장. 신경망을 위한 선형 변환

목표

이론과 예제

선형 변환

행렬 표현

기저 변환

고윳값과 고유벡터

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



7장. 지도 헵 학습

목표

이론과 예제

선형 연상 메모리

헵 규칙

의사역행렬 규칙

응용

헵 학습의 변형

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



8장. 성능 표면과 최적점

목표

이론과 예제

테일러 급수

방향 미분

최소

최적의 필요조건

2차 함수

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



9장. 성능 최적화

목표

이론과 예제

최대 경사 하강법

뉴턴법

켤레 경사법

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



10장. 위드로-호프 학습

목표

이론과 예제

ADALINE 네트워크

평균 제곱 오차

LMS 알고리즘

수렴 분석

적응 필터링

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



11장. 역전파

목표

이론과 예제

다층 퍼셉트론

역전파 알고리즘

예제

배치 훈련과 점진적 훈련

역전파 사용

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



12장. 역전파 변형

목표

이론과 예제

역전파의 단점

역전파의 경험적 변형

수치 최적화 기법

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



13장. 일반화

목표

이론과 예제

문제 정의

일반화 개선 방법

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



14장. 동적 네트워크

목표

이론과 예제

계층화된 디지털 동적 네트워크

동적 학습 원리

동적 역전파

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



15장. 경쟁 네트워크

목표

이론과 예제

해밍 네트워크

경쟁 계층

생체 경쟁 계층

자기 조직 특징 맵

학습 벡터 양자화

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



16장. 방사형 기저 네트워크

목표

이론과 예제

방사형 기저 네트워크

RBF 네트워크 훈련

결과 요약

문제 풀이

맺음말

참고 문헌

연습문제



17장. 실용적인 훈련 이슈

목표

이론과 예제

사전 훈련 단계

네트워크 훈련

사후 훈련 분석

맺음말

참고 문헌



18장. 사례 연구 1: 함수 근사

목표

이론과 예제

스마트 센서 시스템

데이터 수집과 전처리

네트워크 구조 선택

네트워크 훈련

검증

데이터 집합

맺음말

참고 문헌



19장. 사례 연구 2: 확률 추정

목표

이론과 예제

CVD 과정

데이터 수집과 전처리

네트워크 구조 선택

네트워크 훈련

검증

데이터 집합

맺음말

참고 문헌



20장. 사례 연구 3: 패턴 인식

목표

이론과 예제

심근경색 인식 설명

데이터 수집과 전처리

네트워크 구조 선택

네트워크 훈련

검증

데이터 집합

맺음말

참고 문헌



21장. 사례 연구 4: 클러스터링

목표

이론과 예제

임상 식물 문제 정의

데이터 수집과 전처리

네트워크 구조 선택

네트워크 훈련

검증

데이터 집합

맺음말

참고 문헌



22장. 사례 연구 5: 예측

목표

이론과 예제

자기 부상 시스템

데이터 수집과 전처리

네트워크 구조 선택

네트워크 훈련

검증

데이터 집합

맺음말

참고 문헌

벡터



부록

부록 A 참고 문헌

부록 B 표기법

부록 C 소프트웨어

마틴 헤이건 저자 마틴 헤이건 (Martin T. Hagan)

(캔자스 대학교, 전기 공학 박사)

제어 시스템과 신호 처리 분야에서 35년간 연구와 강의를 해왔으며, 최근 25년간은 신경망을 사용한 제어와 필터링, 예측 분야의 연구에 집중해왔다. 오클라호마 주립대학교 전기 및 컴퓨터 공학과 학부의 교수이자 'Neural Network Toolbox for MATLAB'의 공동 저자이기도 하다.