★ 이 책의 대상 독자 ★

통계학, 인공지능, 공학, 금융 등 다양한 분야의 연구자와 학생을 위해 썼다. 이 책을 읽는 독자가 선형회귀를 포함한 기본 주제를 다루는 통계학의 기초 강의를 적어도 하나는 수강했기를 기대한다.
학습법의 포괄적인 안내서를 쓰기보다는 가장 중요한 기술 몇 가지를 설명하고자 했다. 또한 하부 개념과 고려 사항을 설명해 연구자가 학습법을 판단할 수 있게 했다. 수학적 세부 사항보다는 개념을 강조해 직관적인 방식으로 작성했다.
우리는 자연스럽게 통계학자로서의 배경과 전문 분야를 반영하게 될 것이다. 그러나 과거 8년 동안 신경망, 데이터 마이닝과 머신러닝에 관한 콘퍼런스에 참여했으며, 이러한 흥미진진한 분야에 크게 영향을 받았다.


★ 이 책의 구성 ★

복잡한 방법을 완전히 파악하려 하기 전에 반드시 간단한 방법부터 이해해야 한다. 따라서 2장에서 지도 학습 문제에 관한 개요를 제공한 다음 3장과 4장에서 회귀와 분류를 위한 선형 방법을 논의한다. 5장에서는 단일 예측변수를 위한 스플라인(spline), 웨이블렛(wavelet)과 정칙화/벌점화법을 설명하며, 6장에서는 커널 방법과 국소 회귀(local regression)를 다룬다. 이들 방법 모두 고차원 학습 기법의 중요한 기본 토대가 된다. 모델 평가와 선택이 7장의 주제이며, 편향과 분산의 개념, 과적합 및 모형 선택을 위한 교차 검증과 같은 방법을 다룬다. 8장은 최대가능도, 베이지안 추론과 부트스트랩, EM 알고리즘, 깁스 샘플링, 배깅(bagging)의 개요를 포함해 모형 추론과 평균화에 관해 논의한다. 부스팅(boosting)이라 부르는 과정은 10장에서 집중적으로 다룬다.
9장부터 13장까지는 지도 학습을 위한 일련의 구조적 방법을 설명한다. 특히 9장과 11장에서는 회귀를 다루며 12장과 13장에서는 분류에 집중한다. 14장에서는 비지도 학습을 위한 방법에 관해 설명한다. 최근에 알려진 기법인 랜덤 포레스트와 앙상블 학습은 15장과 16장에서 논의한다. 무방향 그래프 모델은 17장에서 설명하며, 마지막으로 18장에서 고차원 문제를 공부한다.
각 장의 마지막에서는 관측치와 예측자의 개수에 따라 어떻게 연산이 확장되는지 등을 포함해 데이터 마이닝 응용법에 중요한 연산적 고려 사항에 관해 논의한다. 각 장은 자료를 위한 배경 참조를 제공하는 참고문헌으로 마무리된다.
먼저 1장부터 4장까지 순서대로 읽기를 추천한다. 7장 또한 모든 학습법에 관련된 핵심 개념을 다루므로 의무적으로 읽어야 한다. 책의 나머지는 독자의 흥미에 따라 순서대로 읽거나 혹은 선택해서 읽을 수 있다.

★ 옮긴이의 말 ★

이 책은 Springer에서 출간된 『Elements of Statistical Learning, Second Edition』을 번역한 것입니다. 원서의 공동 저자 3인은 모두 스탠퍼드대학교 통계학과 교수들로 탁월한 학문적 성과로 명성이 높은 분들이며, 이 책 또한 여러 논문에서 많이 인용되고 있습니다.
이 책의 서문을 펴 볼 정도로 머신러닝에 관심이 많은 독자 분이라면 통계학을 포장해 머신러닝이라고 부른다는 내용의 재미있는 밈(meme)을 보신 적이 있을 것입니다. 이러한 밈이 단순히 농담으로만 보이지 않는 것은 비단 저뿐만이 아닐 것입니다. 머신러닝을 더 잘 알기 위해서는 통계학을 피할 수 없다는 점이야말로 제가 이 책의 번역을 맡기로 한 근본적인 이유가 아닐까 합니다.
요즘은 문제를 무조건 딥러닝으로 해결하려는 분위기가 강합니다. 하지만 저자들이 1장에서 언급한 바와 같이 저 또한 복잡한 방법을 시도하기 전에 단순한 방법을 이해하는 것이 중요합니다. 물론 통계적, 수학적 지식이 부족하더라도 데이터에 머신러닝 모델을 적용하는 것은 어려운 일이 아닙니다. 그러나 이 책은 더 나아가 모델의 밑바탕에 깔린 개념을 폭넓게 이해함으로써, 주어진 문제를 해결하고 데이터로부터 더욱 깊은 통찰을 얻을 수 있는 실질적인 힘을 기르도록 도와줄 것입니다. 이 책과 함께 통계적 이론 및 회귀와 분류, 커널과 기저, 정칙화, 가법적 모델 등 여러 주제에 대해 더 깊이 공부할 수 있다면 향후 다양한 주제를 학습하는 데 큰 도움이 되리라 생각합니다.
저자들은 적어도 독자들이 기본적인 통계학을 수강했기를 기대하고 있지만, 이 책을 잘 이해하는 데 그 정도로 충분하다고 하기에는 힘든 것이 사실입니다. 책과 함께하면서 미적분학, 선형대수학, 확률론, 통계학 등 부족하다고 생각하는 부분을 함께 학습하시기를 권해드립니다. 원서의 정오표(https://web.stanford.edu/~hastie/ElemStatLearn/)는 웹사이트의 ‘Errata for the 2nd Edition, after 12th printing (January 2017) and not yet reflected in online version’을 기준으로 반영돼 있습니다. 용어는 한국통계학회(http://www.kss.or.kr/) 및 대한수학회(http://www.kms.or.kr/main.html)의 용어집을 표준으로 삼고자 했으며, 그 밖의 용어는 인터넷 검색을 통해 가장 빈번하게 쓰이는 용어를 사용하고자 노력했습니다.