학교공부›기계학습
머신러닝 소개
머신러닝은 피처와 레이블로 이루어진 데이터에서 손실을 최소화하는 파라미터를 찾는 과정이며, 핵심은 학습 데이터가 아니라 새로운 데이터에서의 일반화 성능이다.
벡터와 행렬
벡터와 행렬의 기본 연산을 익히고 내적을 이용한 선형 모델의 예측과 설계 행렬의 의미를 정리한 노트입니다.
최소제곱법과 기하
선형회귀의 잔차를 최소화하는 문제는 y를 X의 열공간에 직교 투영하는 것과 같고, 그 해가 정규방정식 hat{w} = (X^top X)^{-1} X^to…
최소제곱법과 최적화
같은 최소제곱 해 hat{w} = (X^top X)^{-1} X^top y를 기하학 대신 최적화로 유도한다: 목적함수를 전개해 gradient를 0으로…
경사하강법
최소제곱 문제를 최적화 관점에서 바라보고 기울기를 이용해 가중치를 갱신하는 경사하강법을 정리한 노트입니다.
부분공간, 기저, 투영
최소제곱법의 (X^TX)^{-1} 역행렬 부담을, 같은 공간을 span하는 직교정규기저 U로 바꾸면 U^TU=I 덕분에 투영을 역행렬 없이 계산할 수 있다.
특이값분해 SVD (기초)
특이값분해의 세 행렬이 회전과 크기 조정, 좌표 변환에서 맡는 역할과 주성분의 의미를 정리한 노트입니다.
특이값분해 SVD (머신러닝 응용)
L08 특이값분해 SVD의 분해를 실전에 적용 — rank가 작은 큰 행렬은 Economy SVD로 압축 저장하고, 차원 축소로 거리를 보존하며, 최소제곱 해…
최적화와 선형회귀
지도학습의 목적함수와 최적화 문제를 살펴보고 선형회귀 모델을 미적분으로 이해하는 과정을 정리한 노트입니다.
Ridge & Lasso 회귀
데이터 분포와 독립 동일 분포 가정을 살펴보고 Ridge와 Lasso 정규화가 과적합을 줄이는 원리를 정리한 노트입니다.
분류 알고리즘
회귀와 분류의 차이를 비교하고 이진 분류와 다중 분류의 데이터 구성 및 모델 표현 방식을 정리한 노트입니다.
L18-19 구현
18, 19강은 별도 이론 없이 앞선 L15~L17 개념(경사하강법·OLS·정규화·로지스틱/소프트맥스 회귀)을 코드로 직접 구현하는 실습 파트다. (원본 No…
SVM
서포트 벡터 머신의 분류 경계와 마진 개념을 살펴보고 마진을 최대화하는 선형 분류 원리를 정리한 노트입니다.
SVM 2
소프트 마진 서포트 벡터 머신에서 슬랙 변수가 오분류와 마진 위반을 허용하는 방식과 커널 개념을 정리한 노트입니다.
트리·포레스트·앙상블
결정트리가 질문을 반복해 입력 공간을 나누는 원리와 랜덤 포레스트, 앙상블의 비선형 학습을 정리한 노트입니다.
과적합과 과소적합
과적합과 과소적합을 편향과 분산의 관점에서 비교하고 모델의 일반화 성능을 높이는 방법을 정리한 노트입니다.
모델 평가지표
혼동 행렬을 바탕으로 이진 분류의 정확도와 오류율, 정밀도, 재현율을 계산하고 비교하는 방법을 정리한 노트입니다.
PCA (주성분분석)
PCA는 데이터 공분산 행렬의 고유분해로 분산을 가장 많이 보존하는 직교 축(주성분)을 찾아 차원을 축소하는 비지도 학습 기법이다.
기계학습 — 기말 핵심 요약
경희대 기계학습(이원희 교수님) 기말 범위(Lecture 15~25) 압축본.
기계학습 중간 종합정리
데이터 수학적 표현(Lec 01-03) → 최소제곱법과 최적화(Lec 04-06) → 선형대수로 효율화(Lec 07-09, 투영·SVD) → 첫 알고리즘과 모…
기계학습 — 중간 핵심 요약
경희대 기계학습(이원희 교수님) 중간 범위(Lecture 2~9) 압축본.
검색 결과가 없습니다. 다른 검색어를 입력하세요.