Tag

#중간

머신러닝은 피처와 레이블로 이루어진 데이터에서 손실을 최소화하는 파라미터를 찾는 과정이며, 핵심은 학습 데이터가 아니라 새로운 데이터에서의 일반화 성능이다.

벡터와 행렬의 기본 연산을 익히고 내적을 이용한 선형 모델의 예측과 설계 행렬의 의미를 정리한 노트입니다.

선형회귀의 잔차를 최소화하는 문제는 y를 X의 열공간에 직교 투영하는 것과 같고, 그 해가 정규방정식 hat{w} = (X^top X)^{-1} X^to…

같은 최소제곱 해 hat{w} = (X^top X)^{-1} X^top y를 기하학 대신 최적화로 유도한다: 목적함수를 전개해 gradient를 0으로…

최소제곱법의 (X^TX)^{-1} 역행렬 부담을, 같은 공간을 span하는 직교정규기저 U로 바꾸면 U^TU=I 덕분에 투영을 역행렬 없이 계산할 수 있다.

특이값분해의 세 행렬이 회전과 크기 조정, 좌표 변환에서 맡는 역할과 주성분의 의미를 정리한 노트입니다.

L08 특이값분해 SVD의 분해를 실전에 적용 — rank가 작은 큰 행렬은 Economy SVD로 압축 저장하고, 차원 축소로 거리를 보존하며, 최소제곱 해…

데이터 수학적 표현(Lec 01-03) → 최소제곱법과 최적화(Lec 04-06) → 선형대수로 효율화(Lec 07-09, 투영·SVD) → 첫 알고리즘과 모…

경희대 기계학습(이원희 교수님) 중간 범위(Lecture 2~9) 압축본.