jisung-02notes
← Archive

머신러닝 소개

머신러닝은 피처와 레이블로 이루어진 데이터에서 손실을 최소화하는 파라미터를 찾는 과정이며, 핵심은 학습 데이터가 아니라 새로운 데이터에서의 일반화 성능이다.

jisung-02

한 줄 요약

머신러닝은 피처와 레이블로 이루어진 데이터에서 손실을 최소화하는 파라미터를 찾는 과정이며, 핵심은 학습 데이터가 아니라 새로운 데이터에서의 일반화 성능이다.

핵심 개념

  • Feature (피처/특징): 데이터를 구분하는 기준이 되는 속성. 고양이 vs 강아지 예제에서 크기, 귀의 뾰족함 등. 여러 개일 수 있으며 피처 벡터로 묶인다.
  • Label (레이블): 각 데이터의 정답. 예: 강아지 +1, 고양이 -1. 레이블이 두 종류면 이진 분류(Binary Classification).
  • Decision Boundary (결정 경계): 두 클래스를 나누는 경계. 직선으로 나누면 선형 모델(Linear Model).
  • Activation Function (활성함수): 가중합 결과를 변환하는 함수. sign 외 sigmoid·ReLU 등도 쓰임.

AI의 한계 (Robustness and Stability)

문제내용대응
블랙박스내부 작동 원리를 알 수 없음XAI(설명 가능한 AI)
적대적 공격(Adversarial Attack)판다 사진에 미세 노이즈 → AI가 gibbon으로 99.3% 확신 오인강건성 확보
편향된 데이터강아지=실외/고양이=실내로만 학습 → 실외 고양이를 강아지로 오판다양하고 충분한 데이터
  • 윤리적 문제: 범죄 예측 모델의 인종 차별, 위구르족 감시 악용 등. AI 설계에 윤리적 고려가 필수.

머신러닝 7단계

  1. 원시 데이터 수집(Raw Data Collection)
  2. 전처리(Preprocessing): 크기 통일, 크롭, 중앙 정렬, 라벨 부여
  3. 특징 추출(Feature Extraction): 원본을 압축·단순화. 전통적 ML은 사람이 정의, 딥러닝은 신경망이 자동 추출
  4. 학습 샘플 생성: (xi,yi)(x_i, y_i) — xix_i 피처 벡터, yiy_i 레이블
  5. 손실함수 선택(Loss Function): 예측과 정답의 차이
  6. 모델 학습(Training): 손실을 줄이는 최적 파라미터 탐색
  7. 일반화 에러 측정: 학습에 쓰지 않은 새 데이터로 평가 (테스트 에러 = 일반화 에러)

AI를 보는 두 관점

  • 실용주의 (AI is amazing): 배포·효율 중심, “작동하는가”, 벤치마크 성능 중시.
  • 이론적 관점 (AI is curious): 이론적 기반, 정확성·강건성, 실수의 비용 인지. 전공자는 비판적 시각을 함께 가져야 한다.

핵심 수식 / 예시

  • 선형 예측 (2-피처): y^=sign(x1w1+x2w2)\hat{y} = \text{sign}(x_1 w_1 + x_2 w_2)
    • x1,x2x_1, x_2: 피처, w1,w2w_1, w_2: 가중치, sign: 양수면 +1, 음수면 -1
  • 손실(제곱오차 합): L=∑i(yi−y^i)2L = \sum_i (y_i - \hat{y}_i)^2
    • yiy_i: 실제값, y^i\hat{y}_i: 예측값. 학습은 이 LL을 최소화하는 파라미터를 찾는 것.