Math

퍼셉트론의 마진과 갱신 규칙을 구현하고 매 스텝 가중치 평균이 필요한 이유를 살펴본다.

클래스별 통계와 로그 우도로 분류하며 분산 스무딩·벡터화·메모리 사용 범위를 살펴본다.

거리 계산과 동률 처리로 KNN을 구현하고 k의 경계 조건과 정렬 비용을 확인한다.

OLS 정규방정식 R² 다중공선성 릿지 라소까지 선형 모델의 핵심을 한 흐름으로 정리한다.

다중 분류의 확률과 cross-entropy 기울기를 구현하며 행별 안정화와 배열 차원을 살펴본다.

L1 서브그래디언트로 라소를 구현하고 최적해의 희소성과 고정 학습률 구현의 차이를 살펴본다.

L2 페널티가 추가된 경사하강법을 구현하고 bias 규제, weight decay와 반올림 오차의 적용 범위를 살펴본다.

시그모이드와 BCE의 기울기를 유도하고 오버플로우를 피하는 NumPy 구현과 분류 임계값을 정리한다.

MSE 기울기를 NumPy로 구현하고, X 전치의 역할과 학습률에 따른 수렴 조건을 살펴본다.

시그모이드의 NumPy 구현과 도함수를 살펴보고 활성화 함수의 기울기 소실 조건을 정리한다.