SVM 2

주니어 PM 혼자 AI 기초 공부: 머신러닝 모델과 알고리즘

📌 주니어 PM 혼자 AI 기초 공부: 머신러닝 모델과 알고리즘 머신 러닝이 더 잘 하는 것머신 러닝의 한계를 극복하기 위해 딥 러닝이 등장하면서 AI 분야에 발전과 혁신을 가져왔지만, 머신 러닝이 딥 러닝으로 완전히 대체된 것은 아니지요. 2025년 12월 현재, 여전히 가치를 인정받고 활발하게 사용되고 있는 머신 러닝 모델/알고리즘이 있습니다.그래디언트 부스팅 계열그래디언트 부스팅(Gradient Boosting)은 머신 러닝의 앙상블 기법으로, 약한 학습기(주로 의사결정 나무)를 순차적으로 결합해서 이전 모델의 오류를 점진적으로 보정하는 방법입니다. 각 단계에서 손실 함수의 그래디언트(기울기)를 따라 모델을 최적화합니다. 랜덤 포레스트 같은 배깅보다 높은 정확도를 내고, Kaggle 대회나 실무에..

머신러닝의 기초: SVM(Support Vector Machine)

서포트 벡터 머신(Support Vector Machine, SVM)은 지도 학습(supervised learning) 기법을 사용하는 강력한 분류(classification) 및 회귀(regression) 알고리즘입니다. 기본 개념SVM은 데이터를 최대 마진(margin)으로 분리하는 최적의 초평면(hyperplane)을 찾습니다. 즉, 클래스 A와 클래스 B를 분리하는 경계면을 가능한 한 넓은 마진으로 설정함으로써 일반화(generalization) 성능을 높이는 방식입니다. 핵심 요소는 서포트 벡터(support vectors)로, 이들만 모델 결정에 영향을 주기 때문에 메모리 사용이 효율적입니다. 특히 고차원 데이터에서 효과적입니다. 데이터가 선형으로 명확히 분리되지 않을 때, 고차원 공간으로 매..