본문 바로가기

Machine learning12

Support Vector Machine (SVM)의 구현 [출처] - http://trip2ee.tistory.com/52 패턴인식에서 Neural Network 매우 많이 사용되고 있는 알고리즘 중 하나이다. 하지만 Neural Network 는 학습데이터를 가장 적은 에러로 분리할 수 있는 수많은 decision boundary 중 하나를 선택할 뿐이다. 따라서 학습데이터 외의 데이터를 얼마나 잘 분류할 것인가 하는 generalization 성능의 관점에서 보면 optimal 한 결과는 아니다. 그렇기 때문에 decision boundary 와 학습데이터 간의 거리를 최대한으로 만드는 Support Vector Machine (SVM) 이 나왔다. SVM 에서는 분류에러를 최소화 하는 수식을 Lagrange Multiplier 를 이용해 계산하고 Quad.. 2012. 5. 8.
SVM (Support Vector Machine) [출처] - http://iiai.blog.me/98066736 바이오인포메틱스(생명정보학 or 생물정보학)에서는 컴퓨터를 사용한 기계학습알고리즘(machine learning algorithm)이라는 것을 사용해서 문제를 풀곤 한다. 기 계학습알고리즘이란 주어진 데이터를 컴퓨터에 입력하고 어떠한 특정 알고리즘을 기반으로 학습을 수행하여 판별기준을 구축함으로써 새로운 데이터가 주어졌을 때 그 데이터가 어떠한 종류로 판별되는지를 예측하게 되는 과정을 가리킨다. 다양한 종류의 알고리즘 중에서 최근 등장하여 여러 가지 문제에 대하여 우수한 해결능력을 보여주는 SVM(Support Vector Machine)이라는 기계학습알고리즘에 대해서 살짝 소개한다. 그림 1. SVM의 기본적인 원리 그 림 1은 SVM의 .. 2012. 5. 8.
HMM(Hidden Markov Model) 설명 - 펌 이해하기 쉬운 설명~ [출처]-http://blog.daum.net/hazzling/15669927 [출처] KISS ILVB Tutorial(한국정보과학회) 에서 발표( Dr. Sung-Jung Cho)된 내용 중 발췌 얼마전에 Markov Model에 대해서 주석을 달아서 올렸는데, 이번에는 HMM에 대해서 알아보자 지난번 글에서 언급되었듯이 MM과 HMM의 차이점은 상태(state)를 관측할 수 있는가에 달려있다. 날씨나 동전던지기와 같은 사건(event)에서는 쉽게 상태를 알 수 있지만, 그렇지 않는 사건들도 존재한다. 예를 들어, 아래와 같은 문제가 있다고 하자. 이와 같이 3개의 통(상태 1,2,3 -> N = 3)에는 빨간색, 파란색, 녹색 공들이 6개(M = 6)가 들어있는데, 하나의 통에.. 2012. 3. 22.
조건부 확률(베이지안)의 이해를 위한 예제 및 풀이-펌글 베이스 정리에 대한 쉬운 이해를 돕는 글인 것 같다. v1.0 2007/10/11 Copyleft by 전경헌@사이냅소프트 v1.1 2007/10/16 Copyleft by 전경헌@사이냅소프트 , 몬티홀 문제에 대한 커멘트 추가 v1.2 2011/03/17 Copyleft by 전경헌@사이냅소프트 , 몬티홀 문제를 별도 블로그로 기록함 베이스의 정리(Bayes' theorem)는 공부할 때마다 새로운 느낌이 든다. 매번 아하 그렇지 라는 생각이 들다가도 좀 지나면 다시 기억이 안난다. 내가 기억하는 것만으로도 베이스의 정리는 최소 3번이상 공부한 것 같다. 정리자체는 매우 단순한데... 적용할 때마다 확신이 잘 안서는 것 같아서 이번에는 베이스의 정리를 잘 드러내주는 예제들을 10개쯤 모아 보기로 하였다.. 2012. 3. 22.