데이터사이언티스트 성장기

퍼셉트론 퍼셉트론은 딥러닝과 신경망의 기초가 되는 알고리즘입니다. 퍼셉트론은 인공신경망의 한 종류로서 다수의 입력을 받아 하나의 신호를 출력하는 구조로 이루어져 있습니다. 위 그림에서 x1과 x2가 각각 입력, y는 출력, w1과 w2는 입력에 적용되는 가중치를 의미합니다. 즉 퍼셉트론은 각각의 입력 신호에 가중치를 적용한 후 그 값의 총합이 임계값을 넘어서면 활성화되어 1이 출력되고, 그렇지 못하면 0이 출력되는 구조입니다. 식으로 나타낸다면 다음과 같습니다. $$ y = \begin{cases} 0, & \mbox{w1 x1 + w2 x2 ≤ θ} \\ 1, & \mbox{w1 x1 + w2 x2 > θ} \end{cases}$$ 퍼셉트론의 활용 위 같은 퍼셉트론을 활용하여 간단한 논리 회로 문제를 ..

의사결정나무 의사결정나무(Decision Tree)란 나무 구조를 사용하여 의사결정 구조를 나타냅니다. 스무고개 놀이를 떠올린다면 의사결정나무의 구조를 쉽게 이해할 수 있습니다. 이런식으로 의사결정나무는 몇가지 질문을 통해 결과를 나누는 구조로 이루어져 있습니다. 엔트로피 의사결정나무는 여러 질문을 통해 결과를 나누기 때문에 어떤 질문을 어떤 순서로, 어느정도로 물을 것인지 정하는 것이 중요합니다. 가장 이상적인 질문은 예측하려는 값에 대하여 가장 많은 정보를 담고 있는 질문입니다. 예를 들어 Input으로 들어온 어떤 동물을 곰,고양이,뱀으로 분류하려고 할 때, '다리가 있나요?' 라는 질문의 결과를 통해 뱀을 한번에 분류할 수 있습니다. 이런 식으로 그 대상에 대해 가장 확정적인 정보로 가장 먼저 질..

서포트 벡터 머신 (SVM) 은 두 범주의 데이터를 분류하기 위한 기준선을 잡는 모델입니다. 그래서 새 데이터가 들어왔을 때 이 기준선을 바탕으로 어떤 범주에 속하는 데이터인지 분류할 수 있습니다. 이렇게 빨간 점들과 파란 점들을 구분하는 적절한 선을 찾는 모델입니다. 2차원이 아니라 3차원 상의 데이터들은 평면이 경계가 되어 분류되게 됩니다. 그렇다면 이 최적의 경계를 어떻게 정해야 할까요? 확실한 분류를 하기 위해선 이 경계선이 양쪽 범주에 속한 데이터들로부터 최대한 멀리 떨어져야합니다. 한쪽에 치우쳐저 있다면 좋은 경계선이 아니겠죠 여기서 서포트 벡터와 마진의 개념을 사용하게 됩니다. 서포트 벡터란 경계선에서 가장 가까운 각 범주의 데이터를 의미합니다. 그리고 이 서포트 벡터와 경계선까지의 거리를 ..