유승훈

본 도서는 한빛미디어 도서 서평단 로 선정되어 받은 도서입니다. 리뷰 작성 겸 각 챕터를 간단하게 정리해보고자 합니다. 앞선 챕터에서는 문제를 푸는데 필요한 가중치(W)와 편향을 알고 있었습니다. 이번에는 이를 최적화하는 과정에 대해서 공부해보고자 합니다. 오차 우리는 가중치와 편향을 계속해서 갱신해서, 우리의 딥러닝 알고리즘이 내는 답인 `f(x)`가 실제값인 `y`에 가까이 가도록 합니다. "우리의 답이 정답과 다르다"라는 것은, 원하는대로 예측이 이루어지지 않는 것을 의미합니다. 책에서는 어떤 이미지가 길쭉한지 길쭉하지 않은지를 판단하는 문제가 등장하는데, 실제로는 길쭉한 이미지를 모델은 길쭉하지 않다고 판단한다면, 모델이 우리가 의도하지 않은 방향으로 문제를 풀고 있음을 알 수 있습니다. 이상적으..

본 도서는 한빛미디어 도서 서평단 로 선정되어 받은 도서입니다. 리뷰 작성 겸 각 챕터를 간단하게 정리해보고자 합니다. 신경망의 가장 기초가 되는 것은 퍼셉트론입니다. 아주 단순한 문제를 풀 수 있는 알고리즘입니다. 여기서 $-\theta=b$로 하고 정리하면, b는 퍼셉트론이 어느 정도 1을 출력하기 쉬운가 하는 경향을 조절한다고 할 수 있습니다. b=0일 때는 $WX$가 0보다 크기면 하면 1이지만, b=100이면 $WX$가 -100보다 크기면 하면 1이 됩니다. b의 값에 따라 1이 되는 값의 범위가 상대적으로 차이가 나는 것을 알 수 있습니다. 여기서 W는 가중치, b는 편향이라고 합니다. 퍼셉트론으로 이미지의 세로가 길지 가로가 길지를 분류한다고 해 봅시다. 가중치를 통해 가로-세로 값을 계산해..

본 도서는 한빛미디어 도서 서평단 로 선정되어 받은 도서입니다. 리뷰 작성 겸 각 챕터를 간단하게 정리해보고자 합니다. 신경망은 우리가 알고있는 회귀분석, SVM 등과 같이 Machine Learning 알고리즘들 중 하나입니다. 다른 머신러닝 알고리즘들과 마찬가지로 가격, 점수 같은 연속형 변수를 예측하는 회귀문제도, 개vs고양이, 양성vs음성, 상vs중vs하와 같이 Class를 나누는 분류 문제도 풀 수 있습니다. 신경망은 인간의 뇌 기능을 흉내내고 있습니다. 우리의 뇌 속에 있는 뉴런이라고 하는 세포가 신경망 모델이라고 할 수 있습니다. 그림의 각 원을 유닛이라고도 합니다. 신경망은 유닛을 연결할 때 가중치라는 값을 가지는데, 이는 해당 변수의 중요도나 종속변수와의 연관성을 나타냅니다. Weight..

우리가 지금까지 했던 Neural Network들은 모든 뉴런들이 연결된, Fully Connected(FC) Network 였습니다. 하지만, X를 여러개로 나눈 뒤에, 하나로 합쳐서 앞으로 보내는 구조도 생각해볼 수 있습니다. 이것이 이번 강의에서 배우는 Convolutional Neural Network(CNN)의 기본개념입니다. CNN은 고양이에게 한 실험에서 시작되었습니다. 고양이에게 여러 형태의 그림을 보여주었는데, 그림마다 활성화되는 뉴런들이 다른것을 발견했습니다. 여기서 착안하여 데이터를 통째로 쓰는 것이 아니라, 여러 조각으로 잘라서 Network에 학습시키는 것을 생각해냈습니다. 이미지를 여러개로 누너어서, Input으로 넘겨준 뒤에, Activation Function을 거칩니다. 이..