DNN

Fully-Connected Neural Network

• Fully-Connected Neural Network, Feedforward Neural Network(FNN) 등으로 부른다.
• 입력을 받는 층, 입력값을 변형시키는 층, 값을 출력하는 층으로 구성된 모델.
  • 흔히 '인공신경망' 하면 떠올리는 모델
  • layer 내부의 뉴런끼리는 서로 연결이 되어 있지 않고, 앞/뒤 layer의 모든 뉴런 사이에만 연결되어 있다.
• 여러 입력값을 가중치합하고 임계값을 빼는 Perceptron들로 구성되어 있다. 그렇기 때문에 이 layer를 여러 층 쌓으면 근사적으로 모든 함수를 나타낼 수 있다.
• 충분한 데이터만 있으면 Train을 통해 Perceptron의 가중치와 임계값을 정할 수 있다.

Layer의 구조

• 하나의 층은 여러 여러 값을 받아 한 값을 출력하는 Perceptron으로 구성되어 있다.
  • Perceptron : 여러 입력을 받아 각각의 가중치를 곱한 뒤, 임계값을 빼고 활성화 함수를 통과시켜 특정한 값을 출력하는 구조로. 사람의 뉴런을 본따서 만든 것
• Layer들은 Input Layer, Hidden Layer, Output Layer로 구성되어 있다.
  • Input Layer : 외부로부터 입력값을 받는 Layer. 우리가 이미 가지고 있는 데이터를 의미한다.
  • Hidden Layer : 입력값을 변형시켜 다음의 Hidden Layer/Output Layer로 값을 전달하는 Layer. 가지고 있는 값을 분석해 얻어낸 추상적인 값을 의미한다.
  • Output Layer : 값을 모델 외부로 출력하는 Layer. 우리가 얻고 싶은 결과값을 의미한다.

참고 자료

• 자습해도 모르겠던 딥러닝, 머리속에 인스톨 시켜드립니다.: 딥러닝의 기본적 학습 방법 및 VGG 모델 설명
• 딥러닝 단어사전: 기초 개념, 파라메터 최적화, 뉴럴넷 구조 1, 뉴럴넷 구조 2, 트릭 및 소프트웨어
• 논문으로 시작하는 딥러닝 (요점 정리 및 source code)