20 Wed

TIL

[AI 스쿨 1기] 7주차 DAY 3

Deep Learning: 신경망의 기초 - 다층 퍼셉트론 I

인공신경망

• 기계학습의 역사에서 가장 오래된 기계 학습 모델

  • 1950 퍼셉트론

  • 1980 다층퍼셉트론

  • 2000 깊은 인공신경망

• 다양한 모델이 존재

  • 전방 신경망과 순환 신경망

  • 얕은 신경망과 깊은 신경망

  • 결정론적 신경망

    • 모델의 매개변수와 조건에 의해 출력이 완전히 결정되는 신경망

  • 확률론적 신경망

    • 고유의 임의성을 가지고 매개변수와 조건이 같더라도 다른 출력의 가지는 신경망

퍼셉트론

• 구조 : 절, 가중치, 층과 같은 새로운 개념 구조 도입

• 입력과 출력 사이에 연산하는 구조를 가짐

  • 입력

    • i번째 노드는 특징 벡터의 i번째 요소를 담당

    • 항상 1이 되는 편향노드 포함

  • 출력

    • 한 개의 노드에 의해 수치 출력

• 동작 : 선형 연산 -> 비선형 연산

  • 선형 : 입력값과 가중치를 곱해 s를 구함

  • 비선형 : 활성함수 step function을 적용

• 결정직선, 결정평면, 결정초평면

  • 특징 공간을 분할하는 분류기 역할

• 학습

  • 단계 1 : 과업 정의와 분류 과정의 수학적 정의 (가설 설정)

  • 단계 2 : 해당 분류기의 목적함수 정의

  • 단계 3 : 목적함수를 최소호화하는 매개변수를 찾기 위한 최적화 방법 수행

Deep Learning: 신경망의 기초 - 실습 II PT - TF 기본연산