22 Mon

[AI 스쿨 1기] 11주차 DAY 1

Visual Recognition

Visual Recognition

• 카메라를 통해 취득되는 사진이나 동영상에서 정보를 취득하는 과정

딥러닝

• 딥 뉴럴 네트워크를 통해 학습하는 것

  • 레이어의 개수가 3개 이하일 경우 얕은층 신경망

  • 레이어의 개수가 3개 이상일 경우 깊은 신경망

비선형 함수의 필요성

• 아무리 층을 깊게 해도 선형함수로는 깊게 만들 수 없다

  • $a^{(3)} = W^{(2)}a a^{(2)} = W^{(2)}W^{(1)}x = Wx$

  • 2개의 행렬로 표현되는 NN이 1개의 행렬로 표현할 수 있음

인식의 문제

• 분류의 문제와 동일

• 음성인식과 영상인식은 근본적으로 분류하는 문제로 같은 맥락

CNN

• 완전 연결 되어 있지 않음 => Not fully connected

• 각 층마다 가중치 행렬이 같다면 필터를 적용하는 것은 부분 연결로 신경망을 구성하는 것과 같음

Mutl-channel Convolution

• output 채널의 개수 = 필터의 개수

• input : [batch, in_height, in_width, in_channels]

• filter : [filter_height, filter_width, in_channels, out_channels]

Pooling의 효과

• 미세한 변화에 대해 둔감하게 함

CNN의 구조

• 인풋 -> Conv/ReLU/Pooling -> ... -> FC -> classification

전이학습의 필요성

• transfer learning

• 딥러닝의 단점

  • 막대한 데이터를 가지고 있어야 함

  • 데이터가 양질의 데이터여야 함

  • 일반인이나 중소기업은 데이터 확보가 어려움

  • 데이터를 처리하기 위한 컴퓨팅 파워가 갖춰져야 함

• 유형

  • 사전학습 모델을 그대로 사용

    • 문제가 거의 같을 때 사용

    • ImageNet(50개의 유형(개, 말 포함)을 구분하는 모델)을 개와 말을 구분하는 모델에 사용

  • 모델 분류기만 재학습

    • ImageNet 데이터로 어벤져스 캐릭터 분류 문제에 사용

  • 모델의 일부를 동결해제하여 재학습

    • 문제가 약간 다를 때 사용

    • ImageNet데이터로 얼굴인식 문제에 사용

    • 사람은 인식하지만 사람 얼굴을 분류하는데는 쓰이지 않는 차이가 있음

  • 모델의 파라미터 전체를 미세조정

    • 문제가 많이 다를 때 사용

    • ImageNet데이터로 학습된 모델을 의료영상 문제에 사용

    • 비록 모델 전체를 수정하지만 미세 조정하는 것이 포인트

      • 처음부터 하는게 아니라 어느 정도 학습된 상태에서 하는것이 목표

      • 시간 단축. 그리고 어쩌면은 더 정확하게 찾을 수 있음

      • 방대한 데이터가 필요하지 않을 수도 있음