과제를 풀이하던 중, 어떤 분류 모델을 활용하는 것이 좋을지 생각할 필요가 있어 찾아보게 되었다. 1. ResNet  정말 많이 들어본 것 같다. 활용했던 모델은 ResNet18이었는데, 네이밍 그대로 ResNet을 18개 겹쳐둔 학습이라서 그렇다고 한다.특히, 224 * 224* 3 사이즈의 이미지를 활용한다고 한다.그래서, 학습을 시행하려면 원래 주어진 데이터의 수정이 필요해지면서 반드시 Transform과정을 거치게 되겠다.(근데 왜 224 * 224 * 3이지? 굳이 숫자에 집착하는 것은 아니다만, 단순히 궁금해졌다.일단 첫번째 step에서 7 x 7로 만든다고 했으니까 7의 배수인 것도 ok. $224 = 7 \cdot 32 = 7 \cdot 2^5$ 니까 뭔가 관계가 있을법 하기도 하다) 한편..

기계학습 과정에서, 활성화 함수 (Activation Function)이 출력을 결정하는만큼 핵심적이라고 말할 수 있겠다.특히, 기존의 Linear한 결과를, Non-linear로 바꿈으로서 패턴의 단순화를 방지할 수 있는 것을 도와준다고 생각할 수 있다.  1. 형태 Sigmoid Function의 경우에는 $$\sigma(x) = \frac{1} {1 + \exp ^{-x}}$$ HyperTangent의 경우에는 $$tanh(x) = \frac{\exp^{x} - \exp^{-x}} {\exp^{x} + \exp^{-x}}$$ ReLU$$ReLU = max_{x \in \mathbb{R}}(0, x)$$  2. 특성Sigmoid function- $\sigma(x) \in [0, 1]$- Differ..