Contents 프로세스(Process) \(\rhd\)프로세스란? \(\rhd\)Dispatcher \(\rhd\)프로세스 5-상태 모델 스레드(Thread) \(\rhd\)스레드란? \(\rhd\)멀티스레딩(Multithreading) ...
강의 활성 함수(Activation function) 각 layer들을 거치면서 수행하는 연산들은 모두 선형적인 연산이다. 이러한 선형적 연산에 비선형적인 연산을 추가하기 위해 각 layer의 연산결과에 비선형 활성함수를 적용한다. \(\rhd\) Sigmoid Sigmoid 활성화 함수는 0, 1 사이의 값을 가지도록 설계되어 있다. 초기 ...
Contents 컴퓨터 시스템 기본 구성요소 제어 및 상태 레지스터(Control and Status Registers) 명령어 수행 사이클 Interrupts \(\rhd\) 인터럽트 종류 \(\rhd\) 인터럽트를 포함한 명령어 사이클 ...
강의 데이터 전처리 꼭 해야하는 것은 아니지만, 데이터에 따라 전처리를 적용했을 때 효과가 더 좋을 수도 있다. \(\rhd\) Scale 문제 각 feature에 따라 값의 차이가 크거나, 작을 수 있다. 예를 들어 첫 번째 특징은 최대 20정도의 차이가 나고, 두 번째 특징은 0.3 정도의 차이가 난다고 하자. 이때 각 특징의 scale에...
강의 학습을 마친 후, 실생활에서 발생하는 새로운 샘플들도 잘 예측할 수 있어야 한다. 즉, 일반화하는 능력이 좋아야한다. 이러기 위한 다양한 최적화 방법을 알아보자. 손실 함수 \(\rhd\) 평균 제곱 오차(MSE: Mean Square Error) [e = \frac{1}{2}\parallel y - o\parallel_{2}^{2}] ...
강의 생성 모델 \(\rhd\) 생성 모델이란 기존 분별 모델의 경우, x가 주어졌을 때 y, 즉 라벨값을 예측하는 문제이다. 생성 모델의 경우 그보다 더 나아가 궁극적으로 x, 즉 데이터 자체를 생성하고, 데이터로부터 y값이 어떻게 추정되는지에 관한 문제이다. \(\rhd\) 선형대수 샘플(데이터)를 특징 벡터(feature vector)...
강의 Deep Leraning: 다층 퍼셉트론 \(\rhd\) 초기 핵심 아이디어 은닉층 은닉층을 두어, 원래 특징 공간을 분류하는데 훨씬 유리한 새로운 특징 공간으로 변환 Sigmoid 활성 함수 도입 출력값을 연속값으로 만들어주어, 융툥성있는 의사결정을 가능하게 만듬 오류 역전파 알고리즘(back propagati...
강의 Deep Leraning: 수학 \(\rhd\) 수학의 역할 수학은 학습모델의 목적함수를 정의하고, 이 목적함수의 최저점을 찾아주는 최적화 이론을 제공한다. \(\rhd\) 선형대수 샘플(데이터)를 특징 벡터(feature vector)로 표현 벡터의 내적 백터의 내적은 결국 두 벡터 사이의 유사도를 나타낸다. 내적의 결과가...
강의 Deep Leraning: 기초 \(\rhd\) Overfitting, Underfitting Underfitting 주어진 모델이 데이터를 학습하기에 너무 부족한 성능을 보이는 경우 모델의 용량, 즉 자유도가 작기때문에 오차가 클 수 밖에 없는 경우이다. 이 경우 해결책은 모델의 자유도를 증가, 즉 모델의 파라미터를 늘려주면 해...
문제 멀리 뛰기 접근 DP문제이다. 접근법은 타일링문제와 똑같다. n칸의 경우의 수는 n-1칸에서 1칸으로 뛰는 방법 + n-2에서 두칸으로 뛰는방법이다. 코드 파이썬 코드 def solution(n): dp = [0] * (n+1) dp[0] = 1 dp[1] = 1 for i in range(...