Notice
Recent Posts
Recent Comments
Link
Tags
- Strip
- 명사 클래스
- 동시 출현
- word2vec
- nlp
- 벗기다
- 파이썬
- 워드 임베딩
- 자연어처리
- L2 Distance
- 동사 술어
- cooccurrence
- 유사도
- 자연어 처리
- 역전파
- selectional association
- Sliding Window
- 선택 선호도
- defaultdict
- L1 Distance
- 자카드 유사도
- KoNLPy
- 워드투벡
- 거리 재기
- 인사이드
- back propagation
- 클래스
- 슬라이딩 윈도우
- Infinity Distance
- selectional preference
Archives
- Today
- Total
목록역전파 (1)
SILVERCitYz
Back Propagation (역전파)
Activation Function이 Sigmoid일 때 역전파를 코드로 구현해보자. # back propagation def forward( x,w,b) : '''순전파''' return w*x+b def sigmoid(x) : '''활성화 함수''' return 1/(1+np.exp(-x)) def back_sigmoid(dA, z) : '''변수 z에 대해 활성화함수인 sigmoid를 미분(역전파)할 때''' sig = sigmoid(z) return dA*sig*(1-sig) def loss_function(y_pred, y_true) : return 1/2*(y_pred-y_true)**2 x = 1 w = 3 b = 0.5 y_pred = forward(x, w, b) y_true = 4 lo..
CODES
2020. 3. 26. 21:27