Notice
Recent Posts
Recent Comments
Link
Tags
- L2 Distance
- 거리 재기
- L1 Distance
- 워드 임베딩
- word2vec
- defaultdict
- 선택 선호도
- 벗기다
- 워드투벡
- 자연어 처리
- nlp
- 역전파
- Strip
- 자카드 유사도
- cooccurrence
- selectional association
- 자연어처리
- 명사 클래스
- 인사이드
- 동사 술어
- KoNLPy
- back propagation
- selectional preference
- 파이썬
- 클래스
- Infinity Distance
- 유사도
- 슬라이딩 윈도우
- 동시 출현
- Sliding Window
Archives
- Today
- Total
목록back propagation (1)
SILVERCitYz
Back Propagation (역전파)
Activation Function이 Sigmoid일 때 역전파를 코드로 구현해보자. # back propagation def forward( x,w,b) : '''순전파''' return w*x+b def sigmoid(x) : '''활성화 함수''' return 1/(1+np.exp(-x)) def back_sigmoid(dA, z) : '''변수 z에 대해 활성화함수인 sigmoid를 미분(역전파)할 때''' sig = sigmoid(z) return dA*sig*(1-sig) def loss_function(y_pred, y_true) : return 1/2*(y_pred-y_true)**2 x = 1 w = 3 b = 0.5 y_pred = forward(x, w, b) y_true = 4 lo..
CODES
2020. 3. 26. 21:27