"Keras"의 두 판 사이의 차이
둘러보기로 가기
검색하러 가기
잔글 (→Optimizer) |
잔글 (→Optimizer) |
||
24번째 줄: | 24번째 줄: | ||
* sgd (확률적 경사 하강법) | * sgd (확률적 경사 하강법) | ||
:* 학습률 (LR, Learning Rate) : 0.1, 0.01 | :* 학습률 (LR, Learning Rate) : 0.1, 0.01 | ||
+ | :* momentum : 학습률 값을 고정하고 모멘텀 항으로 매개변수의 변경값을 조정 | ||
+ | :* nesterov : True. 순수한 momentum을 약간 변형함 | ||
from keras.optimizers import SGD | from keras.optimizers import SGD | ||
− | model.compile(loss='mse', optimizer=SGD(lr=0.01, momentum=0.9), metrics=['accuracy']) | + | model.compile(loss='mse', optimizer=SGD(lr=0.01, momentum=0.9, nesterov=True), metrics=['accuracy']) |
+ | |||
+ | * adagrad : 학습률을 조정하며 학습 | ||
+ | from keras.optimizers import Adagrad | ||
+ | |||
+ | model.compile(loss='mse', optimizer=Adagrad(lr=0.01, momentum=0.9, nesterov=True), metrics=['accuracy']) | ||
+ | |||
+ | * adadelta | ||
+ | from keras.optimizers import Adadelta | ||
+ | |||
+ | model.compile(loss='mse', optimizer=Adadelta(rho=0.95), metrics=['accuracy']) | ||
+ | |||
* rmsprop | * rmsprop | ||
− | |||
− | |||
* adam | * adam | ||
* adamax | * adamax |
2018년 8월 10일 (금) 11:21 판
Keras를 정리 한다.
Model
Activation
은닉층에서 사용하는 Activation
- relu
- linear. 계산된 값을 그대로 출력으로 보냄
출력층에서 사용하는 Activation
- sigmoid. 이진 분류
- softmax. 다중 분류
Loss
- categorical_crossentropy : 분류시 사용
- mse : 값 예측시 사용
model.compile(loss='categorical_crossentropy', optimizer=sgd(lr=0.01, momentum=0.9), metrics=['accuracy']) model.compile(loss='mse', optimizer=sgd(lr=0.01, momentum=0.9), metrics=['accuracy'])
Optimizer
- sgd (확률적 경사 하강법)
- 학습률 (LR, Learning Rate) : 0.1, 0.01
- momentum : 학습률 값을 고정하고 모멘텀 항으로 매개변수의 변경값을 조정
- nesterov : True. 순수한 momentum을 약간 변형함
from keras.optimizers import SGD model.compile(loss='mse', optimizer=SGD(lr=0.01, momentum=0.9, nesterov=True), metrics=['accuracy'])
- adagrad : 학습률을 조정하며 학습
from keras.optimizers import Adagrad model.compile(loss='mse', optimizer=Adagrad(lr=0.01, momentum=0.9, nesterov=True), metrics=['accuracy'])
- adadelta
from keras.optimizers import Adadelta model.compile(loss='mse', optimizer=Adadelta(rho=0.95), metrics=['accuracy'])
- rmsprop
- adam
- adamax
- nadam
Metrics
- accuracy : 정확도