convex function & optimization 간단 스터디(1)
OPTIMIZATIONneural network를 공부하는 데, 가장 먼저 설명들었던 부분이다. (연구실에서 정말 많이 들었던 말! 이번 기회에 정리하고 넘어가자) 문제를 풀기위해서는 parameter들을 적절한 값으로 update를 해줘야하고 그 값을 결정하는 데 optimize과정이 필요하다. 예를 들어, loss function의 값을 minimize하는 과정 등을 optimization 이라고 할 수 있다.loss function이 0에 가까울수록 실제 data와 가깝게 분류나 예측 등의 문제를 해결한 것이다. 때문에 loss function의 값을 최소로 하는 최적의 값을 찾는 과정, 이를 optimization이라 하는 것이다. 출처: http://sanghyukchun.github.io/63..
Basic section/optimization
2017. 7. 22. 20:45