전체 글 (24) 썸네일형 리스트형 Additional Neural Network Concepts&Back Propagation Coursera의 Machine Learning Specialization강의를 정리한 내용입니다Adam Algorithm지금까진 최적화를 위해 gradient descent를 사용했었다.하지만, cost function을 최소화하는데 사용할 수 있는 다른 최적화 알고리즘도 존재한다.gradient descent의 update식과 contour plot을 통해 우리는 cost function J를 plotting 했었다.왼쪽 사진모든 step이 거의 같은 방향으로 진행될 때, $\alpha$가 작다면 minimize하는 데 속도가 매우 느리다. learning rate가 너무 낮아서 비슷한 방향으로 아주 작은 단계만 반복하는 경우 learning rate의 값을 더 크게 만들어야한다. 이를 해결하기 위해.. Multiclass Classification Coursera의 Machine Learning Specialization강의를 정리한 내용입니다MulticlassMulticlass classification은 output label이 0이나 1만 가지는 것이 아니라 2개 이상의 output label을 가지는 classification 문제이다.사진을 보면, binary classificaiton과 달리 숫자를 10개나 구분해야한다. Multiclass classification은 여전히 y가 소수의 불연속적인 category를 가진다는 점에서 classification 문제이지만,target y가 2개 이상의 값을 가질 수 있다는 것이 binary classification과의 차이점이다. 예시를 좀 더 살펴보자.- example이전에 classi.. Neural network Training & Activation Functions Coursera의 Machine Learning Specialization강의를 정리한 내용입니다Neural Network TrainingTensorFlow implementation왼쪽과 같은 neural network architecture를 사용한다면, 코드에서 neural network는 어떻게 훈련시킬 수 있을까?첫번째 단계는 지난 강의에서 배웠던 것과 매우 비슷하다.unit과 sigmoid activation function을 인자로 갖는 각 `Dense(layer)`를 `Sequential`로 묶어 하나의 model을 만들었다. 이후, 두번째 단계는 사용하려는 Tensorflow에 model 컴파일을 요청하는 것이다.컴파일 단계에서 중요한 것은 loss가 무엇인지 지정해야 한다는 점이다..이.. AGI & Neural Network에서의 Vectorization Coursera의 Machine Learning Specialization강의를 정리한 내용입니다Is there a path to AGI?AI는 매우 다른 2가지의 ai를 포함한다.ANI는 artificial narrow intelligence의 약자로, 특정 응용 분야, 즉, 좁은 작업에 적용되는 AI system이다.AGI는 artificial general intellignece의 약자로 사람이 할 수 있는 모든 일을 할 수 있는 AI system이다. 지난 몇년동안 ANI는 엄청난 발전을 이루었다. 따라서 ANI의 진전으로 현재 AI가 많은 발전을 이루었다는 것은 과언이 아니다.그러나, AI에 큰 발전이 있었다는게 꼭 AGI에 대한 발전이 있었다는 걸 뜻하진 않는다. 수년전부터, neuron을 시.. Day6 보호되어 있는 글입니다. Neural Network 2( Tensorflow&Python ) Coursera의 Machine Learning Specialization강의를 정리한 내용입니다TensorFlow로 neural network구현Inference in CodeTensorFlow는 딥러닝 알고리즘을 구현하기 위한 프레임워크 중 하나이다.해당 강의에서는 inference(추론) code를 구현하는 방법에 대해서 살펴본다.Learning algorithm이 로스팅 과정에서 얻어지는 원두의 품질을 최적화하는 예를 살펴보겠다.커피의 로스팅과정에서 생각해볼 수 있는 파라미터는 커피 원두로 만드는 Temperature(Celsius)와 원두를 로스팅하는 Duration(minutes; 시간)이다.X는 positive class(y=1),O는 negative class(y=0)에 해당한다.결국 적당.. Neural networks 1(Intuition&model) Coursera의 Machine Learning Specialization강의를 정리한 내용입니다Course 2에서 알아볼 내용은 아래와 같다.Neural networks(신경망)에 대해 알아보고 inference(추론) 또는 prediction(예측)을 수행하는 방법에 대해 살펴본다. neural networks을 훈련하는 방법에 대해 알아볼 것이다.Machine learning 시스템 구축을 위한 실용적인 조언Decision Trees(의사 결정 트리) Neural networks intuition뇌가 어떻게 작동하고 그것이 neural network와 어떤 관련이 있는지 살펴보자Neural networks가 처음 발명되었을 때 원래의 동기는 생물학적 뇌가 학습하고 생각하는 방식을 모방할 수 있는 소.. Exam 2&Exam 3 보호되어 있는 글입니다. 이전 1 2 3 다음