study

문제 : 큰 수의 법칙 - 다양한 수로 이루어진 배열이 있을 때 주어진 수들을 M번 더하여 가장 큰 수를 만드는 법칙이다. 단 배열의 특정한 인덱스(번호)에 해당하는 수가 연속해서 K번을 초과하여 더해질 수 없다. 예를 들어 [2. 4. 5. 4. 6]으로 이루어진 배열이 있을 때 M이 8이고 K가 3이라고 가정하자 이 경우 특정한 인덱스의 수가 연속해서 세 번까지만 더해질 수 있으므로 큰 수의 법칙에 따른 결과는 6 + 6 + 6 + 5 + 6 + 6 + 6 + 5인 46이 된다. 단 서로 다른 인덱스에 해당하는 수가 같은 경우에도 서로 다른 것으로 간주한다. 예를 들어 순서대로 3,4,3,4,3으로 이루어진 배열이 있을 때 M이 7이고, K가 2라고 가정하자. 이 경우 두 번째 원소에 해당하는 4와 ..

그리디 알고리즘 : 어떠한 문제가 있을 때 단순 무식하게, 탐욕적으로 문제를 푸는 알고리즘이다. 여기서 탐욕적이라는 말은 현재 상황에서 지금 당장 좋은 것만 고르는 방법을 의미한다. 그리디 알고리즘을 이용하면 매 순간 가장 좋아 보이는 것을 선택하며, 현재의 선택이 나중에 미칠 영향에 대해서는 고려하지 않는다. 예제 - 거슴름돈 당신은 음식점의 계산을 도와주는 점원이다. 카운터에는 거스름돈으로 사용할 500원, 100원, 50원, 10원짜리 동전이 무한히 존재한다고 가정한다. 손님에게 거슬러 줘야 할 돈이 N원일 때 거슬러줘야 할 동전의 최소 개수를 구하라, 단 거슬러 줘야 할 돈 N은 항상 10의 배수이다. 문제 해설 이 문제는 그리디 알고리즘을 이용해 풀 수 있는 대표적인 문제로 간단한 아이디어만 떠..

gradient를 이용하여 어떻게 가중치를 업데이트 시키는지 자세히 배울 것인데요. 이장에서는 역전파(Backpropagation)에 대해 배울 것입니다 역전파의 경우 미분을 활용하기 때문에 미분 개념을 간단하게 설명하겠습니다 미분을 간략하게 표현하면 한 점의 기울기를 구하기 위해 사용되는 개념입니다 제가 정리한 미분공식을 바탕으로 역전파 과정을 직접 계산해보겠습니다 f = qz의 경우 미분하면 서로 반대의 값이 나옵니다(미분 규칙) 빨간 네모 박스와 파란 네모 박스는 우리는 이미 알고 있습니다. 우리가 궁금한 것은 Want에 해당하는 값들입니다 이 값들을 이제 직접 계산하는 과정에 데해 설명하겠습니다 f는 자기 자신을 미분하기 때문에 f의 기울기는 1이 됩니다 z의 기울기는 이미 주어져 있습니다(파란색..

손실 함수 학습을 통해 얻은 데이터의 추정치가 실제 데이터와 얼마나 차이 나는지 평가하는 지표로 쓰인다. 이 값이 크면 클수록 많이 틀렸다는 의미고, 이 값이 0 이라는 것은 '무손실' 즉 완벽하게 추정할 수 있다는 의미가 된다. 해당 강의에서는 SVM loss, Crosentcross entropy 두 가지 손실함수를 소개한다. Hinge loss(SVM loss) : Score을 구하는 함수로 식은 사진과 같다( j와 yi가 같다면 0으로 처리해서 계산을 한다) Sj : 잘못된 lable의 score Syi : 제대로 된 lable score 1 : safety margin Loss가 0이 나오는 W의 값이 한개가 아니다 그러므로 학습시 Weight 값이 크게 학습되서 과적합의 문제가 발생할 수 있다..

복잡도 : 알고리즘의 성능을 나타내는 척도로 시간 복잡도와 공간 복잡도로 나눌 수 있다. 1. 시간 복잡도 : 알고리즘을 위해 필요한 연산의 횟수, 즉 얼마나 오래 걸리는지를 의미한다 2. 공간 복잡도 : 알고리즘을 위해 필요한 메모리의 양 시간 복잡도와 공간 복잡도의 경우 trade off 관계로 시간 복잡도가 낮아지면 공간 복잡도가 높아지는 또는 반대의 경우가 성립한다 시간 복잡도 1) Big-O(빅오 표기법) : 알고리즘의 표기법 중 하나로 실행 시간의 상한을 나타내는 표기법이다. - A : 가위바위보 게임에서 이기면 1000원 지면 100원을 받을 수 있는 경우 - B : 가위바위보 게임에서 이기면 800원 지면 300원을 받을 수 있는 경우 위의 두 가지 경우 최악의 경우 A는 100원의 수익이..

Image Classification이란 : 사진을 컴퓨터에게 입력했을 때 사진에 나오는 객체(사람, 사물, 장소 등)를 판별하는 것을 말한다. 컴퓨터에게 이미지는 숫자들의 집합에 불과하며 그 숫자들의 집합을 array(배열)라고 부른다 각 픽셀의 밝기 값은 0~255 범위의 정수로 표현 이미지는 3차원 배열로 width, height, channel로 구성되며 channel의 경우 RGB(Red, Green, Blue) 또는 흑백을 말한다 기존의 이미지 분류에서는 이미지 특징점(edge, shape)을 통해 이미지 분류를 시도하였다 하지만 이러한 방법은 확장성이 없다 왜냐하면 위의 인물사진에서 작은 변형만 일어나더라도 분류 정확도가 떨어지기 때문이다 그래서 데이터 중심의 접근 방법(Data-driven..

안녕하세요 CS231n 1강의 경우 교양 수준에서 Computer Vision의 역사 및 CNN에 대해 간략하게 소개한 영상입니다 1강의 경우 강의 영상을 정리하는 방향보다 keyword를 가지고 제 나름대로의 정리한 글입니다 Computer Vision이란 : 기계의 시각에 해당하는 부분을 연구하는 컴퓨터 과학의 연구 분야 중 하나로 공학적인 관점에서, 인간의 시각이 할 수 있는 일들을 수행할 수 있도록 시스템을 만드는 것을 목표로 한다 이미지 인식 경진대회 이미지 인식 경진대회 결과로 사진의 수치는 에러율로 낮을수록 인식률이 높은 것을 의미한다 2015년도를 기준으로 컴퓨터는 사람보다 이미지 분류를 잘하는 것을 알 수 있다 이미지 분류 문제는 object detection, segmentation, ..