슈퍼짱짱

지난 시간에 신경망이란? 에 대해 알아보았다. >> 신경망이란? 바로가기 이번에는 신경망의 특징 중 하나인 활성화 함수에 대해 알아보겠다. 활성화함수란? What is activation function? 활성화함수(Activation Function)란? 입력 신호의 총합을 출력 신호로 변환하는 함수로, 입력 받은 신호를 얼마나 출력할지 결정하고 Network에 층을 쌓아 비선형성을 표현 할 수 있도록 해준다. Activation Function을 자세히 설명하기에 앞서 퍼셉트론에 대해 복습해 보겠다. >> 퍼셉트론이란? 바로가기>> 퍼셉트론으로 논리회로 구현하기 바로가기>> XOR 게이트로 알아보는 퍼셉트론의 한계 바로가기>> 퍼셉트론으로 XOR 게이트 구현하기 바로가기 x1과 x2라는 두 신호를 입..

지난 포스팅에서는 신경망의 근간이 되는 퍼셉트론에 대해 알아보았다. >> 퍼셉트론이란? 바로가기>> 퍼셉트론으로 논리회로 구현하기 바로가기>> 퍼셉트론의 한계 바로가기>> 퍼셉트론으로 XOR 게이트 구현하기 바로가기 이번에는 신경망에 대해 알아보겠다. 신경망이란? What is neural network? 앞서 리뷰했던 퍼셉트론(perceptron)과 신경망(neural network)은 매우 비슷하다. 그러나 다른점은 퍼셉트론은 가중치(w, b)를 수동적으로 지정해줘야하지만, 신경망은 스스로 학습하여 그 값을 찾아낼 수 있다는 점이다. 신경망의 구조는 다음과 같다. 가장 왼쪽 노드들을 입력층(input layer), 가장 오른쪽 노드들을 출력층(output layer), 중간 노드들을 은닉층(hidde..

지난 시간에 퍼셉트론의 한계에 대해 공부했다. >> 퍼셉트론이란? 바로가기>> 퍼셉트론으로 논리회로 구현 바로가기>> 퍼셉트론의 한계 바로가기 이번에는 퍼셉트론으로 XOR 게이트를 구현하는 방법에 대해 알아보겠다. 파이썬에서 perceptron으로 XOR gate 구현하는 방법 퍼셉트론 하나로는 XOR 게이트를 구현 할 수 없었다. 그렇다면 퍼셉트론으로 XOR 게이트를 표현하는 방법은 무엇일까?바로 퍼셉트론을 여러 층 쌓아 다층 퍼셉트론(multi-layer perceptron)으로 비선형성을 만드는 것이다. 퍼셉트론을 쌓기에 앞서, XOR 게이트를 NAND, OR, AND 게이트로 쪼개보면 다음과 같다. input x1과 x2에 대해 NAND 게이트의 결과와 OR 게이트의 결과를 다시 AND 게이트에 ..

지난 포스팅에서 퍼셉트론과 퍼셉트론으로 논리회로 구현하는 방법에 대해 알아보았다. >> 퍼셉트론이란? 바로가기>> 퍼셉트론으로 논리회로 구현하기 바로가기 이번에는 퍼셉트론의 한계에 대해 알아보겠다. 퍼셉트론의 한계 - XOR 게이트 퍼셉트론은 직선으로 나뉜 두 영역을 만든다.AND, NAND, OR gate 같은 경우 나뉜 한 쪽 영역은 1을, 나머지 영역은 0을 출력한다. 예를들어 OR gate의 경우 다음과 같다. 입력이 (0,0) 일 때 0을, (0,1), (1,0), (1,1) 일 때 1을 출력한다. 그렇다면, XOR 게이트는 퍼셉트론으로 어떻게 구현할 수 있을까?즉, 하나의 직선으로 0과 1을 어떻게 나눌 수 있을까? 정답은 "하나의 직선만으로는 불가능"이다. 아래의 그림에서 하나의 직선만으로 ..

지난 시간에는 퍼셉트론이란 무엇인가에 대해 알아보았다.이번에는 퍼셉트론으로 AND, NAND, OR 게이트 구현하는 방법에 대해 알아보겠다. >> 퍼셉트론이란? 바로가기 perceptron으로 AND, NAND, OR 게이트 구현하기 in python 1. AND 게이트 AND 게이트의 진리표는 다음과 같다. 이를 퍼셉트론으로 구현하기 위해서는 해당 input에 대한 output이 나오도록 w1, w2, θ 값을 정해야 한다.이를 만족하는 (w1, w2, θ)의 조합은 (0.5,0.5,0.7), (0.5,0.5,0.8), (1,1,1) 등 무수히 많다. 1.1 이를 파이썬에서 perceptron으로 구현하면 다음과 같다. 123456789101112def AND(x1,x2): w1,w2,theta=0.5..

>> 퍼셉트론으로 논리회로 구현하기 바로가기 퍼셉트론(perceptron)이란? 퍼셉트론은 신경만(딥러닝)의 기원이 되되는 알고리즘으로 매우 중요한 알고리즘이다. 퍼셉트론은 다수의 신호를 입력으로 받아 하나의 신호를 출력한다.즉, 하나 이상의 값들을 input으로 받아 어떠한 계산 후 output으로 출력한다.퍼셉트론 신호는 1 or 0의 두 가지 값을 가질 수 있다. 신호가 흐르면 1, 흐르지 않으면 0이라 생각하면 편하다. 예를 들어, input이 2개인 perceptron은 다음과 같다. x1과 x2는 입력 신호, y는 출력 신호, w1과 w2는 가중치를 의미한다. (w : weight) 입력 신호와 출력 신호를 담고있는 원은 노드 혹은 뉴런이라 부른다.입력 신호가 뉴런에 보내질 때는 각각 고유한 ..

평균 VS 중앙값 VS 최빈값 1. 평균이란? 평균이란? 모든 관측값의 합을 자료의 개수로 나눈 것 예)89 74 91 88 72 84 의 평균을 구하여라. > (89+74+91+88+72+84)/6 = 83 2. 중앙값이란? 중앙값이란? 전체 관측값을 크기 순서로 배열했을 때 가운데 위치하는 값 단, 1) 자료의 개수(n)가 홀수 일 때 : (n+1)/2 번째 관측값2) 자료의 개수(n)가 짝수 일 때 : n/2 번째 관측값과 (n+1)/2 번째 관측값의 평균 예)89 74 91 88 72 84 의 중앙값을 구하여라. > 예제에 주어진 값을 크기 순서대로 배열하면 72 74 84 88 89 91 이며, 짝수개이다. 따라서 이 예제의 중앙값은 84와 88의 평균인 86이다. 중앙값에서는 관측값을 크기 순..

>> 통계학이란? 바로가기>> 모집단 VS 표본집단 바로가기>> 수치형자료와 범주형자료 바로가기 범주형 자료의 요약 이전 포스팅에서 수치형 자료의 범주형 자료의 정의 및 예시에 대해 알아보았다.이번에는 범주형 자료를 어떻게 표현하는지에 대해 알아보겠다. 범주형 자료에서는 각 관측값의 크기가 아니라 자료가 갖는 범주의 종류에 관심이 있으므로, 각 범주가 나타나는 횟수를 요약함으로써 범주형 자료의 개요를 파악할 수 있다. 1. 도수분포표(Frequency Table) 범주형 자료의 경우 각 관측값은 몇 개의 범주 중 하나의 값을 갖게 된다. 도수(frequency)란? 각 범주에 속하는 관측값의 개수를 그 범주에 도수라 한다. 상대도수(relative frequency)란? 도수를 전체 개수로 나눈 비율을 ..

논문 링크 : https://arxiv.org/pdf/1409.4842.pdf Abstract 본 논문은 ImageNet Large-Scale Visual Recognition Challenge 2014(ILSVRC14)에서 classification 및 detection를 위한 최점단 기술인 codename Inception이라 불리는 deep convolutional neural network 아키텍처를 제안한다. 이 아키텍처의 주요 특징은 네트워크 안에서 컴퓨팅 리소스의 활용을 향상시켰다는 점이다.이는 컴퓨팅 예산은 일정하게 유지하면서, 네트워크의 깊이와 너비를 증가할 수 있도록 설계되었기 때문에 가능했다.ILSVRC14에 제출되었던 모델은 22layers deep 네트워크인 GoogLeNet이라고..

DBSCAN에서 Eps와 MinPts 조정방법 in R 지난 포스팅에서 DBSCAN논문 리뷰와 R코드, 예시 및 파라미터 조정방법에 대해 알아보았다. >> DBSCAN 논문 리뷰 바로가기 >> DBSCAN in r 바로가기 지난 포스팅 파라미터 조정은 클러스터에 대한 사전 지식이 있을 때, 원하는 클러스터의 모양이 있을 때라면, 이번 포스팅에서는 클러스터에 대한 사전지식이 없을 때 Eps와 MinPts를 조정하는 방법을 알아보겠다. 논문에의하면, 1. 모든 포인트에 대하여 k번째로 가장 가까운 포인트와의 거리를 계산하고 2. 거리에 따라 내림차순으로 정렬한 다음 3. x축은 내림차순으로 정렬된 포인트의 index, y축은 내림차순으로 정렬된 거리로 그래프를 그린다. 4. 그래프에서 꺾이는 지점. 즉, e..