남은 문제 : 36

문제 1305

다음은 4개의 변수를 가진 데이터프레임 USArrests에 주성분분석을 적용해서 얻은 결과이다. 변수들의 전체 변동의 80% 이상을 설명하기 위해 필요한 최소 주성분의 숫자는 몇 개인가?

보기

1.1개
2.2개
3.3개
4.4개

정답

2

해시
태그

lADsP 완전 정복l 주성분 분석_1 9ISCW9bvrB0	00:05 : 이 분석법에 대해서도 PCA에 대해서도 조금 개념을 좀 잡고 간다고 한다면 주성분분석이란 00:16 : PCA 이렇게 줄여서 주성분분석이란 수집한 데이터에서 수집한 데이터의 여러 변수들이 있겠죠. 00:27 : 수집한 데이터에 여러 변수들이 있을 때, 서로 상관성이 높은 변수들을 선형 결합해서 만든 새로운 변수가 바로 주성분이라는 겁니다. 00:39 : 그래서 주성분은 일종의 상관성이 높은 기존의 상관성이 높은 변수들을 00:46 : 요약 축소해서 만든 새롭게 등장시킨 새로운 변수 새로운 요인이다. 00:55 : 그런데 여기서는 이제 요인이다. 변수다. 라는 용어를 쓰지 않고 주성분이다. 라고 하는 이름을 붙이는 거죠. 01:02 : 보시는 것처럼 궁극적으로 주성분분석을 할 때는 여러 기존의 변수들을 선형 조합한다고 그랬지 않습니까. 01:11 : 상관성이 높은 변수들 간에 선형 조합, 선형결합을 시켜서 주성분을 만들기 때문에 01:18 : 이렇게 주성분은 원래 있었던 변수들 수보다는 훨씬 적습니다. 01:24 : 그래서 어떤 목적으로 주성분분석, 즉 PCA를 우리가 많이 하느냐라고 한다면 이렇게 축소하는 01:33 : 데이터를 축소하고자 하는 그런 의도를 가지고 바로 PCA를 우리가 수행한다라고 생각하시면 되겠습니다. 01:42 : 그러면 기존의 데이터 기존의 변수들은 없어지고 이렇게 상관성이 높은 변수들 간에 결합을 해서 주성분이라는 것이 만들어진다고 했지 않습니까. 01:55 : 근데 그 주성분은 첫 번째 주성분, 두 번째 주성분, 세 번째 주성분 이런 식으로 등장을 하는 겁니다. 02:03 : 결과적으로 생성을 하게 되는데 첫 번째 주성분, 우리가 제1의 주성분이다. 라고 보통 얘기를 많이 하고요. 02:12 : 첫 번째 주성분 같은 경우에는 전체 변수가 가지고 있었던 전체 원래 가지고 있었던 원래 전체 변수였던 총 분산 02:22 : 그걸 전체 변동, 전체 변동을 가장 많이 설명할 수 있도록 그렇게 선형 결합해서 도출된 것이 바로 첫 번째 제1의 주성분이 되는 겁니다. 02:35 : 그리고 두 번째 주성분이 도출된다라고 한다면 이거는 제2의 주성분이 되겠죠. 이 제2의 주성분은 제1의 주성분과는 상관관계가 없습니다. 02:50 : 첫 번째 거 하고는 관계가 없어요. 02:52 : 만약에 첫 번째, 아까와 관계가 있었다고 한다면 이미 처음부터 같이 묶였겠죠. 02:59 : 그렇기 때문에 첫 번째 주성분과 두 번째 주성분 간에는 전혀 관계가 없습니다. 03:04 : 상관성이 낮다고 되어있는데 상관관계가 제로입니다. 제로. 03:10 : 반드시 그렇게 돼야 되고요. 그러니까 새로운 어떤 성분이 주성분이 등장을 한 거지, 생성이 되는 거죠. 03:18 : 그런데 이 두 번째 주성분 같은 경우에는, 첫 번째 주성분과 상관관계는 하나도 없지만, 상관성은 없지만 03:27 : 이 역할이 바로 뭐냐면은 제1의 주성분이 설명하지 못하는 전체 변동에서 상당 부분 설명을 하지만 03:35 : 거기서 설명하지 못하는 나머지, 원래 기존에 있었던 변수들의 분산 부분에 03:44 : 나머지 변동을 좀 설명할 수 있는 그런 변수들이 선형 조합으로 만들어진 게 바로 제2의 주성분이 되는 겁니다. 03:55 : 제2의 주성분까지도 전체 변동을 상당 부분 설명을 했겠죠. 04:01 : 제1의 주성분이 제일 많이 설명을 하고, 제2의 주성분이 그리고 또 어느 정도로 설명을 했겠죠. 04:09 : 하지만 그럼에도 불구하고 정보의 손실은 원래 변수를 다 쓰지를 않기 때문에, 정보의 손실이라는 것은 있을 수밖에 없기 때문에 04:19 : 제3의 주성분도 나올 수가 있겠죠. 그런 제3의 주성분은 설명하지 못한 변동의 일부분을 설명을 하는 식으로 04:31 : 이렇게 주성분들이 분석의 결과로 제1주성분, 제2주성분, 제3주성분 하는 식으로 만들어질 수 있는 그런 분석법이 바로 PCA, 주성분분석이다. 라고 합니다. 04:46 : 주성분분석을 하는 이유는 많은 변수들을 다 쓸 수는 없기 때문에 04:52 : 그거를 요약하고 변수들을 줄이려고 하는 목적에서 PCA를 진행을 한다. 라고 보시면 되겠죠. 05:01 : 여기도 마찬가지로 연결되겠는데요. PCA의 목적은 상관변수, 상관관계 05:07 : 이런 것들을 이용을 해서 소수의 주성분으로 변수 차원을 축소함으로 해서 너무 변수가 많으면은 05:18 : 전체 데이터 속에 있는, 숨겨져 있는 패턴이라든지 구조라든지 이런 것을 확인하는 것도 어렵고 05:25 : 굉장히 복잡해질 수밖에 없기 때문에 심플하게 정리를 해놓고 그리고 전체 데이터를 갖다가 이해하기 쉽고 또 관리하기 쉽게 해주는 목적이 05:35 : 바로 이런 PCA 또는 앞쪽에서 다뤘었던 MDS 다차원 척도법도 역시 마찬가지로 차원을 좀 줄였지 않습니까. 05:44 : 마찬가지로 주성분도 그런 어떤 역할을 하는 분석법이다. 라고 생각하시면 되겠습니다. 05:53 : 그런데 만약에 이런 경우도 있겠죠. 여기에 나와 있는 것처럼 주성분 간에는 상관성이 제로다. 06:01 : 주성분 간에는 상관성이 있으면 안 된다고 했는데 만약에 독립변수들 간에 강한 상관관계가 나타나가지고요. 06:12 : 독립변수가 서로 독립이어야 한다는 회귀분석의 가정을 위배하는 경우 회귀분석은 독립변수가 종속변수에 어떤 영향을 미치느냐를 보는데 06:22 : 특히 다중회귀 같은 경우에는 독립변수가 하나가 아니라 독립변수 2개 이상이 종속변수 하나에 어떤 영향을 미치는지를 보는데 06:36 : 이 독립변수 간에 처음부터 별개가 아니라 따로 이렇게 상관성이 없는 것이 아니라 좀 상관성이 높게 나타난 경우가 있습니다. 06:46 : 그런 경우를 우리가 뭐라고 얘기를 하냐면 다중공선성이라고 얘기를 하는 겁니다. 06:50 : 종속변수가 있고 독립변수들이 이렇게 x1이라고 하는 독립변수, x2라고 하는 이 독립변수가 y라고 하는 변수에 영향을 미치는 걸 보는데 07:05 : 이게 얼마나 y에 영향을 미치고 x2가 얼마나 영향을 미치는지 각각의 영향력을 구할 수 있어야 되는데 07:12 : 처음부터 x1과 x2가 상당 부분 관계가 높다고 나오는 겁니다. 07:18 : 자 이런 걸 갖다가 우리가 다중공선성이, 독립변수 간에 다중공선성이 존재한다 이렇게 이야기를 하는데 07:26 : 기존의 어떤 독립변수들 간에 이런 다중공선성이 존재하는 경우라고 한다면은 07:34 : 그때는 어떤 식으로 처리를 할 수밖에 없느냐면, 상관성이 없는 또는 상관성이 적은 주성분으로 변수를 일단 축소를 하고요. 07:45 : 모형을 개발해야 한다는 겁니다. 만일에 이런 과정을 거치지 않고 다중공선성이 존재하는데 07:52 : 그냥 우리가 회귀분석이라든지 의사결정나무 모형을, 알고리즘 모형 만들어서 알고리즘 돌리고 이렇게 하게 되면은 08:00 : 독립변수 입력변수들 간에 애당초 다중공선성, 상관성이 높은 그 문제 때문에 결과적으로 모형이 잘못 만들어져서 08:09 : 엉뚱하게 우리가 원하는 그런 또는 올바른 결과가, 분석 결과가 나오지 않는 그런 어떤 상황도 만들어질 수 있습니다. 08:20 : 무엇보다 중요한 것은 변수들 간의 내재하는 연관성을 이용을 해서 08:26 : 우리가 주성분이라는 몇 개의 어떤 차원으로 변수들을 몇 개의 차원으로 축소를 합니다만 08:34 : 여기서는 각각의 이 주성분 간에는 뭐가 없어야 된다. 08:38 : 주성분1, 주성분2 간에는 서로 관계성이 없는 것이 필요하다라는 얘기를 여기서 다시 한번 하고 있는 겁니다. 08:48 : 자 이렇게 주성분 분석을 통해서 우리가 차원이 몇 개로 이렇게 축소가 됐지 않습니까. 08:56 : 제1주성분 제2주성분 하는 식으로 몇 개의 주성분으로 이렇게 새로운 차원이 만들어지고 나면 09:06 : 기존의 어떤 변수들을 가지고 군집 분석을 실시를 하는 것이 아니라 09:09 : 이렇게 좀 더 심플해지고 간단해진 요약된 이 차원들을 가지고 이후에 분석을 추후 분석들을 하는 거죠. 09:21 : 그룹화 시키는, crossed analysis 라고 하는 군집분석을 수행을 하면 09:27 : 그냥 원래 있었던 변수들을 가지고 군집분석하는 것보다 이렇게 주성분분석을 통해 가지고 09:35 : 차원을 확 줄여 놓은 다음에 그리고 군집분석을 수행을 하면 훨씬 더 군집분석의 결과라든지 09:42 : 또는 계산하는 속도라든지 이런 것들이 훨씬 더 결과적으로 잘 나온다는 얘기를 하는 겁니다. 09:49 : 그래서 너무 방대한 그런 변수들, 방대한 자료들이 주어져 있을 때는 09:54 : 이걸 될 수 있으면 조금 더 심플한, 축소라고 하는 데이터 축소 변수 축소하는 이런 방법들 10:02 : 차원을 축소하는 이런 과정을 통해서 새롭게 축소되고 또는 새롭게 등장한 산출한 이런 차원들을 가지고 10:12 : 이후에 필요한 분석들을 진행을 하는 것이 훨씬 더 통계 분석을 할 때는 10:18 : 그런 순서로 진행을 하는 것이 더 올바르다고 얘기드릴 수 있습니다. 좋은 결과가 나올 수 있으니까요. 20:00 :	00:16 ~ 01:11		검수 상태 : 불통
lADsP 완전 정복l 주성분 분석_4 / 주성분 분석의 선택법 s6Yyp9SzLvc	00:05 : 또 하나의 방법은 시각적으로 scree plot을 이용해서 scree plot이 있고요. 그다음에 세로 쪽에 보면 고윳값이 있습니다 00:17 : 이게 고윳값입니다. 이쪽이 고윳값이거든요. 여기에 점들이 주성분들입니다. 00:25 : 이게 주성분 1, 주성분 2, 주성분 3, 주성분 4, 주성분 5. 여기서 보면 주성분 5까지 해서 각각의 변동 부분이 나와 있었죠. 00:37 : 그걸 이렇게 좌표상에 scree plot에다가 이렇게 찍어본 겁니다. 00:44 : 이렇게 봤을 때 특히 x축 각 주성분에 고윳값. 주성분의 분산을 y축에 이렇게 뒀을 때, scree plot을 활용을 해보면 01:00 : 각각의 주성분의 분산. 즉 고윳값이 점점 떨어지는 것, 점점 낮아지는 것을 보실 수 있습니다. 01:13 : 그런데 처음에는 기울기가 급하게 감소가 되다가 일정한 시점이 오면 고윳값이 급격하게 완만해지는 지점이 있습니다. 01:30 : 여기까지는 급하게 감소가 되는데, 여기서부터는 뭔가 좀 줄어드는 게 유지가 되는 것 같은. 01:40 : 수평으로 이렇게 완만하게 유지되고, 또 유지되는 것이 수평으로 이렇게 유지가 된다. 라는 것을 볼 수 있죠. 01:50 : 그랬을 때 어디까지를 선택을 할 것이냐. 01:53 : 몇 번의 주성분까지 선택할 것이냐고 할 때. 이 고윳값이 수평을 유지하기 바로 전 단계까지를 보겠다는 겁니다. 02:07 : 그러면 세 번째 있는 주성분에 고윳값부터 뭔가 완만한 그런 흐름을 갖는다고 하면 이거 바로 직전이니까 어디까지겠어요. 02:20 : 첫 번째, 두 번째죠. 그래서 주성분으로 선택하는, 주성분들은 주성분 1과 주성분 2, PC1과 PC 2번을 선택한다. 02:33 : 이거는 시각적인, 시각을 통해서 이렇게 선택을 하실 수 있는 방법도 있습니다. 02:45 : 굳이 뒤에 있는 이것들은 선택 안 해도 돼요. 왜냐하면 여기도 보세요. PC 4가 되면 PC 1, 2, 3 같은 경우에는 어느 정도로 02:55 : 10% 이상씩 설명하는데, PC 4 같은 경우에는 보시면 알겠지만, 그냥 고유한 누적 기여율이 1% 정도밖에 안 되는 겁니다. 20:00 :	00:35 ~ 02:07		검수 상태 : 불통
lADsP 완전 정복l 주성분 분석_3 / 주성분 분석의 선택법 XCN_wphj2ro	00:05 : 주성분을 선택하는 방법에 대해서 조금 살펴보겠습니다. 00:10 : 단순하게 외우는 것이 아니라 조금 이해를 하셔야지만 주성분은 보통은 4개를 넘지 않는다라고 얘기를 드렸었죠. 00:18 : 하지만 무조건 4개, 무조건 2개가 되는 것이 아니라 그때그때 어떤 조건들에 따라서 00:25 : 주성분 1, 주성분 2까지가 주성분으로 선택되는 경우도 있고, 때에 따라서는 주성분 3, 4까지도 이렇게 선택되는 것이 있는데 00:35 : 그걸 어떻게 어떤 기준을 가지고 주성분을 선택할 것인가, 그 방법들을 한번 구하는 것들을 해보도록 하겠습니다. 00:45 : 주성분은 여러 변수들의 목표 변수를 가장 잘 예측하거나, 분류하거나, 목표를 잘 달성하기 위해서 00:57 : 기존에 있었던 변수들을 관련성이 높은 것끼리 선형 결합시켜서 주성분이라고 하는 01:03 : 새로운 어떤 차원으로 도출을 한 것이다라고 말씀드렸는데 01:09 : 그렇기 때문에 이렇게 기존의 것들을 다 쓰지 않고 그거를 축소시키다 보면 01:16 : 아무래도 각 변수에 원래 가지고 있었던 변수의 내재되어 있었던 중요한 정보들에는 손실이 있을 수밖에 없습니다. 01:26 : 주성분 기여율이라고 하는데요. 기여율, 여기 누적기여율 쓸 건데요. 01:31 : 그래서 기본적으로는 주성분이 얼마나 원래 변수였던 설명력, 변동에 얼마나 잘 기여하느냐라고 하는 주성분의 기여율이라고 하는 것을 이용할 수 있습니다. 01:46 : 그런데 주성분은 주성분 1도 있고, 2도 있고, 3도 있고 이렇게 나올 수가 있기 때문에 01:52 : 각각의 주성분들이 기여하는 그 값들을 다 더하면 누적기여율이 되는 거고 02:01 : 누적기여율은 바로 주성분분석을 하시고 나면 pca 분석 결과 이렇게 딱해서 나옵니다. 02:09 : 여기 보면은 각 성분의 중요성 해서 딱 나오죠. 02:13 : 여기에 보면 PC 1, 2, 3, 4, 5 여기에는 5개의 주성분이 나왔는데, 이 5개의 주성분이 있다고 해서 02:23 : 5개를 다 쓰는 게 아니라 그중에서 가장 누적기여율이 높은 몇 개만 뭐 한다. 선택을 하시게 되는 겁니다. 02:34 : 어떤 기준으로 선택을 할 것인가를 여러분들이 아셔야 되겠죠. 02:40 : 그래서 주성분, 각각의 주성분이 원래 데이터를 얼마나 잘 설명할 수 있는지를 이제 평가하기 위해서 02:46 : 우리는 어떤 개념을 쓸 거고 주성분 기여율이라는 거를 쓸 건데 02:52 : 근데 주성분이 하나가 아니라 여러 개의 어떤 각각의 기여율들을 다 더한 누적된 기여율을 가지고 02:59 : 주성분을 몇 개까지의 주성분을 쓸 것인지를 선택한다. 라고 보시면 되겠습니다. 03:06 : 그래서 주성분 그 기여율 같은 경우에는, 누적 말고 주성분 기율 같은 경우에는 03:14 : 원래 변수들이 가지고 있는 분산이 있었겠죠. 03:17 : 원변수들, 이게 총합이기 때문에 여기에 뭘 쓰시면 되냐면 시그마 쓰시면 됩니다. 03:24 : 원래 변수들에게 분산을 시그마 한다는 얘기는 다 더한다는 뜻이거든요. 03:30 : 자 거기에다가 바로 주성분으로 등장한 것들이 있죠. 03:35 : 주성분도 분산이 있겠죠 이것도 새로운 어떤 몇 개 변수니까요. 03:42 : 이 변수들의, 분산들의 합을 이렇게 비율로써 계산을 하게 되면 바로 주성분 기여율이라고 하는 것을 우리가 구해낼 수 있습니다. 03:54 : 그래서 주성분 기여율은 이런 어떤 과정을 통해서 구해내는 건데 03:59 : 굳이 뭐 여러분들이 분산의 총합 그리고 주성분 분산에 합을 다 더해가지고 이렇게 비율로 하실 필요 없습니다. 04:08 : pca를 하게 되면, pca 분석을 하게 되면 결과가 이렇게 친절하게 나오고요. 04:12 : 자 그럼 여기서 이제 뭐만 읽어 내실 수 있으면 되느냐면 04:18 : 제일 좋은 거는 주성분의 기여율이 뭐하고 뭐하고 같으면 04:22 : 이것들이, 이 두 개가 이거 하고 이거하고 값이 같아지면 비율이 1이 되겠죠. 04:30 : 주성분의 기여율이 1에 가까우면 사실은 그 주성분은 정말 전체 원래 데이터를 잘 설명한다는 뜻입니다 04:40 : 근데 그렇게 될 순 없지 않습니까. 04:42 : 전체 데이터가 있는데 그거 중에서 몇 개로 이렇게 요약하고 축약해서 04:48 : 우리가 얻은 주성분이기 때문에 걔가 전체를 다 잘 설명할 수는 없고요. 04:53 : 틀림없이 설명하지 못하는, 설명력이 떨어지는 일부분이 발생할 수밖에 없는데 05:00 : 이제 그 부분을 우리가 찾아내는 겁니다. 05:04 : 자 그러면 여기에서 주성분을 선택을 할 텐데, 주성분을 선택하는 방법은 두 가지가 있습니다. 05:15 : 여기에서는 PCA 분석 결과를 가지고 주성분을 선택하는 방법이 하나가 있고요. 05:21 : 또 하나는 밑에 보시는 것처럼 scree plot이라고 해서 scree 산점도죠. 05:27 : 이런 어떤 산점들을 갖다가 점을 찍고 쭉 연결하는 이런 산점도를 갖다가 그려놓고 05:34 : 거기서 고윳값이라고 하는 것을 이용해서, 고윳값의 어떤 모양을 가지고 이용을 해서 05:40 : 어느 정도, 몇 개까지의 주성분을 선택할 것이냐를 결정하는 방법이 있습니다. 05:46 : 주성분 pca 분석 결과에서 주성분을 어디까지 몇 개까지의 주성분을 선택할 것이냐라고 할 때 05:57 : 바로 아까 개별적인 주성분의 기여율은 어떻게 계산하는지 얘기했었죠. 06:02 : 근데 그 기여율들이 각각은 아니지만 누적된 기여율들이 바로 이 분석 결과에 나와 있습니다. 06:10 : 자 그러면 여기에 맨 마지막 부분 한번 보시죠. 06:14 : Cumulative Propotion이라고 되어 있는게 바로 이게 누적한 비율이란 뜻입니다. 06:21 : 누적기여율이란 뜻이에요. 06:24 : 그래서 각 컴포넌트, 각 주 성분의 중요성이 누적되어 있는 값이 여기에 나와 있습니다. 06:30 : 자 pc1 같은 경우 보죠. 이게 바로 주성분 1이라는 뜻이고요. 06:35 : 제1주성분 같은 경우에는 누적된 값이 얼마냐면 자기 자신밖에 없는 거니까 전체 데이터의 어떤 변동 06:44 : 변수의 총 변동에서 설명하고 있는 부분이 0.5 이상, 55.23% 정도밖에 안 되는 겁니다. 06:53 : 자 다른 것들보다는 높지만 얘만 가지고는 아니다. 06:57 : 자 그래서 두 번째 기여율 또 한 번 보는 거죠. 07:03 : 두 번째 기여율 같은 경우에는 자기 자체로는 0.32110을 기여를 했군요. 07:10 : 총 원래 변수에 전체 변동에 한 32% 정도를 기여를 하는데, 우리가 만일에 제1주 성분이 조금 뭔가 부적합하다. 07:22 : 또는 조금 부족하다라는 의미에서 두 번째까지 만일 선택을 한다고 한다면, 두 번째까지 누적을 하게 되면 얼마가 되는 거예요. 07:31 : 0.8734가 되는 거죠. 07:33 : 자 만일에 이것도 부족하다고 해서 세 번째까지 가게 되면 세 번째는 이제 11% 정도 07:40 : 첫 번째는 자기 자신만 가지고 전체 변동에 55% 정도로 설명을 했는데, 두 번째 거 같은 경우는 32% 정도 설명하고 있죠. 07:49 : 세 번째 정도의 주성분의 오니까 11% 밖에 설명을 못하고 있죠. 07:54 : 그런데 만일에 얘까지도 우리가 주성분으로 만일에 선택을 하게 되면은, 누적되어 있는 Cumulative 누적 기여율은 98%가 되는 겁니다. 08:04 : 상당히 이제 높아지는 거죠. 08:06 : 하지만 차원이, 주성분의 수가 많아지게 되는 거죠. 08:14 : 우리가 주성분을 하는 주성분 pca를 하는 목적이 뭐였나요. 08:20 : 좀 더 심플하게 만들어서 관리도 쉽고 결과를 잘 우리가 목표하는 변수에 결과를 잘 나올 수 있도록 08:28 : 전체 데이터를 줄이고 요약하고 변수를 줄이는 차원에서 하고 있는 게 바로 이런 분석 법의 목표인데, 목적인데 08:40 : 이 누적비율을 무조건 높이는 것이 좋은 건 아닙니다. 그래서 기준이 있습니다. 08:46 : 누적 기여율이 얼마 이상이 되면, 85% 이상이 되면요 그 정도면 주성분 숫자로 08:55 : 이 정도까지만 선택하면 되라고 하는 기준점이 바로 누적 기여율, 85%입니다. 09:02 : 그래서 우리가 PC 첫 번째 제1주성분만 할 때는 55% 밖에 안 되기 때문에 부족하죠. 09:10 : 그런데 두 번째까지만 우리가 주성분으로 바로 받아들이게 되면, 이 두 개의 주성분 09:16 : 새롭게 도출된 주성분 두 개가 전체 원래 변수의 어떤 데이터의 변동 부분에 87.34까지를 설명할 수 있기 때문에 09:27 : 굳이 세 번째 주성분은 우리가 선택할 필요가 없게 되는 겁니다. 09:32 : 그래서 어디까지만 선택하죠. 09:35 : pc1 제1주성분과 제2주성분까지만 선택하면 되는 겁니다. 09:41 : 자 별로 어렵지 않죠. 이렇게 주성분을 선택한 방법이 있고요. 20:00 :	03:06 ~ 04:08		검수 상태 : 불통
키워드 :	영상UID :	시작 시간 :	종료 시간 :	우선순위 :