티스토리

노루의 발자국

검색하기

블로그 홈

노루의 발자국

jhnoru.tistory.com/m

jhnoru 님의 블로그입니다.

구독자: 1

방명록 방문하기

주요 글 목록

[week11] Problem Description and Pipeline, Photo OCR(Optical Character Recognition) 1. OCR의 문제만 보더라도, Text detection, Character segmentation, Character classification이라는 세가지의 모듈로 구성된다. 2. 그렇다면 어떻게 파이프라인을 구성해야 할까? B. Sliding Window 1. 먼저 텍스트 인식을 하기전에, 사람인식 문제를 살펴 보자. 사진 속의 사람을 인식하기 위해서 슬라이딩 윈도우 기법을 사용한다. 2. 슬라이딩 윈도우 기법은, 코끼리 다리 만지듯 사진을 자신이 설정한 창의 크기대로 다 살펴보는 것이다. 내가 설정한 창에서 학습된 결과의 양성 반응이 나타난다면 보행자가 있는 것으로 판별하는 것이다. 3. 그렇기 때문에, 일정한 비율의 사이즈를 정한 뒤, 사람인 것과 사람이 아닌 사진으로 트레이닝 셋을 만든 뒤에.. 공감수 0 댓글수 0 2019. 11. 16.
[week10] online learning 1. 온라인러닝은 스톡케스틱과 비슷하다고 볼 수 있다. 데이터는 흘러 넘치고, 그 데이터를 모아 두었다 쓰기에는 흐름에 적절하지 않을 때, 실시간으로 세타를 갱신시키는 것이다. 2. 다만 실시간으로 바뀌는 입맛을 쫓는 것이니, 정답도 확인 할 수 없다는 것이 문제. 적절한 알파를 찾아야 하고, 때에 다라서는 적절한 미니 배치 사이즈도 찾아야 한다. 1. 맵리듀스 방법에 대해서 간단히 소개해주셨다. 핵심은 코어를 나눠서 계산하여 병렬로 처리한 뒤, 다시 그것을 모아서 계산하는 것이다. 한번에 하나밖에 처리 못하다가 4개를 처리하니 속도가 빨라지는 것은 당연하다. 2. 맵리듀스시의 데이터 분할이나 저장에 관해서는 또 다른 곳에서 공부를 해야할 듯 싶다. 공감수 0 댓글수 0 2019. 11. 15.
[week10] learning with large datasets A. learning with large datasets 1. 최고의 알고리즘을 가진 사람이 이기는 것이 아니라, 가장 많은 데이터를 가진 사람이 이긴다. 1. 데이터 셋이 많다면, 그 데이터 셋을 모두 다 이용하는 것이 효율적일까? 아니다. 이 때는 Learning Curve를 그려볼 필요가 있다. 왼쪽 그래프와 같이, 트레인에 대한 비용과 검증용 데이터 셋의 비용의 격차가 크다면, 더 많은 양의 데이터 셋으로 실험을 진행하면 되고, 그 격차가 적다면 굳이 더 많은 데이터를 이용할 필요는 없다. B. Stochastic Gradient Descent 1. Batch gradient descent는 전체 트레인 셋의 비용함수의 평균을 통해 세타를 조절한다. stochastic gradient descen.. 공감수 0 댓글수 0 2019. 11. 14.
[week9] Low Rank Matrux Factorization 1. Vectorization 1. 우리가 위에서 공부했던 것은 간단하게 행렬로 표시될 수 있다. 컨텐츠의 피쳐를 담은 X행렬과 사용자의 성향을 담은 세타 행렬의 곱을 통해서 말이다. 2. 이것을 Low Rank Matrix factorization이라고 한다. 1. 이 행렬을 통해서, 비슷한 유저, 비슷한 컨텐츠에 대해서도 찾을 수 있다. 벡터화 되어 있기 때문에, 위치가 비슷한 곳에 있다면, 그 둘은 비슷한 특징을 지니는 것이다. B. implementational Detail : Mean Normalization 1. 아무 데이터도 없는 사용자가 있다면 어떻게 추천을 해야할까? 그것을 막기 위해서 각 컨텐츠별 평점의 평균을 예측시 더해 주면, 아무 기록이 없는 사용자에게도 추천이 가능하다. 2. 그.. 공감수 0 댓글수 0 2019. 11. 8.
[week9] Collaborative Filtering A. Collaborative Filtering 1. 아이템기반에서는 세타를 x를 가지고 세타 값을 찾아 갔지만, 협업 필터링에서는 세타를 가지고 x를 찾아간다. 2. 즉 아이템 기반에서의 한계점을 극복하기 위해서, 하나의 아이템의 피쳐를 예측하기 위해, 여러 사람들의 세타값과 y값을 이용한다. 1. 위에서 보이는 식과 같이, 여러 사람들로 부터 하나의 컨텐츠에 대한 x를 구하는 방식이기에 협업인 것으로 보인다. 1. 일종의 닭과 달걀의 관계이다. 주어진 아이템의 피쳐 X로부터 세타를 예측하고, 세타로부터 X를 예측한다. 그리고 이것을 반복한다. B. Collaborative Filtering Algorithm 1. x와 세타를 최소화 하는 방향으로 비용함수가 만들어지는데, 둘 모두 공통된 y값을 정답으.. 공감수 0 댓글수 0 2019. 11. 7.
[week9] Predicting Movie Rating A. Content-based recommender systems 1. 아이템 기반 추천 시스템에 대해 내가 오해하고 있었다. 아이템 기반도 SVD를 이용한 것인 줄 알았는데, 선형 회귀를 이용하는 것이었다. 2. 일단 명칭부터 정리를 해야한다. r을 해당 컨텐츠를 보았는지 안보았는지에 대해 표시한다. 2-2. y는 j라는 이용자가 i라는 컨텐츠에 매긴 평점이다. 2-3. 세타는 이용자 j의 파라미터이다. 2-4. x는 컨텐츠 i의 피쳐다. 3. 이용자 j의 컨텐츠 i에 대한 예측치는 파라미터 세타와 컨텐츠의 피쳐의 곱이다. 4. 이용자가 컨텐츠에 대한 평점을 많이 매겨놓을수록 트레인 셋은 많아지는 것이 된다. 5. 이 트레인 셋을 이용하여 세타를 학습시키고, 이용자가 보지 않은 영화에 대한 평점을 예측.. 공감수 0 댓글수 0 2019. 11. 7.
[week9] Building an Anomaly Detection System A. Density Estimation 1. 우리가 찾아야 하는 것은 엡실론, 그 엡실론에 대한 단서를 얻기 위해서는 평가 시스템이 필요하다. 그리고 평가를 하기 위해서는 레이블이 필요하다. 1. 이상치가 많다면 이상치가 아니듯이, 이상치의 예시는 적을 수 있다. 2. 그렇기 때문에 중단에서 보이는 것처럼, 6000개의 정상치로 부터 엡실론을 설정하여, CV에서 검증하며 최적의 엡실론을 찾고 TEST에서 정확도를 보아야 한다. 3. 대안적인 방법이 있긴하지만, 비추. 1. 알고리즘은 위와 같은 방법으로, 정상이면 0을 이상치면 1로 예측 값을 생성한다. 2. 중요한 것은 정확도를 확인할 떄, 단순히 정확도(Accuracy)만을 보는 것이 아니라는 점이다. 왜냐하면 극단적으로 정상치가 많기 때문에, 0으로.. 공감수 0 댓글수 0 2019. 11. 7.
[week9] Densitiy Estimation A. Problem Motivation 1. 분포의 밀도를 이용하여, 분포의 중심에서 멀어진 값을 이상치로 분류하는 것이다. 통계적접근법. 1. 이상치 검색의 예시 : 어떤 관찰 값이 사기일 확률, 제조 공정에서의 불량품 검색, 데이터 센타에서의 컴퓨터 감독 B. Gaussuan Distribution 1. 가우시안 분포에서의 확률은 면적으로 표현되며, 그 공식은 위와 같다. 가우시간 분포는 평균값인 뮤와 표준편차인 시그마의 제곱으로 표현될 수 있다. 1. 간단하다. 뮤는 중앙의 데이터가 가장 많은 지점, 표준편차 시그마가 커질수록 넓게 펴진다. 1. 뮤 말그대로 평균이기 때문에 m으로 나눠주는 것이고, 시그마의 제곱은 분산이기 때문에 중앙에서 멀어진 정도의 평균을 재는 것에 사용된다. C. Algori.. 공감수 0 댓글수 0 2019. 11. 6.
[week8] Applying PCA A. Reconstruction from compressedREpresentation 1. z라는 축소된 벡터를 얻는 방법을 알았다. 그렇다면 어떻게 다시 2차원의 백터로 돌아갈 수 있을까? 2. 식에서 볼 수 있다시피, 축소된 백터를 얻을 때 사용되었던 U_reduce라는 좌측 특이벡터를 이용하여, 본래 X의 근사한 값을 구할 수 있다. 이를 Construction(복원)이라 한다. B. choosing the Number of principa componet 1. 얼마나 축소할 지 결정하기 위해서는, 축소 결과가 본래의 데이터를 얼마나 포함하고 있는지를 알아야 한다. 2. 여기서도 사용되는 비용함수의 개념, 위에서 보이는 식에서 분모를 본래정보, 분자를 축소된 정보를 이해하면 되겠다. 분자에서 차이값.. 공감수 0 댓글수 0 2019. 11. 3.
[week8] Principal Component Analysis A. Principal Component Analysis Problem Formation 1. 차원 축소 중 하나가 PCA라는 방법이다. 위에 X표시 된 2차원의 데이터를 1차원의 데이터로 축소하기 위해서는 하나의 기준 점이 필요하게 된다. 2. 평면 위에 여러 직선들이 가능하다. 빨강 선과 보라색 선이 보이 있다고 가정할 때 어떤 직선이 축소되기에 적절할까? 3. 정답은 빨강색 선이다. 왜냐하면, 데이터는 직선위로 수직으로 투영되며, 그 거리가 멀수록 비용은 커지게 된다. 즉 의미 변화, 데이터 손실이 많아진다는 뜻이다. 1. 오 이거 선형회귀랑 똑같은거 아니야? 생각할 수 있지만, 둘의 오차를 구하는 방식이 다르다. 선형회귀는 모델의 예측값과 y값의 차이로서 비용함수를 산정하지만, PCA는 직교(최단.. 공감수 0 댓글수 0 2019. 11. 3.
[week8] Data Compression A. Motivation 1: Data Compression 1. Data의 차원을 줄임으로써, 불필요한(redundunt)한 데이터를 줄일 수 있게 된다. 즉, 의미를 가지기 위해서는 모호해질 필요가 있다는 뜻이다. B. Motivation 2: Visualization 1. 시각화, 인간이 이해할 수 있는 형태를 만들기 위해서라도 차원축소는 필요하다. 2차원으로 축소를 함으로써, 의미가 축약된다. 2. 위에서 보이는 것처럼, 나라의 활동성이라는 의미가 2차원으로 축소되어 시각화 될 수 있다. 공감수 0 댓글수 0 2019. 11. 3.
[week8] Clustering A. K-Means Algorithms 1. 레이블이 없을 때, 사용되는 비지도학습 중 첫 번째인 K-Means Clsutering이다. 원리는 간단하다. 각 군집의 중심을 찾는 것이다. 다만 군집의 개수를 정해주어야 한다. 1. K-means algorithm은 간단하다. 첫 째, 몇 개의 클러스트를 만들지 정한다. K를 설정 한후, 임의의 중심 값을 설정한다. 2. 각 x는 가장 가까운 임의의 중심으로 할당 된다. 3. 군집으로부터 중심 값을 재설정한다. 4. 중심의 변화가 거의 없을 때까지 반복한다. B. Optimization Objective 1. K-means algorithms의 최적화는 간단하다. 각 X의 할당된 중심 값으로 부터의 거리의 합이 최소가 되도록 하는 것이다. 2. 중심 값이 .. 공감수 0 댓글수 0 2019. 11. 3.
[Intuitive Biostatistics] 변수의 종류 일단 신재하는 사실을 얻어라 그다음 당신이 원하는 대로 그 사실을 변형하라 공감수 0 댓글수 0 2019. 10. 31.
[Intuitive Biostatistics] 연속자료를 그래프로 그리기 더보기 당신이 이야기하는 바를 측정한 후 숫자로 표현하면, 그것ㅇ 대해 무엇인가 알게 된다. 하지만 말고하자 하는 바를 측정할 수도 숫자로 표현할 수도 없다면, 당신의 지식은 형편없고 불만족스로운 것이다. Lord Kelvin A. 연속자료 1. 자료를 분석할 때의 핵심은 취급자료의 특성에 맞는 분석법을 선택하는 일이다. B. 평균과 중앙값 1. 평균은 자료의 중앙이나 중심 경향성(central tendency)를 정렬화하는 한 방법으로, 유일한 방법은 아니다. 2. 중앙값은 가운데 값이다. 자료를 가장 작은 값부터 가장 큰 값까지 순위를 매긴 후 가운데 순위를 알아낸다. 자료가 자수일 경우 가운데 두 값의 평균을 낸다. 3. 기하평균은 모든 값을 로그로 변환한 후 이 로그값의 평균을 내는 것이다. 로그.. 공감수 0 댓글수 0 2019. 10. 31.
[Intuitive Biostatistics] 계수자료의 신뢰구간(포아송 분포) 0. 사건들이 서로 독립적으로 무작위로 발생하면서 시간에 따른 발생률이 변하지 않는다면 특정 시간 동안 발생한 사건의 수는 포아송분포를 따르게 된다. 실제 관찰된 발생 사건으로부터 신뢰구간은 단위시간당 발생하는 사건의 수로 계산될 수 있다. 또한 포아송분포는 특정 부피에 포함되는 물체의 평균 개수의 신뢰구간을 계산할 때도 사용된다. A. 포아송분포 1. 어떤 결과는 특정 부피에 포함된 사물의 수나 특정 시간 도안 일어난 사건의 수로 표현된다. 예를 들어, 한 산부인과 병동에서 매일 태어나는 신생아 수나, 한 ㅎ현미경 시야에서 보이는 호산구 수 등이 있다. 2. 시간이나 특정 부피 안의 사물을 반복적으로 추출하면 사건 혹은 사물의 수는 매번 달라지리라는 것은 쉽게 예상할 수 있다. 이런 무작위분포는 포아송.. 공감수 0 댓글수 0 2019. 10. 30.
[Intuitive Biostatistics] 비율의 신뢰구간 A. 비율로 표현되는 자료 1. 심근경색을 경험한 환자 중 심주전까지 진행하는 비율, 특정 과목을 이수하는 학생의 비율, 동전던지기에서 앞면이 나오는 비율 등이 있다. B. 이항분포 : 집단에서 표본으로 1. 동전던지기를 공정하게 시행할 경우 앞면과 뒷면이 나올 확률은 각각 50%다. 동전던지기를 계속 한다면 결국 앞면이 나오는 만큼 뒷면이 나온다는 의미다. 하지만 연속된 상황에서, 앞면만 나오거나 뒷면만 나올 수도 있다. 2. 전체 모집단에서 사건이 일어날 비율을 알면, 이항분포를 사용하여 특정결과를 관찰할 우도를 계산할 수 있다. C. 신뢰구간 : 표본에서 비율로 1. 표본수가 더 많은 모집단에서 자료를 수집할 경우, 미숙아의 생존률은 변할 것이다. 그렇다면 표본을 통한 생존률과 실제 모집단의 생존률.. 공감수 0 댓글수 0 2019. 10. 29.
[Intuitive Biostatistics] 표본에서 모집단으로 A. 모집단으로부터 표본 얻기 1. 표본과 모집단을 명확하게 구분하는 것은 통계학을 이해하는 열쇠다. 또 통계학을 배울 때는 통계용어의 특별한 의미를 일상어의 그것과 구분지을 수 있어야 한다. - 질 관리 : 공장에서 많은 물건이 생산된다(모집단). 모집단에서 무작위로 선택한 몇몇 물거만을 검사한다(표본). 표본에서 얻은 결과로 모집단에 대해 추론하게 된다. - 선거 여론조사 : 유권자의 무작의표본은 유권자 전체 모집단에 대한 결론을 얻는데 사용된다. - 임상 시험 : 한 연구에 포함된 연구대상으로부터 얻은 결과는 환자 모집단에서 미래에 발생할 수 있는 일을 예측하는데 유용하게 쓰일 수 있다. - 실험실 실험 : 실허밀에서 얻는 자료는 표본이다. 표본자료로부터 이상적이고 진실에 가까운 상황에 대해 믿을 .. 공감수 0 댓글수 0 2019. 10. 28.
[Intuitive Biostatistics] 확률의 복잡성 A. 확률의 기초 1. "밖에(out there)"혹은 당신의 머리 밖에(outside your head)에 있는 확률. 장기간 빈도를 의미하는 확률이다. 어떤 특정한 사건이 발생할 확률은 정확한 수치로 표현된다. 하지만 대개의 경우 우리는 사건에 대한 충분한 정보를 얻기 힘드므로, 그 값을 자신할 수 없다. 2. 당신의 머리 안에(inside yout head) 있는 확률. 주관적 믿음의 강도로 표현되는 확률을 말한다. 이는 사람마다 다를 수 있으며, 한 개인에게서도 경우에 따라 차이가 발생하기도 한다. B. 장기간 빈도를 의미하는 확률 1. 모형 한 개에서 얻은 예측으로서의 확률. 모델이 있고, 그 모델에 따른 사건에 대한 예측이다. 모델을 통한 예측이 완벽하지 않더라도 유용할 수는 있다. 2. 자료.. 공감수 1 댓글수 0 2019. 10. 28.
[week7] SVMs in Practice A. Using An SVM 1. SVM을 사용 할 때는 패키지를 사용 할 것, 굳이 손으로 쓰지 말고. 파라미터 C와 어떤 커널을 선택할 것인가가 중요하다. 2. 예를 들면 커널을 쓰지 않는 Linear Kernel 혹은 비선형 분류를 하는 Gaussian kernel등이 있다. 1. 가우시안 커널을 사용할 때에는 특히, 적절한 크기로 피쳐를 조절해주는 것을 잊지 말아야 한다. 왜냐하면, 하나의 피쳐가 너무 크게 되면, 다른 피쳐들이 정확도에 영향을 줄 수 없기 때문이다. 1. 유효한 변환, 커널을 만들기 위한 조건이 Mercer의 이론이다. 2. 다양한 다항식 커널이 유효하며, 잘 이용되지 않는 여러 커널들도 있다. 모르면 구글링 할 것. 1. 로지스틱 리그레션과 같이, 다중 클래스 분류시에는 one.. 공감수 0 댓글수 0 2019. 10. 28.
[week7] Kernel A. Kernels 1 1. 선형적으로 분류가 불가능한 데이터에 대해서, 다항식을 통해 접근 할 수 있지만, 다항식은 비용적으로 비싸다. 그래서 나왔던 것이 ANN이었다. SVM에서는 새로운 피쳐 f를 생성하여 계산의 복잡함을 해결한다. 1. 커널이라는 방법은 유사도라는 새로운 피쳐를 생성하는 것이다. 유사도는 특정한 랜드마크와 얼마나 가까운지로 결정이 된다. 즉, 모든 피쳐는 랜드마크와 가까움의 정도로 0~1사이의 값으로 변환되는 것이다. 1. f1이라는 새로운 피쳐는 랜드마크 1에서 가깝다면 1에 근사하고, 멀다면 0에 근사한다. 1. 이때, f1을 만드는 데 사용되는 시그마가 커질수록, 더욱 완만하게 f1의 값은 변하게 된다. 이러한 분포를 보이는 f를 가우시안 커널이라고 한다. 아마 표준편차인것으.. 공감수 0 댓글수 0 2019. 10. 28.
[Week7] Large Margin Classfication A. Optimization Objective 1. Linear Regression이나 Logistic Regression과 같이, 업계에서 자주 사용되는 최적화 알고리즘 중 하나가 SVM이다. 이 SVM의 수학적인 개념을 살펴 보는 것이 이번 강의의 목표다. 2. Logistic Regression의 비용 함수는 위와 같다. 또 그래프로 그려보았을 때는 파랑색 선과 같다. SVM은 이 파랑 곡선보다, 그에 근사한 보라색 직선을 비용함수로 사용하는 것이다. 1. Logistic Regression의 공식은 위와 같다. SVM은 약간 변형된다. 이전 슬라이드의 직선 그래프를 SVM의 비용함수1, 비용함수 0이라고 할 때, log부분을 치환할 수 있다. 2. 그리고, 식 안의 m을 지운다. m은 상수로서 우.. 공감수 0 댓글수 0 2019. 10. 28.
[통계학 스터디] 20191019 가우스 분포, 중심극한정리, 모수와 통계량, 표준오차, 변동계수 0. 수학적 이해와 개념적 납득 모호하던 개념들이 스터디를 진행할수록 조금씩 잡혀간다. 통계를 공부한다는 것은 어쩌면 수학적인 일보다는 언어적인 일에 더 가깝다는 생각이 들었다. 그렇기 때문에, 수학적인 이해보다, 개념적인 납득이 통계로서 세상을 바라보는 도구로 사용하는 것에 더 도움이 되지 않을까 생각했다. 1. 가우스 분포는 분포다 가우스 분포는 정규 분포라는 용어와 동일하다.가우스 분포는 일단 데이터의 분포이다. 가우스분포는 많은 무작위인자가 변이성을 만들 때 발생한다. 무작위인자들은 서로 보상하는 경향이 있고 어떤 요소들은 값을 크게, 또는 작게 만든다. 대게는 서로 효과가 상쇄하기에 많은 값들은 중심 근처에 분포하게 된다. 간혹, 무적위인자 중 극히 일부만이 같은 방향으로 작용하여 그 자료값을 .. 공감수 0 댓글수 0 2019. 10. 22.
CNN은 기본적으로 전처리과정과 신경망을 합친 것이 아닌가? https://www.quora.com/Is-Convolutional-Neural-Network-basically-data-preprocessing-via-kernel-plus-Neural-Networks-Isnt-Deep-Learning-just-neural-networks-with-some-pre-processing-for-automated-feature-selections Is Convolutional Neural Network basically data-preprocessing via kernel plus Neural Networks? Isn't Deep Learning just neural ne Answer (1 of 7): I can continue your question, and ask a.. 공감수 0 댓글수 0 2019. 10. 21.
What are nodes in RNN/LSTM, 노드가 뭐냐? https://stats.stackexchange.com/questions/269996/what-are-nodes-in-rnn-lstm What are nodes in RNN/LSTM? In this blogpost "The Unreasonable Effectiveness of Recurrent Neural Networks" the author says, that he is training "a 2-layer LSTM with 512 hidden nodes" for character prediction. So it will look stats.stackexchange.com For fully-connected layers, the number of 'nodes' is the output dimension.. 공감수 0 댓글수 0 2019. 10. 14.
[통계학 스터디] 20191013. 불편성, 효율성, 일치성, 충분성, 점추정, 구간추정 0. 오늘 스터디에서는 통계학의 기본적인 내용인 점추정과 구간추정에 관한 이야기를 나누었다. 알고 있다고 생각되는 내용에도 허점이 많음을 느꼈다. 추정량의 조건 1. 불편성(Unbiasedness) 탁월한 추정량은 추정량의 평균이 추정모수와 일치해야한다. 당연한 소리다. 이는 표본을 제대로 뽑아 실험했으면 반드시 만족하는 성질이다. 2. 효율성(Efficiency) 불편추정량은 여러 개일 수 있다. 하지만 그 중에서도 효율적인 불편추정량은 분산이 적은 추정량이다. 3. 일치성(Consistency) 표본크기가 무한히 증가할 때, 추정량은 모수에 근접하려는 특성을 지닌다. 4. 충분성((Sufficiency) 추정량은 모수에 관한 모든 정보를 포함해야 한다. 점추정과 구간추정 1. 분포라는 가정 만일 주목.. 공감수 4 댓글수 0 2019. 10. 13.
[week6] Handling Skewed Data A. Error Metrics for Skewed Classes 1. 암 진단과 같이 암이 아닌 클래스가 극도로 적을 때는 어떻게 정확도를 확인해야 할까? 암일 확률이 0.05라면, 그냥 암이 없다고만 하더라도 99.5 %의 확률로 정답을 맞출수 있다. 이런 경우 Accuracy보다는 Recall과 Precision이라는 척도를 사용한다. Precision은 알고리즘의 정밀도를 말하며, 긍정으로 예측한 것들 중 실제로 긍정인 것의 개수의 지수이며, Recall은 실제 긍정인 것들 중, 실제 긍정인 것의 비율 지수이다. 이 지표를 봄으로써, 치우쳐진 데이터 클래스라도 정확도를 확인할 수 있데 된다. B. Using Large Data Sets 1. 알고리즘을 조정함으로써, 판단을 내리는 임계점을 수정할 수.. 공감수 0 댓글수 0 2019. 10. 11.
[week6] Building a Spam Clasifier A. Prioritizing What to Work on 1. 스팸분류기를 만들 때 10,000~50,000개로이루어진 원핫 벡터를 이용하여 만든다. 2. 어떻게 이 분류기의 성능을 향상 시킬 수 있을까? 1) 데이터를 많이 모은다 2) 머리를 써서 좋은 피쳐를 만든다. 3) 알고리즘을 조지는 걸 하나 만든다. 이 중 뭘 해야할지는 나도 모른다. B. Error Analysis 1. 시간을 효율적으로 사용하고, 러닝의 영감을 얻기 위해선는 빠르고 더럽게 아이디어를 적용하여 보고 결과를 확인 한뒤, 어디에다 시간을 쓸 것인지 정해야 한다. 2. 간단한 알고리즘으로 시작해라! 검증요 데이터로 실험을 적용하고, 러닝 커브를 그려 행동을 결정하라. 3. 또, 에러들을 수동으로 조사하여서 취약적ㅁ을 파악하고, 그.. 공감수 0 댓글수 0 2019. 10. 10.
[week6] Evalutating a Learning Algorithm A. Bias vs. Variance 1.기계학습에 뭔가 문제가 있다면, 그 문제는 bias(선입관) 또는 variance(분산) 둘 중 하나 떄문이다. 2 이 선입관과 분산성을 구분해줄 필요가 있다. 3. 모델이 선입견이 심하다면 설명력이 약해진다(underfitting). 모델이 높은 가변성을 가지면 이는 트레인 데이터에 과도하게 아부하는 꼴이 된다. 선입견이 강해지면 트레인에 대한 설명력이 강해지는 대신, 테스트에 대한 설명력은 약해지게 되는 것이다. 적절한 타협이 필요하다. 4. 항수가 높아질수록 오류는 줄어드는 경향이 있다, 동시에 어떤 지점까지 테스트의 오차 또한 줄어들며, 이 지점이 지나면 볼록한 커브를 형상하며 다시 증가하게 된다. B. Regularization and Bias/Varia.. 공감수 0 댓글수 0 2019. 10. 10.
[Intuitive Biostatistics] CHAPTER 1 통계학과 확률은 직관적으로 이해하기는 어렵다. 1. 우리는 바로 결론으로 건너뛰려 한다. 하나의 표본에서 모집단으로 일반화하는 능력은 인간의 뇌가 본래부터 지닌 것으로 8개월 영아에게서도 관찰된다. 제한된 자료로부터 결론을 내리려는 강력한 본능에 저항하는 방편으로 과학자는 통계학을 사용할 필요가 있다. 주어진 정보를 통해 판단을 내리려는 본능은 그런데로, 생존에 도움을 주었던 것일까. 2. 우리는 과신하는 경향이 있다. 우리는 자신의 생각을 과신하는 경향이 있으므로, 과학자는 통계학을 이용하여 자신들이 이룬 결론이 갖는 확실성을 적절하게 정량화할 필요가 있다. 생각을 과신한다. 자신이 만들어낸 정보에 편향되는 경향이 있다. 당연한가? 가장 많이 만나는 정보가 가장 많이 나의 생각에 영향을 주니. 3. 우리는 무작위자료에서 패턴을 본다. 대부분의 사람.. 공감수 0 댓글수 0 2019. 10. 7.
sklearn Doc2Vec 라이브러리 parameter 1 2 3 4 5 >>> from gensim.test.utils import common_texts >>> from gensim.sklearn_api import D2VTransformer >>> >>> model = D2VTransformer(min_count=1, size=5) >>> docvecs = model.fit_transform(common_texts) # represent `common_texts` as vectors http://colorscripter.com/info#e" target="_blank" style="text-decoration:none;color:white">cs 파라미터 https://radimrehurek.com/gensim/sklearn_api/d2vmodel.ht.. 공감수 0 댓글수 0 2019. 10. 7.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.