전체 글 57

Time Series Transformer 의미 및 모델

정의 (Definition) "Time Series" + "Transformer" : Transformer 기반 시계열 데이터(Time Series) 예측 모델 HuggingFace에서는 Time Series Transformer를 다음과 같이 정의한다. The Time Series Transformer model is a vanilla encoder-decoder Transformer for time series forecasting. Vanilla encoder-decoder, 혹은 Transformer 에 대한 간략한 이해가 필요해보인다. Vanilla encoder-decoder encoder-decoder 구조 또한 딥러닝(인공신경망) 모델 중 하나이다. 시퀀스 데이터를 입력으로 받아 이를 예측..

오픈소스에 기여하는 법/ Github, Pull Request? Fork?

오픈소스에 기여하는 방법 중 하나는 GitHub를 통해 Pull Request를 보내는 것이다. 이를 위해서는 다음과 같은 절차를 따른다. 절차 1. 해당 오픈소스 프로젝트의 GitHub 저장소를 Fork. 이를 통해 자신의 GitHub 계정으로 해당 프로젝트의 코드를 가져올 수 있다. 2. Fork한 저장소를 로컬 컴퓨터로 Clone. 3. 로컬에서 코드를 수정하고, 변경사항을 Commit. 4. Fork한 원래 저장소와 동기화하기 위해 원래 저장소를 Remote로 추가. git remote add upstream https://github.com/ORIGINAL_OWNER/ORIGINAL_REPOSITORY.git 5. Fork한 원래 저장소의 변경사항을 가져오고, 자신의 Fork 저장소와 Merge..

COMPUTER SCIENCE 2023.05.01

Neural Radiance Fields (NeRF) Tutorial in 100 lines of PyTorch code 주석 및 해석

Originial Source: https://papers-100-lines.medium.com/neural-radiance-fields-nerf-tutorial-in-100-lines-of-pytorch-code-365ef2a1013 Neural Radiance Fields (NeRF) Tutorial in 100 lines of PyTorch code Neural Radiance Fields (NeRF) is a hot topic in the computer vision community. It is a 3D scene representation technique that allows… papers-100-lines.medium.com import torch import numpy as np from..

중심극한정리 / Central Limit Theorem 에 대해 알아보자

중심극한정리 : Central Limit Theorem 정의 vs 정리 이미 많이들 아시다시피 정의(Definition)과 정리(Theorem)은 서로 다른 개념이다. 정의(Definition)는 어떤 개념이나 용어의 의미를 정확히 정의(Define)하는 것이고 정리(Theorem)는 어떤 가설이나 명제를 증명(prove)하는 것이다. 가령, "집합"을 정의하기 위해 "원소"라는 개념을 사용하게되고, "집합은 서로 구별 가능한 원소들의 모임이다" 라는 정의를 사용해 "집합"을 정의한다. 반면, "만약 A가 B라면, A는 C이다"를 증명하고싶을 때, 적절한 수학적 기법과 논리를 사용하여 증명해야 한다. 아마 해당 가설은 삼단논법을 통해 매우 유명한 예시로 다들 알고있을 것이다. 중심극한정리는 통계학에서 매..

MACHINE LEARNING 2023.04.22

Autoencoder VS Seq2Seq 차이 비교

개요 Autoencoder와 Seq2Seq 모두 encoder-decoder 구조로 되어있다는 점이 유사하지만 차이점이 명확한 서로 다른 두 구조이다. 가장 큰 차이점으로는 목적과 구조적인 차이가 있다. Autoencoder는 데이터를 압축하고 재구성하는데 중점을 둔 unsupervised learning model이다. 입력데이터를 encoder로 압축하고, decoder를 통해 원래의 입력 데이터를 재구성(reconstruction)한다. 이 때 압축된 표현을 latent variable이라고 할 수 있다. 이 과정에서 모델은 input을 가능한 한 재구성(reconstruction)하는 방법을 학습하게된다. 즉, 사실상 Input을 적절하게 재구성해서 reconstructed input을 outpu..

Degree of Freedom(자유도) 정리

정의 Degree of Freedom(자유도) : 어떤 통계량이 자유롭게 변화할 수 있는 정도 자유도가 높을 수록 통계량의 변동성이 높아지며, 그만큼 더 정확한 추정치를 얻을 수 있다. 가령, t-distribution에서 자유도는 표본 크기와 관련이 있다. 표본 크기가 작으면 자유도가 작아지기 때문에 t-distribution의 꼬리(tail) 부분의 면적이 커지게되며 normal distribution과 달라지는 모습을 확인할 수 있다. 회귀(regression)에서도 자유도는 중요한 개념인데 SSE(Sum of Squared Error)나 SSR(Sum of Squared Residual)의 자유도는 각각 n-p-1과 p다. (이때 p는 number of coefficient, 1은 intercep..

MACHINE LEARNING 2023.04.09

LDA / QDA 차이 비교

LDA와 QDA는 모두 분류 모델링(Classification modeling)에서 사용되는 대표적인 알고리즘이다. 그러나 두 알고리즘은 다른 방식으로 작동하며, 특히 데이터가 가지는 분산의 정도에 따라 적합한 알고리즘이 달라진다. 이에 따라 LDA와 QDA의 차이점을 비교해보려한다. 정의 LDA: Linear Discriminant Analysis QDA: Quadratic Discriminant Analysis 일반적으로 Logistic Regression에서 확장된 개념으로 설명하고 있는 글이 많다. 두개 이상의 클래스를 구분하려할 때, Logistic Regression도 물론 classification을 할 순 있지만 일반적이지 못하다는 평가다. 혹은 클래스들이 잘 나눠져있지 않을 때, Logi..

MACHINE LEARNING 2023.04.01

통계 / Chi-Squared distribution VS Poisson distribution (멍청일기)

통계적 지식이 있는 분께선 제목만 보고 이 사람이 무슨 말을 하고싶은건지 이해가 안되실 듯 싶습니다.. 우연히 poisson distribution에 대해 공부하다가, Chi-squared distribution와 그래프가 매우 유사해보이는 것 처럼 보여 연관성이 있는지 찾아보다 어이 없는 생각이었다는 걸 알게되어 저의 멍청한 삽질을 글로 정리하려고합니다... * 저 둘은 연관성이 없습니다. Poisson distribution 제가 해석한 poisson distribution의 의미는 다음과 같습니다. 고정된 구간(시간 or 공간)에서 사건이 발생하는 횟수를 표현한 discrete probability distribution n(시행 횟수)가 매우 크고, probability of success (p)..

MACHINE LEARNING 2023.03.23

[pylint] E1101:Module 'cv2' has no 'imread' member 에러 해결

vscode 환경 아래 PEP-8을 위해 대부분 linting을 사용한다. * 해당 글은 pylint 사용자를 위한 포스트 * OpenCV 사용 시 다음과 같은 에러가 표시되는 걸 볼 수 있는데, [pylint] E1101:Module 'cv2' has no 'imread' member 이는, OpenCV작성 시 사용된 C를 pylint가 이해하지 못하기 때문에 생기는 에러다. 문제해결 방법이 이미 stackoverflow에 잘 나와있지만, 좀 더 쉬운 접근법을 적용해보자. 1. Settings 2. pylint 검색 3. Pylint: Args Add item * --generate-members * "python.linting.pylintArgs": ["--extension-pkg-whitelist=..

PYTHON 2023.03.21

openCV / image blur 처리 예제

원본 : https://github.com/sabin5105/openCV-tutorial GitHub - sabin5105/openCV-tutorial: unofficial openCV quick tutorial unofficial openCV quick tutorial. Contribute to sabin5105/openCV-tutorial development by creating an account on GitHub. github.com 소스코드 lena.png는 아래를 참고하셔서 저장하시길 바랍니다. Lenna image src Lenna - Wikipedia From Wikipedia, the free encyclopedia Standard test image Image of Lena Forsé..

MACHINE LEARNING 2023.03.15