분류 전체보기 검색 결과

217 개의 검색 결과가 있습니다.

Machine Learning - Thoery

Mutual Information이란? (상호의존정보란?, Normalized Mutual Information, Maximal Information Coefficient)

어떤 random variable들 X, Y가 있을 때, 우리는 이들이 어떤 관계인지를 궁금해 할 수 있다. 이를 위해 우리는 각 random variable들의 확률 분포가 주어져 있다면 KL divergence를 활용해 이들이 얼마나 비슷한지를 관찰하기도 하고, X, Y의 correlation coefficient를 구하기도 한다. 이번 글에서는 하나의 random variable이 다른 random variable에 얼마나 dependent한지를 나타내는 지표인 mutual information(MI)에 대해서 설명해볼 것이다. 배경 (Correlation의 한계) 서로 다른 두 random variable의 관계를 알고 싶다면, 가장 먼저 우리는 correlation을 계산해볼 수 있을 것이다. ..

2021. 9. 1. 20:41

Process Mining - Tools/pm4py

PM4Py 시작하기 (PM4Py tutorial)

* 이 글은 PM4Py version 2.2.7.1을 기준으로 작성되었습니다. 이 글은 파이썬에 대한 기본 지식 및 프로세스 마이닝의 기본 용어에 대한 지식이 있다는 가정 하에 진행됩니다. 대부분의 PM4Py 포스팅이 2019년에 작성되었고, 2년이라는 시간 동안 PM4Py의 버전이 1이나 올라버렸다. 그래서 PM4Py 버전 2에 맞는 포스팅들을 다시 하나하나 작성하려고 한다. (PM4Py 설치는 다음 포스팅을 참고한다.) 이번 포스팅에서는 PM4Py를 사용해서 프로세스마이닝 분석을 하려면 어떤 흐름으로 분석을 진행해야 하는지에 대해 간략하게 알아보고자 한다. 각 기능들에 대한 세부 포스팅은 차후에 진행하겠다. Library 및 모듈 import import statistics import pm4py i..

2021. 5. 16. 17:16

Process Mining - Tools/pm4py

PM4Py로 BPMN 모델 프로세스 분석하는 법 (python으로 BPMN import 및 export)

BPMN(Business Process Modeling Notation)은 아주 간단하게 프로세스 모델을 표현할 수 있는 모델링 방법으로, 오늘날 비즈니스 프로세스를 모델링할 때에 가장 널리 쓰이는 언어 중 하나이다. 이번 포스팅에서는 BPMN을 프로세스 마이닝 패키지인 pm4py를 활용하여 import하고 export하는 방법에 대해 알아보겠다. * 이 포스팅은 pm4py version 2.1.4를 기준으로 작성되었다. (얼마나 오래 공부를 안 한거여... 버전 1이 올랐네... :( ) Import 우선, BPMN 파일을 pm4py를 활용하여 python에서 import하는 방법을 알아보겠다. 1. 다음 코드를 입력한다. import pm4py from pm4py.visualization.bpmn i..

2021. 3. 3. 00:13

Machine Learning - Thoery

RFE와 RFECV (Recursive Feature Elimination이란?)

데이터 분석에 드는 노력의 80%, 어쩌면 그 이상은 모델링이 아닌 데이터의 특성을 파악하는 EDA, missing value를 처리하는 등의 정제 작업을 진행하는 데이터 전처리, 좋은 모델링을 위해 적절한 feature를 선택하는 feature selection의 데이터 그 자체의 특성을 파악하고 이를 정제하는 데에 소요된다. 이번 포스팅에서는 feature selection의 한 방법인 RFE (Recursive Feature Elimination)와 RFECV(Recursive Feature Elimination with Cross Validation)에 대해 알아볼 것이다. Feature Selection 먼저, feature selection이 무엇인지에 대해 간략하게 설명하겠다. 우리는 데이터..

2021. 3. 1. 18:13

Process Mining - Theory/Process Discovery

Organizational mining이란? (Organizational model mining이란?)

대부분의 프로세스 마이닝 연구들은 액티비티 중심으로 프로세스 모델을 어떻게 도출할지 혹은 인사이트를 어떻게 얻을 것인지에 집중한다. 하지만 대부분의 프로세스들이 사람의 행동에 굉장히 밀접하게 관련되어 있기 때문에 액티비티 뿐만 아니라 resource 관점에서의 연구도 필요하다. 이러한 필요성에 의해 대두된 것이 organizational mining이다. Organizational mining은 크게 조직의 구조를 도출하는 organizational model mining, 구성원 간의 관계를 분석하는 social network analysis, 그리고 조직 내 구성 요소 간의 업무 전달 흐름을 분석하는 information flows between organizational enetities로 나눌 수..

2021. 2. 28. 21:55

Process Mining - Theory

프로세스 마이닝과 dynamic bottleneck (Detecting System-Level Behavior Leading To Dynamic Bottlenecks)

저번 포스팅에서 우리는 dynamic bottleneck이 무엇이고, 이것의 static bottleneck과의 차이점이 무엇인지에 대해 알아보았다. 이번 포스팅에서 우리는 dynamic bottleneck을 프로세스 마이닝 관점에서 도출하는 방법에 대해 알아보겠다. 개요 이 방법은 다음의 세 가지 질문에 대해 대답하는 것을 목표로 한다. system-level event를 도출할 수 있는가? dynamic bottleneck으로 이어지는 system-level event를 도출할 수 있는가? dynamic bottleneck으로 이어지는 frequent pattern이 존재하는가? 이 질문들에 대답하기 위해, 우리는 다음과 같은 단계를 거친다. 방법론 이 방법론은 event definitions on ..

2021. 2. 17. 23:25

Process Mining & Data Mining

Static bottleneck과 Dynamic bottleneck

이러다가 연구하는 사람이 아닌 개발하는 사람이 될 것 같아 이론 공부를 위한 간만의 포스팅. 블로그 안 쓰면 공부 안 하는 사람.. 나.. 어떤 프로세스에서 bottleneck을 찾으라고 하면 어떤 방법을 사용하는가? 많은 사람들이 특정 작업의 평균 작업시간, 혹은 좀 더 발전한다면 작업시간의 중앙값을 찾고, 이 값이 높은 작업(단계)에 대해 bottleneck이라고 결론내릴 것이다. 하지만 하나의 작업 직전 단계가 갑자기 고장이 나서 평균 작업 시간이 엄청 길어졌고, 정작 프로세스의 bottleneck은 다른 것이었는데 해당 작업을 bottleneck으로 도출한다면? 혹은 프로세스가 진행됨에 따라 bottleneck이 계속 변화한다면? 이런 상황에서는 평균 작업시간 등으로 bottleneck을 도출하는..

2021. 2. 4. 21:44

카테고리 없음

2020년 돌아보기

정말정말 힘들었던 학기가 끝나고 그동안의 야근과 시험공부와 주말출근을 보상이라도 받으려는 듯 5일 동안 푸우우우욱 쉬고 쓰는 2020년 돌아보기. 사실 쉬는 동안 글 쓸까봐 올해어치의 글은 다 쓰고 돌아보기를 써야지..! 했는데 역시 나는 그럴 리가 없었다~ 작년의 2019년 돌아보기를 쓰는 나는 이탈리아에 갈 준비를 하며 아헨에서 글을 썼지만, 올해의 나는 혼자 포항에서 새해를 맞으면서 이 글을 쓴다. 학업과 연구와 일 대학원이라는 것이 다 그런건지, 나만 그렇게 느끼는 건지 모르겠지만 아헨에서의 나보다 학업적으로든, 연구적으로든, 일적으로든 크게 성장했다는 느낌이 들지 않는다. 뭔가 작년에는 이 글을 쓸 때 배운 것이 참 많다라고 스스로 생각했지만, 올해는 잘 모르겠다는 생각. 학부 마지막 학기 1학..

2020. 12. 30. 18:02

Process Mining - Theory

Automated BPS (Automated Business Process Simulation) (프로세스 마이닝과 시뮬레이션)

간만에 프로세스 마이닝. 조회수 상위 10개 중에 프로세스 마이닝이 2개밖에 없어도 난 괜찮아~ 프로세스 마이닝은 실제 프로세스가 어떻게 흘러갔고, 표준 프로세스로부터 벗어난 프로세스가 무엇이고, 병목은 어디에서 일어나는지 등을 분석할 수 있게 해준다. 하지만 프로세스 마이닝은 이벤트 로그로부터 분석을 실행하기 때문에 과거에 집중(backward-looking)한다. 이에 반해 시뮬레이션은 미래에 집중한다. 시뮬레이션을 통해 우리는 특정 상황과 환경을 가정하고 해당 환경에서 이벤트 로그가 어떻게 발생할 것인지를 도출할 수 있다. 그러므로 프로세스 마이닝과 시뮬레이션은 상호보완적이다. 이번 포스팅에서는 이렇게 프로세스 마이닝과 시뮬레이션이 어떻게 서로 상호보완적으로 연결될 수 있는지를 보여주는 예시 중 하..

2020. 11. 24. 00:19

Machine Learning - Thoery/Traditional ML

K-nearest neighbors(KNN)이란? (KNN 설명, Voronoi tessellation이란?)

K-nearset neighbors (KNN) 는 주어진 데이터에서 가장 가까운 데이터들의 label을 활용하여 해당 데이터의 분류를 진행하는 기법이다. 이번 포스팅에서는 대표적인 non-parametric model인 K-nearest neighbor classifier에 대해 알아보겠다. Motivation K-nearest neighbor classifier의 작동 원리는 정말 간단하다. 예를 들어, 다음과 같이 빨강 초록 파랑 3가지 색으로 label된 데이터가 있다고 하자. 이렇게 미리 주어진 데이터가 있는데, 우리는 다음과 같은 노란 점이 빨강 초록 파랑 중 어떤 색을 가질지를 알고 싶다. 우리의 직관으로 주위에 빨강이 대부분이니까 저 노란색 점도 빨강일 것이라고 쉽게 예측할 수 있다. 이러한..

2020. 11. 22. 21:55

Machine Learning - Thoery/Traditional ML

Parametric model과 Non-parametric model

머신러닝(혹은 통계학)을 공부하다 보면, parametric/non-parametric model이나 parametric/non-parametric test와 같은 단어를 자주 접할 수 있다. 이번 포스팅에서는 parametric model과 non-parametric model의 뜻과 함께 그 종류에는 무엇이 있는지, 그리고 각각의 장단점이 무엇인지에 대해 알아보겠다. 정의 머피의 머신러닝 책에서는 parametric model과 non-parametric model을 아래와 같이 정의한다. Parametric model: The model has a fixed number of parameters. 모델의 파라미터 수가 정해져 있다. Non-parametric model: The number of p..

2020. 11. 22. 20:59

Machine Learning - Thoery/Traditional ML

Robust Linear Regression이란? (Laplace regression, Huber regression 장점, Huber loss)

이번 포스팅에서는 Linear Regression과 Ridge Regression에 이어 Robust linear regression의 종류 중 하나인 Laplace Regression과 Huber Regression, 그리고 이들의 장점과 단점에 대해 알아보겠다. * 이번 포스팅은 Linear Regression에 대한 이해가 있다고 가정한다. Robust Linear Regression 가장 기본적인 형태의 Linear Regression인 Least Squares는 다음과 같은 RSS(Residual Sum of Squares)를 최소화하는 w를 찾는 것을 목적으로 했다. 하지만 위 형태와 같은 RSS를 최소화하는 모델을 만들 때 다른 데이터들과는 값이 많이 다른 아웃라이어가 데이터에 존재한다면, ..

2020. 11. 15. 16:54

Machine Learning - Thoery/Traditional ML

Ridge Regression(Penalized Least Squares)이란? (Ridge regression 증명)

Ridge regression은 linear regresssion에 regularizer를 추가하여 overfitting을 방지한 regression 방법으로, MAP estimation을 통해서 모델링을 한다는 특징을 가진다. 이번 포스팅에서는 Linear Regression에 이어 Ridge Regression(Penalized Least Squares)이 무엇이고 이것이 작동하는 수학적 원리가 무엇인지, 그리고 이것이 단순한 Linear Regression(Least Squares)에 비해 overfitting에 강한 이유에 대해 알아보겠다. 이번 포스팅은 maximum likelihood와 MAP estimation에 대한 이해가 있다고 가정한다. Motivation 우리가 Least Square..

2020. 11. 13. 00:26

Process Mining - Tools/pm4py_version_1

PM4Py로 Correlation Mining 하기

Correlation Mining은 Case ID 정보가 있어야 프로세스 분석이 가능하던 프로세스 마이닝의 한계점을 극복할 수 있게 해주는 알고리즘으로, Case ID 없이도 프로세스 모델을 도출한다. 이번 포스팅에서는 PM4Py에서 Correlation Mining을 하는 방법에 대해 알아보겠다. 1. 데이터로부터 Case ID 정보를 제거한다. 이 과정은 데이터에 Case ID 정보가 없는 데이터를 사용할 때에는 해당되지 않는다. (이 예시는 Case ID가 있는 데이터를 사용했기 때문에 Correlation Mining의 효과를 보여주고자 해당 컬럼을 삭제한 것이다.) from pm4py.objects.log.adapters.pandas import csv_import_adapter df = csv..

2020. 10. 11. 01:09

Process Mining - Theory/Process Discovery

Correlation Mining이란? (Case ID 정보 없이 프로세스 마이닝 하기)

프로세스 마이닝을 할 때 기본적으로 이용되는 데이터인 이벤트 로그는 Case ID, Activity, Timestamp 정보를 필수적으로 가진다. 이 중 Case ID는 하나의 케이스끼리 공유하는 key 값으로 프로세스마이닝에는 없어서는 안 될 존재이지만, 실제 데이터에서 Case ID가 명확히 명시되어 있지 않은 경우가 많다. Correlation Mining은 이렇게 Case ID가 없는 경우에도 프로세스 마이닝이 가능하게 만들어준다. 이번 포스팅에서는 Correlation Mining이 무엇인지에 대해 알아보겠다. 알고리즘 Correlation Mining 알고리즘을 설명하기 위해 예시 이벤트 로그를 하나 가져오겠다. 이 예시 이벤트 로그로부터 도출될 모델은 다음과 같은 형태로 표현될 수 있을 것이..

2020. 10. 11. 00:59

Machine Learning - Thoery/Probability & Statistics

MAP estimation (Maximum A Posterior estimation)이란? (MAP와 MLE, MAP estimation의 단점)

Maximum Likelihood Estimation은 우리가 어떤 parameter를 추정할 때, likelihood 값을 최대로 하는 parameter를 찾는 과정을 말한다. 하지만 Maximum Likelihood Estimation은 우리가 기본적으로 알고 있는 데이터의 사전 지식 정보는 반영하지 못한다는 한계를 가진다. 이러한 단점을 극복하고, 우리가 데이터에 대한 정보가 있는 상황에서 posterior 값을 최대로 하는 parameter를 찾는 과정을 우리는 MAP estimation이라고 부른다. 이번 포스팅에서는 MAP estimation이 무엇인지, Maximum Likelihood Estimation과는 어떻게 다른지, 그리고 MAP estimation의 단점은 무엇인지에 대해 알아보겠..

2020. 10. 10. 18:32