Bull

개념 하이퍼파라미터는 기계학습 알고리즘의 성능을 조절하는 데 사용되는 외부 설정 값이다. 즉, 모델을 정할 때 우리가 입력하는 값들이라고 생각하면 쉽다. 이러한 하이퍼파라미터는 학습 과정에 직접적으로 관여하지 않고, 대신 알고리즘의 구조(예: 복잡성)와 학습 과정(예: 속도)을 조절하다. 기계학습 모델의 성능을 최적화하기 위해서는 적절한 하이퍼파라미터를 선택하고 조절하는 과정이 필요하다. 이해가 잘 가지 않는다면 예시에 나온 키워드들을 하이퍼 파라미터라고 생각하는 게 좋다. (나도 잘 이해가지 않기 때문에 "예시에 나온것들이 하이퍼 파라미터구나" 정도로만 이해 중..) 하이퍼 파라미터 예시 학습률(learning rate) 학습률은 모델이 학습하는 속도를 결정한다. 너무 높으면 학습 과정에서 발산할 수 ..

개념 앙상블 기법은 여러 개의 학습 알고리즘을 조합하여 더 좋은 예측 성능을 얻기 위한 방법이다. 단일 모델만 사용할 때보다 더 안정적이고, 높은 성능을 달성할 수 있다. 즉, 한 명의 전문가 보다 일반인 여러명에서 더 좋은 결과를 낼 수 있다. 주요 Ensemble 알고리즘 종류 1. Bagging (Bootstrap Aggregating) 배깅(Bagging, Bootstrap Aggregating의 약자)은 복원 추출(즉, 한 번 선택된 샘플을 다시 선택할 수 있음)을 통해 여러 개의 데이터셋을 생성하고, 각각의 데이터셋에 대해 독립적으로 모델을 학습시킨 후, 그 결과를 통합하여 최종 결정을 내리는 방법이다. 배깅은 특히 결정 트리(Decision Tree)와 같이 높은 분산을 가지는 알고리즘의 과..

Confusion Matrix Model : Classification(분류) Confusion Matrix(혼동 행렬)은 분류 문제에서 모델의 성능을 평가하는 데 사용되는 테이블이다. 실제 값과 모델이 예측한 값을 기반으로 구성된다. 분류 모델이 각 클래스를 얼마나 잘 혹은 못 분류했는지를 보여준다. True Positive (TP) 모델이 긍정적인 클래스를 정확하게 긍정으로 예측한 경우의 수 True Negative (TN) 모델이 부정적인 클래스를 정확하게 부정으로 예측한 경우의 수 False Positive (FP) 모델이 부정적인 클래스를 잘못해서 긍정으로 예측한 경우의 수(Type I error라고도 불림) False Negative (FN) 모델이 긍정적인 클래스를 잘못해서 부정으로 예측한 ..

궁금해진 이유 학부 공부중, 딥러닝과 강화학습을 동시에 배우고 있는데 수식중에 bias과 reward는 은닉층에서의 수식에 더하는 개념으로 등장하는데 생김새가 비슷해서 같은 개념인지 헷갈려서 정리한다. 순전파의 Bias(편향) 딥러닝에서 신경망의 각 뉴런은 입력 데이터에 가중치를 곱한 후, 이 결과에 bias를 더하여 최종 출력을 결정한다. Bias는 신경망이 입력 데이터가 없거나 입력에 대한 가중치의 합이 0일 때도 활성화될 수 있게 하는 역할을 한다. 이를 통해 모델의 유연성과 표현력이 향상된다. 순전파는 입력 데이터가 신경망을 통해 전달되어 출력까지 이르는 과정을 말하며, 이 과정에서의 bias는 데이터가 가진 기본적인 편향을 모델에 반영하는 역할을 한다. 강화학습의 MDP의 Reward(보상) 강..

Flatten 층이란? Flatten 층은 다차원 입력을 1차원으로 평탄화하는 데 사용되는 신경망의 한 층이다. 이 층은 입력 데이터의 모든 차원을 하나의 긴 벡터로 변환한다. 이 과정은 주로 이미지 데이터와 같이 다차원 데이터를 다루는 컨볼루션 신경망(CNN)에서 특징을 추출한 후, 완전 연결 층(Fully Connected Layer)에 입력하기 전에 사용된다. Flatten 층을 사용함으로써, 모델이 다차원 데이터를 이해하고 처리한 뒤, 분류나 회귀 같은 다음 단계를 수행할 수 있도록 데이터를 적절한 형태로 변환한다. TensorFlow와 Keras를 사용한 Flatten 층 코드 예시 from tensorflow.keras.models import Sequential from tensorflow...