티스토리

뇌절한민초

검색하기

블로그 홈

뇌절한민초

nmincho.tistory.com/m

cpnubplzhelp 님의 블로그입니다.

구독자: 0

방명록 방문하기

주요 글 목록

Matrix factorization 행렬 분해 | Machine Learning | Google for Developers이 페이지는 Cloud Translation API를 통해 번역되었습니다. 의견 보내기 행렬 분해 컬렉션을 사용해 정리하기 내 환경설정을 기준으로 콘텐츠를 저장하고 분류하세요. 행렬 분해는 간단한 임베딩 모developers.google.com Matrix factorizationMatrix Factorization은 고차원 데이터를 분석하거나 처리하기 위해 사용되는 중요한 기법 중 하나이며, 주로 대형 행렬을 두 개 이상의 작은 행렬로 분해하여 데이터를 이해하거나 활용하는 데 도움을 준다. 추천시스템에서는 이를 활용해서 User와 Item간의 Matrix를 작은 행렬로 나눈다. User가 m명일 경우 matri.. 공감수 0 댓글수 0 2024. 9. 3.
AutoRec: Autoencoders Meet Collaborative Filtering Papers with Code - AutoRec: Autoencoders Meet Collaborative Filtering#5 best model for Recommendation Systems on MovieLens 1M (RMSE metric)paperswithcode.com AutoRec(Autoencoder Recommender)는 협업 필터링(Collaborative Filtering) 문제를 해결하기 위해 고안된 오토인코더(Autoencoder)의 한 종류이다. Autoencoder 오토인코더(Autoencoder)는 비지도 학습(unsupervised learning)의 한 종류로, 입력 데이터를 저차원 공간(latent space)으로 압축한 후, 이를 다시 원래의 차원으로 복원하는 과정.. 공감수 1 댓글수 0 2024. 9. 2.
Git Checkout vs Git Switch Git Checkout git checkout 명령어는 브랜치 전환과 특정 커밋으로 이동, 파일의 상태 복원 등을 하는데 사용된다. Git - git-checkout DocumentationWhen there is only one argument given and it is not -- (e.g. git checkout abc), and when the argument is both a valid (e.g. a branch abc exists) and a valid (e.g. a file or a directory whose name is "abc" exists), Git would usually ask you to disambiguate.git-scm.com 브랜치 전환 git checkout b.. 공감수 2 댓글수 0 2024. 8. 27.
Matplotlib Pie Chart Pie and polar charts — Matplotlib 3.9.2 documentation matplotlib.orgPie Chart (파이 차트) 만들기import matplotlib.pyplot as plt# 데이터 준비sizes = [15, 30, 45, 10] # 각 조각의 비율labels = 'Frogs', 'Hogs', 'Dogs', 'Logs' # 각 조각의 레이블# 파이 차트 생성fig, ax = plt.subplots()ax.pie(sizes, labels=labels, autopct='%1.1f%%')# 제목 추가ax.set_title('Basic Pie Chart')plt.show() sizes와 labels로 크기와 레이블을 전달한다.autopct를 사용하여 슬라이스의 백분.. 공감수 0 댓글수 0 2024. 8. 23.
Matplotlib Ploar Chart Pie and polar charts — Matplotlib 3.9.2 documentation matplotlib.org Import Matplobimport matplotlib as mplimport matplotlib.pyplot as plt Polar Chart (극 좌표) 만들기극 좌표계에서는 기본적으로 r(반지름)과 theta(각도)를 이용하여 데이터를 시각화 하는 방법이다. Polar Chart 만들기fig = plt.figure()ax = fig.add_subplot(111, projection='polar')plt.show()서브플롯을 생성할때 projection = 'polar' 파라미터를 전달하면, 극좌표계가 생성된다.극 좌표계 레이블, 스타일 설정:import matplotlib.p.. 공감수 0 댓글수 0 2024. 8. 23.
Matplotlib 기초 https://matplotlib.org/stable/users/explain/quick_start.html Quick start guide — Matplotlib 3.9.2 documentationAxes labels and text set_xlabel, set_ylabel, and set_title are used to add text in the indicated locations (see Text in Matplotlib for more discussion). Text can also be directly added to plots using text: mu, sigma = 115, 15 x = mu + sigma * np.random.ranmatplotlib.org Import Matplobim.. 공감수 0 댓글수 0 2024. 8. 20.
"Auto-regressive" and "Teacher Focing" and "Scheduled Sampling" 1. Auto - regressiveAuto-regressive 모델은 시퀀스의 각 단계에서 이전 단계의 출력을 입력으로 사용하여 다음 단계를 예측한다. 훈련: 훈련 시에는 실제 목표 출력을 사용하지 않고, 모델이 예측한 출력을 사용한다. 즉, 이전 단계의 예측이 다음 단계의 입력으로 사용된다.테스트: 훈련과 테스트 단계 모두에서 모델의 예측 결과를 입력으로 사용하여 시퀀스를 생성한다. 장점:훈련과 테스트에서 일관된 방법으로 작동하므로 모델이 실제 사용 상황을 그대로 반영하여 Robust한 모델을 구축할 수 있다.단점:훈련 중에 잘못된 예측이 누적되어 결과에 영향을 미칠 수 있다.모델이 훈련 데이터에 비해 생성된 시퀀스의 품질이 낮을 수 있다. 2. Teacher ForcingTeacher forcin.. 공감수 0 댓글수 0 2024. 8. 16.
어텐션 메커니즘 (Attention Mechanism) 어텐션 메커니즘은 입력의 각 부분이 출력의 각 부분에 얼마나 주의를 기울여야 하는지를 학습하는 방법이다. 1. seq2seq(sequence to sequence) 초기의 모델은 seq2seq(sequence to sequence)의 형태를 많이 따르고 있었다. 14-01 시퀀스-투-시퀀스(Sequence-to-Sequence, seq2seq)이번 실습은 케라스 함수형 API에 대한 이해가 필요합니다. 함수형 API(functional API, https://wikidocs.net/38861 )에 대해서 우선 숙지 후…wikidocs.net 하지만, seq2seq의 형태를 따르게 되면 인코더 부분에서 들어온 모든 input이 하나의 context 벡터에 저장되기 때문에 sequence의 길이가 길어짐에 .. 공감수 1 댓글수 0 2024. 8. 16.
가중치 초기화 (Weight Initialization) Weight Initialization(가중치 초기화)는 신경망을 훈련하기 전에 각 뉴런의 가중치를 적절하게 초기화하는 과정이다. 가중치 초기화는 왜 중요할까?학습 속도에 영향: 적절한 초기화는 학습 속도를 향상시키고, 학습이 수렴하는 데 걸리는 시간을 단축시킬 수 있다.기울기 소실(Vanishing Gradient)과 폭발(Exploding Gradient) 문제를 방지한다.모델 성능에 영향: 초기화 방식에 따라 모델의 최종 성능이 크게 달라질 수 있다. 가중치 초기화 방법1. 0으로 초기화모든 신경망 가중치를 0으로 초기화하는 방법.torch.nn.init.zeros_(tensor) 대칭성 문제(Symmetry Problem):모든 가중치가 동일한 값(0)으로 초기화되면, 각 층의 모든 뉴런은 동일한.. 공감수 0 댓글수 0 2024. 8. 13.
활성 함수 (Activation Functions) 활성 함수 (Activation Function)은 비선형성을 학습하고 표현할 수 있도록 만들어주는 비선형 함수이다. 만약 활성화 함수 없이 선형 함수만 사용한다면, 신경망은 단순히 입력값의 선형 조합만을 학습하게 되어 복잡한 문제를 해결하는 데 한계가 있다. 1. 시그모이드 함수 (Sigmoid Function) 범위: (0, 1) 특징: 입력 값을 0과 1 사이의 값으로 압축하며, 이진 분류의 출력층에서 유용하게 사용된다..기울기 소실 문제가 발생할 수 있다. 큰 입력 값에 대해 기울기가 매우 작아져 학습이 느려질 수 있다.출력 값들이 zero-centered 하지 않다.2. 하이퍼볼릭 탄젠트 함수 (Tanh Function)범위: (-1, 1) 특징: 시그모이드 함수와 유사하지만 출력 값의 범위.. 공감수 1 댓글수 0 2024. 8. 13.
손실 함수 (Loss Function) 손실 함수(Loss Function)는 머신러닝 및 딥러닝 모델이 예측한 값과 실제 값 간의 차이를 측정하는 데 사용되는 함수이다. 손실 함수는 모델 학습에서 매우 중요한 역할을 하며, 이 함수의 값을 최소화하는 것이 모델의 성능을 높이는 데 목표가 된다. 손실함수는 예측 값과 실제 값이 얼마나 다른지에 대해서 양수를 출력한다.1. 회귀 문제에서의 손실 함수평균 제곱 오차(MSE, Mean Squared Error)정의: 예측값과 실제값의 차이를 제곱한 후 평균을 구한 값이다.특징: 큰 오차에 대해 더 큰 페널티를 부여하며, 작은 오차일수록 영향이 적다. 모델의 큰 오차를 중요하게 다루는 경우에 많이 사용한다. 평균 절대 오차(MAE, Mean Absolute Error) 정의: 예측값과 실제값의 차이.. 공감수 0 댓글수 0 2024. 8. 13.
분류기 (Classifier) 분류기 (Classifier)는 머신러닝에서 주어진 데이터를 사전 정의된 클래스로 분류하는 모델이다. 분류 문제는 데이터 포인트가 주어졌을 때 이 데이터가 어느 클래스에 속하는지를 예측하는 것이다. ex) 메일이 스팸인지 아닌지 분류하기, 이미지가 개인지 고양이인지 분류하기 다양한 분류기의 종류 중 다음 3가지에 대해서 알아보자. K-최근접 이웃 분류기 (K-Nearest Neighbors Classifier, KNN) 선형 분류기 (Linear Classifier) K-최근접 이웃 분류기 (K-Nearest Neighbors Classifier, KNN) k-최근접 이웃 알고리즘 - 위키백과, 우리 모두의 백과사전위키백과, 우리 모두의 백과사전. 패턴 인식에서 k-최근접 이웃 알고리즘(또는 줄.. 공감수 0 댓글수 0 2024. 8. 12.
머신러닝 학습의 종류 머신러닝의 학습 방법에는 세 가지 종류가 있다:1. 지도 학습(Supervised Learning)2. 비지도 학습(Unsupervised Learning)3. 강화 학습(Reinforcement Learning) 1. 지도 학습 (Supervised Learning) 지도 학습에서는 입력 데이터와 해당 데이터에 대한 정답(레이블)을 제공하여 모델을 학습한다.학습된 모델은 새로운 데이터에 대해 예측을 수행한다. 훈련 데이터: 입력 특성과 정답이 쌍으로 제공된다.모델 학습: 모델이 훈련 데이터의 입력과 정답 간의 관계를 학습한다.예측: 학습된 모델을 사용하여 새로운 입력에 대해 예측을 수행다.회귀 (Regression) 나 분류 (Classification)에서 주로 사용한다.ex) 선형회귀, 다항 회귀.. 공감수 0 댓글수 0 2024. 8. 12.
로지스틱 회귀(Logistic Regression)에서 BCE를 사용하는 이유 로지스틱 회귀에서는 손실함수를 선형회귀에서 사용하던 MSE대신 BCE를 사용하는 이유가 무엇일까? Binary Cross-Entropy (BCE) ● 목적: 이진 분류 문제에서 확률을 예측하는 모델의 성능을 평가하는 데 사용된다.● 출력 값: 0과 1 사이의 확률 값 (시그모이드 함수의 출력).● 손실 함수: BCE는 실제 레이블(0 또는 1)과 예측 확률 간의 불일치를 측정한다. 확률 예측이 정확할수록 손실이 낮아진다. Mean Square Error (MSE) ● 목적: 회귀 문제에서 연속적인 값의 예측 정확도를 평가하는 데 사용된다.● 출력 값: 연속적인 값 (예측값이 실제값과 얼마나 가까운지 측정). ● 손실 함수: MSE는 예측값과 실제값 간의 차이 제곱의 평균을 측정한다. 회귀 문제에서 잘 .. 공감수 0 댓글수 0 2024. 8. 8.
Binary Classification with Pytorch 이진 분류(Binary Classification)주어진 입력 데이터를 두 개의 상호 배타적인 클래스 중 하나로 분류하는 문제이다. 이진 분류 문제의 주요 목표는 데이터 포인트가 두 클래스 중 어떤 것에 속하는지를 예측하는 것다. 로지스틱 회귀(Logistic Regression)이진 분류 문제를 해결하기 위한 통계적 모델이다.입력 특성 벡터 x와 가중치 벡터 w의 내적과 편향 b를 이용해 선형 결합을 계산한 후, 이 값을 시그모이드 함수에 통과시켜 확률값으로 변환한다. 시그모이드 함수는 선형 결합을 통해 생성된 입력값 z를 0과 1 사이의 확률로 변환한다.예측확률이 확률이 0.5 이상이면 클래스 1로 예측하고, 그렇지 않으면 클래스 0으로 예측한다. ● 손실함수로지스틱 회귀는 Binary .. 공감수 0 댓글수 0 2024. 8. 8.
Linear Regression with Pytorch Linear Regression (선형 회귀)선형 회귀란, 주어진 데이터의 선형 관계를 모델링하는 방법이다. 선형 회귀의 기본 아이디어는 입력 변수와 출력 변수 사이의 관계를 직선(또는 다차원에서는 평면)으로 설명하는 것이다. 우리는 특징 변수와 목표 변수 사이의 선형 관계를 분석하기 위해서 "표본상관계수"를 이용한다. 상관계수 = 1의미: 두 변수 간에 완벽한 양의 선형 관계가 있다상관계수 = 0의미: 두 변수 간에 선형 관계가 없음을 나타낸다.상관계수 = -1의미: 두 변수 간에 완벽한 음의 선형 관계가 있다.# 상관계수 계산corr_matrix = np.corrcoef(x, y)# 상관계수 행렬 출력print("Correlation matrix:")print(corr_matrix)# 상관계수 추출c.. 공감수 0 댓글수 0 2024. 8. 7.
What is Pytorch(행렬곱)? PyTorch에서 텐서의 행렬 곱셈(또는 텐서의 곱셈) 연산은 다양한 형태로 수행할 수 있으며, 이 연산은 선형 대수학의 기본적인 연산 중 하나이다. 행렬 곱셈의 기본 개념 행렬 곱셈은 두 행렬을 결합하여 새로운 행렬을 생성하는 연산이다. 행렬 A와 B가 있을 때, A의 열 수가 B의 행 수와 같아야 곱셈이 가능하다.행렬 A: 크기 M x N행렬 B: 크기 N x P곱셈 결과: 크기 M x P행렬 C의 각 원소는 다음과 같이 계산된다:A = torch.tensor([[1.0, 2.0], [3.0, 4.0]])B = torch.tensor([[5.0, 6.0], [7.0, 8.0]])#matrix multiplicationC1 = torch.mm(A, B) C2 = A @ BC3 = torch.matmu.. 공감수 0 댓글수 0 2024. 8. 7.
What is Pytorch (유사도)? 유사도두개의 Tensor가 얼마나 유사한지에 대해서 측정한 값.텐서(Tensor) 간의 유사도를 측정하는 것은 데이터 분석 및 기계 학습에서 중요할 수 있다. 맨해튼 유사도두개의 Tensor 사이의 맨해튼 거리를 역수로 변환하여 계산한 값유사도를 거리의 역수로 정의하는 경우, 거리가 클수록 유사도가 낮아지고, 거리가 작을수록 유사도가 높아지도록 한다.(유사도가 1일경우 같은 Tensor이다)a = torch.tensor([1.0,0.0,2.0])b = torch.tensor([0.0,1.0,2.0])M_distance = torch.norm(a-b,p=1)M_similarity = 1/(1+M_distance)print(M_distance)print(M_similarity)유클리드 유사도두개의 Tenso.. 공감수 0 댓글수 0 2024. 8. 7.
What is Pytroch(Ln Norm)? 노름(Norm)Ln Norm: torch.norm(input, p='fro', dim=None, keepdim=False, out=None, dtype=None) L1 Norm (맨해튼 노름): Tensor에 포함된 요소의 절대값의 합a = torch.rand(5)print(a)print(torch.norm(a,p=1)) L2 Norm (유클리드 노름): Tensor에 포함된 요소의 제곱합의 제곱근a = torch.tensor([3.0,4.0])print(a)print(torch.norm(a,p=2)) L∞ Norm: Tensor에 포함된 요소의 절대값 중 최대값유도과정:이때 ∣Xk∣ 가 벡터의 성분들 중에서 최대 절댓값이다. a = torch.tensor([3.0,4.0])print(a)print(t.. 공감수 0 댓글수 0 2024. 8. 6.
What is Pytroch (2)? Tensor Operators산술 연산https://pytorch.org/docs/stable/name_inference.html Named Tensors operator coverage — PyTorch 2.4 documentationShortcutspytorch.orgTensor.add(), torch.add() torch.add — PyTorch 2.4 documentationShortcutspytorch.orgTensor.sub(), torch.sub() torch.sub — PyTorch 2.4 documentationShortcutspytorch.org Tensor.mul(), torch.mul() torch.mul — PyTorch 2.4 documentationShortcutspytor.. 공감수 0 댓글수 0 2024. 8. 6.
What is Pytroch? PyTorch는 머신 러닝과 딥 러닝을 위한 오픈 소스 프레임워크이다. What is tensor?https://tutorials.pytorch.kr/beginner/basics/tensorqs_tutorial.html 텐서(Tensor)파이토치(PyTorch) 기본 익히기|| 빠른 시작|| 텐서(Tensor)|| Dataset과 Dataloader|| 변형(Transform)|| 신경망 모델 구성하기|| Autograd|| 최적화(Optimization)|| 모델 저장하고 불러오기 텐서(tensor)는 배열(array)이tutorials.pytorch.kr PyTorch의 Tensor는 다차원 배열을 표현하는 기본 데이터 구조이다. NumPy의 배열과 유사하다. 1. Tensor로 0차원 배열 표현.. 공감수 0 댓글수 0 2024. 8. 5.

문의안내

티스토리
로그인
고객센터

티스토리는 카카오에서 사랑을 담아 만듭니다.