본문 바로가기

DATA4

[딥러닝] - 3. Cost / Gradient Descent 1. Cost (loss) foward pass의 경우 위에 그림과 같이, 가중치와 bias을 모두 더해 activation function을 이용하여 output을 산출한다. 하지만 더 정확한 예측을 위해서는 가중치와 bias, 즉 파라미터 값을 업데이트를 진행해야한다. 그러기 위해서 가장 좋은 방법은 무엇일까? 바로 실제 정답인 (target) y와 예측값 output $\hat{y}$ 와의 차이를 비교하는 것이다. 즉, 값의 차이인 오차가 작아질수록 성능이 좋아진다는 의미이다. 하나의 데이터에 대해서 cost를 구할 때는 $(\hat{y}-y)^2$ 으로 구하게 된다. 딥러닝의 경우 모든 데이터의 오차 값을 더한 후 평균을 산출하게 되며 이것을 mean squared error라고 부른다. 참고로 .. 2023. 10. 12.
[딥러닝] - 1. Deep Neural Network - Perceptron 오늘은 딥러닝의 시작, 퍼셉트론에 대해서 알아보자. ​ 1. Perceptron (퍼셉트론) 퍼셉트론은 신경망의 기원이 되는 알고리즘이며, 인간의 신경망을 빗대어 표현하였다. ​ 퍼셉트론의 가장 특징은 다수의 신호를 입력받아 하나의 신호로 출력한다. ​ ​ 이때 그림과 같이 가중치를 부여하게 되고 이를 다 더하게 된다. 이때 가중치의 경우 input data의 중요한 순으로 더 큰 값을 부여하게 된다. 퍼셉트론의 wegithed sum은 0과 1사이의 값이 되며 이때 임계값을 넘어서면 1을 출력하고 그렇지 않으면 0을 출력하게 된다. ​ 식을 정리하게 되면 다음과 같다. $\hat{y}\ =\ \sigma (z)=\sigma (w_1x_1+w_2x_2+...+w_kx_k+b)$^y = σ(z)=σ(w1​.. 2023. 10. 11.
[DACON] - 데이콘 Basic 추석 맞이 추석 선물 수요량 예측 AI 경진대회 자소서만 쓰다가는 내가 가지고 있던 지식들을 다 까먹을 거 같아서 근근히 실습을 진행할려고 한다.. 자소서 쓰기 싫은 건 아니구? ​ 그래서 참여하게 된 추석 맞이 추석 선물 수요량 예측 AI 대회! import pandas as pd import seaborn as sns import matplotlib.pyplot as plt %matplotlib inline import numpy as np # 한글 글씨체 깨짐 mport matplotlib.pyplot as plt plt.rcParams['font.family'] ='Malgun Gothic' plt.rcParams['axes.unicode_minus'] =False # 데이터 불러오기 train = pd.read_csv('./train.csv'.. 2023. 10. 11.
[Python] - 시각화 (Seaborn, matplotlib 라이브러리) -(1) 💡 seaborn 라이브러리 point plot(포인트 플롯) plt.figure(figsize=(15,4) sns.pointplot(data=df, x="컬럼명",y="컬럼명2", hue="컬럼명3" 💡 matplotlib 라이브러리 plot(플롯) plt.plot(x,y,linewidth="선두꼐", c="색상",alpha="투명도" 틱(Tick) 설정 plt.tick_params(axis='both',direction='in',length=3,pad=6,labelsize=14) -axis = ‘both’로 설정하면 x,y 축의 틱이 모두 적용 -direction=’in’으로 틱의 방향을 그래프 안쪽으로 설정 -length=3은 틱의 길이를 3으로, pad=6는 틱과 레이블의 거리 -labelsize.. 2023. 5. 14.

티스토리툴바