Data Science
-
Tensorflow 최적화 함수 종류(Optimization Function, tf.keras.optimizers) -작성중-Data Science/Tensorflow 2022. 10. 26. 22:39
1. 최적화 함수란(Optimization Function) 모델에서 정답값을 가장 잘 표현할수 있는 가중치를 구하는 방법 2. Tensorflow에서 제공하는 최적화함수 종류(tf.keras.optimizers) 2.1 SGD(Stochastic Gradient Descent,확률적 경사 하강법) 매개변수의 기울기(미분)을 통해서 기울어진 방향으로 값을 갱신하는 방식 방향성의 문제로 동선의 낭비가 심한 문제가 있다. 2.2 Adagrad(Adaptive Gradient) 학습을 진행해나가면서 학습률을 점차 감소시키는 방법(learning rate decay) 매개변수마다 각각 다른 학습률을 적용한다. 같은 입력 데이터가 여러번 학습되는 학습모델에 유용하다. Adagrad가 학습이 진행될수록 갱신량이 0..
-
Tensorflow Convolution Neural Network 예시 코드(CNN, MNIST DataSet)Data Science/Tensorflow 2022. 10. 26. 22:04
1. 기본 세팅 1.1 라이브러리 import tensorflow as tf import numpy as np import matplotlib.pyplot as plt import random import os from sklearn.model_selection import train_test_split from tensorflow.keras import Model, layers 1.2 랜덤시드 고정 매번 동일한 결과를 가져오기 위한 랜덤시드 고정 random.seed(1) np.random.seed(1) tf.random.set_seed(1) 1.3 GPU 세팅 os.environ["CUDA_VISIBLE_DEVICES"]="0" gpus = tf.config.experimental.list_physi..
-
Tensorflow Multilayer Perceptron 예시 코드(MLP, MNIST DataSet)Data Science/Tensorflow 2022. 10. 24. 23:13
1. 기본 세팅 1.1 라이브러리 import tensorflow as tf import numpy as np import matplotlib.pyplot as plt import random import os 1.2 랜덤시드 고정 매번 동일한 결과를 가져오기 위한 랜덤시드 고정 random.seed(1) np.random.seed(1) tf.random.set_seed(1) 1.3 GPU 세팅 os.environ["CUDA_VISIBLE_DEVICES"]="0" gpus = tf.config.experimental.list_physical_devices('GPU') if gpus: try: tf.config.experimental.set_memory_growth(gpus[0], True) except ..
-
Tensorflow에서 사용하는 데이터 배열 Tensor 사용하기(constant, Variable)Data Science/Tensorflow 2022. 10. 24. 22:12
Numpy에서 Numpy.array를 사용하듯이 Tensorflow에서는 tensor를 사용한다. 본 포스팅에서는 Tensor란 무엇이고, Tensor를 어떻게 다룰수 있는지 알아본다. 1. Tensorflow.constant contant tensor는 생성후 값의 수정이 불가능한 Tensor이다. 1.1 Constant tensor 생성 tensor = tf.constant([1,2,3,4,5]) 생성되는 tensor의 데이터 타입을 지정해줄 수도 있다. tensor = tf.constant([1,2,3], dtype='float32') 1.2 Constant tensor 정보 확인 생성된 tensor로부터 아래의 정보를 얻을수 있다. tensor = tf.constant([1,2,3,4,5]) pr..
-
Tensorflow 세팅 확인(버전확인, GPU확인, GPU 지정, 지정된 GPU 확인)Data Science/Tensorflow 2022. 10. 24. 21:06
본글은 Tensorflow 설치 및 Cuda 설치를 다루지 않습니다. 두가지 세팅 완료 후 확인 부분을 다루고 있습니다. 1. 라이브러리 Import import tensorflow as tf 2. Tensorflow 버전확인 print(tf.__version__) 3. GPU 상태 확인 "!"를 통해서 터미널에서 사용가능한 명령어를 사용할 수 있다. 터미널(또는 cmd)에서 nvidia-smi 명령어를 통해서 gpu의 상태를 확인할 수 있다. !nvidia-smi 위 그림에서 확인 가능한 GPU정보는 다음과 같다. 현재 1개의 GPU가 0번으로 연결되어 있으며, 해당 GPU는 RTX A5000이다. (만약 여러개의 GPU가 연결되어 있다면 순차적으로 0~n번의 번호를 부여받는다.) 4. 사용할 GPU ..
-
Tensorflow 기초 목록Data Science/Tensorflow 2022. 10. 24. 14:57
1. Tensorflow 세팅 확인(버전확인, GPU확인, GPU 지정, 지정된 GPU 확인) 2. Tensorflow에서 사용하는 데이터 배열 Tensor 사용하기(constant, Variable) 3. Tensorflow Multilayer Perceptron 예시 코드(MLP, MNIST DataSet) 4. Tensorflow Convolution Neural Network 예시 코드(CNN, MNIST DataSet) 5. Transformer Model 개념 및 모델 구조 6. AutoEncoder 개념 및 종류 7. Tensorflow LSTM 예시 코드(LSTM, RNN, ecg.csv) 8. Tensorflow Variational AutoEncoder 개념 및 코드 예시(VAE, MN..
-
서포트 벡터 머신(SVM,Support Vector Machine) 파이썬 구현하기(cvxpy, sklearnData Science/ML&DL 모델 2022. 10. 14. 02:00
1. 개념 SVM은 단순히 A or B 와 같이 class만을 비교하는 Perceptron 모델을 개량한 모델로, 분류선과 데이터간의 거리값(margin)을 최대화하여 분류 강건성을 높였다. 아래 그림에서는 분류선이 초록색 실선으로 나타나며, 양/음의 최대거리값(Maximized margin)의 경계선이 초록색 점선으로 나타난다. 경계선 내부에 찍혀있는 점은 이상치로써, 이를 모두 정상값으로 다루었을 때 강건한 분류선 및 margin이 계산되지 않기 때문에 이상치에 대한 처리도 고려되었다. 2. cvxpy를 통한 구현 2.1 필요 라이브러리 호출 import cvxpy as cvx import numpy as np import matplotlib.pyplot as plt 2.2 사용할 2차원 데이터 랜덤..