컴퓨터하는 상어
-
Tensorflow 최적화 함수 종류(Optimization Function, tf.keras.optimizers) -작성중-Data Science/Tensorflow 2022. 10. 26. 22:39
1. 최적화 함수란(Optimization Function) 모델에서 정답값을 가장 잘 표현할수 있는 가중치를 구하는 방법 2. Tensorflow에서 제공하는 최적화함수 종류(tf.keras.optimizers) 2.1 SGD(Stochastic Gradient Descent,확률적 경사 하강법) 매개변수의 기울기(미분)을 통해서 기울어진 방향으로 값을 갱신하는 방식 방향성의 문제로 동선의 낭비가 심한 문제가 있다. 2.2 Adagrad(Adaptive Gradient) 학습을 진행해나가면서 학습률을 점차 감소시키는 방법(learning rate decay) 매개변수마다 각각 다른 학습률을 적용한다. 같은 입력 데이터가 여러번 학습되는 학습모델에 유용하다. Adagrad가 학습이 진행될수록 갱신량이 0..
-
Tensorflow Convolution Neural Network 예시 코드(CNN, MNIST DataSet)Data Science/Tensorflow 2022. 10. 26. 22:04
1. 기본 세팅 1.1 라이브러리 import tensorflow as tf import numpy as np import matplotlib.pyplot as plt import random import os from sklearn.model_selection import train_test_split from tensorflow.keras import Model, layers 1.2 랜덤시드 고정 매번 동일한 결과를 가져오기 위한 랜덤시드 고정 random.seed(1) np.random.seed(1) tf.random.set_seed(1) 1.3 GPU 세팅 os.environ["CUDA_VISIBLE_DEVICES"]="0" gpus = tf.config.experimental.list_physi..
-
Tensorflow Multilayer Perceptron 예시 코드(MLP, MNIST DataSet)Data Science/Tensorflow 2022. 10. 24. 23:13
1. 기본 세팅 1.1 라이브러리 import tensorflow as tf import numpy as np import matplotlib.pyplot as plt import random import os 1.2 랜덤시드 고정 매번 동일한 결과를 가져오기 위한 랜덤시드 고정 random.seed(1) np.random.seed(1) tf.random.set_seed(1) 1.3 GPU 세팅 os.environ["CUDA_VISIBLE_DEVICES"]="0" gpus = tf.config.experimental.list_physical_devices('GPU') if gpus: try: tf.config.experimental.set_memory_growth(gpus[0], True) except ..
-
Tensorflow에서 사용하는 데이터 배열 Tensor 사용하기(constant, Variable)Data Science/Tensorflow 2022. 10. 24. 22:12
Numpy에서 Numpy.array를 사용하듯이 Tensorflow에서는 tensor를 사용한다. 본 포스팅에서는 Tensor란 무엇이고, Tensor를 어떻게 다룰수 있는지 알아본다. 1. Tensorflow.constant contant tensor는 생성후 값의 수정이 불가능한 Tensor이다. 1.1 Constant tensor 생성 tensor = tf.constant([1,2,3,4,5]) 생성되는 tensor의 데이터 타입을 지정해줄 수도 있다. tensor = tf.constant([1,2,3], dtype='float32') 1.2 Constant tensor 정보 확인 생성된 tensor로부터 아래의 정보를 얻을수 있다. tensor = tf.constant([1,2,3,4,5]) pr..
-
Tensorflow 세팅 확인(버전확인, GPU확인, GPU 지정, 지정된 GPU 확인)Data Science/Tensorflow 2022. 10. 24. 21:06
본글은 Tensorflow 설치 및 Cuda 설치를 다루지 않습니다. 두가지 세팅 완료 후 확인 부분을 다루고 있습니다. 1. 라이브러리 Import import tensorflow as tf 2. Tensorflow 버전확인 print(tf.__version__) 3. GPU 상태 확인 "!"를 통해서 터미널에서 사용가능한 명령어를 사용할 수 있다. 터미널(또는 cmd)에서 nvidia-smi 명령어를 통해서 gpu의 상태를 확인할 수 있다. !nvidia-smi 위 그림에서 확인 가능한 GPU정보는 다음과 같다. 현재 1개의 GPU가 0번으로 연결되어 있으며, 해당 GPU는 RTX A5000이다. (만약 여러개의 GPU가 연결되어 있다면 순차적으로 0~n번의 번호를 부여받는다.) 4. 사용할 GPU ..
-
Tensorflow 기초 목록Data Science/Tensorflow 2022. 10. 24. 14:57
1. Tensorflow 세팅 확인(버전확인, GPU확인, GPU 지정, 지정된 GPU 확인) 2. Tensorflow에서 사용하는 데이터 배열 Tensor 사용하기(constant, Variable) 3. Tensorflow Multilayer Perceptron 예시 코드(MLP, MNIST DataSet) 4. Tensorflow Convolution Neural Network 예시 코드(CNN, MNIST DataSet) 5. Transformer Model 개념 및 모델 구조 6. AutoEncoder 개념 및 종류 7. Tensorflow LSTM 예시 코드(LSTM, RNN, ecg.csv) 8. Tensorflow Variational AutoEncoder 개념 및 코드 예시(VAE, MN..
-
인공지능 기초 이론시험 요점기타 2022. 10. 20. 17:38
이론부문 상 : PCA 잘못한거, 분류문제, ? 1. Model learning learning rate가 크면 수렴하는데 빠르다. 비선형 데이터에서 선형 분류를 사용하기 위해서 데이터의 차원을 증가시키는 방법은? => 커널 최적화에 반드시 필요한 3가지 objective function, decision variable or unknown, constraints 모델이 과하게 학습되어 train 성능은 높지만, test 성능이 낮은 경우는? => 과적합(over fitting) 2. regression 2.1 logistic regression 지도학습?, 이진분류 0,1을 선형으로 구분하는 선형분류 멀티분류문제는 어떻게 하는가? => 여러개의 선(여러 모델을 만들어서)을 통해서 해결 가능하다. 시그모..