반응형 개발/AI17 [AI] ResNet 요약정리 ResNet 요약정리 목차 서론- ResNet은 딥러닝 모델이 깊어질수록 발생하는 기울기 소실 문제를 해결하기 위해 개발되었습니다.- ResNet은 2015년 마이크로소프트 리서치 아시아(Microsoft Research Asia)의 연구원들에 의해 개발되었습니다. ResNet의 개념- 잔차 학습(Residual Learning)기존 학습은 입력으로부터 목표 출력을 계산(예측)할 수 있도록 학습합니다.잔차 학습은 입력과 목표 출력의 차이, 즉 잔차(residual)를 계산(예측)할 수 있도록 학습합니다.입력 x, 목표 출력 H(x), 잔차 F(x) 라고 할 때,기존 학습: x -> H(x), H(x)를 학습함잔차 학습: x + F(x) = H(x), F(x)를 학습하여 H(x)를 구함 - 스킵 연결(S.. 2024. 9. 1. [AI] ChatGPT의 딥러닝 모델 Transformer 요약 ChatGPT를 만든 딥러닝 모델 Transformer 요약 정보 목차 - ChatGPT는 OpenAI에서 개발한 GPT(Generative Pre-trained Transformer) 시리즈 중 하나입니다.- GPT 시리즈는 딥러닝 기반 자연어 처리 모델로, 텍스트 생성, 번역, 요약, 질문 응답 등의 작업을 수행합니다.- GPT는 Transformer 구조를 사용하여 대규모 텍스트 데이터를 학습하며, 언어의 구조와 의미를 이해합니다. 서론- Transformer는 딥러닝 모델로, 자연어 처리 작업에서 혁신을 가져왔습니다.- 2017년 구글 연구원들의 논문 "Attention is All You Need"에서 처음 소개되었습니다.- 순차적 데이터 처리에 탁월하며, RNN 및 LSTM을 대체하는 주요.. 2024. 8. 27. [AI] 인공지능 모델 설계 자동화를 위한 NAS 간단한 예제 인공지능과 딥러닝 모델의 설계 과정을 자동화하는 NAS 간단한 예제 목차 - Neural Architecture Search (NAS)는 딥러닝 모델의 아키텍처를 자동으로 탐색하는 방법입니다.- TensorFlow 기반으로 간단한 NAS 예제를 구현할 수 있습니다.- 이 예제에서는 tf.keras를 사용하여 기본적인 NAS를 구현하겠습니다. NAS 간단한 예제 코드- NAS의 복잡성을 고려해, 이 예제에서는 매우 간단한 CNN 모델을 탐색하는 방식을 보여드리겠습니다.# 라이브러리 임포트import tensorflow as tffrom tensorflow.keras import layers, modelsimport numpy as np# 데이터셋 준비: 간단한 MNIST 데이터셋 사용(x_train,.. 2024. 8. 26. [AI] 인공지능 모델 설계 자동화를 위한 NAS 인공지능과 딥러닝 모델의 설계 과정을 자동화하는 NAS 목차 - Neural Architecture Search (NAS)는 인공지능과 딥러닝 모델의 설계 과정을 자동화하는 기술입니다.- 전통적으로, 딥러닝 모델의 아키텍처(구조)는 전문가들이 경험과 직관에 따라 설계했습니다. 그러나 이 과정은 매우 복잡하고 시간이 많이 걸리며, 특히 대규모 신경망의 경우 최적의 구조를 찾기 어렵습니다.- NAS는 이러한 문제를 해결하기 위해, 최적의 신경망 구조를 자동으로 찾아주는 방법론입니다. NAS의 기본 개념- NAS는 주어진 데이터와 문제에 대해 최적의 신경망 아키텍처를 자동으로 탐색하는 과정입니다.- 이 과정은 일반적으로 세 가지 주요 단계로 나뉩니다.탐색 공간 (Search Space) 설정 .. 2024. 8. 12. Python과 Tensorflow를 이용하여 구현한 LSTM 활용하기 LSTM 활용하기 Python의 딥러닝 라이브러리인 Tensorflow를 사용하여 간단한 장단기 메모리(LSTM)을 활용하는 예제 코드입니다. LSTM으로 학습하는 코드(아래 코드 Line1~Line43까지)에 대한 설명은 아래 주소를 참조하세요.https://easyjwork.tistory.com/38 Python과 Tensorflow를 이용하여 LSTM 구현하기LSTM 구현하기 Python의 딥러닝 라이브러리인 Tensorflow를 사용하여 간단한 장단기 메모리(LSTM)을 구현하는 예제 코드입니다. # 필요한 라이브러리 임포트import numpy as npimport matplotlib.pyplot as pltimporteasyjwork.tistory.com # 필요한 라이브러리 임포트impo.. 2024. 7. 13. Python과 Tensorflow를 이용하여 LSTM 구현하기 LSTM 구현하기 Python의 딥러닝 라이브러리인 Tensorflow를 사용하여 간단한 장단기 메모리(LSTM)을 구현하는 예제 코드입니다. # 필요한 라이브러리 임포트import numpy as npimport matplotlib.pyplot as pltimport tensorflow as tffrom tensorflow.keras.models import Sequentialfrom tensorflow.keras.layers import LSTM, Dense# 임의의 시계열 데이터 생성 (사인파)def generate_sin_wave(seq_length, num_sequences): x = np.linspace(0, 100, seq_length * num_sequences) y = np... 2024. 7. 13. 이전 1 2 3 다음 반응형
