[Pytorch] 모델 학습을 하기 위해 필요한 함수 및 코드 정리 - Trainer, Dataloader, Optimizer 등

PyTorch에서 모델을 구현하고 학습하기 위해 필요한 요소들은 다양하다. 단순히 모델 구조를 정의하는 것뿐만 아니라, 데이터를 준비하고, 학습 과정을 관리하고, 성능을 평가하는 모든 단계에서 세부적인 설정이 필요하다. 이 글에서는 PyTorch로 모델을 학습하기 위해 필요한 주요 구성 요소를 정리한다.1. 데이터 준비: Dataset과 DataLoader모델 학습의 첫 단계는 데이터를 준비하는 것이다. PyTorch에서는 데이터 로딩과 전처리를 효율적으로 처리하기 위해 Dataset과 DataLoader 클래스를 제공한다.Dataset 클래스데이터를 읽고 전처리하는 역할을 한다.torch.utils.data.Dataset 클래스를 상속받아 사용자 정의 데이터셋을 구현할 수 있다.Dataset 클래스에 ..

• format_list_bulleted Data Analysis/DeepLearning
• · 2024. 12. 25.
• textsms

[Pytorch] 딥러닝 모델 구현하는 방법 및 코드 정리 - Sequential, Functional, nn.Module

PyTorch에서 모델을 구현하는 방식은 크게 세 가지로 나눌 수 있다. 각각 Sequential API, Functional 방식, 그리고 nn.Module 클래스를 사용하는 방식이다. 이 글에서는 각 방식의 특징과 장단점을 설명하고, 언제 어떤 방식을 사용하는 것이 적합한지 알아본다.1. Sequential API를 사용하는 방식Sequential API는 PyTorch에서 가장 간단하고 직관적인 방법이다. 계층(layer)을 순차적으로 쌓아 올리는 구조를 제공하며, 신경망의 각 계층이 순서대로 연결된 경우에 적합하다.구현 예시import torchimport torch.nn as nnmodel = nn.Sequential( nn.Linear(10, 20), nn.ReLU(), nn...

• format_list_bulleted Data Analysis/DeepLearning
• · 2024. 12. 24.
• textsms

파이썬에서 텍스트 요약 모델 활용하기 - Summerizer

파이썬에서 텍스트 요약 모델 사용하기텍스트 요약은 주어진 텍스트에서 핵심 내용을 추출하거나 간략히 표현하는 기술이다.이를 통해 방대한 정보를 효율적으로 이해할 수 있다. 파이썬에서는 다양한 라이브러리를 사용해 텍스트 요약을 구현할 수 있으며, 그중 하나가 Summarizer 라이브러리다.이 글에서는 Summarizer 라이브러리를 사용하는 방법과 그 원리에 대해 설명한다.Summarizer란?Summarizer는 파이썬 기반의 라이브러리로, 최신 딥러닝 모델을 활용하여 텍스트 요약 작업을 수행한다.이 라이브러리는 주로 Transformer 기반 모델을 사용하며,Hugging Face의 사전 학습된 BERT 모델을 활용하여 문장 간의 의미와 관계를 분석한다. 그 결과 문서 내에서 가장 중요한 문장을 추출한..

• format_list_bulleted Data Analysis/DeepLearning
• · 2024. 12. 13.
• textsms

[Adversarial Attacks] 적대적 공격의 개념 및 해결 방법 알아보기

인공지능(AI)이 급속도로 발전하면서, 우리 일상에 다양한 AI 기반 기술이 깊숙이 스며들고 있다.자율주행차, 의료 진단 시스템, 얼굴 인식 보안 등 혁신적인 기술들이 우리 생활을 편리하고 안전하게 만들어 준다. 그러나 이러한 AI 기술에는 알려지지 않은 약점이 존재한다. 바로 Adversarial Attack(적대적 공격)이라 불린다.이번 글에서는 Adversarial Attack의 개념과 유형, 그리고 그것이 AI에 미치는 영향을 살펴보겠다.1. Adversarial Attack이란 무엇인가?Adversarial Attack은AI 모델, 특히 딥러닝 모델을 혼란시키기 위해 설계된 입력 데이터를 사용하여 시스템이 잘못된 결과를 도출하도록 만드는 기법이다. 간단히 말해, AI가 사물을 오인하게 만들거나 ..

• format_list_bulleted Data Analysis/DeepLearning
• · 2024. 12. 6.
• textsms

[음성인식 AI 프로젝트] 1. 음성 Data 불러오기 & 시각화하기

이번에는 음성인식 AI 모델을 개발하는 프로젝트를 진행해보고자 한다. 음성인식을 위해 필요한 여러 사전 지식은 이전 게시글에서 정리했다.이를 기반으로 데이터를 불러오고, 불러온 데이터를 시각화하는 것을 진행해보고자 한다. 데이터는 AI-HUB의 한국어 음성 데이터를 기반으로 진행한다.  데이터 형식데이터는 대화형 음성 인식 성능 개선을 위해 2,000여명의 발성 대화 음성을 1,000시간 구축한 자연어 데이터이다.안부 일상 대화, 날씨, 쇼핑 등 다양한 분류를 기반으로 발화 내용이 담긴 음성데이터와 그 때의 스크립트 데이터가 존재한다.  또한 음성 데이터의 포맷은 16KHz, 16bits headerless linear PCM으로 되어 있으며,스크립트 데이터는 EUC-KR 코드로 저장되어 있다. 따라서 ..

• format_list_bulleted Data Analysis/DeepLearning
• · 2024. 12. 3.
• textsms

[음성인식 AI 프로젝트] 0. 음성 인식 모델 개발에 필요한 지식 정리

음성 인식 모델 개발에 필요한 사전 지식음성 인식 모델을 개발하기 위해서는 몇 가지 핵심 개념을 이해하고 있어야 한다.이 글에서는 음성 처리의 기초가 되는 MFCC, Mel-spectrogram, FFT, 비트레이트, 샘플링 레이트, 윈도잉, 스펙트럼 분석 등에 대해 알아보도록 하겠다.FFT (Fast Fourier Transform)FFT는 Fast Fourier Transform의 약자이다. 빠른 푸리에 변환을 의미한다. FFT는 신호를 주파수 도메인으로 변환하는 알고리즘이다.이는 시간 도메인에서 변화하는 신호를 주파수로 표현함으로써 신호 내 주파수 성분을 분석할 수 있게 해준다. 음성 신호는 시간에 따라 변화하는 복합적인 파형으로 구성된다.FFT를 사용하면 이 신호를 다양한 주파수 성분으로 분해할 ..

• format_list_bulleted Data Analysis/DeepLearning
• · 2024. 12. 2.
• textsms