MAT: Ship Image Restoration
Example 01 Example 02 Example 03 Example 04
MAT 환경설정 및 버그 리포트
1. 아나콘다 가상환경 생성 conda create -n MAT python=3.7 conda activate MAT pip install torch==1.7.1+cu110 torchvision==0.8.2+cu110 torchaudio==0.7.2 -f https://download.pytorch.org/whl/torch_stable.html pip install -r requirements.txt 2. 커스텀 데이터셋 생성 git을 통해 MAT 폴더를 내려받은 후 ship_images 폴더를 붙여넣었다. ship_images 폴더는 train, val 이미지가 담긴 데이터셋과, 훈련 과정의 로그 및 모델 pkl 파일이 담긴다. 3. 모델 훈련 python train.py \ --outdir='ship..
MAT: mat.py
코드를 읽기 전 사전 지식 더보기 from timm.models.layers import DropPath, to_2tuple, trunc_normal_ DropPath: 이 함수는 네트워크의 학습 과정에서 일부 경로를 무작위로 "드롭"하는 기능을 수행합니다. 이는 네트워크의 일반화 능력을 향상시키기 위해 사용됩니다. DropPath는 Stochastic Depth 기법의 일부로 사용되며, 이는 특히 깊은 네트워크에서 과적합을 방지하고 학습 속도를 향상시키는 데 도움이 됩니다. to_2tuple: 이 함수는 주어진 입력을 길이가 2인 튜플로 변환합니다. 예를 들어, 하나의 숫자가 주어지면, 이 함수는 이 숫자를 두 번 포함하는 튜플을 생성합니다. 이는 주로 이미지 처리나 신경망에서 입력 차원을 조정할 때 ..
코드를 이해하기 위한 기본 지식 더보기 sys.path.insert(0, '../') 이 코드는 Python의 모듈 검색 경로를 수정하는 데 사용됩니다. 이해를 돕기 위해 각 부분을 자세히 설명하겠습니다: sys.path: Python 인터프리터가 모듈을 검색할 때 참조하는 경로 목록입니다. 이 목록에 포함된 디렉토리들은 Python이 모듈을 임포트할 때 찾아보는 위치들입니다. insert(0, '../'): 이 메소드는 sys.path 리스트의 맨 앞에 새로운 경로를 추가합니다. 리스트의 인덱스 0은 첫 번째 위치를 의미하므로, 이 코드는 새 경로를 리스트의 가장 앞에 삽입합니다. '../': 이 문자열은 상위 디렉토리를 가리키는 상대 경로입니다. 현재 스크립트가 있는 위치에서 한 단계 위의 디렉토리를..
모델 훈련에 대한 프로세스를 담당하는 코드이다. 해당 코드를 이해하기 위한 정보를 먼저 정리한 후 코드 분석으로 넘어간다. 이론에 대한 이해 더보기 생성기 가중치의 EMA 반감기 EMA(Exponential Moving Average)의 가중치 반감기는 EMA 계산에서 새로운 데이터 포인트가 이전 데이터에 비해 얼마나 강한 영향을 미치는지를 결정하는 지표입니다. 반감기(half-life)는 EMA 가중치가 절반으로 줄어드는 데 필요한 시간을 나타냅니다. EMA 정의: EMA는 시계열 데이터에서 최근의 관측값에 더 큰 가중치를 부여하여 평균을 계산하는 방법입니다. 이는 데이터의 최근 추세를 더 잘 반영할 수 있게 해줍니다. 반감기의 역할: 반감기는 EMA를 계산할 때 적용되는 감쇠율(decay rate)을..
해당 코드는 모델을 훈련시키는 플로우를 담고 있다. 코드를 이해하기 위한 기본 지식을 먼저 정리한 뒤, 하단에 코드를 첨부한다. 더보기 경로 길이 정규화 (Path Length Regularization) 목적: 경로 길이 정규화는 생성된 이미지의 품질을 향상시키기 위해 사용됩니다. 이 기법은 잠재 공간에서의 작은 변화가 출력 이미지에 얼마나 큰 영향을 미치는지를 측정하고, 이를 최적화하는 데 목적이 있습니다. 작동 원리: 잠재 공간의 두 점 사이의 거리와 이에 해당하는 출력 이미지 사이의 거리를 비교합니다. 이 거리가 일정하게 유지되도록 모델을 정규화함으로써, 잠재 공간에서의 변화가 출력 이미지에 일관되게 반영되도록 합니다. 효과: 이를 통해 모델이 더 안정적이고 일관된 출력을 생성하며, 특히 복잡한 ..