본문 바로가기

2024/07/01

TechStudy/SyntheticData 2024. 7. 1.
[논문 리뷰] ITF-GAN: Synthetic time series dataset generation and manipulation by interpretable features
[논문 리뷰] ITF-GAN: Synthetic time series dataset generation and manipulation by interpretable features ITF: Interpretable Time SeriesFM: feature manipulation기존 합성데이터 생성 문제점: black box에서 만들어졌기에 해석이 어려움-> 시계열 연속함수 기반 두 가지 해석 기법 제시:1) ITF-FM: deep autoencoder(=AE) 조정 2) ITF-GAN: 적대적 학습 (GAN) 사용-> 해석 가능한 고품질 합성데이터 생성     $N_{head}$: 추가 노이즈 패턴에 의한 corrupted output 추정   [1] ITF-FM일반적인 생성은 총 4단계로 진행된다.1단계: ITF-AE를 주어진 데이터 안에서 훈련한다. (confident data reconstruction이 필요함)   2단계: network 가중치 $\theta$들은 고정(fr..
TechStudy/LLM 2024. 7. 1.
트랜스포머 구조의 비밀
트랜스포머 구조의 비밀 https://arca.live/b/alpaca/110137556?p=1 LLM 트랜스포머의 레이어들은 무슨 일들을 할까? - Ai 언어모델 로컬 채널The Remarkable Robustness of LLMs:Stages of Inference?https://arxiv.org/abs/2406.19384며칠전에 MIT에서 발표한 논문을 소개하겠습니다. 유명한 물리arca.live펌글     The Remarkable Robustness of LLMs:Stages of Inference?https://arxiv.org/abs/2406.19384 며칠전에 MIT에서 발표한 논문딥러닝 모델의 내부는 초창기에는 블랙박스라고 생각해왔지만, 지금은 연구가 활발히 진행되면서 내부의 원리들에 대한 분석들이 많이 등장하..
728x90
반응형

티스토리툴바