5월 둘째 주
읽은 논문
Self-supervised Visual Feature Learning with Deep Neural Networks: A Survey
한번 쭉 읽으면서 정리가 잘 되는 기분이었다. Survey 논문들도 몇 개 읽어봐야겠다.Unsupervised Learning of Visual Features by Contrasting Cluster Assignments
배치마다 배치 안에 있는 이미지들을 클러스터링 하여 K개의 프로토타입 벡터들을 만든다. {c1.....ck}
이후 이미지를 aug시켜서 representation을 뽑아낸 2개를 맞는 c와 가까워지도록, 다른 c와는 멀어지도록 한 뒤 두 벡터를 바꾼다.
바꿨을 때의 Loss를 줄인다. 즉, 바꿔도 대체되어야 한다.
DETR
EigenGAN
읽고 싶은 논문
기존 내용 접기/펼치기 버튼
글을 사진으로
노트 제목 : nlp 함치기 (03.16)
nlp 수업 듣다가 그냥 막 이것저것 합쳐서 그려봄. 구체화해보고 싶다면...
- CLIP: Connecting Text and Images https://arxiv.org/abs/2103.00020 블로그 https://openai.com/blog/clip/
사진 각도를 바꿔보자.
노트 제목 : gan회전(03.05) , 차원을 늘리면?(03.21)
gan 회전은 wgan 읽고 두가지 방식의 거리를 적절히 혼용해볼 생각을 했었음. 구에다가 맵핑 시키면 어떨까 하는 이야기가 나옴.
- Sphere Generative Adversarial Network Based on Geometric Moment Matching
- HoloGAN
차원을 늘리는 생각은 조금 더 구체화 해봐야 하지만 - Nerf, Nerf++. nerf-- 얘네랑 비슷한 개념. -> https://github.com/yj-uh/vi-lab/issues/26#issuecomment-792227996
- [x] https://arxiv.org/abs/2103.07751 이것도 참고하자. Unsupervised Image Transformation Learning via Generative...
Contrastive랑 GAN이랑
- [x] Training GANs with Stronger Augmentations via Contrastive Discriminator (https://arxiv.org/abs/2103.09742)
중요 포인트를 태우자
노트 제목 : 패치 트랜스포머?
Vision Transformer (VIT) 보고 떠올림 이미지 패치로 넣는데 이걸 좀 다른 영역도 같이 넣어주면 좋을텐데... 라는 것임. 구체화된 생각 하나도 없음.
focus 된 convolution 관련 논문으로
- Deformable Convolutional Networks
AE 또는 VAE랑 GAN을 합치면?
노트제목 : 이게뭐람(03.19)
- introvae https://arxiv.org/abs/1807.06358
- adversarial autoencoder https://arxiv.org/abs/1511.05644
- bigan https://arxiv.org/abs/1605.09782
흑인 왜 없음
- Reliable Fidelity and Diversity Metrics for Generative Models
제대로 안읽어봤으니 읽어보자... - Extended Isolation Forest
분류를 이렇게도 할 수 있더라 읽어보자.
K-means 하면서 classification
노트제목 : 크게 분류해보면서 작은걸로
- SWAV
- Towards Open World Object Detection 참고
- Network dissection
- GAN dissection
구현한 논문
(code) - 구현 코드 저장 repo
구현중인 코드
- 기존의 코드에 FID 적용시키기.
- imprinting 관련 아이디어 코드화 시키기
(code) - 구현 코드 저장 repo
지난주 계획 체크
파생 연구 실험. -> 진행중.
해야 할 일
- 파생 연구
딥러닝 이론 과제다 함.인공지능 수학 과제 채점하기+ 인공지능 수학 듣다 만거 마저 듣기 (마음 편히 들으니 생각보다 꿀잼) -> 다 듣진 못함.다음주 발표 준비.(변혜란 교수님 수업)
계획
과제와 발표가 끝이 보임.
파생 연구를 한 주동안 붙잡아볼 예정.
- 틈틈히 NLP 과제.
Brainstorm
아이디어가 쌓이는 중...