3월 넷째 주

3월 넷째 주

읽은 논문

Unsupervised Domain Adaptation by Backpropagation (2015) -Yaroslav Ganin

구현을 위해 다시 읽었음. 사실 읽었다기 보다는 봤다고 표현하는게 더 맞는 것 같기도 함.

A neuronal circuit for colour cision based on rod-cone opponency
뒤쪽에 필요없는 부분 빼면 고작 3장짜리 분량의 논문인데 읽는데 몇주는 걸린 듯함. 결과적으론 cone 주변에 있는 rod가 빛량이 적을 때 cone에게 신호를 주더라. 라는 이야기였으며 어떤 식으로 주는 것 같다는 이야기와 함께 약간의 공식도 소개되어있음.

TransGaGa: Geometry-Aware Unsupervised Image-to-Image Translation
오늘 세미나를 듣고 읽어봄. 자세한 내용은 세미나 참고.
다만 Gram Matrix 부분에 대해 조금 찾아봤는데 일종의 covariance matrix와 매우 비슷한 역활을 할 수 있는 듯 함. 이를 Loss 로 사용하는 것 자체가 스타일을 비슷하게 하겠다는 의미로 받아들여도 될 듯 하며 기존에도 이와 같은 형태로 Loss를 채택한 논문들이 좀 있는 것 같음. (2개 찾음)

이번주... 실질적으로 논문 페이지를 펴서 읽은 논문수는 적음. 다만 찾아본 논문은 많은 편인듯.

읽고 싶은 논문

계획을 조금 다르게 세우려 함. 분야별 읽을 논문 목록을 정리해두고 이 란에다가 쌓아 둔 뒤 하나씩 읽어보려 함. 제목은 한글로 정리할 예정. (노트제목은 제 메모장 제목들 입니다...)

글을 사진으로

노트 제목 : nlp 함치기 (03.16)
nlp 수업 듣다가 그냥 막 이것저것 합쳐서 그려봄. 구체화해보고 싶다면...

• CLIP: Connecting Text and Images https://arxiv.org/abs/2103.00020 블로그 https://openai.com/blog/clip/

사진 각도를 바꿔보자.

노트 제목 : gan회전(03.05) , 차원을 늘리면?(03.21)
gan 회전은 wgan 읽고 두가지 방식의 거리를 적절히 혼용해볼 생각을 했었음. 구에다가 맵핑 시키면 어떨까 하는 이야기가 나옴.

• Sphere Generative Adversarial Network Based on Geometric Moment Matching
• HoloGAN
  차원을 늘리는 생각은 조금 더 구체화 해봐야 하지만
• Nerf, Nerf++. nerf-- 얘네랑 비슷한 개념. -> https://github.com/yj-uh/vi-lab/issues/26#issuecomment-792227996
• https://arxiv.org/abs/2103.07751 이것도 참고하자. Unsupervised Image Transformation Learning via Generative...

AE 또는 VAE랑 GAN을 합치면?

노트제목 : 이게뭐람(03.19)
교수님이 보여주신 논문 제목이 생각이 안남... 나중에 찾아서 채워넣도록 하겠음.

Contrastive랑 GAN이랑

• Training GANs with Stronger Augmentations via Contrastive Discriminator (https://arxiv.org/abs/2103.09742)

중요 포인트를 태우자

노트 제목 : 패치 트랜스포머?
Vision Transformer (VIT) 보고 떠올림 이미지 패치로 넣는데 이걸 좀 다른 영역도 같이 넣어주면 좋을텐데... 라는 것임. 구체화된 생각 하나도 없음.
focus 된 convolution 관련 논문으로

• Deformable Convolutional Networks

흑인 왜 없음

• Reliable Fidelity and Diversity Metrics for Generative Models
  제대로 안읽어봤으니 읽어보자...

구현한 논문

Unsupervised Domain Adaptation by Backpropagation (GRL)
구현 함. 뭐라해야하지 forward는 자주 만져봤지만 backward를 만져본적이 없어서 꽤나 오래걸림...

구현중인 논문

Learning Not to Learn: Training Deep Neural Networks with Biased Data
우리 세미나 task!!

(code) - 구현 코드 저장 repo
log 작성 후 업데이트 해볼 예정.
내일...

지난주 계획 체크

1주일간 해야할 일 우선순위 + 기한 별 나열. (괄호 내 기한)

1. LGD 관련 그리기 + 논문 찾아보기 + imprinting 개념 알아두기 (화)
   imprinting 볼 새가 없었...
2. 자연어처리를 위한 딥러닝 수업 논문 살펴보기 (화)
   읽은 논문에 다 적지는 않았지만 수업에 나오는 논문들을 대충이라도 보기는 봄.
3. 딥러닝기반컴퓨터비전특론 수업 논문 살펴보기 (수, 목)
   마찮가지.
4. 딥러닝이론 수업 듣고 + 과제 (금)
   과제 해야함.
5. 랩 코딩 해보기 (금)
   못함.
6. 랩세미나 논문 읽기 (금)
   다 듣고 읽어봄...ㅎ 나쁘지 않은 듯 함.
7. Color constancy 관련 연구 코드 한번 짜보기 (기한은 없음)
8. 운동 및 영어공부
   운동할 시간이 점점 사라지는 중...
9. 다음주 Weeklog는 시간 들여서 논문 정리도 해서 쓰기 + git 업데이트 하기

• 총 평
  뭔가 이번주는 일이 많아서 하고싶은걸 제대로 못한 한주였음. 아쉽긴 한데 그렇다고 놀거나 그런것도 아니라서 그냥저냥 그런 한주...

계획

1주일간 해야할 일 우선순위 + 기한 별 나열. (괄호 내 기한)
0. 위에 적힌 논문 목록중에 2개는 지워보자.

1. 딥러닝 이론 과제...목표는 과제만 하는 것이 아니라 책도 읽어보는 것.(03-31 수)
2. 자연어처리를 위한 딥러닝 수업 논문 살펴보기 (화)
3. 딥러닝기반컴퓨터비전특론 수업 논문 살펴보기 (수, 목)
4. Learning Not to Learn: Training Deep Neural Networks with Biased Data 구현 (과제임)
5. 랩 코딩 해보기 (금)
6. 랩세미나 논문 읽기 (금)
7. Color constancy 관련 연구 코드 한번 짜보기 (토, 일)
8. 운동 및 영어공부
9. 다음주 Weeklog는 시간 들여서 논문 정리도 해서 쓰기 + git 업데이트 하기

Brainstorm

이 란은 없어도 남겨둘 생각입니다. 지난주에 쓴 글을 복사해서 수정하는데 이 란이 있어야 뭔가 적을것을 떠올릴 수 있을 듯 하기 때문입니다.
위에서 말했지만 Gram Matrix가 Style의 covariance matrix와 매우 비슷한 역활을 할 수 있지 않을까 싶습니다. 엄밀한 증명은 아니지만 수학적으로 봤을 때 비슷한 형태랄까... 그런 생각이 들었습니다.