[Open DMQA Seminar] Domain Generalization

'실제 사진' 이미지로 학습한 딥러닝 모델이 '스케치 그림' 이미지 데이터에도 좋은 성능을 낼 수 있을까? 기존의 기계학습 방법론은 학습 데이터와 테스트 데이터가 동일한 분포에서 추출되었다는 가정(i.i.d. assumption)에 기반하기에, 학습 데이터와 다른 분포를 가지는 테스트 데이터에 대해서는 큰 성능 하락을 보인다는 한계를 가진다. 따라서 이와 같은 간극(domain gap)에도 불구하고, 모델의 일반화 성능을 높일 수 있는 방법론들이 최근 활발히 연구되고 있다. 특히 Domain Generalization은 학습 데이터만을 이용하여 한 번도 보지 못한 새로운 분포의 도메인에 대해서도 강건한 성능을 도출하는 것을 목적으로 하는 방법론이다. 본 세미나에서는 Domain Generalization의 개념과 더불어 타 분야와의 차이점을 짚고, 일반화 성능을 확보하기 위한 다양한 방법론을 다음 2가지 갈래로 나누어 소개한다: (1) Domain-invariant Representation Learning (with Adversarial Learning), (2) Data Manipulation (Augmentation and Generation). 나아가 Domain Generalization의 연구 동향에 대해서 살펴보며 개괄적인 내용을 다루는 것을 목표로 한다.
[1] Zhou, K., Liu, Z., Qiao, Y., Xiang, T., & Loy, C. C. (2022). Domain generalization: A survey. IEEE Transactions on Pattern Analysis and Machine Intelligence.
[2] Ganin, Y., Ustinova, E., Ajakan, H., Germain, P., Larochelle, H., Laviolette, F., ... & Lempitsky, V. (2016). Domain-adversarial training of neural networks. The journal of machine learning research, 17(1), 2096-2030.
[3] Rahman, M. M., Fookes, C., Baktashmotlagh, M., & Sridharan, S. (2020). Correlation-aware adversarial domain adaptation and generalization. Pattern Recognition, 100, 107124.
[4] Matsuura, T., & Harada, T. (2020, April). Domain generalization using a mixture of multiple latent domains. In Proceedings of the AAAI Conference on Artificial Intelligence (Vol. 34, No. 07, pp. 11749-11756).
[5] Zhou, K., Yang, Y., Hospedales, T., & Xiang, T. (2020, April). Deep domain-adversarial image generation for domain generalisation. In Proceedings of the AAAI conference on artificial intelligence (Vol. 34, No. 07, pp. 13025-13032).
[6] Zhou, K., Yang, Y., Hospedales, T., & Xiang, T. (2020). Learning to generate novel domains for domain generalization. In Computer Vision-ECCV 2020: 16th European Conference, Glasgow, UK, August 23-28, 2020, Proceedings, Part XVI 16 (pp. 561-578). Springer International Publishing.

[@jihyunkim7107]

(정정) 32:30 설명 정정합니다. CNN은 low-level layers에서 receptive field가 작아 domain에 특화된 정보를 잡아낼 수 있고, high-level layers에서 receptive field가 선형적으로 증가함에 따라 추상적(abstract) 정보를 담아냅니다. low-level layers에서는 texture, colors 등의 전반적인 "style"과 관련한 국소적(local) 특징을 잡아낼 수 있어 이를 통해 domain-discriminative features 추출이 가능해집니다.

[@wendypark3848]

넘 좋은 자료네요 감사합니다

[@youngchulyoun9540]

Domain Generalization을 이해하는 데 많은 도움이 되었습니다. 문의드립니다. 제가 갖고 있는 데이터가, 정상인은 A domain에 집중되었고, 경도인지장애와 치매환자는 B, C, D domain에 분포하고 있어서, label을 구분예측하는 데는 너무 성능이 좋게 나오지만, domain 정보 때문일 것이라고 생각합니다. 그래서 다른 환경에서는 성능이 안나오겠지요. domain 정보를 무시고, content(semantic)만으로 구분할 수 있게할 수 있을까요? DDAIG로 하더라도, A domain에 정상인과 환자군이 모두 포함되어야 할 것 같은데... 비 전문가라서.. 질문내용이 부족합니다.