• 목록

<발표 후기>
8월 28일(목)
세션: 포스터 세션 #1
제목: Efficient Zero-shot Neural Architecture Search for SAM-Adapter Architectures

평창에서 진행된 하계 데이터마이닝 학회에서 포스터 세션으로 SAM-Adapter Architecture Search를 주제로 발표를 진행하였다. 본 연구는 Segmentation 에 특화된 foundation 모델인 SAM의 성능을 다양한 도메인에서 특화시키기 위해 등장한 SAM-Adapter의 구조를 탐색을 통해 구축하도록 하는 방식론을 제안하고 있다. 이때 탐색의 방식으로는 Zero-shot 기반의 방식을 통해 효과적으로 architecture의 특징만을 통해 평가할 수 있는 전략을 선택하였으며, 특히 adapter 모듈의 삽입 위치를 탐색하는 과정에서는 perturbation 기반의 weighting 전략을 통해 exploitation과 exploration의 부분을 모두 만족시킬 수 있는 탐색 방식을 도입하였다. 이렇게 탐색을 통해 구축된 adapter architecture는 기존 SAM-Adapter 구조 보다 향상된 성능을 보이며, 그 효과를 입증하였다. 이후에는 더욱 다양한 데이터 도메인에서의 학습을 진행할 예정이며, zero-shot scoring 방식도 변경하여 진행할 예정에 있다.

<청취 후기>
[P2-46] Online Test-time Adaptation For CLIP under Continual Domain Shift
본 발표에서는 continual domain shift에 대응할 수 있는 Test time prompt tuning의 관점으로 Prompt의 다양성을 높이는 방식을 제안하고 있다. 해당 방식론에서는 주기적으로 버퍼를 최적화하는 방식을 통해 새로운 샘플에 대해서도 프롬프트가 적절히 업데이트 될 수 있는 전략을 제안하고 있는데, 프롬프트의 설계가 Test time prompt tuning의 관점으로 사용되는 방식을 새롭게 접할 수 있어 기억에 남는 발표였다.

[P2-62] Stabilizing Semi-Supervised Domain Adaptation Regression via Unified Variance Control and Feature Whitening
본 연구에서는 Semi-supervised 상황에서의 domain adaptation regression을 다루는 연구로, feature whitening 관점에서 domain-specific한 방식으로의 전환을 통해 성능을 개선할 수 있는 방식론을 제안하고 있다. 우선 해당 발표를 통해 feature whitening의 관점을 새롭게 볼 수 있는 기회가 되었으며, domain-specific한 관점으로의 접근이 유의미한 결과를 만들어낼 수 있음을 알 수 있는 기회였다.

<학회 후기>
이번 학회 일정은 물류 워크샵부터 시작해 데이터마이닝학회 까지 다양한 학계 사람들과 만나 교류할 수 있는 시간이었다. 연구실 내 연구원들 또한 모두 서로 다른 분야를 연구하고 있기도 하지만, 아예 도메인이 다른 연구를 하는 사람들을 만나 교류하는 일은 언제나 새로운 인사이트를 준다. 특히 자주 다뤄보지 않은 LLM 분야의 연구나, 제조 반도체 분야의 데이터를 다루는 연구들을 접하게 되면서 해당 연구에서 적용되었던 기법들을 현재의 연구 기법에 적용하는 방향 또한 생각해볼 수 있어 의미 있는 시간이라고 생각된다. 이렇게 다양한 분야의 사람들을 만나고 교류할 수 있는 기회를 주신 교수님께 감사의 말씀을 드리고 싶다.