• 목록

<발표 후기>
6월 20일 (금)
세션: H3. 산업인공지능(16)
제목: Zero-shot based SAM adapter architecture search
본 산업공학회에서는 SAM adapter architecture에 대한 효율적인 탐색을 위해 zero-shot 기반의 방식을 적용한 연구를 소개하였다. SAM은 segmentation을 위한 foundation 모델로 scene 이미지 데이터에 대해서는 높은 성능을 보이며 segmentation을 수행하는 능력을 갖췄지만. 일반적이지 않은 데이터 도메인에서는 강건하지 못한 성능을 보이며 fine-tuning의 필요싱이 드러났다. 이러한 foundation model에 대한 효과적인 fine-tuning을 위해 등장한 것이 바로 parameter efficient fine-tuning(PEFT)이며, 그 일종으로 소개된 것이 바로 SAM-adapter 이다. adapter모듈은 image encoder에 모든 layer에서 추가적인 학습을 가능하게 하는데, 본 연구에서는 이 adapter architecture를 탐색하여 보다 데이터 도메인에 맞는 adapter를 사용하고자 하였다. 이때 NAS의 탐색 방식 중 zero-shot 기반의 zico scoring 기법을 사용하여, architecure에 대한 추가적인 학습을 사용하지 않고 gradient 의 평균과 분산만으로 nas score를 연산할 수 있게 되었으며, 해당 score의 지표가 segmentation 성능과 상관관계를 보이는 것을 알 수 있었다. 하지만 아직까지는 전체 조합을 모두 평가해야 한다는 점에서 발생하는 비효율성과 zico의 방식에서는 segmentation의 특징을 반영하지 못한다는 한계점을 내포하고 있어, 추후 연구에서는 탐색에서의 효율성을 보일 수 있는 기법을 추가적으로 도입하고, segmentation의 성능을 고려할 수 있는 기법을 접목하여 개선할 예정이다.

<청취 후기>
6월 18일(수)
세션: B1 헬스케어시스템(2)
제목: SAM-Driven Uncertainty Quantification in Echocardiography
본 연구에서는 심장 초음파 이미지에 대해서 의료진마다 다르게 좌심실의 영역을 분할하는 일반적인 진단에서의 사례를 고려하여 다양한 불균형한 segmentation의 mask를 SAM을 이용하여 생성하는 확률적 파이프라인을 제안하고 있다. 이때 segmentation model로 사용된 SAM의 불확실한 segmentation 영역을 가이드하기 위해 VQ-VAE를 적용하고 있으며, 결과적으로 다양한 종류의 segmentation mask를 생성할 수 있는 방법론을 소개한다. 결론적으로 제안한 프레임워크에서 생성된 mask가 일반적으로 gt mask와 유사하게 생성되면서도 그에 대한 불확실성을 내포하고 있는 형태로 만들어지는 것이 보이게 되었다. 이전까지는 정확한 단일 마스크를 생성하는데 주로 포커싱하였던 연구에서 이렇게 다양한 불확실한 마스크를 생성하는 방식론이 일반적이지 않아 관심을 끌었다. 이후에 해당 파이프라인을 실제 진단 및 연구 환경에서 어떻게 사용할 수 있을 것인지에 대한 고민을 하게 되면서 흥미롭게 들었던 발표였다.

6월 19일(목)
세션: G6 산업인공지능(15)
제목: 그래프 신경망 프레임워크를 활용한 합성곱 신경망 구조 해석 연구
본 발표에서는 CNN의 연산 구조를 그래프 신경망(GNN)으로 해석하는 방법론에 대해 제안한다. 해당 프레임워크에서는  CNN의 커널 연산을 그래프 상의 노드 간 메시지 전달(message passing)로 표현하여 정보의 흐름을 명시적이고 구조적으로 이해할 수 있는 방법론을 제안한다. message passing은 그래프 신경망에서 그래프 구조 내 노드 간의 정보를 전달하고 업데이트 하는 과정을 의미하는데, 이때 CNN의 연산과정에서 주변 픽셀로부터 local 정보를 집계하여 특징 벡터를 생성하는 과정을 인접행렬과의 연산으로 해석할 수 있다. 연구 시뮬레이션 결과 상 오차 범위 이내의 값으로 GNN의 해석 결과가 CNN과 유사함을 확인할 수 있었다.

제주도에서 열린 산업공학회를 통해서 상당히 다양한 분야의 연구에 대해 접할 수 있는 기회가 되어 의미 있었다. 산업공학회의 특징 상 다양한 도메인, 데이터에 인공지능 기술이 접목되어 활용되는 사례들을 듣는 경험이 실제 인공지능을 연구하는 관점에서 보다 현실적으로 접목시킬 수 있는 방법론에 대해 고민할 수 있는 기회를 제공해주어 많은 인사이트를 얻을 수 있었다. 특히 연구실에서 다루지 않는 데이터 또는 문제 상황들에 대해 접해볼 수 있는 것이 상당히 좋은 기회라고 생각된다. 좋은 자연환경 속에서 개최된 산업공학회에서 많은 아이디어를 얻고 경험할 수 있는 기회르 주신 교수님꼐 감사드린다.