• 목록

[일시] 2026.01.21

[세미나 주제]
Neural Prompt Search

[발표자]
장유나

[요약]
본 발표에서는 Foundation Model의 도메인 적응을 위해 활용되는 adaptation 기법으로 LoRA, VPT, Adapter 등이 단일로 사용될 경우 domain에 따라 요구되는 사항이 달라 충분히 역할을 하지 못한다는 점을 지적한다. 이에 세가지 adaptation module의 조합 및 구조에 대한 탐색을 가능하도록 하는 NOAH 기법을 소개한다. 여기에서는 세가지 모듈에 대한 조합 뿐만 아니라 각 모듈 내의 구조를 탐색하도록 하여 실제 domain의 특징을 충분히 이해하는 데에 도움이 되는 구조를 evolutionary search 를 통해 탐색한다. 실험을 통해 실제 다양한 architecture에 대해서 서로 다른 조합의 구조를 갖는 것이 Foundation model encoder의 적응에 도움을 줄 수 있으며, 이후에 연구에서 활용 하기 위한 확장 가능성을 확인할 수 있었다. 특히 병리와 같이 이미지 특징이 상이할 경우에 그에 적절한 특징을 학습하기 위한 encoder module의 구축이 foundation model 적응에 도움이 될 것이라 판단한다.
 
[관련 논문]
- Neural Prompt Search

[녹화 영상]
https://us06web.zoom.us/rec/share/7APFTsrGujQRmE7TWy3AIung_vhZnwmRcxYUlVH3pXZDmLzwkSv9x9OI4R6VAaPi.2Rs11mPsgCUeEht_