• 목록

[일시]
2026.05.07

[세미나 주제]
AI 시스템 평가

[발표자]
장도영

[요약]
본 발표에서는 인공지능 시스템을 개발할 때 단순히 유행하는 모델을 선택하거나 급하게 배포하기보다 투자 대비 효과를 기반으로 평가 기준을 먼저 정의해야 한다는 관점에서 평가 주도 개발을 소개하였다. 소프트웨어 공학에서 코드를 작성하기 전에 테스트를 먼저 작성하듯이 인공지능 애플리케이션에서도 개발 전에 명확한 기준을 세우는 것이 필수적이다. 이에 본 장에서는 파운데이션 모델을 평가하는 기준을 중심으로 도메인 특화 능력, 생성 능력, 사실 일관성, 안전성, 지시 수행 능력, 비용과 지연 시간의 개념과 적용 상황을 설명하였다.
핵심 내용으로 도메인 특화 능력은 코딩이나 법률처럼 특정 분야의 지식을 모델이 얼마나 잘 이해하는지를 객관식 문제 형태의 폐쇄형 방식으로 검증하는 방법으로 다루었다. 생성 능력은 유창성과 일관성뿐만 아니라 번역의 충실성이나 요약의 관련성 등을 측정하여 개방형 텍스트 생성의 품질을 평가하는 방식으로 설명하였다. 사실 일관성은 모델의 출력이 주어진 문맥이나 공개된 지식과 일치하는지를 확인하여 치명적인 환각을 탐지하는 기준이며 자체 검증과 검색 증강 사실성 평가기를 통해 일관성을 검증하는 전략으로 제시하였다. 또한 안전성은 편향성이나 유해한 콘텐츠 등 모델이 생성하는 결과물이 사용자와 사회에 미칠 수 있는 위험을 분류하고 평가하는 방법이며 지시 수행 능력은 모델이 정규 표현식이나 길이 제한과 같은 사용자의 구체적인 요구사항을 얼마나 정확하게 따르는지를 확인하는 방식으로 설명되었다. 마지막으로 비용과 지연 시간은 고품질 결과물을 생성하더라도 실용성이 떨어지는 모델을 배제하기 위해 컴퓨팅 자원과 응답 시간의 균형을 맞추는 전략이다. 결론적으로 인공지능 애플리케이션 성공의 핵심이 단순히 성능이 좋은 모델을 찾는 데 있는 것이 아니라 실제 비즈니스 목표에 맞게 신뢰할 수 있는 평가 파이프라인을 구축하는 데 있음을 강조하였다.

[Q&A]
Q. 모델을 평가하는 벤치마크인 lm-evaluation-harness에서 harness가 무엇을 의미하나요?
A. 여러 벤치마크 테스트를 규격화하여 AI 모델의 성능을 일관되고 광범위하게 비교할 수 있도록 돕는 자동화된 평가 프레임워크를 의미합니다. 데이터 로드부터 프롬프트 생성, 성능 지표 계산까지의 평가 과정을 자동화해 주며, 대표적으로 EleutherAI의 lm-evaluation-harness나 OpenAI의 evals 같은 도구들이 여기에 속합니다.

[녹화영상]
https://us06web.zoom.us/j/86015410311?pwd=j6IMl5oqAk77asTX9KGkWRRdbkCKga.1