학습 데이터 약 31%만 활용해도 성능 유지…GPU 자원·개발 비용 절감 기대
인공지능(AI)을 특정 분야에 맞게 추가 학습시키는 데 필요한 시간을 최대 70% 가까이 줄일 수 있는 기술이 개발됐다. AI 성능을 좌우하는 학습 데이터의 선별과 분배 방식을 개선해 불필요한 연산을 줄인 것이 핵심이다. 의료와 코딩 등 전문 분야에 특화된 AI 개발 속도를 높이고 기업들의 인프라 비용 부담을 낮추는 데 기여할 것으로 기대된다.
KAIST는 전산학부 이재길 교수 연구팀이 대규모 언어모델의 미세조정 효율을 높이는 기술 'CluSTER(클러스터)'를 개발했다고 2일 밝혔다.
미세조정은 이미 학습된 AI 모델에 특정 분야의 데이터를 추가로 학습시켜 전문성을 강화하는 과정이다. 범용 AI에 의료 지식이나 코딩 관련 정보를 익히게 해 해당 분야의 질문에 보다 정확하게 답하도록 만드는 방식이다.
문제는 이 과정에서 상당한 계산 자원이 필요하다는 점이다. 일반적으로 여러 그래픽처리장치(GPU)가 데이터를 나눠 처리하지만, 학습 자료를 단순하게 분산하면 서로 유사한 정보를 반복적으로 학습하는 비효율이 발생할 수 있다. 투입되는 연산량에 비해 실제 성능 개선 효과가 크지 않을 수 있다는 의미다.
연구팀은 이러한 문제를 해결하기 위해 데이터의 내용뿐 아니라 AI 모델에 미치는 학습 효과에 주목했다. 표현이나 주제가 서로 다르더라도 비슷한 능력을 학습시키는 데이터라면 동일한 그룹으로 분류해 중복 학습을 줄이는 접근법이다.
CluSTER는 데이터별 학습 영향도를 분석해 유사한 특성을 가진 자료를 묶은 뒤, 각 그룹에서 필요한 데이터를 선별한다. 이후 선택된 자료가 여러 GPU에 편중되지 않도록 분배해 다양한 정보를 효율적으로 학습하도록 설계됐다.
단순히 학습 데이터의 전체 규모를 축소하는 기존 접근과 차별화되는 부분은 데이터 선별과 GPU 간 작업 배분을 함께 최적화했다는 점이다. 학습에 필요한 정보는 최대한 보존하면서 반복적인 연산을 줄여 전체 처리 효율을 높이는 방식이다.
연구팀은 기술 검증을 위해 코딩과 의료 분야의 학습 데이터 3종을 활용했다. 약 70억개와 130억개의 매개변수를 갖춘 대규모 언어모델을 대상으로 미세조정 실험을 진행하고, 총 8개 성능 평가 항목을 통해 기존 방식과 비교했다.
실험 결과 전체 데이터 중 약 31%만 활용하고도 기존 모델과 비슷한 수준의 성능을 확보했다. 학습 시간은 조건에 따라 최대 69.6% 감소했다. 기존 방식으로 10시간이 소요되던 작업을 약 3시간 수준으로 단축할 수 있는 셈이다.
GPU 활용 환경에서도 효율성을 확인했다. 연구팀은 GPU 4개를 사용하는 환경을 중심으로 실험을 진행했으며, GPU 8개를 활용한 조건에서도 기존 방식보다 개선된 결과를 얻었다.
이번 연구는 AI 개발 과정에서 고성능 GPU를 추가로 확보하는 것만큼 학습 데이터를 효율적으로 활용하는 기술이 중요하다는 점을 보여준다. 데이터 처리 과정에서 발생하는 중복 연산을 줄이면 동일한 컴퓨팅 자원으로 더 많은 학습 작업을 수행할 수 있기 때문이다.
산업 현장에서도 활용 가능성이 주목된다. 기업별 고객 상담 시스템이나 의료진의 정보 검색을 지원하는 AI처럼 특정 업무에 최적화된 모델을 구축할 때 추가 학습에 필요한 시간과 비용을 줄일 수 있다. 특히 GPU 확보와 운영에 상당한 비용이 들어가는 기업과 연구기관에는 AI 개발의 경제성을 높이는 대안이 될 수 있다.
이재길 KAIST 전산학부 교수는 "AI 학습 효율을 개선하려면 GPU 수를 늘리는 것뿐 아니라 학습에 적합한 데이터를 선별하는 과정도 중요하다"며 "이번 기술은 기존 GPU 자원을 보다 효과적으로 활용해 대규모 AI 모델의 학습 부담을 줄일 수 있다는 데 의미가 있다"고 설명했다.
이번 연구는 KAIST 전산학부 김현진 박사과정 학생이 제1저자로, 이재길 교수가 교신저자로 참여했다. 토론토대학교 남영은 박사후연구원과 KAIST 데이터사이언스대학원 한재민·최원혁 석사과정 학생도 공동 연구진으로 이름을 올렸다.
연구 결과는 자연어처리 분야의 국제 학술대회인 'EMNLP 2026(Conference on Empirical Methods in Natural Language Processing)'에서 지난달 발표됐다. 연구는 과학기술정보통신부와 정보통신기획평가원의 지원을 받아 SW컴퓨팅산업원천기술개발사업 SW스타랩 과제로 수행됐다.
