Quartz 4

2026-09-03 AI 논문 요약

57 min read

📚 2026-09-03 AI 논문 핵심 요약

📊 순위 기반: 5개 | 🤖 GLM 추천: 5개 📄 전문 분석: 10개 | 📝 초록 분석: 0개

📑 목차

  1. 📊📄 Repo-To-Skill: Distilling GitHub Repositories… ⬆️494
  2. 📊📄 HarnessDev: Can LLMs Create and Evolve Their … ⬆️224
  3. 📊📄 Aspire: Can Models Self-Evolve from Vague Goa… ⬆️173
  4. 📊📄 SolarWM: Open Data and Scalable Training for … ⬆️133
  5. 📊📄 EarlyEval: Cheaper Agent Evaluation via Early… ⬆️110 ❌
  6. 🤖📄 It Takes Two to Match: Co-Evolving Generative… ⬆️64 ❌
  7. 🤖📄 Language Models Can Control Their Own Attenti… ⬆️51 ❌
  8. 🤖📄 NeoMME: A Single-Tower Multimodal-Native Mult… ⬆️22
  9. 🤖📄 Cliff: Learning Process Rewards from the Firs… ⬆️15 ❌
  10. 🤖📄 VibeVoice-ASR-Streaming Technical Report ⬆️10 ❌

1. Repo-To-Skill: Distilling GitHub Repositories Into AI4AI Skills

arXiv: 2609.02749 | 기관: Beijing Academy of Artificial Intelligence | ⬆️ 494 | ⭐ 109 📊 순위선정 | 📄 HTML 태그: ai-agents skill-distillation operational-knowledge mle-bench ai4ai knowledge-graph autonomous-research context-engineering 사전 지식: 은 넓지만 고정되어 있고, 하네스는 절차만 통제할 뿐 도메인 내용을 제공하지 못한다. 노하우는 분명 필드에 존재하지만 ① 사람이 읽도록 쓰여 있고 ② 크기가 너무 커서 작업 도중에 통째로 로드할 수 없다. 그 결과 매 작업마다 같은 지식을 반복해서 다시 발견(re-discovery)하는 비효율이 생긴다.

한 줄 요약

이 논문은 논문과 GitHub 저장소 속에만 흩어져 있던 ML 연구의 노하우(운영 지식, Operational Knowledge)를 검증된 재사용 가능한 스킬 그래프로 증류하는 DisCo를 제시해, 모델이나 하네스를 전혀 바꾸지 않고도 MLE-bench에서 134.3% 향상이라는 성과를 낸 최초의 체계적 시도라는 점에서 중요하다.

💡 핵심 아이디어

요리 실력은 레시피책을 읽는 것과 실제 주방에서 불 조절, 간 맞추기, 재료 손질 타이밍을 몸으로 익힌 노하우의 차이에서 갈린다. 기존 ML 연구 에이전트는 레시피책(사전학습된 모델 백본)과 주방 도구 세트(하네스)는 갖췄지만, 정작 시니어 셰프의 손맛에 해당하는 운영 지식이 없었다. DisCo는 유명 셰프들의 주방 수기(저장소와 논문)를 표준화된 스킬 카드로 정리해 보관하고, 요리(연구 작업) 중에 필요한 카드만 골라 펼쳐 보는 시스템이다.

문제 정의

자율 연구 에이전트는 두 모듈로 구성된다. 이해·추론·계획·실행을 담당하는 모델 백본(Model Backbone)과, 오케스트레이션·메모리·검증을 조율하는 하네스(Harness)다. 그런데 ML 연구는 전문성 집약적이라 “어떤 방법을 언제, 어떻게 올바르게 쓰는가”를 알아야 성공하는데, 이 지식을 어느 쪽도 담고 있지 않다. 모델의 사전 지식은 넓지만 고정되어 있고, 하네스는 절차만 통제할 뿐 도메인 내용을 제공하지 못한다. 노하우는 분명 필드에 존재하지만 ① 사람이 읽도록 쓰여 있고 ② 크기가 너무 커서 작업 도중에 통째로 로드할 수 없다. 그 결과 매 작업마다 같은 지식을 반복해서 다시 발견(re-discovery)하는 비효율이 생긴다.

🔬 방법론 상세

  • 스킬과 스킬 그래프로 지식 표준화: 연구 과제를 τ=(q, 𝒟, ℰ, g) 형태로 정의하고(질의, 데이터, 환경, 목표), 백본 M_θ와 하네스 H 사이에 운영 맥락 𝒦 = {S₁, …, Sₘ}이라는 세 번째 레이어를 둔다. 각 스킬 S는 자기 완결적(self-contained)이고 에이전트가 직접 소비할 수 있는 형태로, 스킬들이 능력 계층 구조의 그래프로 연결된다.
  • 스킬 증류 파이프라인 (Creator 모드): 앵커(anchor) z에서 출발한다. 앵커는 원본 소스 c(저장소·논문)이거나 작업 τ 자신이다. 앵커를 능력(capabilities) 𝒬 단위로 범위 한정(scoping)하고, 각 능력을 원문의 근거(evidence) 𝒳로 그라운딩한 뒤, 후보 그래프 𝒢̃를 만들고, 검증(verification)을 통과한 스킬 그래프 𝒢만 라이브러리에 등록한다. 이때 구축 기록(construction record) R을 함께 남겨 출처 추적성을 확보한다.
  • 이원화된 증류 전략: 작업 무관(task-agnostic) 증류는 저장소와 논문에서 사전에 스킬을 대량 생산해 라이브러리를 쌓는 방식이고, 작업 지향(task-oriented) 증류는 현재 풀고 있는 과제에서 스킬을 만들어 즉시 활용하며 자산을 누적하는 방식이다.
  • 라우터 기반 선택적 로딩 (Researcher 모드): 20개 영역(area)과 178개 능력 패밀리(capability family)로 구성된 2단계 분류 체계 위에 생성된 라우터가 요청을 “영역 → 패밀리 → 저장소 그래프” 순으로 좁혀, 전체 라이브러리가 아닌 관련 브랜치만 운영 맥락 𝒦로 적재한다. 하나의 저장소가 여러 능력을 지원하면 여러 경로에 중복 등록되는(비배타적 소속) 유연한 구조다.

핵심 기법: 검증 게이트가 있는 스킬 증류

DisCo의 심장은 “증류하되, 검증된 것만 수용한다”는 원칙이다. 1,000개의 ML 저장소에서 후보 스킬 그래프 𝒢̃를 대량 생성하되, 각 스킬이 실제 코드와 문서라는 증거 𝒳에 근거하는지 검증 단계를 통과해야만 수용 그래프 𝒢가 되어 라이브러리에 들어간다. 누구나 글을 쓸 수 있지만 편집 검증을 거친 문서만 신뢰하는 위키피디아 모델과 같다. 덕분에 에이전트는 환각이 섞인 두서없는 노하우가 아니라, 검증되고 구조화된 운영 지식만 맥락으로 불러온다.

📊 정량적 결과

주요 성과

GPT-5.5 Codex 백본 고정, 동일한 다운스트림 예산 조건에서 스킬 장착 에이전트의 성능 향상:

  • MLE-bench (ML 엔지니어링 벤치마크): 134.3% 향상
  • PaperBench (논문 재현 벤치마크): 34.4% 향상
  • FrontierCS: 9.2% 향상
  • PassNet: 14.0% 향상

라이브러리 규모 자체도 성과다. 널리 쓰이는 1,000개 ML 저장소에서 5,000개 이상의 스킬을 증류했고, 20개 영역 × 178개 능력 패밀리로 색인했다. 여기에 논문 유래 스킬 그래프와 작업 지향 스킬 그래프가 별도 컬렉션으로 함께 운영된다.

🚀 기존 대비 개선점

  • 모델 교체나 파인튜닝 없는 성능 향상: 백본과 하네스를 그대로 둔 채 운영 맥락 𝒦 레이어만 교체하므로, 프론티어 모델 업그레이드와 독립적으로 지식 레이어를 개선할 수 있다
  • 재발견에서 재사용으로: 매 실행마다 문서를 다시 읽고 시행착오를 반복하던 방식 대신, 한 번 검증된 스킬을 작업 간에 누적 재사용한다
  • 컨텍스트 효율: 통째로 로드할 수 없는 대형 저장소 지식을 라우터로 관련 브랜치만 선별 적재해, 제한된 컨텍스트 창과 토큰 예산을 아낀다

🎯 활용 분야

  • AI4AI와 자율 ML 연구 자동화: 방법 구현부터 실험 실행, 결과 비교까지 엔드투엔드로 수행하는 연구 에이전트의 지식 백엔드
  • ML 엔지니어링 코파일럿: 패키지 API 올바른 사용법, 학습 파이프라인 설정, 흔한 구현·평가 함정 처리 같은 실무 노하우를 개발자에게 실시간 제공
  • 조직 지식 자산화: 사내 코드 저장소와 기술 문서를 스킬 그래프로 증류해, 신규 개발자 온보딩 자료와 에이전트 자동화 자산을 동시에 확보

한계 및 주의사항

  • 소스 품질 의존성: 스킬은 저장소와 논문에서 증류되므로, 원본의 품질이 낮거나 최신성이 떨어지면 스킬도 오염되거나 시대에 뒤처진다. 라이브러리의 지속적인 큐레이션과 갱신이 필요하다
  • 조건부 성능 수치: 보고된 향상폭은 GPT-5.5 Codex라는 특정 백본과 매칭된 다운스트림 예산 조건에서 얻은 결과다. 다른 백본이나 예산 체계에서도 동일한 이득이 보장되는 것은 아니며, 후보 그래프를 검증해 수용 그래프로 만드는 파이프라인에는 사전 구축 비용(컴퓨팅과 시간)이 든다

2. HarnessDev: Can LLMs Create and Evolve Their Own Agent Harness?

arXiv: 2609.01437 | 기관: ByteDance Seed | ⬆️ 224 📊 순위선정 | 📄 HTML 태그: llm-agents agent-harness benchmark self-improvement evaluation code-generation ai-engineering iterative-refinement 사전 지식: 에이전트 하네스(Agent Harness) 개념, LLM 기반 코딩 에이전트와 벤치마크 평가 프로토콜(avg@3, 홀드아웃 평가), 도구 사용(Tool Use)과 컨텍스트 관리, Terminal-Bench류 실행 기반 벤치마크, 자가 개선(Self-improvement) 피드백 루프

한 줄 요약

LLM이 스스로 에이전트 하네스(모델 외부에서 실행 루프, 도구 사용, 컨텍스트 관리, 실패 복구, 검증을 관장하는 실행 인프라)를 만들고 진화(Evolution)시킬 수 있는지를 측정하는 최초의 벤치마크로, 평가 단위를 “한 과제의 출력물”에서 “과제 간에 지속되는 실행 가능한 인프라”로 전환했다는 점에서 중요하다.

💡 핵심 아이디어

유능한 요리사(LLM)를 평가할 때, 요리사가 만든 요리 한 접시(과제 출력)의 맛을 보는 대신, 그 요리사가 직접 설계한 주방 시스템(하네스)이 얼마나 잘 굴러가는지를 채점하는 셈이다. 논문이 보여주듯 같은 요리사라도 정비된 주방에서는 실력이 극대화되고(예: 동일한 GPT-5 가중치로 Terminus 2 안에서는 35.2%, Codex CLI 안에서는 49.6%), 낡은 주방에서는 가려진다. HarnessDev는 “요리 실력”이 아니라 “주방을 지을 수 있는 능력”을 직접 묻는다.

문제 정의

기존 에이전트 평가는 연구자가 미리 골라둔 하네스 안에서의 하위 과제 점수만 보고한다. 그러나 실제 배포 환경에서는 하네스를 처음 만들고, 계속 손보고, 망가지지 않게 유지하는 작업(하네스 엔지니어링)이 성능을 좌우하는데, 정작 모델이 이 하네스 자체를 개발할 능력이 있는지는 체계적으로 탐구되지 않았다. 즉 “도구를 쓰는 능력”이 아니라 “도구를 만들고 개선하는 능력”을 측정하는 평가 체계가 없다는 것이 이 논문이 해결하려는 핵심 문제다.

🔬 방법론 상세

  • 두 단계 평가 구조로 구성된다. 생성(Creation) 단계에서는 약하지만 실행은 되는 최소 시드(seed, 출발점이 되는 기본 코드)와 소수의 개발 케이스만 주어지고, 모델이 미지의 하위 과제에 일반화되는 완전한 실행 시스템을 처음부터 만들어야 한다. 진화(Evolution) 단계에서는 자신이 만든 하네스를 출발점으로 삼아, 하위 과제 실행에서 얻은 피드백을 바탕으로 이미 잘 동작하는 행동을 보존하면서 반복적으로 개선해야 한다.
  • 전체 파이프라인은 한 줄 수식으로 표현된다: (L_C, D) → H, (H, L_E, x) → y → J 점수. 창작자 모델 L_C가 개발 환경 D(실험에서는 Claude Code 2.1.177, GPT-5.5만 Codex 0.144.3) 안에서 하네스 H를 만들고, H는 개발 종료 후 동결(freeze, 이후 수정 불가 상태로 고정)된다. 그다음 실행자 모델 L_E가 동결된 H 안에서 하위 과제 x를 수행해 출력 y를 만들고, 평가기 J가 점수를 매긴다. H는 실행 루프, 도구, 컨텍스트 관리, 영속 상태, 라이프사이클 제어, 검증 로직을 모두 포함한다.
  • 평가 프로토콜: 6개 창작 모델(Opus 4.8, GPT-5.5, Gemini 3.1 Pro, DeepSeek V4 Pro, Qwen 3.7 Max, Seed 2.0 Pro) × 여러 하위 벤치마크 조합마다 독립적으로 하네스 3개를 생성해 avg@3(세 번 독립 실행의 평균)을 보고한다. 자가 평가(Self-Eval)에서는 창작자가 실행자도 겸하고, 통합 평가(Unified-Eval)에서는 모든 하네스가 동일한 실행자(Gemini 3.1 Pro) 안에서 돌아 실행자 호환성 효과를 분리한다.

두 가지 연구 질문

RQ1(생성): 약하지만 실행 가능한 시드로부터 효과적인 하네스를 만들어낼 수 있는가? RQ2(진화): 이미 잘 되는 부분을 깨뜨리지 않으면서 기존 하네스를 하위 실행 피드백으로 개선할 수 있는가?

핵심 기법

가장 중요한 설계는 “아티팩트 동결 프로토콜”이다. 개발이 끝난 하네스를 얼려버린 뒤 여러 하위 과제에 재사용하게 함으로써, 과제마다 코드를 새로 짜는 치팅을 원천 차단하고 “범용 인프라로서의 품질”만 측정한다. 여기에 Unified-Eval을 더해 실행자 모델을 고정하면, 순수한 하네스의 질과 “창작자가 자기 실행자에 맞춰 하네스를 튜닝하는 공진화(co-adaptation)” 효과를 분리해낼 수 있다.

📊 정량적 결과

주요 성과

  • 하네스의 힘에 대한 정량 입증: 동일한 GPT-5 가중치로 Terminal-Bench 2.1에서 Terminus 2 안에서는 35.2%, Codex CLI 안에서는 49.6%를 해결해 하네스만 약 14.4%p 차이를 만든다.
  • 생성(Creation) 성능의 도메인별 편차(자가 평가 기준): 최신 모델들은 글쓰기(writing) 영역에서 인간 참조(human reference) 시스템과 동등한 수준에 도달했고, 기계학습 실험(ML experimentation) 영역에서는 인간 참조를 능가했다.
  • 반면 검색(search)과 리서치(research) 영역에서는 인간 참조에 크게 뒤처졌고, 코드(code) 영역에서도 여전히 열세를 기록했다.

🚀 기존 대비 개선점

  • 평가 단위의 전환: 하위 과제의 정답률이 아니라, 동결 후 재사용되는 실행 가능한 인프라 자체를 채점 대상으로 삼아 일회성 성능과 지속적 역량을 구분한다.
  • 인간 대비 기준선 확보: 검증된 공개 시스템 결과를 인간 참조로 삼아, “LLM이 하네스 엔지니어를 대체할 수 있는가”를 직접 비교한다.
  • 혼재 변수의 분리: Self-Eval과 Unified-Eval의 대비, 그리고 실행자를 고정한 절제 실험(ablation)을 통해 “모델 능력”과 “하네스 품질”을 실험적으로 분리한다.

🎯 활용 분야

  • 하네스 엔지니어링 자동화: 코딩 어시스턴트, 데이터 분석 코파일럿, 브라우저 워커, 리서치 파이프라인 등 도메인 특화 하네스의 초기 구축과 유지보수를 LLM에 위임하는 워크플로우 설계
  • 모델-하네스 조합 선택 가이드: 어떤 창작 모델이 어떤 작업 계열에서 좋은 인프라를 만드는지, 만들어진 하네스가 다른 실행자에게도 이식 가능한지 판단하는 기준
  • 자가 개선형 에이전트 시스템 설계: 실행 피드백 기반 지속 개선 루프를 설계할 때 발생하는 회귀와 개선 소실 문제를 예방하는 설계 지침으로 활용

한계 및 주의사항

  • 진화 단계는 생성보다 훨씬 어렵다. 유용했던 중간 업데이트가 이후 변경에 의해 지워지는 경우가 잦고, 업데이트 횟수를 늘린다고 최종 성능 이득이 보장되지 않는다. 단순 반복 개선 루프로는 신뢰할 수 없다는 뜻이다.
  • 인간 참조 결과는 동일 실행자 아래에서 통제된 비교(pair control)가 아니라 검증된 공개 시스템 결과이므로, 인간 대비 수치는 공정 비교라 보기 어렵다.
  • 일부 하네스는 창작자-실행자 공진화로 인해 더 강한 실행자로 바꾸면 오히려 성능이 오르지 않는 이식성 문제를 보이며, 생성 성능 자체도 검색·리서치 도메인에서 크게 부족하다.

3. Aspire: Can Models Self-Evolve from Vague Goals?

arXiv: 2608.31111 | 기관: ByteDance Seed | ⬆️ 173 📊 순위선정 | 📄 HTML 태그: llm self-evolution benchmark post-training autonomous-agents goal-operationalization agentic-workflow evaluation 사전 지식: LLM 자기 개선(Self-evolution/Self-improvement), 사후 학습(Post-training: SFT·RLHF 같은 사전학습 이후 조정), 벤치마크 유출(Data leakage: 평가셋이 학습 과정에 노출되는 문제), 에이전트 하네스(Harness: 도구 호출·실행 루프 등 에이전트를 감싸는 뼈대), 보상 해킹(Reward Hacking과 굿하트의 법칙: 지표 자체가 목적이 되어버리는 현상)

한 줄 요약

기존 LLM 자기 개선 연구가 사람이 미리 정해준 과제와 평가 지표를 최적화하는 데 그쳤다면, Aspire는 “더 나은 물리학자 되기” 같은 막연한 목표(vague goal)만 주고 정답 평가셋까지 숨긴 채, 모델이 스스로 무엇을 배울지·어떻게 배울지·어떻게 검증할지 전부 결정하게 만드는 최초의 벤치마크라는 점에서 중요하다.

💡 핵심 아이디어

헬스장에 가서 코치가 “오늘은 벤치프레스 3세트, 4주 뒤에 측정”이라고 모든 걸 정해주는 것이 기존의 명시적 과제(explcit-task) 방식이다. 반면 Aspire는 “건강해져라”라는 말 한마디만 던지고, 체력 시험지는 끝까지 감춰버린다. AI 에이전트는 자기 부족한 부분을 스스로 진단하고, 학습 자료를 직접 고르고, 연습이 효과가 있는지 확인할 자기만의 측정법까지 만들어야 한다. 이는 인간의 실제 학습 대부분이 정답지도 채점 기준도 없는 막연한 방향에서 출발한다는 통찰을 그대로 기계 학습에 옮긴 것이다.

문제 정의

기존 LLM 자기 진화(self-evolution) 연구는 과제 형식, 데이터셋, 평가 스크립트, 성공 지표가 주어진 상태에서 “어떻게 개선할지(how)“만 탐색했다. 하지만 진정한 자율 학습은 세 가지가 얽힌 결정을 요구한다: 무엇을 개선할지(what), 어떻게 개선할지(how), 개선을 어떻게 검증할지(verify). Aspire는 이 세 가지를 모두 에이전트의 몫으로 넘기되, 공식 평가 항목은 컨트롤러 쪽에 봉인(sealed)해서 에이전트가 만든 대리 평가(proxy)의 향상이 진짜 실력 향상으로 이어지는지 외부에서 검증한다. 즉, 평가 점수가 오르는 착시가 아니라 실제 능력 증가를 잴 수 있는 실험 설계가 핵심 문제다.

🔬 방법론 상세

  • 캠페인-라운드 구조(Campaign & Round): 모호한 목표 G∈𝒢는 학습 과제·데이터셋·최적화 절차를 전혀 명시하지 않는 자연어 능력 목표다. 캠페인은 실험 계약 Γ=(G, ℰ_G, J, 𝒜, B, Σ)로 고정되는데, 여기엔 목표, 은닉 평가기(hidden evaluator), 판정 기준, 에이전트, 예산, 결과물 공개(retain/release) 정책이 담긴다. 각 라운드의 입력은 Y_r^in=(M_r, H_r, D_r), 즉 런타임 모델(model), 하네스(harness, 에이전트를 감싸는 도구 호출·루프 등의 뼈대), 데이터이며, 에이전트는 이 표면 위에서 목표 운영화(goal operationalization)를 수행한다 — 목표를 자기만의 데이터, 업데이트 목적함수, 검증 기준으로 번역하는 작업이다.
  • 은닉 평가기와 집계 피드백: 6개의 모호한 목표마다 평가셋을 마련하되, 벤치마크 정의·개별 문항·분해 가능한 보상(decomposable reward)을 전부 에이전트에게 비공개한다. 대신 제한된 집계 결과(bounded aggregate outcomes)만 돌려줘서, 실제 배포 환경에서나 받을 법한 희소한(sparse) 피드백을 모사한다. 평가기는 어디까지나 컨트롤러가 쥔 과학 장비 instrumentation)이지, 에이전트가 볼 수 있는 과제 명세나 직접 학습 가능한 신호가 아니다.
  • 최소 상호작용 환경: 에이전트가 데이터를 구축하고, 학습을 실행하고, 체크포인트를 검증한 뒤, 개선된 업데이트만 안전하게 보유(retain)하거나 폐기할 수 있는 실험 환경을 제공한다. 연구 질문은 셋으로 나뉜다. RQ1은 목표 명시 방식만 바꿔(원래 PostTrainBench 평가기 재사용) 모호한 목표가 탐색 과정에 미치는 영향을 본 분리 실험이고, RQ2는 가중치 업데이트로 실제 능력 향상이 가능한지, RQ3는 런타임 모델을 얼려 둔 채 하네스 자체가 진화할 수 있는지를 묻는다.

핵심 기법

가장 중요한 설계는 “평가기 은닉 + 제한적 집계 피드백”이다. 평가를 없애는 것이 아니라 컨트롤러가 소유한 채 숨기고, 에이전트에게는 총점 수준의 거친 피드백만 흘려주는 것이다. 이렇게 하면 두 가지가 동시에 가능해진다. 첫째, 에이전트가 만든 학습 신호에 과적합되거나 평가 지표를 편취하는 보상 해킹(reward hacking, 굿하트의 법칙)을 원천 차단해 진짜 실력 향상을 외부에서 측정할 수 있다. 둘째, 자기 개선의 전 과정이 궤적으로 남아 누구나 감사(audit)할 수 있어, 자기 진화 연구의 재현성과 분석 가능성이 확보된다.

📊 정량적 결과

주요 성과

  • 실험 규모: 6개 모호한 목표에 대해 final-only 프로토콜 24회 실행(모델-목표 쌍당 종료 시점 2회를 산술 평균한 Avg@2, 중간 평가 점수 없음), adaptive-feedback 프로토콜 30개 구성-목표 셀, RQ3에서는 동결된 하네스를 각 3회 실행해 런타임 변동성을 측정
  • RQ1 발견: 모호한 목표 프롬프트를 줬을 때, 명시적 과제 설정에 비해 목표 정의 작업(goal-definition work, 무엇을 최적화할지 스스로 정하는 활동)이 유의미하게 더 많이 나타남 — 목표 명시 방식 하나만 바꿔도 탐색 궤적의 성격이 달라짐을 확인
  • RQ2·RQ3 진단: 자율 실행이 “평가를 통과한 체크포인트”를 만들어내는 빈도는 높지만, 실제로 “보유된 개선(retained improvement)“으로 이어지는 경우는 훨씬 드물었고, 하네스 자체 진화(RQ3)의 최고 평균 성능도 런타임 가중치가 고정된 상태에서는 고정 참조(fixed reference) 모델에 미치지 못함

수치 해석 시 주의

제공된 논문 발췌에는 백분율 형태의 성능 향상 수치가 직접 포함되어 있지 않다. 이 논문은 “우리 방법이 몇 % 더 좋다”를 주장하는 벤치마크가 아니라, 현재 LLM 자기 진화의 실제 수준을 냉정하게 재는 측정 도구이기 때문에, 위의 실행 규모와 방향성 발견이 곧 핵심 정량 결과다. 세부 수치는 논문의 부록 C(예산·평가기 설정·결과 정의)에 있다.

🚀 기존 대비 개선점

  • PostTrainBench 같은 선행 벤치마크가 과제·지표·성공 기준을 사람이 모두 제공해 “고정된 목적함수를 어떻게 최적화할지”만 남겨뒀다면, Aspire는 최적화할 목적 자체를 정하는 단계를 실험 대상에 포함시켰다
  • “무엇을 배울지(what)“와 “어떻게 검증할지(verify)“라는, 기존 연구가 외부에 위임했던 두 결정을 처음으로 에이전트의 능력 측정 항목으로 격상
  • 은닉 평가기 + 감사 가능한 궤적 설계로, 자기 개선의 향상이 진짜 능력 증가인지 평가 적합성 착시인지 구별할 수 있는 방법론을 제시

🎯 활용 분야

  • 자율 개선 에이전트 평가: 스스로 데이터를 모으고 학습까지 돌리는 오토노머스 연구 에이전트나 자기 개선형 코딩 에이전트의 실제 역량을 재는 리그(벤치마크)로 활용
  • 사후 학습(post-training, SFT·RLHF 등 모델 출시 전 조정 과정) 자동화 파이프라인 검증: 데이터 선정부터 체크포인트 선택을 AI에게 위임하는 시스템의 효율성과 안전성 시험
  • 자기 진화 AI 안전성 연구: 모델이 스스로 개선했다고 주장할 때 그것이 실제 능력 향상인지 판별하는 감사(audit) 프레임워크로 확장 가능

한계 및 주의사항

  • 결과가 냉정하다: 자율 실행은 평가된 체크포인트를 많이 만들지만 실제 보유된 개선은 드물었고, 하네스 자체 진화도 고정 참조를 넘지 못했다. 즉 현재 LLM의 모호한 목표 기반 자기 진화는 아직 초기 단계이며, 이 논문은 해결책보다 문제의 난이도를 입증하는 데 무게를 둔다
  • 저자의 핵심 교훈: 진행 상황은 반드시 베이스 모델 대비로 판단해야 한다. 체크포인트가 많다고, 중간 점수가 오른다고 실력이 는 게 아니며, 이 착시를 구분하는 것이 이 설정에서 가장 어려운 부분이다
  • 설계상 딜레마도 남는다: 평가기 피드백이 너무 적으면 에이전트 탐색이 막히고, 너무 많으면 은닉 평가가 유출되어 학습 신호로 오염된다. 이 균형점을 어디에 둘지는 결국 설계자의 판단에 의존한다

4. SolarWM: Open Data and Scalable Training for Long-Horizon Video World Models

arXiv: 2609.02886 | 기관: Chinese University of Hong Kong, Shenzhen | ⬆️ 133 | ⭐ 273 📊 순위선정 | 📄 HTML 태그: world-model video-generation flow-matching distillation autoregressive interactive-simulation open-source data-engineering 사전 지식: Diffusion Model (확산 모델)과 Flow Matching (흐름 매칭), Latent Space (잠재 공간), Autoregressive World Model (자기회귀 월드 모델), Teacher Forcing (교사 강제), Distribution Matching Distillation과 Consistency Distillation (증류 기법), Bidirectional vs Causal Attention (양방향/인과 어텐션)

한 줄 요약

SolarWM은 이기종 10개 데이터셋에서 추출한 143만 개 클립을 하나의 표준 계약으로 통합하는 데이터 엔진과, 어떤 비디오 생성 백본이든 3단계 학습만으로 시간(hour) 단위의 장기 자기회귀 롤아웃이 가능한 월드 모델로 만드는 적응 프레임워크를 전부 공개하여, 대화형 비디오 월드 모델 연구의 재현성과 비교 가능성을 담보한 완전 개방형 파운데이션이라는 점에서 중요하다.

💡 핵심 아이디어

세계 각국의 요리책 10권(데이터셋)이 서로 다른 단위계(시간 스케일, 카메라 표기법)와 각기 다른 필체(캡션 스타일)로 쓰여 있어 한 주방에서 함께 쓸 수 없는 상황을 상상해보자. SolarWM은 모든 레시피를 공용 단위로 다시 쓰는 통합 번역기(멀티소스 데이터 엔진)와, 어떤 요리사(비디오 생성 백본)가 오더라도 같은 커리큘럼으로 수료시키는 표준 교육 과정(백본 네이티브 적응 프레임워크)을 한 세트로 제공한다. 덕분에 요리사는 물려받은 실력(사전학습 가중치)을 잃지 않으면서도, 한 장면씩 끊어 만드는 게 아니라 시간 단위로 이어지는 이야기(장기 롤아웃)를 완성할 수 있다.

문제 정의

대화형 비디오 월드 모델(World Model, 환경의 동작을 학습해 미래 관측을 예측하는 모델)은 카메라 움직임, 행동(action), 텍스트 지시에 따라 미래를 상상해야 한다. 그런데 두 가지 장벽이 맞물려 있다. (1) 데이터 쪽에서는 데이터셋마다 시간 스케일, 카메라 기하학, 화질, 모션 분포, 캡션 스타일이 달라 단순히 섞으면 감독 신호가 일관되지 않는다. (2) 모델 쪽에서는 비디오 생성기마다 표현 방식과 아키텍처가 달라 모델별로 따로 구현하면 재현·비교가 불가능하다. 게다가 짧은 클립 생성에서 상호작용 가능한 장기 롤아웃으로 넘어가려면 시각 품질, 시간적 일관성, 제어 반응성을 동시에 유지하면서 사전학습 능력을 훼손하지 않는 적응이 필요하다.

🔬 방법론 상세

  • 재구성 가능한 멀티소스 데이터 엔진 (Reconfigurable Multi-Source Data Engine)
    • 10개 데이터셋에서 143만 개 정규화 클립(canonical clip)을 추출해, 프레임 정렬 계약(frame-aligned contract), 즉 모든 요소가 동일한 시간 격자에 맞춰진 표준 형식으로 변환한다.
    • 시각 관측 등 조건 요소들을 통일해, 어떤 데이터 조합을 섞어도 일관된 감독(supervision)이 나오도록 설계했다.
  • 백본 네이티브 적응 (Backbone-Native Adaptation)
    • 백본이 원래 학습한 고유 타깃(네이티브 flow 또는 velocity)을 그대로 예측하게 하여 사전학습 능력을 보존한다.
    • 1단계 손실: L_bid = E_{z0,t,ε}[ || f_θ(z_t, t, c) − u_t || ]. 여기서 z_0는 깨끗한 비디오 잠재(latent), z_t는 노이즈가 섞인 잠재, c는 텍스트·이미지·카메라 조건, u_t는 백본 고유의 예측 타깃이다.
  • 3단계 학습 파이프라인 (SolarWM-5B 기준)
    1. 양방향 적응(Bidirectional Adaptation): 양방향 어텐션 상태에서 카메라 조건 월드 데이터로 백본을 적응시킨다.
    2. TF-AnyFlow(Teacher-Forced AnyFlow) 초기화: 인과(causal) 어텐션으로 전환한 뒤, 정답을 보여주는 teacher forcing과 AnyFlow 손실을 결합해 few-step(적은 스텝) 자기회귀 초기화 모델을 직접 만든다.
    3. DMD(Distribution Matching Distillation, 분포 매칭 증류) 기반 인과 훈련: 모델이 스스로 생성한 궤적(trajectory)으로 학습해, 학습 분포와 실제 추론 시 분포의 괴리를 좁힌다.

핵심 기법

TF-AnyFlow의 요점은 새로 가르치는 것이 아니라 꺼내 쓴다는 것이다. 1단계의 양방향 모델은 이미 외형과 모션을 잘 알고 있다. 2단계에서 어텐션만 인과적으로 바꾸고 정답 클립을 앞부분으로 주며 뒷부분 예측을 활성화하면, 몇 스텝 만에 다음 장면을 그리는 초기화 모델이 완성된다. 그래서 학습이 빠르고, 기존 Causal Forcing과 Causal Forcing++가 반드시 거쳐야 했던 별도 초기화 단계인 Causal ODE와 Causal Consistency Distillation(CD) 두 개를 통째로 생략한다. few-step 추론을 처음부터 보장하는 것도 큰 차별점이다.

📊 정량적 결과

주요 성과

  • 데이터 규모: 10개 이기종 데이터셋에서 143만 개 클립을 단일 표준 계약으로 변환
  • 롤아웃 길이: 5B(50억) 파라미터 모델(SolarWM-5B) 기준 시간(hour) 규모의 연속 추론 시연, 기존 수 초 단위 클립 생성의 한계를 크게 넘어섬
  • 학습 절차 간소화: 기존 Causal Forcing 계열이 필요로 하던 초기화 단계 2개(Causal ODE, Causal Consistency Distillation)를 제거하여 파이프라인을 3단계로 압축

참고로, 제공된 전문에는 벤치마크별 세부 수치(예: FVD, 인간 평가 점수 등)와 정확한 개선 백분율이 담긴 실험 표가 포함되어 있지 않아 위 수치만 직접 인용할 수 있다. 세부 수치는 원문 5장 이후의 표를 확인해야 한다.

🚀 기존 대비 개선점

  • 일관된 감독으로 재현성 확보: 데이터셋별 편차를 엔진이 흡수하므로, 어떤 데이터를 어떻게 섞어도 동일한 감독 신호가 유지되어 결과 비교와 재현이 가능해진다.
  • 백본 이식성: Genie, GameNGen, MineWorld처럼 특정 환경이나 제어 어휘에 종속되던 기존 월드 모델과 달리, 서로 다른 비디오 생성기에도 같은 레시피를 적용할 수 있다.
  • 학습 효율: 양방향 모델의 지식을 활성화하는 방식으로 인과 전환 비용을 줄이고, 추가 증류 초기화 없이 few-step 자기회귀 추론에 바로 진입한다.
  • 완전 개방성: 데이터 준비부터 장기 추론까지 전 과정이 공개되어 커뮤니티가 검증하고 확장할 수 있다.

🎯 활용 분야

  • 인터랙티브 콘텐츠 제작: 카메라, 키보드, 텍스트 지시로 자유롭게 탐험하는 오픈 도메인 가상 세계 구축 (Yume, Genie 3 계열의 개방형 대안)
  • 시뮬레이션 및 구현 학습(Embodied Learning): 로봇이나 에이전트의 학습 환경으로 쓸 수 있는 시뮬레이터를 데이터 파이프라인째로 재사용
  • 연구 인프라 표준화: 데이터 엔진과 적응 레시피를 조합해 새로운 백본이나 새로운 데이터 도메인에 대한 월드 모델 실험을 동일한 틀에서 수행

한계 및 주의사항

  • 제공된 전문에는 한계(limitations) 절이 잘려 있어 저자의 명시적 서술을 직접 확인할 수 없다. 다만 구조상 다음 항목들이 자연스러운 한계로 예상된다.
  • 장기 롤아웃의 오차 누적: 자기회귀 구조 특성상 시간 단위 롤아웃에서 초기 오차가 누적될 수 있으며, 3단계(DMD)에서 모델 생성 궤적으로 학습해 완화하지만 근본적 해결은 아니다.
  • 이질성 흡수의 한계: 데이터 엔진이 형식을 통일해도 원천 데이터의 화질·모션 편차는 모델 편향으로 이어질 수 있고, 공개 데이터만으로 학습했기 때문에 폐쇄 데이터를 쓰는 상용 시스템 대비 품질 격차가 남을 수 있다.

5. EarlyEval: Cheaper Agent Evaluation via Early Outcome Prediction

arXiv: 2609.02783 | 기관: Shanghai Jiao Tong University | ⬆️ 110 | ⭐ 1 📊 순위선정 | 📄 HTML 태그: ai-paper ml

❌ 분석 실패: Post “https://api.z.ai/api/coding/paas/v4/chat/completions”: context deadline exceeded (Client.Timeout exceeded while awaiting headers)

6. It Takes Two to Match: Co-Evolving Generative Retriever with Reinforcement Learning

arXiv: 2609.00638 | 기관: Apple | ⬆️ 64 🤖 GLM추천 | 📄 HTML 태그: ai-paper ml

❌ 분석 실패: Post “https://api.z.ai/api/coding/paas/v4/chat/completions”: context deadline exceeded (Client.Timeout exceeded while awaiting headers)

7. Language Models Can Control Their Own Attention

arXiv: 2609.02737 | 기관: KAIST AI | ⬆️ 51 🤖 GLM추천 | 📄 HTML 태그: ai-paper ml

❌ 분석 실패: Post “https://api.z.ai/api/coding/paas/v4/chat/completions”: context deadline exceeded (Client.Timeout exceeded while awaiting headers)

8. NeoMME: A Single-Tower Multimodal-Native Multilingual Foundation Encoder for Efficient Fine-Tuning and Inference

arXiv: 2609.01657 | 기관: H company | ⬆️ 22 🤖 GLM추천 | 📄 HTML 태그: multimodal encoder document-retrieval colpali masked-diffusion multilingual embedding efficient-inference 사전 지식: 양방향 인코더 vs 인과적 디코더(BERT vs GPT, 문맥을 양쪽에서 보는가 한 방향으로만 보는가의 차이), 마스크 언어 모델링과 이산 확산(Discrete Diffusion, 빈칸을 점진적으로 복원하는 학습 방식), late-interaction(ColBERT·ColPali의 토큰 수준 유사도 매칭 검색 기법), 비전-언어 모델 구조(VLM, 듀얼타워 CLIP·SigLIP vs 싱글타워), BPE 토크나이저(Byte-Pair Encoding, 문자 쌍을 병합해 어휘를 만드는 압축 기법)

한 줄 요약

텍스트 생성용으로 만들어진 거대 VLM(시각-언어 모델)을 검색 같은 비생성 작업에 비싼 값에 재활용하는 기존 방식의 비효율을 지적하고, 다국어 텍스트와 이미지 패치를 하나의 양방향 인코더에서 처음부터 함께 학습시킨 260M/800M 규모의 멀티모달 네이티브 인코더(NeoMME)로, 훨씬 작은 크기로 시각 문서 검색과 임베딩 작업을 수행함을 증명했다.

💡 핵심 아이디어

기존 시각 문서 검색기(ColPali 등)는 “편지 한 통을 배달하는 데 화물 트럭을 끌고 나오는” 격이다. 텍스트를 생성하도록 설계된 거대 VLM을 통째로 가져와서, 정작 필요 없는 생성 기능까지 비용으로 지불하는 셈이다. NeoMME는 배달 목적에 딱 맞게 만든 전용 오토바이처럼, 이미지 패치와 다국어 텍스트를 한 몸(단일 양방향 Transformer)에 담고 “빈칸 맞히기” 학습만으로 표현 만들기에 최적화된 소형 모델을 처음부터 새로 훈련했다.

문제 정의

  • 생성용 아키텍처의 낭비: ColPali, DSE 같은 시각 문서 검색기는 별도로 사전학습된 비전 인코더와 인과적(causal) 언어모델을 결합한 VLM을 재활용하는데, 텍스트를 만들어내지 않는 임베딩 작업에도 불필요한 파라미터와 연산 비용을 그대로 떠안는다.
  • 듀얼타워(tower 분리)의 한계: CLIP·SigLIP 방식은 이미지 타워와 텍스트 타워가 따로 놀기 때문에, 한 문서 안에서 이미지와 텍스트가 얽혀 있는 깊은 상호작용을 초기 레이어부터 학습하기 어렵다.
  • 근거 연구: Ettin 등의 분석에 따르면 분류·검색 과제에서는 네이티브 마스크 인코더가 인과적 디코더보다 우수하다. 즉, 검색용으로는 처음부터 인코더로 만드는 것이 이론적으로도 옳다.

🔬 방법론 상세

  • 단일 타워 양방향 인코더: 텍스트 토큰과 32×32 RGB 이미지 패치를 모달리티별 입력 레이어로 공유 은닉 공간에 넣고, 하나의 양방향 Transformer가 동시에 처리한다. 컨텍스트 길이는 16,384 토큰으로, 표준 4K UHD 문서 이미지 2장 분량을 한 번에 인코딩할 수 있다.
  • 마스크 이산 확산 목적함수(Masked Discrete-Diffusion Objective): BERT식 마스크 복원을 확장한 학습 방식으로, 텍스트 전용 예제에서는 단순 마스크 복원, 멀티모달 예제에서는 보이는 이미지 패치(visible image patches)를 조건으로 마스크된 텍스트를 복원한다. 하나의 목적함수로 텍스트 전용·멀티모달 학습을 통일했다.
  • 백지에서 훈련한 토크나이저: 공백 제약 없는(whitespace-unconstrained) 바이트 레벨 BPE로, 단어 경계를 넘는 병합을 허용해 다중 단어 표현이나 코드 들여쓰기 패턴까지 하나의 토큰으로 압축한다. 어휘 크기 131,072, 바이트 폴백(byte fallback) 지원, 토큰당 최대 48바이트.
  • 동적 해상도(Dynamic Resolution): 이미지의 종횡비(aspect ratio)를 그대로 유지하며 패치 병합 없이 처리한다.
  • 사전학습 배합: 총 약 524B packed 토큰을 텍스트 전용 55% / 멀티모달 45%로 구성. 텍스트에는 FineWeb-Edu, FineWeb2-HQ, FineMath, StarCoderData 등을, 멀티모달에는 문서 이미지·OCR 데이터·자연 이미지를 사용한다.
  • NeoMME-Retriever: 순전파 한 번으로 dense 임베딩(문서 전체를 하나의 벡터로)과 late-interaction 표현(토큰 수준 세부 매칭, ColBERT 방식)을 동시에 출력해, 추론 시점에 검색 전략을 고를 수 있다.

핵심 기법

백미는 “이미지를 조건으로 삼는 빈칸 맞히기”다. 예컨대 스캔된 영수증 이미지와 “총액은 ___원입니다”라는 텍스트가 함께 주어지면, 모델은 이미지 속 숫자를 직접 읽어야만 빈칸을 채울 수 있다. 이 구조 덕분에 텍스트만 외우고 이미지를 무시하는 지름길(text-only shortcut)이 원천적으로 차단되고, 이미지 근거를 쓰는 힘이 자연스럽게 길러진다. 게다가 생성용 디코더를 아예 두지 않으므로, 모든 파라미터가 “좋은 표현 만들기”에만 쓰인다.

📊 정량적 결과

주요 성과

  • 토크나이저 효율: FLORES-200 devtest 기준 14개 대상 언어의 총 토큰 수에서 ModernBERT 대비 44.4% 적게 출력한다. (토큰 수 절감은 시퀀스 길이·연산량·비용 절감으로 직결된다.)
  • 모델 크기: 수십억 파라미터급 VLM에 의존하는 ColPali 계열과 달리, 260M과 800M 두 가지 소형 모델만으로 멀티모달+다국어 검색을 수행한다.
  • 학습·컨텍스트 규모: 524B 토큰 규모 사전학습, 16,384 토큰 컨텍스트로 4K UHD 이미지 2장 전체 처리 가능.

🚀 기존 대비 개선점

  • 구조적 통합: ModernVBERT가 디코더만 양방향 인코더로 교체하고 SigLIP2 비전 타워를 유지한 것과 달리, NeoMME는 비전 타워 자체가 없다. 이미지와 텍스트의 상호작용이 네트워크 가장 아래부터 시작된다.
  • 비용 효율: 생성 능력에 낭비되는 파라미터를 제거해, 검색·임베딩 품질을 유지하면서도 파라미터 수와 추론 비용을 크게 줄였다.
  • 표현 유연성: 한 번의 순전파로 dense와 late-interaction 표현을 모두 얻으므로, 정확도(토큰 수준 매칭)와 속도(단일 벡터 비교) 사이의 균형을 서비스 상황에 맞게 조절할 수 있다.

🎯 활용 분야

  • 시각 문서 검색(RAG): PDF 스캔본, 계약서, 보고서, 영수증처럼 레이아웃이 있는 문서에서 질의-문서 매칭. ColPali의 저비용 대체재.
  • 다국어 검색·분류: 20개 이상 언어를 커버하는 토크나이저 덕분에 비영어권 문서 검색, 리랭킹(reranking), 중복 제거, 다국어 라우팅에 적합.
  • 온디바이스·엣지 임베딩: 260M 모델은 GPU 자원이 제한적인 환경에서도 문서 임베딩 파이프라인을 구동할 수 있다.

한계 및 주의사항

  • 생성 불가: 인코더 전용 모델이므로 텍스트 생성이나 시각 질의응답(VQA) 답변 생성에는 쓸 수 없다. 어디까지나 표현(임베딩) 추출 특화 모델이다.
  • 데이터 배합에 민감: 논문 스스로 텍스트 지름길을 막기 위해 55:45 배합을 정교하게 설계했을 만큼, 멀티모달 데이터 품질이 낮으면 모델이 이미지를 무시하고 텍스트에만 의존할 위험이 있다.
  • 참고: 제공된 전문이 발췌본이므로 세부 벤치마크 점수(정확한 리콜·nDCG 수치)와 한계 논의 전문은 원문을 직접 확인해야 한다.

9. Cliff: Learning Process Rewards from the First Mistake

arXiv: 2609.02817 | ⬆️ 15 🤖 GLM추천 | 📄 HTML 태그: ai-paper ml

❌ 분석 실패: Post “https://api.z.ai/api/coding/paas/v4/chat/completions”: context deadline exceeded (Client.Timeout exceeded while awaiting headers)

10. VibeVoice-ASR-Streaming Technical Report

arXiv: 2609.02812 | 기관: Microsoft | ⬆️ 10 🤖 GLM추천 | 📄 HTML 태그: ai-paper ml

❌ 분석 실패: Post “https://api.z.ai/api/coding/paas/v4/chat/completions”: context deadline exceeded (Client.Timeout exceeded while awaiting headers)

📅 생성일: 2026-09-03 | 🤖 GLM-4.7

그래프 뷰