📚 2026-09-18 AI 논문 핵심 요약
📊 순위 기반: 5개 | 🤖 GLM 추천: 4개 📄 전문 분석: 8개 | 📝 초록 분석: 1개
📑 목차
- 📊📄 DeepSeek-V4.1-Flash: Pushing the Limits of KV… ⬆️57
- 📊📄 SoL-Pi: Recursively Scaling Auto-Research Loo… ⬆️46
- 📊📄 An Empirical Study of Harness Design for Codi… ⬆️37
- 📊📄 When EOS Tokens Disagree: Understanding Lengt… ⬆️30 ❌
- 📊📄 JEPA-Anything: Learning Predictive Models acr… ⬆️23 ❌
- 🤖📄 RetireOPD: Self-Retiring On-Policy Distillati… ⬆️15 ❌
- 🤖📄 Reflect, Revise, Reuse: Training-Free Skill E… ⬆️11 ❌
- 🤖📝 Video DeltaNet: A Video-Native Hybrid Attenti… ⬆️6
- 🤖📄 When2Think: Learning Difficulty-Aware Length … ⬆️4 ❌
1. DeepSeek-V4.1-Flash: Pushing the Limits of KV Cache Compression
arXiv: 2609.19969 | 기관: DeepSeek | ⬆️ 57 📊 순위선정 | 📄 HTML 태그:
kv-cachemoelong-contextsparse-attentionquantizationinference-optimizationmultimodaldeepseek사전 지식: KV Cache (KV 캐시), Mixture-of-Experts (전문가 혼합), Prefill vs Decode (추론 두 단계), Sparse Attention / Sliding-Window Attention (희소 어텐션), Quantization (FP4, 양자화), HBM과 메모리 대역폭 병목
한 줄 요약
백만 토큰 컨텍스트 시대에 가장 큰 병목인 KV 캐시(KV Cache, 어텐션 계산을 위해 저장해두는 키·값 벡터 메모리)의 용량과 대역폭 문제를, 프리필(입력 처리) 단계에서 활성 파라미터를 절반으로 줄이는 인코더-디코더 아키텍처와 FP4 캐시 압축으로 토큰당 890바이트까지 줄여본 모델이라는 점에서 중요하다.
💡 핵심 아이디어
도서관에서 책을 빌릴 때, 책을 다 읽는 데 필요한 자리(프리필)와 한 줄씩 적어 내려가는 자리(디코딩)의 크기가 똑같을 필요는 없다는 발상이다. DeepSeek-V4.1-Flash는 “입력을 읽는 일”에는 가벼운 몸(8B 파라미터)을 쓰고, “답을 쓰는 일”에는 온전한 몸(16B 파라미터)을 쓰는 인과적 인코더-디코더(CED, Causal Encoder-Decoder) 구조로 전환했다. 여기에 메모장(KV 캐시)을 4비트로 초압축하고, 서로 다른 층이 같은 메모장을 공유하게 만들어, 긴 대화를 유지하는 비용을 근본적으로 낮췄다.
문제 정의
장기 에이전트(Long-horizon Agent, 여러 단계를 걸쳐 작업을 수행하는 AI)의 확산으로 워크로드가 입력 중심(input-heavy)으로 바뀌면서 두 가지 병목이 부각됐다. 첫째, 프리필(prefill, 입력 토큰을 한 번에 처리하는 단계)이 여전히 연산 비용이 크다. 둘째, 거대한 KV 캐시가 HBM(GPU 고대역폭 메모리)과 SSD 용량, 그리고 데이터 전송 대역폭을 압박한다. 희소 어텐션(Sparse Attention)으로 연산 비용은 이미 많이 줄였지만, 캐시를 저장·재사용·이동하는 비용이 남은 문제였다. 특히 DeepSeek-V4 구조에서 슬라이딩 윈도우 어텐션(SWA)의 캐시는 시퀀스 길이와 무관하게 고정되는 반면, 전역 어텐션의 글로벌 KV는 시퀀스가 길어질수록 지배적으로 커진다.
🔬 방법론 상세
- 인과적 인코더-디코더(CED) 아키텍처: 552B 백본 파라미터를 가진 멀티모달 MoE(Mixture-of-Experts, 입력마다 일부 전문가만 활성화하는 구조) 모델로, 프리필 시 토큰당 8B, 디코딩 시 토큰당 16B 파라미터만 활성화한다. 입력 처리는 가볍게, 생성은 무겁게 하여 입력이 많은 에이전트 워크로드의 비용 효율을 높인다.
- CSA2의 층 간 KV 캐시 재사용(Cross-layer KV Cache Reuse): 압축 희소 어텐션 2(Compressed Sparse Attention 2)에서 인접 층들이 글로벌 KV를 공유해 저장 중복을 제거한다.
- FP4 KV 캐싱: 글로벌 KV를 4비트 부동소수점으로 저장해 HBM 점유를 극적으로 줄인다. 캐시는 항상 HBM에 상주하므로 이 압축이 곧 스루풋 향상으로 이어진다.
- 영속 KV 캐시(Persistent KV Cache) 관리: 접두사 재사용을 위해 캐시를 SSD·호스트 메모리에 저장하고, I/O와 상호연결 대역폭 제약을 고려한 캐시 이동·적재 전략으로 배포 비용을 최적화한다.
- 멀티모달 학습 인프라: 대조 학습(Contrastive Learning) 단계에서 텍스트·비전 피처의 올갯더(All-gather, 분산 랭크 간 피처 수집) 통신을 순전파·역전파와 겹쳐 수행(오버랩)하는 스케줄로 통신 지연을 숨긴다. Forward(V) → (Forward(T) ∥ AllGather(V)) → ∇Text → (Backward(T) ∥ AllGather(T)) → ∇Vision → Backward(V) 순서로 파이프라인을 멈추지 않는다.
- 데이터 구축: 정보 이득이 적은 모델 생성 콘텐츠(저성능 모델 출력, 저품질 기계 번역 텍스트)를 암묵적 중복으로 간주해 걷어내고, 최신 오픈소스 코드·커밋·프레임워크를 반영하며, 도메인 전문가가 세분화된 품질 평가 차원을 설계했다.
핵심 기법
가장 중요한 것은 “단계별 비대칭 활성화”다. 일반적으로 트랜스포머는 입력을 읽을 때와 답을 쓸 때 같은 양의 연산을 한다. 하지만 요약·문서 분석처럼 입력이 길고 출력이 짧은 에이전트 작업에서는 프리필이 비용 대부분을 차지한다. CED는 프리필 토큰에 대해 활성 파라미터를 8B로 절반만 켜서 이 비용을 대폭 깎고, 검증된 문맥 위에서 디코딩할 때만 16B 전문가를 동원해 품질을 유지한다. 마치 두꺼운 책을 훑을 때는 조교를 보내고, 최종 보고서를 쓸 때만 교수가 나서는 셈이다.
📊 정량적 결과
주요 성과
- 글로벌 KV 캐시를 토큰당 890바이트로 압축, 이전 버전 대비 약 1/4 수준 (HBM 상시 점유 기준)
- 프리필 시 토큰당 활성 파라미터 8B로 디코딩(16B) 대비 50% 절감
- 최대 100만 토큰 컨텍스트 지원, 552B 백본 파라미터의 멀티모달 MoE 달성
🚀 기존 대비 개선점
- 캐시 용량: CSA2의 층 간 재사용과 FP4 캐싱을 결합해 글로벌 KV 풋프린트를 1/4로 축소, 같은 HBM으로 더 긴 시퀀스·더 많은 동시 요청 처리 가능
- 연산 비용: 입력 중심 워크로드에서 프리필 활성 파라미터를 절반으로 줄여 배포 비용 직접 절감
- 병목 전환: 희소 어텐션으로 연산 병목을 해결한 이전 세대(V4)에서, 이제 저장·대역폭 병목까지 함께 공략
🎯 활용 분야
- 장기 에이전트: 수십만 토큰의 도구 호출 이력·문서를 유지하며 작업하는 코딩 에이전트, 리서치 어시스턴트
- 접두사 캐시 재사용 서비스: 동일 시스템 프롬프트·코드베이스를 여러 사용자가 공유하는 API 서빙 환경에서 영속 KV 캐시로 응답 지연과 비용 절감
- 멀티모달 장문 처리: 긴 영상·대량 문서·코드 저장소 전체를 한 번의 컨텍스트로 분석하는 파이프라인
한계 및 주의사항
- FP4 KV 캐싱은 4비트 양자화(Quantization, 낮은 비트로 수치를 표현해 메모리를 줄이는 기법)이므로, 매우 긴 컨텍스트에서의 정밀도 저하 가능성을 서빙 환경별로 검증해야 한다. 저자들도 결론에서 아키텍처·캐시 정밀도·배포 전략의 공동 최적화가 특정 워크로드에 최적화된 선택임을 명시한다.
- CED의 비대칭 활성화는 입력이 길고 출력이 짧은 워크로드에 유리한 구조로, 출력이 긴 생성 작업에서는 이득이 줄어들 수 있다. 향후 방향으로 모델 인 더 루프 데이터 반복(model-in-the-loop data iteration)과 합성 데이터 기반 확장을 언급하며 후속 연구의 여지를 남겼다.
2. SoL-Pi: Recursively Scaling Auto-Research Loops for Efficient Agent Harness
arXiv: 2609.20519 | 기관: NVIDIA | ⬆️ 46 | ⭐ 2235 📊 순위선정 | 📄 HTML 태그:
llm-agentagent-harnessrecursive-self-improvementtoken-efficiencyautomated-agent-designcontext-managementcost-optimizationagentic-ai사전 지식: Agent Harness(에이전트 하네스, 모델과 환경 사이에서 상태 노출·행동 실행·피드백 처리를 담당하는 실행 뼈대), Recursive Self-Improvement(RSI, 재귀적 자기 개선)와 Gödel Machine, LLM 에이전트와 도구 사용(Tool Use), 컨텍스트 윈도우와 컨텍스트 관리, SWE-agent의 에이전트-컴퓨터 인터페이스 개념, 자동 에이전트 설계(ADAS, AFlow 계열의 코드·워크플로우 탐색)
한 줄 요약
이 논문은 에이전트의 토큰 효율을 모델 학습이나 인프라 개선이 아닌, 하네스(에이전트 실행 뼈대) 레이어에서 자동 연구 루프를 재귀적으로 돌려 발굴함으로써, 추가 훈련 없이도 토큰 사용량을 거의 절반으로 줄이면서 성능을 오히려 높일 수 있음을 증명했다는 점에서 중요하다.
💡 핵심 아이디어
자동차가 기름을 덜 쓰고 더 멀리 가게 하려면 엔진(모델)을 갈아끼우는 대신, 변속 타이밍·경로 선택·공조기 사용 같은 운전 습관(하네스)을 다듬으면 된다. SoL-Pi는 AI 에이전트가 스스로의 운전 습관에 해당하는 하네스 코드를 자동으로 연구하고, 수많은 환경에서 롤아웃(Rollout, 실제 실행 시험)을 반복하며 살아남은 개선 안만 남기는 진화적 선택 과정을 돌린다. 그 결과 탄생한 네 가지 메커니즘은 개발에 쓴 환경은 물론, 아예 다른 모델(GPT-5.6 Sol에서 Opus 5)에도 수정 없이 그대로 전이된다.
문제 정의
에이전트가 사람의 감독 없이 장시간 자율 작업을 수행하면, 작업 하나가 추론·도구 호출·피드백으로 이어지는 긴 궤적이 되고 토큰 소비가 1차적인 시스템 병목으로 떠오른다. 기존 효율화 연구는 더 빠른 어텐션 커널, 양자화(Quantization, 모델 가중치를 낮은 정밀도로 압축), 저렴한 모델 사용 등 토큰당 비용 절감에 집중했다. 반면 하네스 레벨 최적화는 모델 학습 없이 가능하다는 장점이 있지만, 도구 사용·컨텍스트 관리·검증·위임·복구·종료가 서로 강하게 결합되어 있어 어느 한 부분의 개선이 다른 부분의 실패를 유발하거나 비용을 실행 뒷단으로 전가하기 쉽다. 지금까지는 사람이 긴 실행 트레이스를 직접 읽고 반복되는 실패 패턴을 찾아 코드를 고치는 막노동에 의존해왔다.
🔬 방법론 상세
- RSI(Recursive Self-Improvement, 재귀적 자기 개선) 영감의 오토 리서치 루프: 하네스 개선 후보를 자동 생성하고, 점점 더 많고 다양한 환경에서 하네스 롤아웃을 실행해 선택 압력을 가한다. 이 규모의 반복을 거치면 개발 환경을 넘어 재사용 가능한 개선만 살아남는다.
- 선택을 통과해 살아남은 4개 메커니즘이 SoL-Pi를 구성한다:
- 액션 퓨전(Action Fusion), 액션 실행 영역 — 여러 실행 동작을 묶어 호출 오버헤드를 줄이는 기법으로, 3.5절에서 개발·선택 과정이 추적된 대표 사례다.
- 컨텍스트 컴팩션(Context Compaction), 컨텍스트 압축 영역 — 길어진 실행 이력을 압축해 컨텍스트 윈도우(모델이 한 번에 볼 수 있는 입력 범위) 낭비를 줄인다.
- 옵저베이션 팩(ObservationPack), 관찰 처리 영역 — 환경 관찰 결과를 패키징해 토큰은 아끼면서 정보 전달력을 유지하며, GPT-5.6 Sol에서 단일 메커니즘으로 최고 평균 점수를 기록했다.
- 위임 읽기(Delegated Reading), 위임 영역 — 긴 문서 읽기를 하위 작업으로 위임해 메인 컨텍스트 오염을 막는다.
- 두 가지 운영 지점(operating point)을 제시한다: 4개 메커니즘 전부를 고정 적용한 SoL-Pi [Efficiency](토큰 효율 극대화)와, 백엔드별로 점수가 가장 높은 단일 메커니즘만 쓰는 SoL-Pi [Performance].
- 평가는 EdgeBench(전체 134개 중 공개된 51개 태스크), Terminal-Bench 4(완료율), IMO 2026(Lean 4 형식 검증 통과 문제 수), 커널 최적화 벤치마크, 그리고 다중 에이전트 스웜(3.3절)에서 수행됐다. 효율 지표는 집계 태스크 점수 1단위당 API 비용으로 정의했다.
핵심 기법
하네스 코드 공간에 자동 연구 루프를 돌리는 것이다. 뮤태이션(변형)된 하네스 후보를 수십~수백 개 환경에서 실제로 굴려보고, 점수와 토큰 소비를 함께 잡아낸 결과물만 다음 세대로 넘긴다. 이는 진화 알고리즘과 유사하지만, 목표가 “문제를 더 잘 푸는 것”이 아니라 “같은 성능을 더 적은 토큰으로 내는 것”이라는 점, 그리고 살아남은 개선이 모델을 바꿔도 유효하다는 전이 가능성(Transferability)까지 검증한다는 점이 차별점이다.
📊 정량적 결과
주요 성과
- EdgeBench(51개 태스크): 최고 성능 후보들이 평균 점수 5.3
12.8% 향상, 토큰 효율 9.818.2% 향상- 4개 메커니즘 전체 스택: 토큰 트래픽 44.7~49.0% 감소, 동등한 성능 수준에서 토큰 비용 약 3분의 1로 절감
- 교차 모델 전이: GPT-5.6 Sol에서 발굴한 SoL-Pi를 Opus 5에 수정 없이 적용해서도 일관된 결과 유지
- Terminal-Bench 4 완료율 및 IMO 2026 Lean 4 검증 통과 문제 수에서도 비용 대비 경쟁력 확인
🚀 기존 대비 개선점
- 기존 효율화 연구(어텐션 커널, 양자화, 저가 모델)가 토큰당 단가를 낮췄다면, SoL-Pi는 아예 쓰는 토큰 자체를 줄이는 직교적(orthogonal, 서로 곱셈적으로 결합되는) 접근이다.
- GEPA(실행 궤적 반성으로 프롬프트 개선), ADAS(에이전트 설계를 코드 탐색으로 공식화), AFlow와 AgentSquare(워크플로우·모듈 구조 탐색)가 주로 성능 지향 설계 탐색이었다면, SoL-Pi는 효율성 자체를 최적화 목표로 삼는다.
- Darwin Gödel Machine이나 Hyperagents 같은 선행 RSI 시스템과 달리, 모델을 완전히 고정한 채 하네스 계층에서만 재사용 가능한 개선을 찾는다.
🎯 활용 분야
- 24시간 무인 자율 코딩·연구 에이전트 운영: 밤새 돌리는 오토 리서치 파이프라인의 API 비용을 절반 수준으로 낮춤
- 에이전트 스웜(여러 에이전트 협업 체계) 구축 시, 개별 에이전트 컨텍스트 관리 최적화로 전체 스웜 비용 절감
- 모델 교체나 파인튜닝 없이 기존 에이전트 서비스에 즉시 이식 가능한 비용 최적화 레이어 (논문이 증명한 교차 모델 전이 덕분)
한계 및 주의사항
- 저자들은 하네스 사전 학습(Pre-Training the Harness) 문제를 명시한다. RSI 루프로 발견한 하네스 아티팩트가 얼마나 일반화될 수 있는지는 여전히 풀리지 않은 난제이며, 이번 결과는 그 가능성에 대한 예비적 증거 수준이다.
- 교차 모델 일반화 주장도 GPT-5.6 Sol과 Opus 5라는 평가된 설정 범위 안에서의 결과이며, EdgeBench는 전체 134개 중 공개된 51개 태스크만 사용했다는 점에서 평가 커버리지에 한계가 있다.
3. An Empirical Study of Harness Design for Coding Agents
arXiv: 2609.20804 | 기관: Zoom Communications | ⬆️ 37 📊 순위선정 | 📄 HTML 태그:
coding-agentharness-designcontext-managementempirical-studyablation-studyswe-benchagent-evaluationllm-agents사전 지식: LLM 에이전트 루프(Agent Loop, 관찰-추론-행동 반복 구조), 컨텍스트 윈도우와 컨텍스트 관리(유한한 입력 창에 무엇을 남길지 결정하는 정책), 절제 연구(Ablation Study, 구성요소를 하나씩 제거하며 기여도를 측정), SWE-Bench Verified와 Terminal-Bench 같은 장기(long-horizon) 코딩 벤치마크, 도구 호출(Tool Calling)과 셸 명령 실행의 차이
한 줄 요약
코딩 에이전트의 성능은 모델 자체만이 아니라 이를 감싸는 하네스(Harness, 에이전트 실행 뼈대 소프트웨어)의 개별 구성요소인 계획(Planning), 행동 공간(Action Space), 컨텍스트 관리(Context Management)에 의해 결정되는데, 이 논문은 176개의 통제된 실험 설정으로 각 구성요소의 효과를 분리 측정해 “어떤 모델에 어떤 하네스 설계를 얹어야 하는가”에 대한 최초의 컴포넌트 수준 근거를 제시했다.
💡 핵심 아이디어
아무리 뛰어난 요리사(모델)라도 주방 설계(하네스)에 따라 요리 결과가 크게 달라진다. 기존 연구들은 “유명 맛집 전체”를 통째로 비교했기 때문에 어떤 설비가 성적을 바꿨는지 알 수 없었지만, 이 논문은 재료 손질(계획 스캐폴드), 조리 도구(사전 정의 도구 vs bash 전용), 냉장고 정리(컨텍스트 관리)를 한 번에 하나씩만 교체하며 각각의 기여도를 측정한다. 그 결과 같은 모델이라도 설계 선택에 따라 성공률과 비용이 크게 달라지고, 최적 설계는 모델의 능력 등급에 따라 정반대로 갈린다는 사실이 밝혀졌다.
문제 정의
기존 코딩 에이전트 하네스 연구는 대부분 완성된 시스템 단위의 모놀리식 비교만 수행했다. 예를 들어 Cao et al.의 교차 평가에서 Claude-Opus-4.5는 OpenHands에서, Claude-Sonnet-4.5는 SWE-Agent에서 가장 좋은 성적을 냈는데, 이런 비교 방식은 여러 메커니즘이 뒤섞여 있어 성능 차이의 원인이 계획 프롬프트 때문인지, 도구 인터페이스 때문인지, 컨텍스트 관리 정책 때문인지 전혀 분리할 수 없었다. 즉 “하네스 B가 하네스 A보다 낫다”는 결론은 나와도 “왜, 어떤 구성요소가, 어떤 모델에서” 낫다는 것인지는 알 수 없는 상태였다.
🔬 방법론 상세
- 요인 분리 통제 실험 설계: 실행 루프는 고정한 경량 하네스 위에서 세 가지 구성요소만 교체한다. 계획(켜기/끄기), 행동 공간(사전 정의된 도구 세트 vs bash 전용), 컨텍스트 관리(5가지 전략 × 4가지 컨텍스트 윈도우 예산). 총 176개의 매치드(matched) 설정을 구성해 각 구성요소의 조건부 효과(conditional effect)를 추정한다.
- 컨텍스트 관리 정책 T4: 규칙 기반 축약(rule-based elision)을 먼저 적용해 불필요한 이력을 걷어내고, 꼭 필요한 부분만 선택적으로 LLM 요약을 수행하는 2단계 방식이다. 요약에 드는 토큰 비용을 최소화하면서 긴 실행을 유지한다.
- 경로 주석 기반 행동 분석: LLM 저지(LLM Judge, 평가용 LLM)가 에이전트 실행 경로의 매 턴을 워크플로우 단계(지역화 Localize, 편집 Edit 등)로 라벨링하고, 사람 주석자와의 일치도를 별도로 보고한다. 이를 통해 결과뿐 아니라 실패가 “왜, 어느 단계에서” 발생하는지 메커니즘 수준으로 해부한다.
- 실험 인프라: Nemotron-3 30B/120B/550B와 Mistral-Medium-3.5-128B를 SGLang으로 BF16 정밀도 직접 서빙(온도 0, top-p 0.95, 턴당 출력 16,384 토큰 상한). 하네스는 LangGraph 기반, 벤치마크는 컨테이너와 검증기를 소유한 Harbor 프레임워크로 구동한다.
핵심 기법
핵심은 변인 통제 실험이다. 모델과 실행 루프는 그대로 두고 한 번에 딱 하나의 구성요소만 바꿔 성능 변화를 측정하면, 전체 시스템 비교에서는 불가능했던 “이 성능 향상은 컨텍스트 관리 덕분이다” 같은 인과적 귀속이 가능해진다. 여기에 LLM 저지가 만든 턴 단위 행동 주석을 겹쳐 보면 수치 변화를 특정 행동 메커니즘(예: 지역화 단계에서 무한 정체)에 연결해 설명할 수 있다.
📊 정량적 결과
주요 성과
- 최약 모델에서 계획의 극적 효과: Nemotron-3-30B가 SWE-Bench Verified에서 편집 없이 종료되는 실패 비율이 계획 켜기만으로 68.6%에서 27.8%로 감소(상대 약 60% 개선), 지역화 단계에 갇힌 실행 비율은 58.4%에서 10.4%로 감소(상대 약 82% 개선). T4/128k, 전체 도구 세트 기준.
- 타이트한 컨텍스트 예산에서 컨텍스트 관리의 생존 효과: 32k 예산에서 컨텍스트 관리를 끄면 활성 실행이 중앙값 20~30턴 근처에서 급감하지만, 켜면 행동 분포는 거의 그대로 유지하면서 실행 경로를 대폭 연장한다.
- 비용 효율 최적해: 5가지 컨텍스트 관리 전략 중 T4(규칙 기반 축약 우선 + 선택적 LLM 요약)가 성공률을 대체로 유사하게 유지하면서 총 비용은 가장 낮았다.
- bash 전용 인터페이스의 조건부 우위: bash 제어력이 강한 모델에서는 bash-only가 사전 정의 도구보다 더 높은 성공률에 더 낮은 비용을 기록했으며, 셸 중심 벤치마크인 Terminal-Bench 2.1(89개 태스크)에서 가장 뚜렷했다.
🚀 기존 대비 개선점
- 모놀리식 시스템 비교에서 컴포넌트 수준 조건부 효과 추정으로 평가 패러다임을 전환했다.
- “무조건 좋은 설계”가 없음을 정량화했다. 약한 모델에는 계획 + 사전 정의 도구가, 강한 모델에는 최소 개입 + bash-only가 각각 최적이라는 모델 등급별 설계 지침을 제시했다.
- 계획의 이중 효과를 규명했다. 약한 모델에서는 성공률을(비용 증가 대가로), 강한 모델에서는 오히려 비용을 주로 줄이되 성공률이 소폭 하락하는 상반된 작동 방식을 밝혔다.
🎯 활용 분야
- 기업 내부 코드 에이전트 구축: 사용 중인 모델의 크기와 능력에 맞춰 계획 스캐폴드 도입 여부, 도구 세트 설계, 컨텍스트 관리 전략을 고르는 실무 가이드로 직접 적용 가능하다.
- 비용 민감 환경의 컨텍스트 설계: 온프레미스 배포나 토큰 비용 제약이 있는 서비스에서 규칙 기반 축약 우선(T4류) 정책으로 비용을 낮추면서 긴 작업을 유지할 수 있다.
- 에이전트 디버깅 및 평가 자동화: LLM 저지 기반 턴 단위 단계 주석 기법을 그대로 가져와 자사 에이전트의 실패 원인(지역화 정체, 편집 회피 등)을 자동 진단하는 데 쓸 수 있다.
한계 및 주의사항
- 단일 경량 하네스의 고정된 실행 루프 위에서 얻은 결과이므로, 구조가 다른 하네스(멀티 에이전트, 리플렉션 루프 등)로 일반화될지는 보장되지 않는다.
- 모델 4개(단일 패밀리 3개 + 타 패밀리 1개)와 벤치마크 2개로 표본이 제한적이며, 행동 라벨링은 LLM 저지에 의존하므로 주석 오차가 존재한다(인간 일치도는 부록에서 보고). 비용 산정도 OpenRouter 토큰 가격 기준이라 실제 배포 환경과 차이가 있을 수 있다.
4. When EOS Tokens Disagree: Understanding Length Inflation in On-Policy Distillation
arXiv: 2609.20511 | 기관: Microsoft | ⬆️ 30 | ⭐ 1 📊 순위선정 | 📄 HTML 태그:
ai-paperml
❌ 분석 실패: Post “https://api.z.ai/api/coding/paas/v4/chat/completions”: context deadline exceeded (Client.Timeout exceeded while awaiting headers)
5. JEPA-Anything: Learning Predictive Models across Different Worlds
arXiv: 2609.20800 | ⬆️ 23 | ⭐ 6 📊 순위선정 | 📄 HTML 태그:
ai-paperml
❌ 분석 실패: Post “https://api.z.ai/api/coding/paas/v4/chat/completions”: context deadline exceeded (Client.Timeout exceeded while awaiting headers)
6. RetireOPD: Self-Retiring On-Policy Distillation for Agentic Reinforcement Learning
arXiv: 2609.20784 | ⬆️ 15 🤖 GLM추천 | 📄 HTML 태그:
ai-paperml
❌ 분석 실패: Post “https://api.z.ai/api/coding/paas/v4/chat/completions”: context deadline exceeded (Client.Timeout exceeded while awaiting headers)
7. Reflect, Revise, Reuse: Training-Free Skill Evolution for GUI Agents
arXiv: 2609.17653 | ⬆️ 11 | ⭐ 11 🤖 GLM추천 | 📄 HTML 태그:
ai-paperml
❌ 분석 실패: Post “https://api.z.ai/api/coding/paas/v4/chat/completions”: context deadline exceeded (Client.Timeout exceeded while awaiting headers)
8. Video DeltaNet: A Video-Native Hybrid Attention for Livestream Video Generation
arXiv: 2609.20744 | ⬆️ 6 🤖 GLM추천 | 📝 초록 태그:
video-generationdiffusion-modellinear-attentionhybrid-attentiondelta-rulecomputational-efficiencylong-contextlivestream사전 지식: 확산 모델(Diffusion Model), 소프트맥스 어텐션(Softmax Attention), 선형 어텐션(Linear Attention), 델타 규칙과 델타넷(Delta Rule, DeltaNet), 시공간 토큰(Spatiotemporal Token)
한 줄 요약
긴 영상 생성의 최대 병목인 어텐션(Attention) 계산 비용을 로컬 소프트맥스 어텐션과 양방향 선형 메모리를 결합한 하이브리드 구조로 해결하여, 라이브 스트림처럼 길고 이어지는 영상도 빠르고 선명하게 만들 수 있게 한 연구다.
💡 핵심 아이디어
라이브 중계 기자를 상상해 보자. 기자는 바로 눈앞의 장면은 선명하게 자세히 지켜보고(로컬 소프트맥스 어텐션), 이미 지나간 수천 개의 장면은 요약 노트 한 권에 압축해 들고 다닌다(선형 메모리). 이 노트를 앞뒤로 넘겨볼 수 있어서(양방향, Bidirectional) 과거 사건과 이후 흐름까지 참고하며 지금 장면을 완성한다. 기존 영상 확산 모델은 노이즈를 지우는 매 단계마다 모든 시공간 토큰(영상을 이루는 시간·공간 조각들)이 서로를 전부 비교해야 해서 비용이 토큰 수의 제곱으로 늘었지만, VDN은 이렇게 역할을 나눠 해결한다.
델타 규칙(Delta Rule)이 뭐야?
새 정보가 들어올 때 예전의 비슷한 기억을 지우고 새 내용으로 덮어쓰는 메모리 갱신 방식이다. 사전에서 같은 키(Key)에 값을 덮어쓰는 것과 비슷해서, 기억이 뭉개지지 않고 핵심 연관 정보를 선명하게 유지할 수 있다. DeltaNet은 이 규칙을 병렬 연산이 가능한 선형 어텐션 구조로 발전시킨 모델이며, VDN은 이것을 영상에 맞게 확장한 것이다.
핵심 통찰
선형 어텐션으로 소프트맥스 어텐션을 통째로 ‘대체’하면 계산은 싸지만 질감이나 윤곽 같은 미세한 상호작용이 뭉개진다. VDN의 답은 대체가 아니라 ‘역할 분담’이다. 전역 문맥(스토리 전체 흐름)은 선형 메모리에, 국소 디테일(질감, 물체 경계)은 소프트맥스 어텐션에 맡기면 속도와 품질을 동시에 잡을 수 있다.
🚀 기존 대비 개선점
- 토큰 수의 제곱(O(N²))으로 늘던 어텐션 비용을 길이에 비례하는 수준으로 낮춰, 긴 영상에서도 추론 비용이 현실적으로 감소
- 선형 어텐션만 사용할 때 나타나던 질감 뭉개짐과 프레임 간 디테일 손실을 로컬 소프트맥스 어텐션이 보완해 화질 저하를 최소화
- 양방향 선형 메모리로 과거와 미래 방향 문맥을 함께 참조하여, 긴 영상에서도 캐릭터와 배경의 시간적 일관성이 유지됨
🎯 활용 분야
- 실시간 라이브 스트림 생성: 가상 스트리머(VTuber), AI 아나운서, 인터랙티브 방송
- 장편 영상 콘텐츠 제작: 쇼트폼, 애니메이션, 광고 영상의 대량 자동 생산
- 세계 모델(World Model)과 게임: 실시간 게임 장면 합성, 시뮬레이션, 대화형 인터랙티브 콘텐츠
9. When2Think: Learning Difficulty-Aware Length Control for Efficient Hybrid Reasoning Models
arXiv: 2609.19671 | 기관: Microsoft | ⬆️ 4 🤖 GLM추천 | 📄 HTML 태그:
ai-paperml
❌ 분석 실패: Post “https://api.z.ai/api/coding/paas/v4/chat/completions”: context deadline exceeded (Client.Timeout exceeded while awaiting headers)
📅 생성일: 2026-09-18 | 🤖 GLM-4.7