2026 LLM Research Trends: Search Agents, RL Credit Design, Internal Representations, and Inference Scaling
2026 LLM Research Trends: Search Agents, RL Credit Design, Internal Representations, and Inference Scaling 최근 arXiv에 올라온 LLM 논문들을 보면, 성능 개선의 초점이 단순한 모델 확장만이 아니라 학습 방식과 추론 방식의 세부 설계로 옮겨가고 있다. 이번 묶음은 검색 에이전트의 자기개선, RL에서의 토큰 단위 보상 설계, 내부 표현을 이용한 캘리브레이션, 그리고 기존 백본을 유지한 채 추론 계산을 늘리는 접근을 함께 보여준다. 각 논문은 서로 다른 문제를 다루지만, 공통적으로 "무엇을 더 크게 만들 것인가"보다 "어디에 더 정확히 계산과 신호를 배분할 것인가"를 묻고 있다. [S2][S3][S5][S9] [S2] [S3] [S5] [S9] 1. LLM 연구가 다시 집중하는 네 가지 축 이번 글의 네 편은 서로 다른 축을 가리킨다. 첫째는 검색 에이전트 학습으로, 장기 상호작용에서 에이전트가 자기 경험으로 좋아질 수 있는지에 초점이 있다. 둘째는 RL 보상 설계로, 토큰별 credit을 어떻게 배분하느냐가 reasoning 개선에 직접 연결된다는 문제의식이 보인다. 셋째는 내부 표현 기반 캘리브레이션으로, 출력된 chain-of-thought보다 중간 활성값이 더 직접적인 신호가 될 수 있는지 묻는다. 넷째는 추론 시 계산 확장으로, 백본을 바꾸지 않고 토큰당 계산량을 늘려 성능을 더 끌어올릴 수 있는지 탐색한다. 이 네 흐름은 모두 "학습 신호", "표현", "계산"을 더 정교하게 다루려는 방향으로 읽을 수 있다. [S2][S3][S5][S9] Sources: [S2], [S3], [S5], [S9] 2. 검색 에이전트는 어떻게 자기 경험으로 좋아지는가 DeepSearch-World 논문이 다루는 문제는, 도구를 쓰는 웹 에이전트를 학습시킬 때 기존의 supervised ...