Paper Review07.042026-07-04 09:0020 min read
[논문 리뷰] Dense Retriever의 위치 편향은 타고나는가, 학습되는가
Dense retriever가 문서 앞부분 정보를 선호하는 현상은 모델 구조만의 문제가 아니라, fine-tuning 데이터에서 정답 근거가 어디에 있었는지에 크게 좌우된다.
7 posts tagged
Dense retriever가 문서 앞부분 정보를 선호하는 현상은 모델 구조만의 문제가 아니라, fine-tuning 데이터에서 정답 근거가 어디에 있었는지에 크게 좌우된다.
Headroom을 예로 agent 입력을 LLM에 넣기 전 압축·캐시·복원하는 context layer 설계 포인트를 정리한다.
MinSync는 git 없이 파일 변경을 추적하고, 바뀐 텍스트만 다시 chunking·embedding해서 로컬 vector index를 최신 상태로 유지한다.
AI 모델의 문맥 길이 한계를 극복하는 3가지 메모리 솔루션 — Supermemory, Mem0, Turbo-graph의 설계 철학과 실무 적용 방법.
대형 언어 모델 시대, 학술은 이제 Nature가 아닌 arXiv에서 일어난다. RAG와 PEFT가 어떻게 실무 AI 엔지니어의 필수 무기가 되었는지, 논문 3편으로 정리하기.
큰 모델을 효율적으로 운영하고, 환각을 줄이고, 제한된 리소스에서 학습하는 3가지 실무 기술. 그리고 AI 논문이 Nature/Science를 무시하고 arXiv에서 업계로 직결되는 이유.