어니언킴의 개발 블로그

“RAG is dead” 라는 아티클이 눈에 많이 밟힌다. 정말 희대의 어그로가 아닐 수 없다. 그 배경은 이렇다. Gemini 1.5가 10M 토큰 이상의 comtext를 인풋으로 처리한다는 것을 시작으로 LlaMa 4 등 후속 모델들이 엄청난 양의 컨텍스트를 인풋으로 처리함을 모델의 성능 지표로 강조하고 있다. LLM 활용에 고질병이었던 Context 길이 제한 때문에 RAG 가 필요했다면, 이젠 그런것 없이 다 프롬프트에 때려 넣으라는 것이다. 이런 맥락에서 “RAG is dead” 라는 말은 새로 출시된 모델의 마케팅용 캐치프레이즈에 가까웠다고 볼 수 있을 듯 하다. LLM 의 제한된 Context Length 는 모두의 골칫거리였고 RAG 만큼 핫한 키워드도 없었기 때문에 모두의 관심을 끄는 소..

신입 개발자 Onion. 오늘도 챗gpt를 열심히 쓰며 업무를 진행하고 있다. 그에게 챗gpt는 신이다. 정말 모든 것에 대한 답변을 해준다. 에세이도 써주고 코드도 잘 짜준다. 모든 업무에 챗gpt를 활용하는 Onion. 그는 챗gpt와 함께라면 못할게 없다고 믿는다. 하지만 오후 12시가 되자 인생 난제에 부딪치는데.. "어이 onion, 오늘 점심 뭐먹을지 정해뒀어?" 짜증 섞인 김팀장님의 목소리. 육감이 말해주길 저건 질문을 한 것이 아니다. 답이 있는 문제를 맞춰보라고 던진 것이다. 김팀장님이 좋아할만한 점심 메뉴를 머리를 싸메고 고민하는 Onion. 이때 본인에게 신과 같은 존재 챗gpt 에게 물어보기로 한다. "점심 메뉴를 정해야 하는데 김팀장님이 좋아하는 음식 뭐가 있을까? " 신처럼 섬겨..