AI Agent개발을 하면서, 가장 중요한 것은 "RAG를 어떻게 잘 쓰는가"이다. Open AI나 Claude에 API를 호출은 무엇이든 대답하게 하지만, 기억을 잘 하지 못한다. 그래서 채팅이 늘어날 수록, 사용해야하는 토큰의 수도 늘어난다.
밥 먹었어?
밥 벅었어?, 응 방금
밥 벅었어?, 응 방금, 뭐 먹었어?
밥 벅었어?, 응 방금, 뭐 먹었어?, 김치찌개! 너는?
비효율 적이다. 이를 해결하기 위한 많은 기술 중 하나가 "RAG"이며 단순하게 "데이터를 외부에 저장하고, 필요할 때마다 참고하겠다"는 전략이다. 이 RAG를 쓰기 위해 다양한 사전 지식이 필요하다.
책에서는 이렇게 RAG에 대한 개념과 Vector RAG, GraphRAG에 대한 핵심을 정리해 놓았다. 이 내용을 이해해야 RAG를 만들 수 있고,RAG를 만들 수 있어야, 우리가 생각하는 AI Agent를 쉽게 만들 수 있다. 이 정리에 대한 부분이 한국어로는 참 부족한데, 책에는 친절하게 잘 설명이 되있다. 모든 수준의 내용을 책에 기술하는 것은 불가능에 가깝지만, 책을 읽고 Chat GPT나 논문을 찾아볼 때 훨씬 수월해 진다.
그리고 이어서 실습에 대한 내용이 나온다. 모든 개발이 그렇듯, 머릿속으로 한 이해가 개발을 만들어 주지 못한다. 심지어 바이브코딩일지라도, 구축을 해본 경험이 있어야 적절하게 시킬 수 있다. 책에서는 Vector RAG 실습과 Graph RAG 실습을 해볼 수 있어 좋다. 인터넷에 널린 출처도 알기 어려운 RAG 코드를 보는 것보다, 책에 나온 실습 코드를 정독하고, 익힐 수 있어 좋다.
마지막으로 짧지만 RAG의 한계와 AI와 미래에 대한 부분은 인상 깊었다. 신과 같은 초지능(Artificial Super Intelligence)의 등장한다거나, 인류가 멸종한다는 극단적 미래보다, 단기적으로 어떤 방향을 고민해야 할지 고민할 수 있다. 저자가 다음 책(글)을 이런 부분에 대해 써준다면 꼭 보고싶다는 생각이 들었다. "특이점이 온다"같은 책은 이제 그만 봐도 될 것 같다.
*본 리뷰는 도서를 제공받고 작성한 리뷰입니다.
'Technology > AI' 카테고리의 다른 글
LLM의 핵심은 MCP이다. (0) | 2025.03.29 |
---|---|
AI 에이전트의 게임 체인저, MCP (0) | 2025.03.29 |
AI와의 대화 방식이 결과를 바꾼다 (0) | 2025.03.09 |
위기에 빠진 구글의 돌파구는 Snapchat? (1) | 2024.10.15 |
노벨 물리학 상에 침투한 AI (1) | 2024.10.15 |