반응형 OpenAI5 [LangGraph] 단순 조회를 넘어 스스로 생각하는 AI: Agent RAG와 Self-RAG 정리 1. 도입부 (Introduction)데이터베이스에서 관련 문서를 찾아서 LLM에게 넘겨주는 '표준 RAG(Naive RAG)' 시스템은 구현하기 매우 쉽다는 장점이 있다. 하지만 현업의 실제 비즈니스 도메인에 이를 적용하는 순간, 성능 평가 지표는 곤두박질치기 시작한다.가장 빈번하게 발생하며 시스템 신뢰도를 무너뜨리는 세 가지 고질적인 실패 지점은 다음과 같다.부적절한 문서 검색(Low Quality Retrieval): 질문과 전혀 상관없는 문서를 들고 와 엉뚱한 답변을 낸다.모델의 환각(Hallucination): 검색해 온 참고 문서에 전혀 없는 가상의 수치나 사실을 지어내어 답변한다.불충분한 답변 품질(Low Helpfulness): 정답이 문서 어딘가에 존재함에도 불구하고 질문자가 원하는 본질.. 2026. 6. 12. [LangGraph] 단순한 체인을 넘어 에이전트로: LangGraph 기반 상태 제어형 RAG 시스템 설계 1. 도입부 (Introduction)대용량의 비정형 문서에서 정답을 찾아내는 검색 증강 생성(RAG, Retrieval-Augmented Generation) 시스템을 개발하다 보면 반드시 마주치는 두 가지 큰 장벽이 존재한다.첫 번째는 '문서 전처리의 한계'다. 전통적인 텍스트 추출 라이브러리(PyPDF 등)는 PDF 내부에 정교한 표(Table)나 스캔 이미지가 포함되어 있을 경우 텍스트를 심각하게 왜곡하거나 무시한다. 표의 행과 열이 뒤섞인 상태로 데이터베이스에 적재되면 검색(Retrieval) 단계에서 엉뚱한 맥락을 짚게 된다.두 번째는 '순차적 파이프라인의 한계'다. 기존의 랭체인(LangChain)이 제공하는 선형적인 체인(Chain) 구조는 검색 결과가 부실하거나 추가 연산이 필요한 복잡한.. 2026. 6. 12. [RAG] 랭체인(LangChain) 정리: 사전 최적화와 히스토리를 결합한 하이브리드 RAG 파이프라인 완벽 해부 1. 도입부 (Introduction)대규모 언어 모델(LLM)을 사내 데이터나 전문 법률 지식과 결합하기 위해 RAG(Retrieval-Augmented Generation, 검색 증강 생성) 기술을 많이 도입한다. 하지만 단순한 RAG 아키텍처를 적용해보면 이내 한계에 부딪히게 된다. 사용자가 전문 용어를 혼용해서 질문하거나, 이전 대화 맥락을 생략한 채 "그거 세금 계산은 어떻게 해?"와 같이 대명사로 물어보면 검색(Retriever) 단계에서 엉뚱한 정보만 물어오기 때문이다. 게다가 정부 문서나 소득세법과 같은 엄격한 전문 도메인에서는 특유의 정교한 말투와 근거 조항 제시 형식을 AI에게 일관되게 주입해야 신뢰성을 얻을 수 있다.이러한 현실적인 장벽을 뛰어넘기 위해, 단순히 질문을 벡터 DB에 던.. 2026. 6. 6. [RAG] LCEL(랭체인 표현 언어)과 Runnable을 이용한 RAG 파이프라인 1. 도입부 (Introduction)과거에는 RAG 파이프라인을 구축하기 위해 텍스트 추출, 임베딩 변환, 벡터 저장소 쿼리, 프롬프트 조립, LLM 호출, 응답 파싱 등의 과정을 절차지향적인 스파게티 코드로 일일이 구현해야 했다. 이 과정에서 유지보수성은 최악으로 치달았고, 비동기 처리나 스트리밍을 지원하기 위해 수십 줄의 동기화 코드를 추가해야 하는 지옥이 펼쳐졌다.이러한 고질적인 문제를 우아하게 해결하기 위해 등장한 혁신적인 도구가 바로 LCEL(LangChain Expression Language, 랭체인 표현 언어)이다. 리눅스의 파이프 연산자 기호(|)를 차용하여 선언적으로 컴포넌트들을 연결하는 LCEL은 가독성을 극대화할 뿐만 아니라, 비동기·스트리밍·병렬 처리를 엔진 수준에서 완벽하게 보.. 2026. 5. 31. [RAG] LLM과 LangChain 프레임워크 기초 및 RAG 흐름 파악하기 1. 도입부 (Introduction)챗GPT(ChatGPT)를 시작으로 대형 언어 모델(LLM)의 시대가 열렸지만, 현업에서 이를 활용해 비즈니스 애플리케이션을 만들다 보면 치명적인 한계에 부딪히게 된다. 대표적인 것이 바로 모델이 학습하지 않은 최신 정보나 기업 내부 기밀 데이터에 대해 묻는 경우다. LLM은 모르는 내용에 대해서도 그럴싸한 거짓말을 지어내 답변하곤 하는데, 이를 '환각 현상(Hallucination)'이라고 부른다.이 문제를 해결하기 위해 고안된 기술이 바로 RAG(Retrieval-Augmented Generation, 검색 증강 생성)다. RAG는 LLM의 두뇌를 새로 학습시키는(Fine-tuning) 대신, 질문과 관련된 외부 문서(데이터베이스)를 먼저 찾아서 이를 질문과 함께.. 2026. 5. 31. 이전 1 다음 반응형
