04. 랭그래프를 활용한 메모리 기능LLM은 무상태로(stateless, 상태를 저장하지 않음) 상호작용한다. LLM에 상태 정보를 제공하려면 이전 대화와 컨텍스트를 추적할 견고한 메모리 시스템이 필요하다. 기본적인 메모리 기능을 탑재한 RAG 프로젝트의 구성은 다음과 같다. 4.1 챗봇 메모리 시스템 구축메모리 시스템의 상태는 다음과 같이 처리한다.메세지 목록 형태로 저장턴마다 최근 메시지를 추가해 업데이트메시지를 프롬프트에 추가4.2 랭그래프이러한 챗봇 메모리 시스템을 구축하기 위해서 랭그래프를 활용할 수 있다. 랭그래프는 LLM 기반 애플리케이션의 흐름을 그래프 구조(State Graph)로 정의하여, 각 단계의 상태와 실행 로직을 체계적으로 관리할 수 있도록 돕는 프레임워크다.State (상태)그..

Ch 00. 랭체인을 위한 기초 AI 지식0.1 LLM 기초LLM(Large Language Model) 은 거대 언어 모델이라는 의미인데, 방대한 텍스트로 학습한 크고 범용적인 언어 모델이다. 거대(large)는 훈련에 사용된 데이터와 파라미터 수가 크다는 의미이다. LLM은 내부적으로 이전 단어열이 주어지면 단어나 단어열의 발생 확률을 추정한다. (ex. The capital of Englang is -----.) LLM 예측력을 좌우하는 핵심은 트랜스포머 신경망 아키텍처(Transformer Neural Network Architecture)다. 이 아키텍처는 문장 내의 각 단어와 다른 모든 단어의 관계를 고려해 문맥을 파악한다. LLM에 제공하는 지침과 입력 텍스트는 프롬프트(Prompt)라 한다..

1. VectorRAG & GraphRAG 개념 이해하기1.1 RAG란 무엇인가?1.1.1 RAG란?RAG는 검색 증강 생성(Retrieval-Augmented Generation)의 약자로, LLM이 단순히 학습된 데이터에 의존해 답변을 생성하는 것이 아니라, 외부 데이터베이스나 문서에서 관련 정보를 검색한 후, 이를 활용하여 답변을 생성하는 기법을 의미1.1.2 RAG의 필요성사전 학습된 데이터만 활용하여 답변 생성시 문제점최신 정보 반영 불가데이터의 한계환각(할루시네이션) 현상시간과 비용에 대한 투자: LLM을 재학습 시키려면 많은 비용과 시간이 필요, 하지만 RAG 활용하면 LLM 수정하지 않고도 활용 가능1.1.3 RAG 핵심 원리검색 단계(Retrieval): 사용자의 질문(Query)에 대해..

S.O.L.I.D 원칙이란 무엇일까? SRP_ Single Responsibility Principle : 단일 책임 원칙 한 클래스는 하나의 책임만 가져야 한다. OCP_ Open Closed Principle : 개방-폐쇄 원칙 소프트웨어 요소는 확상에는 열려 있으나 변경에는 닫혀 있어야 한다. LSP_ Liskov Substitution Principle : 리스코프 치환 원칙 서브 타입(child component)은 언제나 기반 타입(parent component)으로 교체할 수 있어야 한다. ISP_ Interface Segregation Principle : 인터페이스 분리 원칙 자신이 사용하지 않는 인터페이스는 구현하지 말아야 한다. 만약 어떤 클래스를 이용하는 클라이언트가 여러 개이고, ..