Ch 01. 랭체인의 기본 LLM 사용법왜 랭체인인가?1) 사전 구현한 공통 패턴: 랭체인은 가장 일반적인 LLM 애플리케이션 패턴에 따른 구현을 제공한다.2) 상호 교환 가능한 구성 요소: 모든 구성요소(LLM, 채팅 모델, 출력 파서)는 공통된 명세(Runnable Interface)를 따르므로, 손쉽게 다른 대안으로 교체 가능하다.1.1 랭체인 사용 환경 구축pass1.2 랭체인을 통한 LLM 호출from langchain_openai import ChatOpenAIllm = ChatOpenAI( model="gpt-4o-mini", temperature=0, # 0: 일관된 답변, 1: 창의적 max_tokens=1000,)# 단순 호출result = llm.invok..

04. 랭그래프를 활용한 메모리 기능LLM은 무상태로(stateless, 상태를 저장하지 않음) 상호작용한다. LLM에 상태 정보를 제공하려면 이전 대화와 컨텍스트를 추적할 견고한 메모리 시스템이 필요하다. 기본적인 메모리 기능을 탑재한 RAG 프로젝트의 구성은 다음과 같다. 4.1 챗봇 메모리 시스템 구축메모리 시스템의 상태는 다음과 같이 처리한다.메세지 목록 형태로 저장턴마다 최근 메시지를 추가해 업데이트메시지를 프롬프트에 추가4.2 랭그래프이러한 챗봇 메모리 시스템을 구축하기 위해서 랭그래프를 활용할 수 있다. 랭그래프는 LLM 기반 애플리케이션의 흐름을 그래프 구조(State Graph)로 정의하여, 각 단계의 상태와 실행 로직을 체계적으로 관리할 수 있도록 돕는 프레임워크다.State (상태)그..

Ch 00. 랭체인을 위한 기초 AI 지식0.1 LLM 기초LLM(Large Language Model) 은 거대 언어 모델이라는 의미인데, 방대한 텍스트로 학습한 크고 범용적인 언어 모델이다. 거대(large)는 훈련에 사용된 데이터와 파라미터 수가 크다는 의미이다. LLM은 내부적으로 이전 단어열이 주어지면 단어나 단어열의 발생 확률을 추정한다. (ex. The capital of Englang is -----.) LLM 예측력을 좌우하는 핵심은 트랜스포머 신경망 아키텍처(Transformer Neural Network Architecture)다. 이 아키텍처는 문장 내의 각 단어와 다른 모든 단어의 관계를 고려해 문맥을 파악한다. LLM에 제공하는 지침과 입력 텍스트는 프롬프트(Prompt)라 한다..

6.1 들어가며컴퓨터는 0과 1만 인식할 수 있기 때문에 프로그램이 컴퓨터에서 실행되려면 컴파일러를 통해 바이너리 형식으로 변환해야 한다. 하지만 가상머신이 출현하면서 프로그램을 네이티브 코드로 컴파일하지 않아도 되는 길이 생겼다. 6.2 플랫폼 독립을 향한 초석자바 가상 머신이 다양한 플랫폼을 지원하고, 모든 가상 머신이 동일한 프로그램 저장 형식(바이트코드)을 지원한다는 사실이 플랫폼 독립성의 핵심이다.자바 가상 머신은 자바를 포함하여 어떠한 프로그래밍 언어에도 종속되지 않으며, 클래스 파일이라는 특정한 바이너리 파일 형식에만 의존한다.6.3 클래스 파일의 구조클래스 파일은 바이트를 하나의 단위로 하는 이진 스트림 집합체다.6.3.1 매직 넘버와 클래스 파일의 버전모든 클래스 파일의 처음 4바이트는 ..

1. VectorRAG & GraphRAG 개념 이해하기1.1 RAG란 무엇인가?1.1.1 RAG란?RAG는 검색 증강 생성(Retrieval-Augmented Generation)의 약자로, LLM이 단순히 학습된 데이터에 의존해 답변을 생성하는 것이 아니라, 외부 데이터베이스나 문서에서 관련 정보를 검색한 후, 이를 활용하여 답변을 생성하는 기법을 의미1.1.2 RAG의 필요성사전 학습된 데이터만 활용하여 답변 생성시 문제점최신 정보 반영 불가데이터의 한계환각(할루시네이션) 현상시간과 비용에 대한 투자: LLM을 재학습 시키려면 많은 비용과 시간이 필요, 하지만 RAG 활용하면 LLM 수정하지 않고도 활용 가능1.1.3 RAG 핵심 원리검색 단계(Retrieval): 사용자의 질문(Query)에 대해..