목록LLM (2)

미식가의 개발 일기

RAG: LLM의 한계를 넘은 검색하는 인공지능

1️⃣ RAG(Retrieval-Augmented Generation)란?LLM이 스스로 알지 못하는 정보도 "찾아서" 답변할 수 있게 만들어주는 방식 RAG는 Retrieval(검색)과 Generation(생성)을 결합한 AI 아키텍처이다. 기존의 언어 모델이 모든 정보를 "암기"한 상태에서 응답을 생성하는 방식이었다면, RAG는 외부 지식원을 실시간으로 "검색"하여 그 정보를 바탕으로 응답을 생성한다. 이는 특히 최신 정보 반영이 어려운 LLM의 구조적 한계를 극복하기 위한 접근 방식이다. 2️⃣ RAG의 구성 요소🔔 1. Retriever (검색기)사용자의 질문과 관련된 정보를 외부 데이터(문서, 위키피디아, 데이터베이스 등)에서 검색해 벡터화한다. 벡터화란, 텍스트를 수치화된 고차원 공간 상의 ..
ML, DL 2025. 5. 7. 10:42
NLP, Transformer, LLM - 자연어 처리부터 대형 언어 모델까지

Chat GPT와 같은 초거대 언어 모델(LLM)이 발전하면서 이제는 일상 속에서 없어서는 안 될 존재가 되어가고 있습니다. 이러한 LLM의 근본에는 바로 ‘Transformer’라는 구조와, 그에 기반한 자연어 처리(NLP) 기술의 진화가 있는데요. ✔ 자연어 처리(NLP)는 어떤 문제를 다루는지, ✔ Transformer는 왜 기존 방식을 뛰어넘었는지, ✔ LLM은 어떤 방식으로 학습되고 활용되는지, ✔ 그리고 최근 주목받고 있는 LoRA 같은 효율적인 파인튜닝 기법까지 하나씩 차근차근 정리해보겠습니다. 1️⃣ NLP란? – 언어를 이해하는 기술Natural Language Processing의 약자로 자연어, 즉 사람이 쓰는 언어를 컴퓨터가 이해하고 해석할 수 있게 만드는 기술이다. 🔔 대표..
ML, DL 2025. 5. 5. 17:18
이전 Prev 1 Next 다음