728x90
vLLM
-
LLM 생태계 정리AI ML 2025. 4. 5. 16:42
LLM 생태계는 크게 다음 7가지로 나눌 수 있습니다. 1. 모델 (LLMs)2. 임베딩 (Embeddings)3. 서빙 및 추론 (Inference/Serving)4. 파인튜닝/경량학습 (Fine-tuning/LoRA)5. 검색 기반 강화 (RAG)6. 프레임워크/오케스트레이션7. 에이전트 / 도구 실행 (Agents/Tool Use) 1️⃣ 모델 (LLMs)유형대표 모델상용 APIChatGPT (GPT-3.5/4), Claude 3, Gemini, Mistral API, Cohere오픈소스LLaMA 2/3, Mistral, Mixtral, Falcon, Gemma, Phi, Yi, OpenChat✅ 대부분 Hugging Face에 올라옴 2️⃣ 임베딩 (Embeddings)문장을 벡터로 변환하여 유..