LORA

🤖 AI에서의 LoRA란 무엇인가?1. LoRA의 기본 개념LoRA(Low-Rank Adaptation) 는AI 모델, 특히 **대규모 언어모델(LLM)이나 이미지 생성 모델(Stable Diffusion 등)**을 효율적으로 튜닝(Fine-tuning)하기 위한 방법이야.✅ 왜 필요할까?기존에는 대형 모델을 조금 수정하려고 해도 수십~수백억 개의 파라미터를 모두 학습해야 했어.이는 GPU 메모리, 시간, 비용이 너무 많이 든다는 단점이 있었지.그래서 LoRA는 학습해야 할 파라미터 수를 획기적으로 줄여서,저사양 환경에서도 원하는 성능을 빠르게 낼 수 있게 만든 기술이야.2. LoRA의 작동 원리LoRA는 간단히 말해:1️⃣ 원래 모델의 weight matrix (W) 를 그대로 두고,2️⃣ 작은 ra..