보안·권한 · 권장

LoRA

모델 전체가 아닌 일부만 살짝 학습시키는 방법.

LoRA는 이미 학습된 모델의 방대한 수치는 그대로 두고, 아주 얇은 조정 층만 새로 학습시켜 특정 성격이나 말투를 입히는 방법입니다. 전체를 다시 훈련하는 것보다 비용과 시간이 훨씬 적게 들어, 내 데이터로 모델을 손보고 싶을 때 현실적인 선택지가 됩니다.

“전체 파인튜닝은 부담되니 LoRA로 말투만 입혀보죠.”
이렇게 씁니다

다른 이름로라 · Low-Rank Adaptation

함께 보기