kohya_ss 설치했는데 LoRA 학습이 안 될 때, 가장 먼저 확인해야 할 7가지

안녕하세요 여러분, 물범쌤입니다 :)

조금 시간이 지난 방식이긴 하지만
kohya_ss로 로컬 로라를 제작하시는분들이 아직 많이 계실텐데요
하지만 워낙에 프로그램이 호환성에 민감하다보니

끝없는 에러를 헤메이다가 포기하신 분들이 많습니다.ㅠㅠ

 

오늘은 그런 분들을 위해 몇가지 체크사항을 전달드리도록 하겠습니다.

 

---

🟢  "LoRA 학습이 안 돼요… 왜 그럴까요?"

• kohya_ss 설치는 했는데, 학습이 안 되거나 GPU가 안 돌아가는 분들 계신가요?
• 혹시 이런 증상 중 하나라도 겪으셨다면:
  • 학습 시작하자마자 CUDA 오류 발생
  • GPU는 있는데 CPU로만 학습이 돌아감
  • xformers 관련 RuntimeError
  • 학습이 너무 느리거나, 에폭 진행이 안 됨
• 자신의 GPU 환경에서 반드시 체크해야 할 항목들을 정리해드리겠습니다.

---

✔ ① 내 GPU가 PyTorch에서 지원되는지 확인하셨나요?

• 터미널에서 아래 명령어 실행:

python -c "import torch; print(torch.cuda.get_device_name(0))"

• 만약 에러가 나거나, 출력되는 답변이 False라면:
  • CUDA 버전, GPU 드라이버, PyTorch 버전 중 하나가 안 맞을 가능성
• 본인의 GPU에 호환되는 버전들을 확인하세요

※Q. 잠깐!! 명령어는 어디서 치라는 말씀인가요?
A.Kohya_ss가 설치된 파일의 가상환경에서 진행하시면 됩니다^^

 

---

② PyTorch 버전은 GPU와 호환되나요?

• pip list | findstr torch 로 확인
• 예시:
  • RTX 40 시리즈: 보통 torch 2.0 이상 + CUDA 11.8/12.1
  • RTX 50 시리즈: 반드시 torch-nightly + CUDA 12.8 (cu128) 필요
• 버전 변경 시:

 

pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu128

 

---

③ CUDA Toolkit은 설치되어 있나요?

• NVIDIA 공식 다운로드
• 설치 후 cmd에서 nvcc --version으로 설치 확인
• 추천 버전:
  • 대부분의 경우 CUDA 11.8 또는 12.1
  • 최신 GPU는 CUDA 12.8

 

---

④ xformers 오류가 난다면?

• xformers는 메모리 효율을 높여주는 라이브러리지만 GPU와 PyTorch 버전에 민감함.
• 에러 예시:
  • no kernel image is available
  • set_use_memory_efficient_attention_xformers 오류
• 해결:
  • GPU 환경에 맞는 버전 설치하거나,
  • GUI에서 CrossAttention을 'sdpa'로 변경

 

 

---

 

⑤ bitsandbytes 오류?

• 8-bit optimizer 기능, GPU 아키텍처와 종종 충돌
• 오류 발생 시 requirements.txt에서 제거하거나,
• 아래 명령어로 수동 설치:

 

pip install bitsandbytes -U --prefer-binary

 

 

---

 

⑥ kohya_ss가 GPU를 인식하지 못하는 경우

• setup.bat → 옵션 5 (Accelerate 설정) 재진행 필수
• 올바른 선택지 예시:
  • GPU 사용 여부: No
  • Mixed Precision: fp16
  • GPU 선택: all

 

---

 

⑦ 학습 중 GPU 점유율 확인은 하셨나요?

• 작업 관리자 > 성능 > GPU 확인
• 점유율 0% = 실제로 GPU 안 쓰는 중
• 이런 경우 대부분 CPU fallback 상태 → 위 ①~⑤ 확인 필요

 

 

★보너스: 설치할 때 흔히 생기는 오해

• kohya_ss 설치만 하면 끝인 줄 알았다 → NO
• requirements.txt 대로 pip install 했는데 왜 안돼?
  → 내 GPU에 맞는 PyTorch가 아닐 수 있음
• 학습은 되는데 GPU가 너무 느려요
  → 사실 CPU로 학습 중일 가능성 큼

---

오늘은 로컬 로라 학습 프로그램인 Kohya_ss에서 발생하는

오류 사항들을 알아보고, 체크리스트를 제공 드렸습니다.

 

이 컨텐츠가 유익하셨다면

커피값은 기업들에게 받을테니

광고 한번씩만 눌러주시면 감사드리겠습니다 :)

 

그럼 좋은 하루 되세요! ^^