AMD에 Stable Diffusion Web UI 설치하기(1), Direct ML 버전

AMD에 Stable Diffusion Web UI 설치하기(2), zluda 버전

AMD에 Stable Diffusion Web UI 설치하기(2), zluda 버전

 

 

Stable Diffusion으로 멋진 이미지를 만들어보려고 했던 저의 여정을 공유하려고 합니다. 특히 NVIDIA 그래픽 카드에서 AMD RX7800 XT로 바꾸면서 겪은 고생과, 결국 성공적으로 설치한 경험을 바탕으로 작성했으니, 비슷한 상황에 있는 분들께 도움이 되기를 바랍니다.

출처 : 나, 지금은 잘 작동한다 !

 

1. NVIDIA에서 AMD로 바꾸면서 불편했던 점: 설치가 너무 힘들다!

 

저는 원래 NVIDIA 그래픽 카드 (기존 사용하던 노트북용 RTX3060)를 사용하며 Stable Diffusion Web UI를 쾌적하게 즐겼습니다. 하지만 최근 AMD의 RX7800 XT로 바꾸면서부터 일이 꼬이기 시작했습니다. NVIDIA에서는 CUDA 지원 덕분에 설치도 쉬웠고, 속도도 빨라서 이미지 생성이 정말 순조로웠는데, AMD로 넘어오니 상황이 완전히 달라졌습니다. Stable Diffusion은 기본적으로 NVIDIA GPU에 최적화되어 있어서, AMD에서 실행하려면 여러 가지 호환성 문제와 설정 문제를 해결해야 했습니다. 설치를 시도하면서 "Torch is not able to use GPU" 같은 오류를 마주하며 정말 좌절했습니다. 초기에는 설치 과정 자체가 너무 복잡하고, 인터넷에 흩어진 정보가 제 상황에 맞지 않아서 몇 번이나 포기하고 싶을 정도였습니다.

애증의 AMD

 

2. 그래서 DirectML 버전으로 설치를 진행했습니다: 필요한 프로그램과 설치법.

 

 AMD GPU에서는 NVIDIA처럼 CUDA가 없으니, 다른 방법을 찾아야 했습니다. 그래서 처음에는 DirectML 버전을 시도했습니다. DirectML은 Microsoft가 제공하는 AMD GPU 지원을 위한 설루션이어서,설치가 비교적 간단하다는 이야기를 들었거든요. 하지만 여전히 쉽지만은 않았습니다. 아래는 DirectML 버전 설치를 위해 필요한 프로그램과 설치 과정을 정리한 내용입니다.

 

필요한 프로그램

• Python 3.10.x: Stable Diffusion은 Python 3.10.6 또는 3.10.11을 권장합니다. 최신 버전(3.11 이상)은 호환성 문제가 있을 수 있으니 주의하세요.
• https://www.python.org/downloads/release/python-3106/

Python Release Python 3.10.6

• Git: 소스 코드를 다운로드하기 위해 필요합니다. Git 공식 사이트에서 Windows용 64bit 설치 프로그램을 다운로드해 설치하세요.
• https://git-scm.com/downloads

Git - Downloads

• AMD Adrenalin 드라이버: 최신 버전(2025년 2월 기준, 24.1.1 이상)이 필요합니다. AMD 공식 사이트에서 RX 7800 XT에 맞는 드라이버를 업데이트하세요. / 첨부 링크는 HIP SDK ROCm입니다. 뒤에 필요합니다.
• https://www.amd.com/en/developer/resources/rocm-hub/hip-sdk.html

AMD HIP SDK for Windows

 

반응형

 

설치법

 

1. Python 설치 

• Python 공식 사이트에서 Python 3.10.6을 다운로드하고 설치합니다. 설치 시 "Add Python to PATH" 옵션을 꼭 체크하세요.
• 설치를 다 하고 PowerShell을 통해서 아래의 코드를 삽입하여 설치 확인이 되었는지 확인합니다. 

python --version

정상 출력

 

 만약 버전이 출력되지 않는다면 PATH가 제대로 추가가 되지 않았을 수 있습니다. 설치는 완료했으나 정상 출력이 되지 않는다면 아래의 조치를 해야 합니다. 

 

PATH 수동 추가 (이미 설치된 경우)

• Python 설치 경로를 확인합니다. 기본 경로는 C:\Users\<사용자이름>\AppData\Local\Programs\Python\Python310 또는 C:\Python310일 수 있습니다.
• Windows 키 + S를 눌러 "환경 변수 편집"을 검색하고 "시스템 환경 변수 편집"을 엽니다.
• "환경 변수" 창에서 "시스템 변수" 또는 "사용자 변수" 섹션의 "Path" 항목을 찾아 "편집"을 클릭합니다.

 

• "새로 만들기"를 눌러 다음 두 경로를 추가합니다: (만약 Path가 생성되어 있다면 편집을 통해 별도 추가가 가능함.)
• C:\Users\<사용자이름>\AppData\Local\Programs\Python\Python310
• C:\Users\<사용자이름>\AppData\Local\Programs\Python\Python310\Scripts (설치 경로가 다를 수 있으니 실제 경로를 확인하세요.)

2. Git 설치 

• Git 공식 사이트에서 64bit Windows용 Git을 다운로드하고 기본 설정으로 설치했습니다.
• 설치를 완료하고 나면 파이썬과 같이 다음 명령어를 추가해서 설치를 확인합니다. 

git --version

 

 

3. Stable Diffusion Web UI (DirectML) 다운로드

 

명령 프롬프트에서 설치 폴더(예: D:\StableDiffusion)로 이동. 저는 D드라이브에 설치를 했습니다. 각 사정에 맞게 수정하면 됩니다. 다시 파워쉘에서 아래의 코드를 붙여 넣습니다. 해당 코드를 사용하면 자동으로 폴더를 만들고 해당 폴더에서 작업을 수행하겠다는 의미입니다. (나중에 다시 C로 재설치)

D:
mkdir StableDiffusion
cd StableDiffusion

이후 아래의 명령어를 통해서 DirectML 버전의 Web ui를 다운로드 합니다. 

git clone https://github.com/lshqqytiger/stable-diffusion-webui-directml
cd stable-diffusion-webui-directml
git submodule init
git submodule update

 

 설치가 완료되면 다음과 같이 폴더내에 파일들이 생성됩니다. 거기에서 webui-user.bat 파일을 메모장으로 편집하여 아래의 코드를 삽입하고 저장하기를 누릅니다. 

set COMMANDLINE_ARGS=--use-directml --medvram --opt-sub-quad-attention --opt-split-attention --no-half-vae --upcast-sampling

 

 

4. webui-user.bat 실행 

 

 초기 실행을 하게 되면 필요한 파일을 다운받습니다. 느긋하게 시간을 기다리면 설치가 완료됩니다. 하지만 설치과정에서 생기는 오류들은 너무 다양해서 하나하나 다 작성이 어렵습니다. 그래서 해당 빨간 코드가 뜨는 (주로 Traceback)으로 표기되는 코드를 복사하여 GROK3나 Gemini처럼 최신 LLM 모델에 첨부합니다. 최신 모델들은 그에 알맞은 해답을 주기 때문에 AI를 쓰는 것이 가장 편리합니다. 

 

 제가 겪은 예시로는 git, python 관련 코드들이 나왔는데 해당 코드들은 설치가 제대로 안되었을 경우 발생하기 때문에 처음부터 다시 설치를 진행하고 path 같은 환경변수들도 확인을 해야 합니다. 

 

 해당 명령어들이 실행되고 나면, 로컬 브라우저로 창이 열리면서 이미지를 생성할 수 있습니다. 거기에 positive란에 만들고 싶은 이미지를 생각하고 프롬프트를 작성하면 됩니다. 구체적일수록 생각하는 이미지와 비슷한 결과물이 나올 가능성이 높습니다. 

 

 간단한 프롬프트를 사용할 때는 꽤 빠른 속도로 뽑아주지만, 여러 프롬프트를 입력할 경우 연산이 너무 느려 사용하기가 힘듭니다(처음엔 너무 느렸는데, 지금 제 버전은 zluda 최적화가 되어서인지 속도가 빠르네요?). 다양한 모델을 사용하는 방법은 구글에 검색하면 나오는데 시간이 나면 제 경험을 들어 글을 한번 써보겠습니다. 1편 Direct ML은 여기까지입니다. 다음은 zluda를 이용한 설치 방법에 대해서 소개하겠습니다. 당시 문제를 일으켰던 오류 코드들도 같이 첨부하여 작성해보겠습니다. 감사합니다.