Design AI LAB

Stable Diffusion 설치 가이드: 초보자를 위한 첫 이미지 생성 (feat. Design AI LAB)

초보자를 위한 Stable Diffusion 설치부터 첫 이미지까지! “나도 처음엔 몰랐는데 이렇게 해보니 되더라!”

안녕하세요, Learning Design & AI Together 블로그에서 여러분과 함께 배우고 성장하고 싶은 Design AI LAB의 학습자입니다! 😃

요즘 “AI 그림”이 정말 핫하잖아요? 저도 처음엔 인스타그램에서 멋진 AI 그림들을 보면서 ‘우와, 이걸 어떻게 만들지?’ ‘나도 한번 해보고 싶은데 너무 어려울 것 같아…’ 하고 망설이기만 했어요.

그러다 Design AI LAB에서 직접 AI 도구를 써보면서 ‘어라? 생각보다 할 만한데?’ 하는 용기가 생겼습니다! 특히 Stable Diffusion이라는 도구로 제가 원하는 그림을 뚝딱 만들어내는 경험은 정말 마법 같았어요.

물론 처음부터 술술 잘 된 건 아니었습니다. 설치 과정에서 ‘이건 또 뭐야?’ 싶었던 순간들도 많았고, 오류 메시지 앞에서 멘붕에 빠지기도 했죠. 하지만 ‘나도 처음엔 몰랐는데 이렇게 해보니 되더라!’라는 마음으로 끈기 있게 도전했고, 결국 첫 AI 이미지를 만드는 데 성공했습니다!

그래서 오늘은 제가 직접 부딪히고 깨져가며 배운 Stable Diffusion 설치부터 첫 이미지를 만드는 실전 노하우를 초보자 여러분의 눈높이에 맞춰 쉽고 친절하게 공유해드리려 합니다. 제가 겪었던 시행착오와 해결 방법도 솔직하게 알려드릴 테니, ‘나는 컴맹이라 못 할 거야!’ 같은 생각은 잠시 접어두고 저와 함께 한 걸음씩 따라와 보세요. 우리 모두 할 수 있습니다! 💪

🌟 일단 시작하려면, 뭐가 필요할까요? (준비물 체크!)

Stable Diffusion을 우리 컴퓨터에 설치하려면 몇 가지 준비물이 필요해요. 너무 걱정 마세요, 대부분 무료로 준비할 수 있는 것들입니다!

1. 컴퓨터 (가장 중요!)

  • 운영체제: 윈도우 10/11 (맥OS도 가능하지만, 윈도우 기준으로 설명할게요!)
  • 그래픽 카드 (GPU): 이게 핵심이에요!
    • 필수: NVIDIA 그래픽 카드 (RTX 시리즈 추천!) Stable Diffusion은 NVIDIA 그래픽 카드에서 가장 잘 작동해요. 내 컴퓨터에 어떤 그래픽 카드가 설치되어 있는지 모른다면, 윈도우 검색창에 ‘장치 관리자’를 검색해서 ‘디스플레이 어댑터’ 항목을 확인해보세요.
    • 메모리(VRAM): 최소 8GB 이상을 권장합니다. 숫자가 높을수록 더 크고 멋진 그림을 만들 수 있어요.
    • Tip! 만약 NVIDIA 그래픽 카드가 없거나 VRAM이 너무 낮다면? 😢 좌절하지 마세요! Google Colab 같은 클라우드 서비스를 유료(구독)로 이용하는 방법도 있어요. 하지만 오늘은 우리 컴퓨터에 직접 설치하는 방법을 기준으로 설명할게요!
  • 램(RAM): 16GB 이상을 권장해요.
  • 하드디스크 공간: 최소 50GB 이상 여유 공간이 있으면 좋아요. Stable Diffusion 자체는 그리 크지 않지만, 그림을 만드는 ‘모델’ 파일들이 용량을 많이 차지할 수 있거든요.

2. 소프트웨어 (무료!)

  • Python (버전 3.10.x): AI 프로그램이 작동하기 위한 필수 언어예요. 버전이 정말 중요해요! 저는 3.10.6 버전을 사용하고 있습니다.
  • Git: 웹에 있는 Stable Diffusion 프로그램 파일을 우리 컴퓨터로 가져오는 데 필요한 도구예요.

잠깐! 너무 어렵게 생각하지 마세요! 위에 나열된 것들이 뭔지 몰라도 괜찮아요. 제가 어떤 것을, 어떻게 설치해야 하는지 아주 쉽게 알려드릴 테니까요! 😉

🚀 이제 진짜 시작! Stable Diffusion 설치, 차근차근 따라 해봐요!

자, 이제 실전입니다! 제가 했던 방법 그대로 따라오시면 여러분도 곧 첫 AI 이미지를 만나볼 수 있을 거예요.

0단계: 기본 환경 세팅하기 (Python & Git 설치)

가장 먼저 AI 프로그램이 돌아갈 수 있는 ‘기반’을 다져야 해요.

  1. Python 설치하기 (버전 3.10.x가 중요!)
    • 파이썬 3.10.6 다운로드 페이지로 이동하세요. (다른 3.10.x 버전도 괜찮지만, 제가 쓰는 3.10.6이 안정적이었어요!)
    • 스크롤을 쭉 내리다 보면 Files 섹션이 보일 거예요. 여기서 자기 컴퓨터 환경에 맞는 설치 파일을 선택해주세요. 대부분 윈도우 사용자라면 “Windows installer (64-bit)”를 클릭해서 다운로드하면 됩니다.
    • 다운로드 받은 파일을 더블 클릭해서 실행하세요.
    • 설치 화면이 나타나면, 가장 중요한 단계! 화면 아래쪽에 있는 “Add Python 3.10 to PATH”라는 체크박스를 반드시 체크해주세요! 이걸 안 하면 나중에 골치 아파질 수 있어요.
    • 그 다음은 “Install Now”를 눌러서 설치를 완료합니다.
  2. Git 설치하기
    • Git 다운로드 페이지로 이동하세요.
    • 운영체제에 맞는 버전을 클릭해서 다운로드합니다. (보통 “64-bit Git for Windows Setup”을 다운받으면 됩니다.)
    • 다운로드 받은 파일을 더블 클릭해서 실행하세요.
    • 설치 과정에서 여러 옵션들이 나오는데, 대부분 “Next”를 눌러 기본값으로 진행해도 괜찮아요. 딱히 건드릴 부분은 없습니다.
    • 설치가 완료되면 끝!

확인! Python과 Git이 제대로 설치되었는지 확인하는 방법: 윈도우 검색창에 cmd를 입력해서 명령 프롬프트를 실행하세요. 거기에 python –version을 입력했을 때 Python 3.10.x (자신이 설치한 버전)가 뜨고, git –version을 입력했을 때 Git 버전 정보가 뜨면 성공입니다!

1단계: Stable Diffusion Web UI (Automatic1111) 불러오기

Stable Diffusion은 원래 명령어를 입력해야 하는 복잡한 프로그램인데, 이걸 쉽게 쓸 수 있게 해주는 ‘웹 인터페이스’가 있어요. 우리는 ‘Automatic1111’이라는 아주 유명하고 편리한 웹 UI를 사용할 거예요.

  1. Stable Diffusion 프로그램을 설치하고 싶은 새로운 폴더를 하나 만들어주세요. (예: D:\AI_Drawing)
  2. 방금 만든 폴더 안으로 들어간 다음, 주소 표시줄을 클릭해서 폴더 경로가 파란색으로 변하면 cmd를 입력하고 엔터를 누르세요. 그럼 해당 폴더 위치에서 명령 프롬프트가 열릴 거예요.
  3. 명령 프롬프트 창에 다음 명령어를 그대로 복사해서 붙여넣고 엔터를 누르세요. 
    git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui.git

    이 명령어는 Git을 이용해서 Stable Diffusion 웹 UI 파일을 인터넷에서 우리 컴퓨터로 ‘복사’해 오는 거예요. 잠시 기다리면 파일들이 주르륵 다운로드될 겁니다.

  4. 다운로드가 완료되면, 방금 만든 폴더 안에 stable-diffusion-webui라는 새로운 폴더가 생긴 것을 확인할 수 있을 거예요!

2단계: 필수 파일, AI의 ‘뇌’인 모델 다운로드하기

Stable Diffusion이 그림을 그리려면 그림을 그릴 줄 아는 ‘뇌’가 필요해요. 이걸 ‘모델(Model)’ 또는 ‘체크포인트(Checkpoint)’라고 부릅니다. 이 모델 파일들을 stable-diffusion-webui 폴더 안에 넣어줘야 해요.

  1. AI 모델을 다운로드할 수 있는 곳은 여러 군데가 있지만, 초보자에게는 안정적인 Hugging Face나 다양한 모델이 있는 Civitai를 추천합니다.
  2. 저는 Hugging Face에서 가장 기본적인 모델인 v1-5-pruned-emaonly.safetensors 파일을 추천합니다. (처음 시작하기에 가장 적합해요!)
    • Hugging Face Stable Diffusion v1.5 페이지로 이동하세요.
    • 여기서 v1-5-pruned-emaonly.safetensors 파일을 찾아서 다운로드합니다. (파일 용량이 4GB 정도 되니 시간이 좀 걸릴 수 있어요.)
  3. 다운로드한 모델 파일을 stable-diffusion-webui 폴더 안의 models 폴더, 그리고 그 안의 Stable-diffusion 폴더로 옮겨주세요.
    • 예시 경로: D:\AI_Drawing\stable-diffusion-webui\models\Stable-diffusion

    중요! 모델 파일 이름이 길다고 짧게 바꾸거나 하면 인식을 못 할 수 있어요. 다운로드 받은 이름 그대로 넣어주세요!

3단계: Stable Diffusion Web UI 실행하기

이제 거의 다 왔어요! 다운로드 받은 파일들을 실행해서 AI 그림판을 띄울 시간입니다.

  1. stable-diffusion-webui 폴더 안으로 들어가세요.
  2. 폴더 안에 webui-user.bat이라는 파일이 있을 거예요. 이 파일을 더블 클릭해서 실행합니다.
  3. 처음 실행하면 필요한 추가 파일들을 자동으로 다운로드하기 때문에 시간이 아주 오래 걸릴 수 있어요! (10분에서 30분 이상 걸릴 수도 있으니 커피 한잔 마시면서 기다려주세요.) 검은색 명령 프롬프트 창에 뭔가 계속 주르륵 뜨면서 설치되는 중이니, 멈춘 것 같아도 절대 끄지 마세요!
  4. 모든 준비가 완료되면, 명령 프롬프트 창 맨 아래쪽에 http://127.0.0.1:7860 (또는 비슷한 숫자)로 시작하는 주소가 뜰 거예요. 이 주소가 바로 Stable Diffusion 웹 UI에 접속할 수 있는 주소입니다!
  5. 이 주소를 복사해서 웹 브라우저(크롬, 엣지 등) 주소창에 붙여넣고 엔터를 치세요.
  6. 두둥! 드디어 Stable Diffusion 웹 UI 화면이 나타날 거예요! 🎉

4단계: 드디어 첫 이미지 만들기!

짜잔! 이제 여러분의 손으로 첫 AI 이미지를 만들어 볼 시간입니다!

  1. 모델 선택: 웹 UI 왼쪽 상단에 보면 긴 드롭다운 메뉴가 있을 거예요. 여기서 방금 다운로드 받은 v1-5-pruned-emaonly.safetensors 모델을 선택해주세요.
  2. AI에게 주는 명령어 (프롬프트, Prompt):
    • 화면 상단에 “Prompt”라고 적힌 큰 입력창이 보일 거예요. 여기에 AI에게 어떤 그림을 그리고 싶은지 자세하게 설명해주면 됩니다. 영어가 기본이지만, 요즘은 한글도 번역해서 잘 알아듣는 편이에요!
    • 예시: 귀여운 고양이가 소파에 앉아서 창밖을 보는 그림을 그리고 싶다면? 
      a cute cat, sitting on a cozy couch, looking out the window, warm sunlight, highly detailed, masterpiece, realistic photo
  3. AI에게 하지 말라는 명령어 (부정 프롬프트, Negative Prompt):
    • 그 아래에 “Negative Prompt”라는 입력창이 또 있을 거예요. 여기에는 ‘이런 건 그리지 마!’라고 AI에게 알려주는 거예요. 그림이 이상하게 나오는 걸 막아줍니다.
    • 예시: 
      low quality, bad anatomy, deformed, ugly, blurry, text, watermark, signature, bad hands, extra limbs

      (낮은 품질, 이상한 신체 비율, 기형적인, 못생긴, 흐릿한, 글자, 워터마크, 서명, 이상한 손, 팔다리 추가 등)

  4. 간단한 설정 조절 (처음엔 너무 복잡하게 생각 마세요!)
    • Sampling Steps: 그림을 그리는 횟수예요. 보통 20~30 정도가 적당해요. (많을수록 그림이 섬세해지지만 시간도 오래 걸려요.)
    • CFG Scale: “AI가 내가 준 명령어를 얼마나 잘 따를까?” 하는 정도예요. 보통 7~10 정도가 적당해요. (높을수록 명령어를 잘 따르지만, 너무 높으면 부자연스러울 수 있어요.)
    • Seed: 무작위성을 결정하는 숫자예요. 같은 명령어를 줘도 Seed 값이 다르면 다른 그림이 나옵니다. 처음엔 -1로 두면 매번 새로운 그림을 그려줘요.
  5. “Generate” 버튼 클릭!
    • 모든 설정을 마치고, 화면 오른쪽에 있는 Generate 버튼을 힘껏 눌러주세요!
    • 잠시 기다리면… 두구두구… 여러분의 첫 AI 이미지가 화면에 나타날 거예요! 와아! 🥳

😅 저도 처음엔 삽질 좀 했어요! 실패 극복기!

제가 이 과정을 겪으면서 어떤 실수를 했고, 어떻게 해결했는지 솔직하게 공유해드릴게요. 혹시 저와 같은 문제에 부딪히더라도 당황하지 마세요!

📌 실수 1: Python 버전이 안 맞아서 프로그램이 안 돌아가요!

저는 처음에 최신 버전이 좋겠지 싶어서 Python 3.11을 설치했어요. 그런데 webui-user.bat을 실행하자마자 온갖 오류 메시지가 뜨면서 ‘Python 관련 라이브러리가 없어!’ 하는 식의 빨간 글씨가 주르륵 올라오는 거예요. 뭔지는 모르겠지만 ‘아, 뭔가 잘못됐구나!’ 싶었죠.

💡 해결책: Stable Diffusion은 특정 Python 버전에 최적화되어 있습니다. 당시에는 3.10.x 버전이 가장 안정적이었어요. 저는 제어판에 들어가서 기존 Python을 완전히 삭제하고, 위에 설명드린 대로 Python 3.10.6 버전을 다시 설치했습니다. 그리고 설치할 때 “Add Python 3.10 to PATH”를 다시 한번 꼼꼼하게 체크했더니 거짓말처럼 해결되었어요! 버전이 꼬이면 정말 골치 아프니 처음부터 정확한 버전을 설치하는 게 중요합니다.

📌 실수 2: GPU 메모리가 부족해서 ‘CUDA Out Of Memory’ 오류가 떠요!

겨우 설치를 마치고 첫 이미지를 생성하는데, 조금만 큰 사이즈의 그림을 만들려고 하면 “CUDA Out Of Memory”라는 무시무시한 빨간 글씨와 함께 그림 생성이 멈추는 거예요. 제 그래픽 카드(NVIDIA RTX 3060, 12GB VRAM)가 나름 좋은 편이라고 생각했는데도 이런 오류가 뜨니 당황스러웠습니다. ‘이 좋은 그래픽 카드를 두고 AI 그림을 못 만든다고?!’ 싶었죠.

💡 해결책: 이건 GPU 메모리를 효율적으로 사용하라는 뜻이에요. 해결 방법은 webui-user.bat 파일을 수정하는 겁니다.

  1. stable-diffusion-webui 폴더에서 webui-user.bat 파일을 마우스 오른쪽 클릭 > 편집 (또는 메모장으로 열기)을 선택하세요.
  2. 파일 내용 중 set COMMANDLINE_ARGS= 라고 되어 있는 부분을 찾아서 뒤에 다음 명령어를 추가해주세요. 
    set COMMANDLINE_ARGS=--xformers --autolaunch

    (--xformers는 메모리 사용을 최적화해주는 기능이고, --autolaunch는 웹 UI가 준비되면 자동으로 브라우저를 열어주는 편리한 기능입니다.)

  3. 파일을 저장하고 다시 webui-user.bat을 실행해보니, 훨씬 더 안정적으로 이미지가 생성되기 시작했어요! 만약 그래도 부족하다면 --medvram 또는 --lowvram 옵션을 추가해 볼 수도 있습니다. (하지만 그림 생성 속도가 조금 느려질 수 있어요.)

📌 실수 3: 모델 파일을 어디다 넣어야 할지 몰라서 AI가 그림을 못 그려요!

열심히 모델 파일을 다운로드했는데, 웹 UI에서 아무리 찾아봐도 모델 목록에 제가 다운로드한 파일이 없는 거예요! “No checkpoints found” 같은 메시지를 보면서 ‘대체 이 똑똑한 AI는 왜 모델을 못 찾는 거지?!’ 하고 답답했던 기억이 납니다.

💡 해결책: 폴더 경로가 생각보다 중요하더라고요. 모델 파일은 정확하게 stable-diffusion-webui/models/Stable-diffusion 폴더 안에 있어야 합니다. 저는 처음에 models 폴더에만 넣고 그 안의 Stable-diffusion 폴더에 넣지 않아서 AI가 못 찾았던 거였어요. 경로를 정확히 맞춰주고 나니 드롭다운 메뉴에 제가 다운로드한 모델이 짜잔! 하고 나타났습니다. 경로를 다시 한번 꼼꼼하게 확인하는 것이 중요합니다!

✨ 이제 여러분의 차례입니다! 즐거운 AI 그림 생활 시작!

어때요? 생각보다 할 만하죠? 여기까지 따라오느라 정말 고생 많으셨습니다! 이제 여러분은 Stable Diffusion으로 자신만의 이미지를 만들어낼 준비가 된 멋진 AI 아티스트입니다!

첫 이미지를 생성하셨다면, 그건 정말 대단한 시작이에요. 이젠 이 재미있는 도구를 가지고 마음껏 실험해보세요!

  • 프롬프트(AI에게 주는 명령어)를 바꿔가면서 어떤 그림이 나오는지 확인해보세요.
  • 부정 프롬프트(AI에게 하지 말라는 명령어)를 더 자세히 써서 원치 않는 요소를 제거해보세요.
  • Sampling Steps나 CFG Scale 같은 설정을 조금씩 바꿔가면서 그림의 분위기가 어떻게 달라지는지 경험해보세요.

AI 그림의 세계는 무궁무진합니다. 제가 오늘 알려드린 것은 그 문을 여는 아주 작은 첫걸음에 불과해요. 앞으로는 더 다양한 모델을 사용하고, LoRA(그림체 학습 파일)나 확장 기능(Extension)들을 활용해서 훨씬 더 다채롭고 멋진 이미지를 만들어낼 수 있을 거예요.

저도 여전히 배우는 과정에 있습니다. 우리 모두 “Learning Design & AI Together”라는 이름처럼 함께 배우고, 함께 시행착오를 겪고, 함께 성장해나가요! 여러분의 첫 AI 그림 경험이 즐겁고 신나는 여정이 되기를 진심으로 응원합니다. 다음에는 더 유용한 팁으로 찾아올게요! 안녕~ 👋