app.py

import spaces
import torch
from diffusers import FluxPipeline
import gradio as gr
import random
import numpy as np
import os

# GPU 사용 가능 여부 확인
if torch.cuda.is_available():
    device = "cuda"
    print("GPU를 사용합니다")
else:
    device = "cpu"
    print("CPU를 사용합니다")

# HuggingFace 토큰 로그인
HF_TOKEN = os.getenv("HF_TOKEN")

MAX_SEED = np.iinfo(np.int32).max
CACHE_EXAMPLES = torch.cuda.is_available() and os.getenv("CACHE_EXAMPLES", "0") == "1"

# 파이프라인 초기화 및 모델 다운로드
pipe = FluxPipeline.from_pretrained("black-forest-labs/FLUX.1-dev", torch_dtype=torch.bfloat16)
pipe.to(device)

# 이미지 생성 함수 정의
@spaces.GPU(duration=160)
def generate_image(prompt, num_inference_steps, height, width, guidance_scale, seed, num_images_per_prompt, progress=gr.Progress(track_tqdm=True)):
    if seed == 0:
        seed = random.randint(1, MAX_SEED)

    generator = torch.Generator().manual_seed(seed)
    
    with torch.inference_mode():
        output = pipe(
            prompt=prompt,
            num_inference_steps=num_inference_steps,
            height=height,
            width=width,
            guidance_scale=guidance_scale,
            generator=generator,
            num_images_per_prompt=num_images_per_prompt
        ).images
    
    return output

# 예제 프롬프트
examples = [
    ["A cat holding a sign that says hello world"],
    ["a tiny astronaut hatching from an egg on the moon"],
    ["An astronaut on mars in a futuristic cyborg suit"],
]

# 커스텀 CSS
css = '''
.gradio-container {
    max-width: 1000px !important;
    margin: auto;
}
h1 {
    text-align: center;
    font-family: 'Pretendard', sans-serif;
}
.footer-content {
    text-align: center;
    margin-top: 2rem;
    padding: 2rem 1rem;
    font-family: 'Pretendard', sans-serif;
    background-color: #F9FAFB;
    border-radius: 0.5rem;
}
.visit-button {
    background-color: #EA580C;
    color: white !important;
    padding: 0.75rem 1.5rem;
    border-radius: 0.5rem;
    font-weight: 500;
    text-decoration: none;
    display: inline-block;
    margin-top: 1rem;
    transition: all 0.2s ease-in-out;
}
.visit-button:hover {
    background-color: #C2410C;
    transform: translateY(-1px);
    box-shadow: 0 4px 6px -1px rgba(0, 0, 0, 0.1), 0 2px 4px -1px rgba(0, 0, 0, 0.06);
}
'''
'''

# Gradio 인터페이스 생성
with gr.Blocks(
    theme=gr.themes.Default(
        font=("Pretendard", "sans-serif")
    ),
    css=css
) as demo:
    with gr.Row():
        with gr.Column():
            gr.HTML(
                """
                <h1>끝장AI FLUX.1 이미지 생성기</h1>
                """
            )
    
    with gr.Group():
        with gr.Column():
            prompt = gr.Textbox(
                label="프롬프트",
                info="원하는 이미지를 설명해주세요",
                placeholder="고양이..."
            )
            run_button = gr.Button("생성하기", variant="primary")
        result = gr.Gallery(
            label="생성된 AI 이미지",
            elem_id="gallery"
        )
    
    with gr.Accordion("고급 설정", open=False):
        with gr.Row():
            num_inference_steps = gr.Slider(
                label="추론 단계 수",
                info="이미지의 디노이징 단계 수입니다. 더 많은 단계는 더 높은 품질의 이미지를 생성하지만 시간이 더 걸립니다",
                minimum=1,
                maximum=50,
                value=25,
                step=1
            )
            guidance_scale = gr.Slider(
                label="가이던스 스케일",
                info="텍스트 프롬프트를 얼마나 충실히 따를지 제어합니다. 높은 값은 입력 텍스트에 더 가깝게 생성됩니다",
                minimum=0.0,
                maximum=7.0,
                value=3.5,
                step=0.1
            )
        
        with gr.Row():
            width = gr.Slider(
                label="너비",
                info="이미지의 너비",
                minimum=256,
                maximum=1024,
                step=32,
                value=1024
            )
            height = gr.Slider(
                label="높이",
                info="이미지의 높이",
                minimum=256,
                maximum=1024,
                step=32,
                value=1024
            )
        
        with gr.Row():
            seed = gr.Slider(
                value=42,
                minimum=0,
                maximum=MAX_SEED,
                step=1,
                label="시드",
                info="생성 과정의 시작점입니다. 0을 입력하면 랜덤한 시드가 사용됩니다"
            )
            num_images_per_prompt = gr.Slider(
                label="프롬프트당 이미지 수",
                info="설정된 값으로 생성할 이미지의 수",
                minimum=1,
                maximum=4,
                step=1,
                value=2
            )

    gr.Examples(
        examples=examples,
        fn=generate_image,
        inputs=[prompt, num_inference_steps, height, width, guidance_scale, seed, num_images_per_prompt],
        outputs=[result],
        cache_examples=CACHE_EXAMPLES
    )

    gr.on(
        triggers=[
            prompt.submit,
            run_button.click,
        ],
        fn=generate_image,
        inputs=[prompt, num_inference_steps, height, width, guidance_scale, seed, num_images_per_prompt],
        outputs=[result],
    )

    # Footer at the bottom
    gr.HTML(
        """
        <div class='footer-content'>
            <p style='font-size: 1.1rem; font-weight: 500; color: #1F2937;'>끝장AI가 제공하는 고급 AI 도구를 더 경험하고 싶으신가요?</p>
            <a href='https://finalendai.com' target='_blank' class='visit-button' style='color: white !important;'>
                끝장AI 방문하기
            </a>
            <p style='margin-top: 1.5rem; color: #6B7280; font-size: 0.9rem;'>
                © 2024 끝장AI. All rights reserved.
            </p>
        </div>
        """
    )

demo.queue().launch(share=False)