init

.gitignore

@@ -0,0 +1,176 @@
+# Created by https://www.toptal.com/developers/gitignore/api/python
+# Edit at https://www.toptal.com/developers/gitignore?templates=python
+
+### Python ###
+# Byte-compiled / optimized / DLL files
+__pycache__/
+*.py[cod]
+*$py.class
+
+# C extensions
+*.so
+
+# Distribution / packaging
+.Python
+build/
+develop-eggs/
+dist/
+downloads/
+eggs/
+.eggs/
+lib/
+lib64/
+parts/
+sdist/
+var/
+wheels/
+share/python-wheels/
+*.egg-info/
+.installed.cfg
+*.egg
+MANIFEST
+
+# PyInstaller
+#  Usually these files are written by a python script from a template
+#  before PyInstaller builds the exe, so as to inject date/other infos into it.
+*.manifest
+*.spec
+
+# Installer logs
+pip-log.txt
+pip-delete-this-directory.txt
+
+# Unit test / coverage reports
+htmlcov/
+.tox/
+.nox/
+.coverage
+.coverage.*
+.cache
+nosetests.xml
+coverage.xml
+*.cover
+*.py,cover
+.hypothesis/
+.pytest_cache/
+cover/
+
+# Translations
+*.mo
+*.pot
+
+# Django stuff:
+*.log
+local_settings.py
+db.sqlite3
+db.sqlite3-journal
+
+# Flask stuff:
+instance/
+.webassets-cache
+
+# Scrapy stuff:
+.scrapy
+
+# Sphinx documentation
+docs/_build/
+
+# PyBuilder
+.pybuilder/
+target/
+
+# Jupyter Notebook
+.ipynb_checkpoints
+
+# IPython
+profile_default/
+ipython_config.py
+
+# pyenv
+#   For a library or package, you might want to ignore these files since the code is
+#   intended to run in multiple environments; otherwise, check them in:
+# .python-version
+
+# pipenv
+#   According to pypa/pipenv#598, it is recommended to include Pipfile.lock in version control.
+#   However, in case of collaboration, if having platform-specific dependencies or dependencies
+#   having no cross-platform support, pipenv may install dependencies that don't work, or not
+#   install all needed dependencies.
+#Pipfile.lock
+
+# poetry
+#   Similar to Pipfile.lock, it is generally recommended to include poetry.lock in version control.
+#   This is especially recommended for binary packages to ensure reproducibility, and is more
+#   commonly ignored for libraries.
+#   https://python-poetry.org/docs/basic-usage/#commit-your-poetrylock-file-to-version-control
+#poetry.lock
+
+# pdm
+#   Similar to Pipfile.lock, it is generally recommended to include pdm.lock in version control.
+#pdm.lock
+#   pdm stores project-wide configurations in .pdm.toml, but it is recommended to not include it
+#   in version control.
+#   https://pdm.fming.dev/#use-with-ide
+.pdm.toml
+
+# PEP 582; used by e.g. github.com/David-OConnor/pyflow and github.com/pdm-project/pdm
+__pypackages__/
+
+# Celery stuff
+celerybeat-schedule
+celerybeat.pid
+
+# SageMath parsed files
+*.sage.py
+
+# Environments
+.env
+.venv
+env/
+venv/
+ENV/
+env.bak/
+venv.bak/
+
+# Spyder project settings
+.spyderproject
+.spyproject
+
+# Rope project settings
+.ropeproject
+
+# mkdocs documentation
+/site
+
+# mypy
+.mypy_cache/
+.dmypy.json
+dmypy.json
+
+# Pyre type checker
+.pyre/
+
+# pytype static type analyzer
+.pytype/
+
+# Cython debug symbols
+cython_debug/
+
+# PyCharm
+#  JetBrains specific template is maintained in a separate JetBrains.gitignore that can
+#  be found at https://github.com/github/gitignore/blob/main/Global/JetBrains.gitignore
+#  and can be added to the global gitignore or merged into this file.  For a more nuclear
+#  option (not recommended) you can uncomment the following to ignore the entire idea folder.
+#.idea/
+
+### Python Patch ###
+# Poetry local configuration file - https://python-poetry.org/docs/configuration/#local-configuration
+poetry.toml
+
+# ruff
+.ruff_cache/
+
+# LSP config files
+pyrightconfig.json
+
+# End of https://www.toptal.com/developers/gitignore/api/python

.python-version

@@ -0,0 +1 @@
+3.11

README.md

@@ -11,3 +11,12 @@ short_description: tutorial
 ---
 
 Check out the configuration reference at https://huggingface.co/docs/hub/spaces-config-reference
+
+# How to do it
+
+
+
+
+# Reference
+
+- https://medium.com/@james.irving.phd/creating-your-personal-chatbot-using-hugging-face-spaces-and-streamlit-596a54b9e3ed

app.py

@@ -0,0 +1,194 @@
+import os
+from dotenv import load_dotenv
+from langchain_huggingface import HuggingFaceEndpoint
+import streamlit as st
+from langchain_core.prompts import PromptTemplate
+from langchain_core.output_parsers import StrOutputParser
+
+# 사용할 Hugging Face 모델 ID를 정의합니다.
+model_id = "mistralai/Mistral-7B-Instruct-v0.3"
+
+# .env 파일 로드
+load_dotenv()
+
+
+def get_llm_hf_inference(model_id=model_id, max_new_tokens=128, temperature=0.1):
+    """
+    Hugging Face 추론을 위한 언어 모델을 반환합니다.
+
+    매개변수:
+    - model_id (str): Hugging Face 모델 저장소의 ID입니다.
+    - max_new_tokens (int): 생성할 수 있는 최대 새 토큰 수입니다.
+    - temperature (float): 모델에서 샘플링할 때의 온도 값입니다.
+
+    반환값:
+    - llm (HuggingFaceEndpoint): Hugging Face 추론을 위한 언어 모델입니다.
+    """
+    # HuggingFaceEndpoint를 사용하여 언어 모델을 초기화합니다.
+    llm = HuggingFaceEndpoint(
+        repo_id=model_id,  # 사용할 모델 ID
+        max_new_tokens=max_new_tokens,  # 생성할 최대 토큰 수
+        temperature=temperature,  # 샘플링 시 온도 설정
+        token=os.getenv("HF_TOKEN"),  # Hugging Face API 토큰 (환경 변수에서 가져옴)
+    )
+    return llm  # 초기화된 언어 모델을 반환합니다.
+
+
+# Streamlit 앱 설정을 구성합니다.
+st.set_page_config(page_title="HuggingFace ChatBot", page_icon="🤗")
+st.title("개인 HuggingFace 챗봇")
+st.markdown(
+    f"*이것은 HuggingFace transformers 라이브러리를 사용하여 텍스트 입력에 대한 응답을 생성하는 간단한 챗봇입니다. {model_id} 모델을 사용합니다.*"
+)
+
+# 아바타에 대한 세션 상태를 초기화합니다.
+if "avatars" not in st.session_state:
+    st.session_state.avatars = {"user": None, "assistant": None}
+
+# 사용자 텍스트 입력에 대한 세션 상태를 초기화합니다.
+if "user_text" not in st.session_state:
+    st.session_state.user_text = None
+
+# 모델 매개변수에 대한 세션 상태를 초기화합니다.
+if "max_response_length" not in st.session_state:
+    st.session_state.max_response_length = 256
+
+# 시스템 메시지에 대한 세션 상태를 초기화합니다.
+if "system_message" not in st.session_state:
+    st.session_state.system_message = "인간 사용자와 대화하는 친절한 AI"
+
+# 시작 메시지에 대한 세션 상태를 초기화합니다.
+if "starter_message" not in st.session_state:
+    st.session_state.starter_message = "안녕하세요! 오늘 무엇을 도와드릴까요?"
+
+
+# 설정을 위한 사이드바를 구성합니다.
+with st.sidebar:
+    st.header("시스템 설정")
+
+    # AI 설정
+    st.session_state.system_message = st.text_area(
+        "시스템 메시지", value="당신은 인간 사용자와 대화하는 친절한 AI입니다."
+    )
+    st.session_state.starter_message = st.text_area(
+        "첫 번째 AI 메시지", value="안녕하세요! 오늘 무엇을 도와드릴까요?"
+    )
+
+    # 모델 설정
+    st.session_state.max_response_length = st.number_input("최대 응답 길이", value=128)
+
+    # 아바타 선택
+    st.markdown("*아바타 선택:*")
+    col1, col2 = st.columns(2)
+    with col1:
+        st.session_state.avatars["assistant"] = st.selectbox(
+            "AI 아바타", options=["🤗", "💬", "🤖"], index=0
+        )
+    with col2:
+        st.session_state.avatars["user"] = st.selectbox(
+            "사용자 아바타", options=["👤", "👱‍♂️", "👨🏾", "👩", "👧🏾"], index=0
+        )
+    # 채팅 기록 초기화 버튼
+    reset_history = st.button("채팅 기록 초기화")
+
+# 채팅 기록을 초기화하거나, 초기화 버튼이 눌렸을 경우 초기화합니다.
+if "chat_history" not in st.session_state or reset_history:
+    st.session_state.chat_history = [
+        {"role": "assistant", "content": st.session_state.starter_message}
+    ]
+
+
+def get_response(
+    system_message,
+    chat_history,
+    user_text,
+    eos_token_id=["User"],
+    max_new_tokens=256,
+    get_llm_hf_kws={},
+):
+    """
+    챗봇 모델로부터 응답을 생성합니다.
+
+    매개변수:
+        system_message (str): 대화의 시스템 메시지입니다.
+        chat_history (list): 이전 채팅 메시지 목록입니다.
+        user_text (str): 사용자의 입력 텍스트입니다.
+        model_id (str, optional): 사용할 Hugging Face 모델의 ID입니다.
+        eos_token_id (list, optional): 문장 종료 토큰 ID 목록입니다.
+        max_new_tokens (int, optional): 생성할 수 있는 최대 새 토큰 수입니다.
+        get_llm_hf_kws (dict, optional): get_llm_hf 함수에 전달할 추가 키워드 인자입니다.
+
+    반환값:
+        tuple: 생성된 응답과 업데이트된 채팅 기록을 포함하는 튜플입니다.
+    """
+    # 모델을 설정합니다.
+    hf = get_llm_hf_inference(max_new_tokens=max_new_tokens, temperature=0.1)
+
+    # 프롬프트 템플릿을 생성합니다.
+    prompt = PromptTemplate.from_template(
+        (
+            "[INST] {system_message}"
+            "\n현재 대화:\n{chat_history}\n\n"
+            "\n사용자: {user_text}.\n [/INST]"
+            "\nAI:"
+        )
+    )
+    # 프롬프트를 연결하여 채팅 체인을 만듭니다.
+    chat = prompt | hf.bind(skip_prompt=True) | StrOutputParser(output_key="content")
+
+    # 응답을 생성합니다.
+    response = chat.invoke(
+        input=dict(
+            system_message=system_message,
+            user_text=user_text,
+            chat_history=chat_history,
+        )
+    )
+    # "AI:" 접두사를 제거합니다.
+    response = response.split("AI:")[-1]
+
+    # 채팅 기록을 업데이트합니다.
+    chat_history.append({"role": "user", "content": user_text})
+    chat_history.append({"role": "assistant", "content": response})
+    return response, chat_history
+
+
+# 채팅 인터페이스를 설정합니다.
+chat_interface = st.container(border=True)
+with chat_interface:
+    output_container = st.container()
+    st.session_state.user_text = st.chat_input(
+        placeholder="여기에 텍스트를 입력하세요."
+    )
+
+# 채팅 메시지를 표시합니다.
+with output_container:
+    # 채팅 기록에 있는 각 메시지에 대해 반복합니다.
+    for message in st.session_state.chat_history:
+        # 시스템 메시지는 건너뜁니다.
+        if message["role"] == "system":
+            continue
+
+        # 올바른 아바타를 사용하여 채팅 메시지를 표시합니다.
+        with st.chat_message(
+            message["role"], avatar=st.session_state["avatars"][message["role"]]
+        ):
+            st.markdown(message["content"])
+
+    # 사용자가 새 텍스트를 입력했을 때:
+    if st.session_state.user_text:
+        # 사용자의 새 메시지를 즉시 표시합니다.
+        with st.chat_message("user", avatar=st.session_state.avatars["user"]):
+            st.markdown(st.session_state.user_text)
+
+        # 응답을 기다리는 동안 스피너 상태 표시줄을 표시합니다.
+        with st.chat_message("assistant", avatar=st.session_state.avatars["assistant"]):
+            with st.spinner("생각 중..."):
+                # 시스템 프롬프트, 사용자 텍스트 및 기록을 사용하여 추론 API를 호출합니다.
+                response, st.session_state.chat_history = get_response(
+                    system_message=st.session_state.system_message,
+                    user_text=st.session_state.user_text,
+                    chat_history=st.session_state.chat_history,
+                    max_new_tokens=st.session_state.max_response_length,
+                )
+                st.markdown(response)

pyproject.toml

@@ -0,0 +1,19 @@
+[project]
+name = "first-chatbot"
+version = "0.1.0"
+description = "Add your description here"
+readme = "README.md"
+requires-python = ">=3.11"
+dependencies = [
+    "accelerate>=1.5.2",
+    "huggingface-hub>=0.29.3",
+    "langchain-community>=0.3.20",
+    "langchain-core>=0.3.49",
+    "langchain-huggingface>=0.1.2",
+    "langchain-text-splitters>=0.3.7",
+    "python-dotenv>=1.1.0",
+    "streamlit>=1.44.0",
+    "tqdm>=4.67.1",
+    "transformers>=4.50.2",
+    "watchdog>=6.0.0",
+]

requirements.txt

@@ -0,0 +1,91 @@
+accelerate==1.5.2
+aiohappyeyeballs==2.6.1
+aiohttp==3.11.14
+aiosignal==1.3.2
+altair==5.5.0
+annotated-types==0.7.0
+anyio==4.9.0
+attrs==25.3.0
+blinker==1.9.0
+cachetools==5.5.2
+certifi==2025.1.31
+charset-normalizer==3.4.1
+click==8.1.8
+dataclasses-json==0.6.7
+filelock==3.18.0
+frozenlist==1.5.0
+fsspec==2025.3.0
+gitdb==4.0.12
+gitpython==3.1.44
+h11==0.14.0
+httpcore==1.0.7
+httpx==0.28.1
+httpx-sse==0.4.0
+huggingface-hub==0.29.3
+idna==3.10
+jinja2==3.1.6
+joblib==1.4.2
+jsonpatch==1.33
+jsonpointer==3.0.0
+jsonschema==4.23.0
+jsonschema-specifications==2024.10.1
+langchain==0.3.21
+langchain-community==0.3.20
+langchain-core==0.3.49
+langchain-huggingface==0.1.2
+langchain-text-splitters==0.3.7
+langsmith==0.3.19
+markupsafe==3.0.2
+marshmallow==3.26.1
+mpmath==1.3.0
+multidict==6.2.0
+mypy-extensions==1.0.0
+narwhals==1.32.0
+networkx==3.4.2
+numpy==2.2.4
+orjson==3.10.16
+packaging==24.2
+pandas==2.2.3
+pillow==11.1.0
+propcache==0.3.1
+protobuf==5.29.4
+psutil==7.0.0
+pyarrow==19.0.1
+pydantic==2.10.6
+pydantic-core==2.27.2
+pydantic-settings==2.8.1
+pydeck==0.9.1
+python-dateutil==2.9.0.post0
+python-dotenv==1.1.0
+pytz==2025.2
+pyyaml==6.0.2
+referencing==0.36.2
+regex==2024.11.6
+requests==2.32.3
+requests-toolbelt==1.0.0
+rpds-py==0.24.0
+safetensors==0.5.3
+scikit-learn==1.6.1
+scipy==1.15.2
+sentence-transformers==4.0.1
+six==1.17.0
+smmap==5.0.2
+sniffio==1.3.1
+sqlalchemy==2.0.39
+streamlit==1.44.0
+sympy==1.13.1
+tenacity==9.0.0
+threadpoolctl==3.6.0
+tokenizers==0.21.1
+toml==0.10.2
+torch==2.6.0
+tornado==6.4.2
+tqdm==4.67.1
+transformers==4.50.2
+typing-extensions==4.13.0
+typing-inspect==0.9.0
+tzdata==2025.2
+urllib3==2.3.0
+watchdog==6.0.0
+yarl==1.18.3
+zstandard==0.23.0