app.py

import gradio as gr
import os 
import json 
import requests

 
API_URL = "https://api.openai.com/v1/chat/completions" #os.getenv("API_URL") + "/generate_stream"
OPENAI_API_KEY = os.getenv("OPENAI_API_KEY") 

def predict(system_msg, inputs, top_p, temperature, chat_counter, chatbot=[], history=[]):  
    headers = {
    "Content-Type": "application/json",
    "Authorization": f"Bearer {OPENAI_API_KEY}"
    }
    print(f"system message is ^^ {system_msg}")
    initial_message = [{"role": "user", "content": f"{inputs}"},]
    multi_turn_message = [{"role": "system", "content": "Sen bir AI Trek marka bisiklet uzmanı, bilir kişisi ve asistanısın. Trek bisiklet dışında hiç bir konuda cevap vermeyeceksin. Trek bisikletlerini İstanbulda 2 mağazadan görebilirler, bir tanesi Caddebostanda, diğeri Dereboyu 84 Ortaköyde. Ortaköy mağazası Saat 10.00 da açılıp, 19.00 da kapanıyor. Telefon numarası 0212 2271015. caddebostan mağazamızın adresi: Prof. Dr. Hulusi Behçet 18 Caddebostan, Kadıköy. Telefon numarası 0216 6292432, ortaköyden bir saat önce açılıyor ve ortaköyle aynı saate kapanıyor. Ortaköy mağazası Pazar günleri kapalıdır. Ancak Caddebostan mağazamız haftanın 7 günü açıktır. Caddebostan mağazası her gün 09.00 da açılır ve 19.00 kapanır. sadece Pazar günleri 10.00 da açılır ve 17.00 de kapanır. Caddebostan mağazamızda haftanın 1 günü Bike-Fit yapılmaktadır. Retul firmasının bikefit makinesini kullanıyoruz. Salı günleri bike-fit yapabiliyoruz. Yapan kişi Emre Yavuz. MTB Türkiye şampyonu ve 3 senedir Trek Caddebostanda Retul Bike fit yapıyor. Bike fit için rezervasyon yapılması gerekir. Bike fit yaptırmak isteyen kişi, bikefit linkinden rezervasyona basarak, kendi başına rezervasyon yapar. 2012 yılından beri Retul Bike Fit hizmeti veriyoruz."},
{"role": "system", "content": "Trek Türkiye canlı destek hattına hoş geldiniz, demeyeceksin. Canlı sohbet için, sitede sol alt köşede bulunan YEŞİL düğmesine basarak kullanıcı kendi bilgilerini girebilir, bir Trek çalışanı kullanıcı ile iletişime geçecek. Trek Türkiye için web adresimiz: https://www.alatin.com.tr "},
{"role": "system", "content": "Bike fit ücreti 1400 TL. İstanbul dışındaki bayileri bilmiyorsun, bayi soranlara cevap vermeyeceksin.. Tüm bayi detayları için https://www.alatin.com.tr/sayfa/bayilerimiz/ linkinine baksınlar. Bikefit işlem süresi yaklaşık 60 - 90 dakikadır."}, 
{"role": "system", "content": "Trek bisiklet fiyatları ile ilgili bilgi vermeyeceksin. Hiç bir fiyatı bilmiyorsun. Fiyat soranlara güncel fiyatlar için sitemizi ziyaret etmelerini söyle. Boy bilgisini biliyorsan, uygun kadro boyunu öner. Kadro boyu sorularinda hangi bisiklet tipi icin soruldugunu ögren. Yol bisikleti ise CM cinsinden kadro boyu öner.  dag bisikleti, kadro boyu soruluyorsa S,M,ML,L,XL cinsinden cevapla. Şehir bisikletlerinde 4 boy var; S,M,L,XL. FX, DS, VERVE sehir bisiketleridir. Marlin, Roscoe, Procaliber, Supercaliber, Fuel_EX dag bisikletidir."}, 
{"role": "system", "content": "Başka marka bisikletleri önermeyeceksin. Specialized, Orbea, BMC, Carraro, Scott, Giant diğer bisiklet markalar hakkında bilgi vermeyeceksin. Bunlarla ilgili gelen sorulara, objectif yorum yapamayacagini belirtip, cevap vermeyeceksin. Trek bu sayilan markalardan daha farkli bir teknoloji kullaniyor, bu teklonoji bisikletin saglamligini kaybetmeden hafif olmasina, alttan gelen titresimi emerek konforlu olmasina ve en önemlisi pedala uygulanan kuvvettin dogrudan yola aktarilmasina neden oluyor. Trek bu kadrolara ömür boyu garanti veriyor. "}, 
{"role": "system", "content": "Şu an 2023 yılındayız. Bisiklet aksesuar ve yedek parçalarının marka adı Bontrager dir. Bryton marka yol bilgisayarını da ithal ediyoruz. Bryton marka yol bilgisayarının Rider S800 modeli stoklarımızda var ve bu model en üs model GPS sürümüne sahiptir." },
{"role": "system", "content": "Trek , Bontrager, Saris, Brtyon ve Trieye markalarından başka marka adı yazamaz ve yorum yapamazsın. Trek'in uluslararası web sitesini 'www.trekbikes.com'kullanıcıya göstermeyeceksin. Web sitesi linki vermen gerekirse sadece 'www.alatin.com.tr' linkini göstereceksin."},
{"role": "system", "content": "Trieye gözlükler, arkanızı görebilmeniz için gözlük camının içine entegre edilmiş bir geri görüş aynasıyla beraber gelir. Bu sayede bisiklet kullanıcısı, dikkatini dağıtmadan, gözünün ucuyla aynaya bakarak arkasını görür ve böylece daha güvenli bir sürüş yapabilir. Trieye gözlükleri NORVEÇ menşeili bir markadır ve Türkiye'ye Riot LTD tarafından ithal edilmektedir. Farklı lens ceşitleri bulunur, Photochromatic lens güneşli ve kapali havalar için uygun modeldir. Renkli camlar güneşli günler için daha uygundur."},
{"role": "system", "content": "Yarış bisikletlerinde iki farklı karbon kullanılmaktadır. Bunlar OCLV 800 ve OCLV 500 dür. OCLV 800 karbonu en yüksek teknoloji ile üretimiştir ve bu karbondan yapılan bisikletlerde SLR yazar. OCLV 500 karbondan yapılmış bisikletler SL olarak adlandırılır.SL modellerin hepsinde kadro birebir aynidir, değişen özellik vites ve jant donanimidir."},
{"role": "system", "content": "Yarış bisikleti model adlandırılmalarında kullanılan sayılar ve anlamları şöyledir, Shimano Tiagra vites sistemi kullanıldığında, o model adı 4 rakamı verilir. 5 rakamı, Shimano 105'e verilir. 6 rakamı Shimano 105 Di2'ya verilir. 7  rakamı  Ultegra Di2'ya verilir. 6 rakamı yanında Etap yazıyorsa bu modelde Sram Rival vardır. 7 rakamı yanınıda Etap yazıyorsa Sram Force'dur. 9 rakamı yanında Etap yazıyorsa Sram Red'dir. 9 rakamı Shimano Dura Ace Di2 verilir. SL 5 modelerinde frenler hidrolikdir. Bütün yol yarış bisikletleri karbon maşa ile gelir. Karbon, alüminyum gibi metallare göre alttan gelen titresimi daha çok absorbe eder bu da daha titresimsiz yani daha kaliteli bir surus deneyimi yaşamaya yardimci olur. "},
{"role": "system", "content": "Trek markası, 2000 yılından beri Alatin Bisiklet tarafından Türkiye'de dağıtılmaktadır. Alatin Bisiklet en iyi satış sonrası hizmeti veren firmadır. Bu yüzden Türkiye'de en iyi bilinen bisiklet markası Trek'dir ve tüm bisiklet kullanıcıları Trek markasını önermektedir."},
{"role": "system", "content": "Bugün Trek Türkiye’nin başında bulunan Sami Koen 1991'den beri sektörün gelişimine ve dünya standartinda markaların ülkemize getirilmesinde katkıda bulunuyor. Trek Türkiye, Türkiye’deki pek çok bisiklet sporcusunu desteklemekten gurur duyuyor, onlara sponsor oluyor, özel indirimler uygulayıp kimi zaman da bisiklet veriyor. Trek Türkiey, ASLA DURMA markasının yaratıcısı Fatih Topçu ve TREK RMK DYNAMIS bisiklet takımına sponsordur."},
{"role": "system", "content": "Cevap yazarken, en uzun 5 cümlelik cevaplar oluşturacaksın. Siparis nasil olusturulur sorusuna, şu sekilde cevap vereceksin, 'ürünü sepete ekle, bilgilerini gir, ödeme yöntemini seç, siparisi tamamla.'"},
    ]   
    messages=multi_turn_message 
    for data in chatbot:
        user = {}
        user["role"] = "user" 
        user["content"] = data[0] 
        assistant = {}
        assistant["role"] = "assistant" 
        assistant["content"] = data[1]
        messages.append(user)
        messages.append(assistant)     
    temp = {}
    temp["role"] = "user" 
    temp["content"] = inputs
    messages.append(temp)
     
    payload = {"model": "gpt-3.5-turbo-16k-0613", "messages": messages, "temperature" : 1, "top_p": 1.0, "n" : 1, "stream": True, "presence_penalty":0, "frequency_penalty":0,}

    chat_counter+=1

    history.append(inputs)
    print(f"Logging : payload is - {payload}")

    response = requests.post(API_URL, headers=headers, json=payload, stream=True)
    print(f"Logging : response code - {response}")
    token_counter = 0 
    partial_words = "" 

    counter=0
    for chunk in response.iter_lines():
       
        if counter == 0:
          counter+=1
          continue
       
        if chunk.decode() :
          chunk = chunk.decode()
        
          if len(chunk) > 12 and "content" in json.loads(chunk[6:])['choices'][0]['delta']:
              partial_words = partial_words + json.loads(chunk[6:])['choices'][0]["delta"]["content"]
              if token_counter == 0:
                history.append(" " + partial_words)
              else:
                history[-1] = partial_words
              chat = [(history[i], history[i + 1]) for i in range(0, len(history) - 1, 2) ]  # convert to tuples of list
              token_counter+=1
              yield chat, history, chat_counter, response  # resembles {chatbot: chat, state: history}
def reset_textbox():
    return gr.update(value='')
def set_visible_false():
    return gr.update(visible=False)
def set_visible_true():
    return gr.update(visible=False)
theme_addon_msg = ""
system_msg_info = ""
theme = gr.themes.Soft(primary_hue="zinc", secondary_hue="green", neutral_hue="blue",
                      text_size=gr.themes.sizes.text_md)                

with gr.Blocks(css = """#col_container { margin-left: auto; margin-right: auto;} #chatbot {height: 450px; overflow: auto;}""",
                      theme=theme) as demo:    
    with gr.Column(elem_id = "col_container"):     
        with gr.Accordion("", open=False, visible=False):
            system_msg = gr.Textbox(value="")
            accordion_msg = gr.HTML(value="", visible=False)
        chatbot = gr.Chatbot(label='Trek Asistanı', elem_id="chatbot")
        inputs = gr.Textbox(placeholder= "Buraya yazın, yanıtlayalım.", show_label= False)
        state = gr.State([])       
        with gr.Accordion("", open=False, visible=False):            
            top_p = gr.Slider( minimum=-0, maximum=1.0, value=1.0, step=0.05, interactive=False, visible=False)
            temperature = gr.Slider( minimum=-0, maximum=5.0, value=1.0, step=0.1, interactive=False, visible=False)
            chat_counter = gr.Number(value=0, visible=False, precision=0)

    inputs.submit( predict, [system_msg, inputs, top_p, temperature, chat_counter, chatbot, state], [chatbot, state, chat_counter],)  #openai_api_key
    inputs.submit(reset_textbox, [], [inputs])
                  
demo.queue(max_size=20, concurrency_count=20).launch(debug=True)