Update app.py

app.py

@@ -4,7 +4,9 @@ from transformers import AutoModelForCausalLM, AutoTokenizer
 # Задаем имя модели на Hugging Face
 model_name = "AnatoliiPotapov/T-lite-instruct-0.1"
 tokenizer = AutoTokenizer.from_pretrained(model_name)
-model = AutoModelForCausalLM.from_pretrained(model_name)
+
+# Загрузка модели с параметрами для оптимизации работы на CPU
+model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto", low_cpu_mem_usage=True)
 
 # Функция для генерации ответа от модели
 def generate_response(input_text):
@@ -22,5 +24,5 @@ iface = gr.Interface(
     description="Введите текст и получите ответ от модели"
 )
 
-# Запуск интерфейса
-iface.launch()
+# Запуск интерфейса с публичным доступом
+iface.launch(share=True, server_port=7860)