User Tools

Site Tools


ollama

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revision Previous revision
Next revision
Previous revision
ollama [2026/08/24 07:23]
val
ollama [2026/09/09 09:54] (current)
val
Line 1: Line 1:
 ====== Ollama ====== ====== Ollama ======
  
 +  * NVIDIA GeForce RTX 4060
   * [[https://​ollama.com/​download/​windows]]   * [[https://​ollama.com/​download/​windows]]
 +
 +  * [[https://​huggingface.co/​prithivMLmods/​OxCoder-9B-GGUF]]
  
 <​code>​ <​code>​
 C:​\Users\Student>​set OLLAMA_KEEP_ALIVE=-1 C:​\Users\Student>​set OLLAMA_KEEP_ALIVE=-1
  
-C:​\Users\Student>​ollama run qwen2.5-coder:​7b+C:​\Users\Student>​ollama run  
 +qwen2.5-coder:​7b 
 +qwen2.5-coder:​14b-instruct-q4_K_M 
 +qwen2.5-coder:​1.5b-base 
 +ornith-1.5:​9b 
 +carstenuhlig/​omnicoder-9b 
 +hf.co/​prithivMLmods/​OxCoder-9B-GGUF:​Q4_K_M
  
 >>>​ /set verbose >>>​ /set verbose
Line 23: Line 32:
  
 C:​\Users\Administrator>​py -m pip install ollama C:​\Users\Administrator>​py -m pip install ollama
 +</​code><​code>​
 import ollama import ollama
  
Line 38: Line 47:
     print(""​)     print(""​)
     print("​Убедитесь,​ что приложение Ollama запущено в фоновом режиме!"​)     print("​Убедитесь,​ что приложение Ollama запущено в фоновом режиме!"​)
- +</​code><​code>​
 import base64 import base64
 from ollama import Client from ollama import Client
Line 47: Line 55:
 PASSWORD = "​12345678"​ PASSWORD = "​12345678"​
 # Укажите IP-адрес компьютера с Ollama и порт Caddy (8080) # Укажите IP-адрес компьютера с Ollama и порт Caddy (8080)
-CADDY_URL = "​http://​127.0.0.1:​8080" ​+CADDY_URL = "​http://​val.bmstu.ru:​8080" ​
  
 try: try:
Line 62: Line 70:
     # 4. Делаем запрос через созданный клиент     # 4. Делаем запрос через созданный клиент
     response = client.generate(     response = client.generate(
-        model='​phi3',+        model='​qwen2.5-coder:​7b',
         prompt='​Привет! Ответь одним коротким предложением:​ ты работаешь?'​         prompt='​Привет! Ответь одним коротким предложением:​ ты работаешь?'​
     )     )
ollama.1787545396.txt.gz · Last modified: 2026/08/24 07:23 by val