User Tools

Site Tools


ollama

Differences

This shows you the differences between two versions of the page.

Link to this comparison view

Both sides previous revision Previous revision
Next revision
Previous revision
ollama [2026/08/26 06:07]
val
ollama [2026/11/18 10:03] (current)
val
Line 3: Line 3:
   * NVIDIA GeForce RTX 4060   * NVIDIA GeForce RTX 4060
   * [[https://​ollama.com/​download/​windows]]   * [[https://​ollama.com/​download/​windows]]
 +  * [[https://​huggingface.co/​prithivMLmods/​OxCoder-9B-GGUF]]
  
 +  * Попробовать:​ https://​huggingface.co/​Jackrong/​DeepSeek-V4-Pro-Qwen3.5-9B-MTP-GGUF
 +  * Попробовать:​ Strata (Rust)
 +
 +  * [[Решение Caddy]]
 <​code>​ <​code>​
 +export BASE_URL=http://​val.bmstu.ru:​8080/​v1
 + ​export API_KEY=1234567890abcdefg
 +export MODEL_ID=ornith-1.5:​9b
 +
 +
 C:​\Users\Student>​set OLLAMA_KEEP_ALIVE=-1 C:​\Users\Student>​set OLLAMA_KEEP_ALIVE=-1
  
Line 10: Line 20:
 qwen2.5-coder:​7b qwen2.5-coder:​7b
 qwen2.5-coder:​14b-instruct-q4_K_M qwen2.5-coder:​14b-instruct-q4_K_M
 +qwen2.5-coder:​1.5b-base
 ornith-1.5:​9b ornith-1.5:​9b
 +carstenuhlig/​omnicoder-9b
 +hf.co/​prithivMLmods/​OxCoder-9B-GGUF:​Q4_K_M
  
 >>>​ /set verbose >>>​ /set verbose
Line 27: Line 40:
  
 C:​\Users\Administrator>​py -m pip install ollama C:​\Users\Administrator>​py -m pip install ollama
 +</​code><​code>​
 import ollama import ollama
  
Line 42: Line 55:
     print(""​)     print(""​)
     print("​Убедитесь,​ что приложение Ollama запущено в фоновом режиме!"​)     print("​Убедитесь,​ что приложение Ollama запущено в фоновом режиме!"​)
- +</​code><​code>​
 import base64 import base64
 from ollama import Client from ollama import Client
Line 51: Line 63:
 PASSWORD = "​12345678"​ PASSWORD = "​12345678"​
 # Укажите IP-адрес компьютера с Ollama и порт Caddy (8080) # Укажите IP-адрес компьютера с Ollama и порт Caddy (8080)
-CADDY_URL = "​http://​127.0.0.1:​8080" ​+CADDY_URL = "​http://​val.bmstu.ru:​8080" ​
  
 try: try:
ollama.1787713669.txt.gz · Last modified: 2026/08/26 06:07 by val