235 lines
66 KiB
Plaintext
235 lines
66 KiB
Plaintext
|
Ë
|
|||
|
|
ø>j5ª ã óô — d Z ddlZddlZddlZddlZddlmZmZmZ ddl Z ddl Z dZ
|
|||
|
|
g d¢Z G d„ d « Z G d
|
|||
|
|
„ d « Z G d „ d
|
|||
|
|
« Zd„ Zedk( r e« yy# e
|
|||
|
|
$ r e d« ‚w xY w# e
|
|||
|
|
$ r dZ
|
|||
|
|
Y ŒMw xY w)uø
|
|||
|
|
Ollama Manager — графиче�кий менеджер дл� управлени� удалённым �ервером Ollama.
|
|||
|
|
|
|||
|
|
Возможно�ти:
|
|||
|
|
* Подключение к Ollama по HTTP (по умолчанию 192.168.1.118:11434).
|
|||
|
|
* Спи�ок у�тановленных моделей, их детали, удаление, копирование.
|
|||
|
|
* У�тановка (pull) моделей � индикатором прогре��а.
|
|||
|
|
* Спи�ок запущенных (загруженных в пам�ть) моделей и их выгрузка.
|
|||
|
|
* Создание модели из Modelfile, push модели в рее�тр.
|
|||
|
|
* Управление �ервером (start / stop / restart / status) по SSH.
|
|||
|
|
* Определение железа (RAM / VRAM / GPU) по SSH.
|
|||
|
|
* "�айти модель" — рекомендаци� моделей, которые поме�т�т�� в железо.
|
|||
|
|
|
|||
|
|
Зави�имо�ти:
|
|||
|
|
pip install requests paramiko
|
|||
|
|
(paramiko нужен только дл� функций по SSH: управление �ервером и определение
|
|||
|
|
железа. Без него о�тальные функции работают.)
|
|||
|
|
|
|||
|
|
Запу�к:
|
|||
|
|
python ollama_manager.py
|
|||
|
|
é N)ÚttkÚ
|
|||
|
|
messageboxÚ scrolledtextu[ Ð�е уÑ�тановлен пакет 'requests'. УÑ�тановите: pip install requestsTF)")z qwen2.5:0.5bgš™™™™™Ù?ç ð?r õ чат)ztinyllama:1.1bg333333ã?ç @ç ø?r )zdeepseek-r1:1.5bgš™™™™™ñ?ç @r õ раÑ�Ñ�уждение)z qwen2.5:1.5br r
|
|||
|
|
r r )z llama3.2:1bgÍÌÌÌÌÌô?r
|
|||
|
|
r r )z gemma2:2bgš™™™™™ù?g @g @r )z llama3.2:3br ç @ç @r )z
|
|||
|
|
qwen2.5:3bgffffffþ?r r
|
|||
|
|
r )z phi3:3.8bgš™™™™™@g @r
|
|||
|
|
r )z
|
|||
|
|
starcoder2:3bg333333û?r r
|
|||
|
|
õ код)z
|
|||
|
|
mistral:7bgffffff@ç @ç @r )z llama3.1:8bçÍÌÌÌÌÌ@r r r )z
|
|||
|
|
qwen2.5:7br r r r )zqwen2.5-coder:7br r r r )zdeepseek-r1:7br r r r )zdeepseek-r1:8bgš™™™™™@r r r )z codellama:7bgffffff@r r r )zllava:7br r r Úvision)z gemma2:9bgš™™™™™@ç $@r r )zphi4:14bç "@ç (@r r )zphi3:14bgš™™™™™ @r r r )z qwen2.5:14br r r r )zdeepseek-r1:14br r r r )z
|
|||
|
|
codellama:13bgš™™™™™ @r r r )z
|
|||
|
|
gemma2:27bg 0@ç 4@g 2@r )z qwen2.5:32br ç 8@ç 6@r )zdeepseek-r1:32br r r r )z mixtral:8x7bg :@g @@g <@ÚMoE)z llama3.3:70bç €E@ç H@ç E@r )zdeepseek-r1:70br r r r )z qwen2.5:72bg €G@g I@g €F@r )z
|
|||
|
|
mixtral:8x22bg T@g €V@g @U@r )znomic-embed-textg333333Ó?r r õ Ñ�мбеддинги)zmxbai-embed-largegffffffæ?r r r c óf — e Zd Zdd„Zd„ Zdd„Zdd„Zdd„Zdd„Zdd„Z dd„Z
|
|||
|
|
dd „Z d
|
|||
|
|
„ Z d „ Z
|
|||
|
|
dd
|
|||
|
|
„Zy )Ú OllamaClientc ó( — | j ||« y ©N)Ú set_endpoint©ÚselfÚhostÚports úollama_manager.pyÚ__init__zOllamaClient.__init__^ s € Ø ×ј$ Õ%ó c ó` — || _ t |« | _ d|› d| j › �| _ y )Nzhttp://Ú:)r% Úintr& Úbase_urlr# s r' r" zOllamaClient.set_endpointa s, € ؈Œ ܘ“IˆŒ Ø! $ q¨¯©¨ Ð4ˆ�
|
|||
|
|
r) c óª — t j | j › d�|¬« }|j « |j « j dd« S )Nz /api/version©ÚtimeoutÚversionÚ?©ÚrequestsÚgetr- Úraise_for_statusÚjson©r$ r0 Úrs r' r1 zOllamaClient.versionf s@ € Ü �L‰L˜DŸM™M˜?¨,Ð7ÀÔ IˆØ ×ÑÔ Ø�v‰v‹x�|‰|˜I sÓ+Ð+r) c óª — t j | j › d�|¬« }|j « |j « j dg « S )Nz /api/tagsr/ Úmodelsr3 r8 s r' Ú list_modelszOllamaClient.list_modelsk s@ € Ü �L‰L˜DŸM™M˜?¨)Ð4¸gÔ FˆØ ×ÑÔ Ø�v‰v‹x�|‰|˜H bÓ)Ð)r) c óª — t j | j › d�|¬« }|j « |j « j dg « S )Nz/api/psr/ r; r3 r8 s r' Ú list_runningzOllamaClient.list_runningp s@ € Ü �L‰L˜DŸM™M˜?¨'Ð2¸GÔ DˆØ ×ÑÔ Ø�v‰v‹x�|‰|˜H bÓ)Ð)r) c ó� — t j | j › d�d|i|¬« }|j « |j « S )Nz /api/showÚmodel©r7 r0 )r4 Úpostr- r6 r7 ©r$ Únamer0 r9 s r' ÚshowzOllamaClient.showu s; € Ü �M‰M˜TŸ]™]˜O¨9Ð5¸WÀd¸OÐU\Ô ]ˆØ ×ÑÔ Ø�v‰v‹xˆr) c ó® — t j | j › d�d|i|¬« }|j dk( rt d|› d�« ‚|j « y)Nz /api/deleter@ rA é” u Модель 'õ ' не найдена.T)r4 Údeleter- Ú status_codeÚ RuntimeErrorr6 rC s r' rI zOllamaClient.deletez sT € Ü �O‰O˜tŸ}™}˜o¨[Ð 9ÀÈ$ÀÐY`Ô aˆØ �=‰=˜CÒ Ü °¨vÐ5KÐ LÓMÐ MØ ×ÑÔ Ør) c ó° — t j | j › d�||dœ|¬« }|j dk( rt d|› d�« ‚|j « y)Nz /api/copy)ÚsourceÚ destinationrA rG u ИÑ�ходнаÑ� модель 'rH T)r4 rB r- rJ rK r6 )r$ rM rN r0 r9 s r' ÚcopyzOllamaClient.copy� sZ € Ü �M‰M˜TŸ]™]˜O¨9Ð5Ø*0ÀÑ MÐW^ô
|
|||
|
|
`ˆà �=‰=˜CÒ Ü Ð!@ÀÀÐH^Ð _Ó`Ð `Ø ×ÑÔ Ør) c óv — t j | j › d�|dddœ|¬« }|j « y)ub Выгрузить модель из памÑ�ти (keep_alive=0 Ñ� пуÑ�тым запроÑ�ом).z
|
|||
|
|
/api/generateÚ r )r@ ÚpromptÚ
|
|||
|
|
keep_aliverA T)r4 rB r- r6 rC s r' ÚunloadzOllamaClient.unload‰ s: € ä �M‰M˜TŸ]™]˜O¨=Ð9Ø)-¸È1Ñ MÐW^ô
|
|||
|
|
`ˆà ×ÑÔ Ør) c # óN K — t j | j › d�|ddœdd¬« 5 }|j « |j « D ]? }|sŒt j |j d« « }d|v rt |d « ‚|–— ŒA ddd« y# 1 sw Y yxY ww)up Генератор: возвращает Ñ�ловари прогреÑ�Ñ�а при загрузке модели.z /api/pullT©r@ ÚstreamN©r7 rW r0 úutf-8Úerror© r4 rB r- r6 Ú
|
|||
|
|
iter_linesr7 ÚloadsÚdecoderK ©r$ rD r9 ÚlineÚdatas r' Ú pull_streamzOllamaClient.pull_stream� s’ è ø€ ä
|
|||
|
|
�]‰]˜dŸm™m˜_¨IÐ6Ø*.¸$Ñ ?Ø"&°õ6à9:Ø
|
|||
|
|
× Ñ Ô ØŸ ™ ž�ÙØ Ü—z‘z $§+¡+¨gÓ"6Ó7�ؘd‘?Ü& t¨G¡}Ó5Ð5Ø“
|
|||
|
|
ñ
|
|||
|
|
'÷ 6÷ 6ñ 6üó ‚*B%¬A#B B%ÂB" B%c # óN K — t j | j › d�|ddœdd ¬« 5 }|j « |j « D ]? }|sŒt j |j d« « }d|v rt |d « ‚|–— ŒA d d d « y # 1 sw Y y xY ww)Nz /api/pushTrV rX rY rZ r[ r_ s r' Ú push_streamzOllamaClient.push_streamž s’ è ø€ Ü
|
|||
|
|
�]‰]˜dŸm™m˜_¨IÐ6Ø*.¸$Ñ ?Ø"&°õ6à9:Ø
|
|||
|
|
× Ñ Ô ØŸ ™ ž�ÙØ Ü—z‘z $§+¡+¨gÓ"6Ó7�ؘd‘?Ü& t¨G¡}Ó5Ð5Ø“
|
|||
|
|
ñ
|
|||
|
|
'÷ 6÷ 6ñ 6ürc Nc # ó| K — |ddœ}|r||d< |r||d< |r||d< t j | j › d�|dd ¬« 5 }|j « |j « D ]? }|sŒt j |j d« « }d |v rt |d « ‚|–— ŒA d d d « y # 1 sw Y y xY ww)
|
|||
|
|
NTrV ÚfromÚsystemÚtemplatez /api/createrX rY rZ r[ ) r$ rD Úmodelfile_fromrh ri Úbodyr9 r` ra s r' Ú
|
|||
|
|
create_streamzOllamaClient.create_stream« s¶ è ø€ Ø ¨Ñ.ˆÙ Ø)ˆD�‰LÙ Ø #ˆD�‰NÙ Ø 'ˆD�Ñ Ü
|
|||
|
|
�]‰]˜dŸm™m˜_¨KÐ8¸tÈDÐZ^Õ
|
|||
|
|
_ÐcdØ
|
|||
|
|
× Ñ Ô ØŸ ™ ž�ÙØ Ü—z‘z $§+¡+¨gÓ"6Ó7�ؘd‘?Ü& t¨G¡}Ó5Ð5Ø“
|
|||
|
|
ñ
|
|||
|
|
'÷ `×
|
|||
|
|
_Ñ
|
|||
|
|
_üs ‚AB<ÁA#B0Â' B<Â0B9Â5B<)ú
|
|||
|
|
192.168.1.118iª, )é )é
|
|||
|
|
)é ©é )NNN)Ú__name__Ú
|
|||
|
|
__module__Ú __qualname__r( r" r1 r< r> rE rI rO rT rb re rl © r) r' r r ] s> „ ó&ò5ó
|
|||
|
|
,ó
|
|||
|
|
*ó
|
|||
|
|
*ó
|
|||
|
|
ó
|
|||
|
|
óóò ò ôr) r c óV — e Zd Zd„ Zed„ « Zd d„Zd„ Zd
|
|||
|
|
d„Zd„ Z d„ Z
|
|||
|
|
d „ Z d
|
|||
|
|
„ Z d „ Z
|
|||
|
|
y)Ú
|
|||
|
|
SSHControllerc ó — d | _ d| _ y ©NrQ )ÚclientÚinfo©r$ s r' r( zSSHController.__init__ s € ؈Œ ؈� r) c ó — | j d uS r! )r{ r} s r' Ú connectedzSSHController.connectedÆ s € à�{‰{ $Ð&Ð&r) Nc
|
|||
|
|
ó — t s t d« ‚t j « }|j t j
|
|||
|
|
« « |j
|
|||
|
|
|t |« ||xs d |xs d ddd¬« || _ |› d|› d|› �| _ y )NuN Ð�е уÑ�тановлен paramiko. УÑ�тановите: pip install paramikoro T)Úhostnamer& ÚusernameÚpasswordÚ key_filenamer0 Ú allow_agentÚ
|
|||
|
|
look_for_keysÚ@r+ )
|
|||
|
|
Ú HAS_PARAMIKOrK ÚparamikoÚ SSHClientÚset_missing_host_key_policyÚ
|
|||
|
|
AutoAddPolicyÚconnectr, r{ r| )r$ r% r& Úuserrƒ ÚkeyfileÚclis r' r� zSSHController.connectÊ sˆ € ÝÜ Ð oÓpÐ pÜ× Ñ Ó"ˆØ ×'Ñ'¬×(>Ñ(>Ó(@ÔAØ � ‰ ˜T¬¨D« ¸DØ %Ò -¨¸GºOÀtØ ¨DÀð ô F𠈌 Ø�f˜A˜d˜V 1 T FÐ+ˆ� r) c ó` — | j r"| j j « d | _ y y r! )r{ Úcloser} s r' r’ zSSHController.closeÕ s% € Ø �;Š;Ø �K‰K× Ñ Ô Ø ˆD�Kð r) c ó0 — | j s t d« ‚| j j ||¬« \ }}}|j « j dd« }|j « j dd« }|j j « }|||fS )Nu" Ð�ет SSH-подключениÑ�.r/ rY Úreplace)r rK r{ Ú exec_commandÚreadr^ ÚchannelÚrecv_exit_status) r$ Úcmdr0 ÚstdinÚstdoutÚstderrÚoutÚerrÚcodes r' ÚrunzSSHController.runÚ sƒ € Ø�~Š~Ü Ð CÓDÐ DØ $§ ¡ × 8Ñ 8¸ÀgÐ 8Ó NÑ ˆˆv�vØ�k‰k‹m×"Ñ" 7¨IÓ6ˆØ�k‰k‹m×"Ñ" 7¨IÓ6ˆØ�~‰~×.Ñ.Ó0ˆØ�S˜#ˆ~Ð r) c ó( — d}| j |« S )Nztsudo -n systemctl start ollama 2>&1 || (nohup ollama serve > /tmp/ollama.log 2>&1 & echo 'started via ollama serve')©r ©r$ r™ s r' Ú start_serverzSSHController.start_serverä s € ðbˆà�x‰x˜‹}Ð r) c ó( — d}| j |« S )Nu� sudo -n systemctl stop ollama 2>&1 || (pkill -f 'ollama serve' && echo 'stopped via pkill') || echo 'процеÑ�Ñ� ollama не найден'r¢ r£ s r' Ú stop_serverzSSHController.stop_serveré ó € ðCˆð �x‰x˜‹}Ð r) c ó( — d}| j |« S )Nzšsudo -n systemctl restart ollama 2>&1 || (pkill -f 'ollama serve'; sleep 2; nohup ollama serve > /tmp/ollama.log 2>&1 & echo 'restarted via ollama serve')r¢ r£ s r' Úrestart_serverz SSHController.restart_serverï s € ð`ˆð �x‰x˜‹}Ð r) c ó( — d}| j |« S )Nux systemctl status ollama --no-pager 2>&1 || ps aux | grep -i '[o]llama' || echo 'процеÑ�Ñ� ollama не найден'r¢ r£ s r' Ú
|
|||
|
|
status_serverzSSHController.status_serverõ r§ r) c ó — d}| j |« \ }}}d}d}d}d}|j « D �] } | j « } | j d« r| dd }Œ+| j d« r3| dd j « j « rt | dd « d z }Œo| j d
|
|||
|
|
« r3| d d j « j « rt | d d « d z }Œ³| j d
|
|||
|
|
« r| dd }ŒÊ| j d« sŒÜ| dd j « }
|
|||
|
|
|
|
|||
|
|
j « s�Œt |
|
|||
|
|
« dz }�Œ |dk( r|sd}|}d|xs d› d|d›d�} |r| d|› d|d›d�z
|
|||
|
|
} n| dz
|
|||
|
|
} t
|
|||
|
|
|d« t
|
|||
|
|
|d« | fS ) u9 Возвращает (ram_gb, vram_gb, опиÑ�ание).ap
|
|||
|
|
echo "OS=$(uname -s)"
|
|||
|
|
if [ -f /proc/meminfo ]; then
|
|||
|
|
echo "RAM_KB=$(awk '/MemTotal/{print $2}' /proc/meminfo)"
|
|||
|
|
else
|
|||
|
|
echo "RAM_BYTES=$(sysctl -n hw.memsize 2>/dev/null)"
|
|||
|
|
fi
|
|||
|
|
echo "GPU=$(nvidia-smi --query-gpu=name --format=csv,noheader 2>/dev/null | head -1)"
|
|||
|
|
echo "VRAM_MB=$(nvidia-smi --query-gpu=memory.total --format=csv,noheader,nounits 2>/dev/null | head -1)"
|
|||
|
|
g rQ zOS=é NzRAM_KB=é i z
|
|||
|
|
RAM_BYTES=ro i @zGPU=é zVRAM_MB=é é ÚDarwinzApple GPU (unified memory)r2 z, RAM=ú.1fõ ГБz, GPU=z, VRAM=u# , GPU не обнаружен (CPU)é )r Ú
|
|||
|
|
splitlinesÚstripÚ
|
|||
|
|
startswithÚisdigitr, Úround) r$ ÚscriptrŸ r� rž Úram_gbÚvram_gbÚgpu_nameÚos_namer` ÚvalÚdescs r' Údetect_hardwarez SSHController.detect_hardwareü s– € ð ˆð Ÿ™ &Ó)‰ˆˆc�3؈؈؈؈ؗN‘N×$ˆDØ—:‘:“<ˆDØ�‰˜uÔ%Ø ˜q˜r˜(‘Ø— ‘ Ô+°°Q°R°·±Ó0@×0HÑ0HÔ0JÜ ˜T ! "˜X› ¨+Ñ6‘Ø— ‘ Ô.°4¸¸°9·?±?Ó3D×3LÑ3LÔ3NÜ ˜T " #˜Y› ¨9Ñ5‘Ø— ‘ Ô(Ø ˜8‘Ø— ‘ Õ,ؘ1˜2�h—n‘nÓ&�Ø—;‘;–=Ü ! #›h¨™o’Gð %ð �hÒ ¡xØ3ˆHØ ˆGà�W’^ Ð$ F¨6°#¨,°dÐ;ˆÙ Ø �f˜X˜J g¨g°c¨]¸$Ð?Ñ ?‰Dà Ð9Ñ 9ˆDÜ�V˜QÓ ¤ w°Ó!2°DÐ8Ð8r) )NNrq )rs rt ru r( Úpropertyr r� r’ r r¤ r¦ r© r« r rv r) r' rx rx Á sC „ òð ñ'ó ð'ó ,ò ó
|
|||
|
|
ò ò
|
|||
|
|
ò ò ó*9r) rx c óÜ — e Zd Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Z d„ Z
|
|||
|
|
d"d „Z d#d „Z d$d „Z
|
|||
|
|
ed
|
|||
|
|
„ « Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Zd„ Z d„ Z d „ Z d „ Z d „ Z d „ Z!d „ Z"d!„ Z#y
|
|||
|
|
)%ÚOllamaManagerAppc ón — || _ | j j d« | j j d« t « | _ t « | _ | j « | j « | j « | j d« t s| j dd« y y )Nu Ollama Manager — 192.168.1.118Ú960x720uf Готово. Укажите адреÑ� Ñ�ервера и нажмите «ПодключитьÑ�Ñ�».u± paramiko не уÑ�тановлен — управление Ñ�ервером и автоопределение железа по SSH недоÑ�тупны (pip install paramiko).Úwarn) ÚrootÚtitleÚgeometryr r{ rx ÚsshÚ_build_top_barÚ_build_notebookÚ_build_consoleÚlogrˆ )r$ rÉ s r' r( zOllamaManagerApp.__init__- s� € ؈Œ Ø � ‰ �‰Ð:Ô;Ø � ‰ ×ј9Ô%ä"“nˆŒ Ü “?ˆŒà ×ÑÔ Ø × Ñ Ô Ø ×ÑÔ à �‰ÐyÔzÝØ �H‰Hð ZØ[aõ
|
|||
|
|
cð r) c ó| — t j | j d¬« }|j ddd¬« t j |d¬« j ddd d
|
|||
|
|
d ¬ « t
|
|||
|
|
j d
|
|||
|
|
¬« | _ t j || j d¬« j ddd ¬« t j |d¬« j ddd d ¬« t
|
|||
|
|
j d¬« | _
|
|||
|
|
t j || j d¬« j ddd ¬« t j |d| j ¬« j dd d
|
|||
|
|
¬« t
|
|||
|
|
j d¬« | _
|
|||
|
|
t j || j d¬ « | _ | j j dd d ¬« y ) Nu' Подключение к Ollama (HTTP)©ÚtextÚxr° )r° r¯ ©ÚfillÚpadxÚpadyõ ХоÑ�Ñ‚:r r¯ é Úe©ÚrowÚcolumnr× rØ Ústickyrm ©Úvalueé ©Ú textvariableÚwidthrµ ©rÝ rÞ r× õ Порт:é ©rÝ rÞ r× rß Ú11434r u ПодключитьÑ�Ñ�©rÓ Úcommandu â—� не подключеноú#b00©rä Ú
|
|||
|
|
foregroundrn ro )r Ú
|
|||
|
|
LabelFramerÉ ÚpackÚLabelÚgridÚtkÚ StringVarÚvar_hostÚEntryÚvar_portÚButtonÚ
|
|||
|
|
on_connectÚ
|
|||
|
|
var_statusÚ
|
|||
|
|
lbl_status)r$ Úbars r' rÍ z OllamaManagerApp._build_top_bar? sL € Ü�n‰n˜TŸY™YÐ-VÔWˆØ �‰�c ¨ˆÔ/ä � ‰ �#˜KÔ(×-Ñ-°!¸AÀAÈAÐVYÐ-ÔZÜŸ ™ ¨?Ô;ˆŒ
|
|||
|
|
Ü � ‰ �# D§M¡M¸Ô<×AÑAÀaÐPQÐXYÐAÔZä � ‰ �#˜KÔ(×-Ñ-°!¸AÀAÈcÐ-ÔRÜŸ ™ ¨7Ô3ˆŒ
|
|||
|
|
Ü � ‰ �# D§M¡M¸Ô;×@Ñ@ÀQÈqÐWXÐ@ÔYä �
|
|||
|
|
‰
|
|||
|
|
�3Ð 7ÀÇ Á ÔQ×VÑVÐ[\ÐefÐmnÐVÔoÜ Ÿ,™,Ð-LÔMˆŒÜ Ÿ)™) C°d·o±oÐRXÔYˆŒØ �‰× Ñ ¨1°2Ð Õ6r) c óô — t j | j « }|j dddd¬« | j |« | j |« | j
|
|||
|
|
|« | j |« y )NÚbothTr° r¯ ©rÖ Úexpandr× rØ )r ÚNotebookrÉ rñ Ú_build_tab_modelsÚ_build_tab_runningÚ_build_tab_serverÚ_build_tab_recommend)r$ Únbs r' rÎ z OllamaManagerApp._build_notebookP s` € Ü
|
|||
|
|
�\‰\˜$Ÿ)™)Ó
|
|||
|
|
$ˆØ
|
|||
|
|
�‰�V D¨q°qˆÔ9Ø × Ñ ˜rÔ"Ø × Ñ Ô#Ø × Ñ ˜rÔ"Ø ×!Ñ! "Õ%r) c óž — t j |« }|j |d¬« t j |d¬« }|j ddd¬« t j « | _ t j || j d¬« j d dd¬
|
|||
|
|
« t j |d | j ¬ « j d d
|
|||
|
|
¬« t j |dd¬« | _ | j j d d¬« t j d¬« | _
|
|||
|
|
t j || j ¬« j d d
|
|||
|
|
¬« t j |d¬« }|j dddd¬« d}t j ||dd ¬ « | _ d D ]A \ }}}| j j# ||¬« | j j% ||d ¬ « ŒC | j j d ddd!d¬"« t j& |d#| j j( ¬$« } | j d d%d¬&« | j j+ | j, ¬'« t j |« }
|
|||
|
|
|
|
|||
|
|
j ddd(¬« t j |
|
|||
|
|
d)| j. ¬ « j d d
|
|||
|
|
¬« t j |
|
|||
|
|
d*| j0 ¬ « j d d
|
|||
|
|
¬« t j |
|
|||
|
|
d+| j2 ¬ « j d d
|
|||
|
|
¬« t j |
|
|||
|
|
d,| j4 ¬ « j d d
|
|||
|
|
¬« t j |
|
|||
|
|
d-| j6 ¬ « j d d
|
|||
|
|
¬« t j |
|
|||
|
|
d.| j8 ¬ « j d d
|
|||
|
|
¬« y )/Nu МоделиrÒ u УÑ�тановка моделиrÔ rÚ rÕ é( rã Úleft©Úsider× rØ u УÑ�тановить (pull)rë r¯ ©r r× éð Ú determinate)ÚlengthÚmoder° rQ rà )rä u' УÑ�тановленные моделиrÿ Tr )rD ÚsizeÚparamsÚquantÚmodifiedÚheadingsé ©ÚcolumnsrE Úheight))rD õ Модельr )r u РазмерéZ )r u Параметрыr )r u Квант.r )r u Измененаé Úw©rå Úanchor©rÚ r ©r rÖ r r× rØ Úvertical©Úorientrì Úy©r rÖ rØ ©Úyscrollcommand©r rÚ u Обновить Ñ�пиÑ�окõ Деталиu Копировать…u Удалитьu Создать из Modelfile…u Push…) r ÚFrameÚaddrð rñ rô rõ Úvar_pullr÷ rù Úon_pullÚ ProgressbarÚprogressÚvar_pull_statusrò ÚTreeviewÚ tree_modelsÚheadingrÞ Ú ScrollbarÚyviewÚ configureÚsetÚrefresh_modelsÚon_show_detailsÚon_copyÚ on_deleteÚ on_createÚon_push) r$ r ÚtabÚinstÚlstÚcolsÚcÚtr ÚsbÚbtnss r' r z"OllamaManagerApp._build_tab_modelsY s € Ü�i‰i˜‹mˆØ
|
|||
|
|
�‰ˆs˜ ˆÔ(ô �~‰~˜cÐ(IÔJˆØ � ‰ �s ¨ˆ Ô+ÜŸ ™ ›ˆŒ
|
|||
|
|
Ü � ‰ �$ T§]¡]¸"Ô=×BÑBÈÐUVÐ]^ÐBÔ_Ü �
|
|||
|
|
‰
|
|||
|
|
�4Ð ;Ø Ÿ<™<ô )ß)-©°6À¨Ô)BÜŸ™¨°S¸}ÔMˆŒ
|
|||
|
|
Ø �
|
|||
|
|
‰
|
|||
|
|
×Ñ ¨QÐÔ/Ü !Ÿ|™|°"Ô 5ˆÔ Ü � ‰ �$ T×%9Ñ%9Ô:×?Ñ?ÀVÐRSÐ?ÔTô �n‰n˜SÐ'PÔQˆØ �‰�f T°¸ˆÔ:à>ˆÜ Ÿ<™<¨°TÀ
|
|||
|
|
ÐSUÔVˆÔó?‰GˆAˆq�!ð
|
|||
|
|
× Ñ × $Ñ $ Q¨QÐ $Ô /Ø × Ñ × #Ñ # A¨Q°sÐ #Õ ;ð ?ð
|
|||
|
|
|
|||
|
|
×Ñ× Ñ 6°¸tÈ&ÐWXÐ ÔYÜ
|
|||
|
|
�]‰]˜3 z¸4×;KÑ;K×;QÑ;QÔ
|
|||
|
|
RˆØ
|
|||
|
|
�‰�V #¨AˆÔ.Ø ×Ñ×"Ñ"°"·&±&Ð"Ô9ä�y‰y˜‹~ˆØ � ‰ �s ¨ˆ Ô0Ü �
|
|||
|
|
‰
|
|||
|
|
�4Ð =Àt×GZÑGZÔ[×`Ñ`ÐflÐstÐ`ÔuÜ �
|
|||
|
|
‰
|
|||
|
|
�4˜n°d×6JÑ6JÔK×PÑPÐV\ÐcdÐPÔeÜ �
|
|||
|
|
‰
|
|||
|
|
�4Ð 7ÀÇ Á ÔN×SÑSÐY_ÐfgÐSÔhÜ �
|
|||
|
|
‰
|
|||
|
|
�4Ð .¸¿¹ÔG×LÑLÐRXÐ_`ÐLÔaÜ �
|
|||
|
|
‰
|
|||
|
|
�4Ð @Ø Ÿ>™>ô +ß+/©4°VÀ!¨4Ô+DÜ �
|
|||
|
|
‰
|
|||
|
|
�4˜i°· ± Ô>×CÑCÈÐVWÐCÕXr) c ó¢ — t j |« }|j |d¬« t j |d¬« }|j dddd¬« d}t j
|
|||
|
|
||d d
|
|||
|
|
¬ « | _ d D ]A \ }}}| j j ||¬« | j j ||d
|
|||
|
|
¬« ŒC | j j ddddd¬« t j |d| j j ¬« }|j ddd¬« | j j |j ¬« t j |« } | j ddd¬« t j | d| j ¬« j dd ¬ « t j | d | j ¬« j dd ¬ « y ) Nu ЗапущенныеrÒ u4 Модели, загруженные в памÑ�Ñ‚ÑŒrÿ TrÚ r )rD r ÚvramÚexpiresr r r ))rD r i )r u Размер в памÑ�Ñ‚Ð¸éŒ )rI u Из них в VRAMrK )rJ u Выгрузка вr r r r
|
|||
|
|
r! r" r# r$ r& r' r( rÔ r* rÕ u Обновитьrë r¯ r
|
|||
|
|
u$ Выгрузить из памÑ�ти)r r, r- rð rñ r3 Ú tree_runningr5 rÞ r6 r7 r8 r9 rù Úrefresh_runningÚ on_unload)
|
|||
|
|
r$ r r@ rB rC rD rE r rF rG s
|
|||
|
|
r' r z#OllamaManagerApp._build_tab_running„ s… € Ü�i‰i˜‹mˆØ
|
|||
|
|
�‰ˆsÐ/ˆÔ0ä�n‰n˜SÐ']Ô^ˆØ �‰�f T°¸ˆÔ:Ø2ˆÜ ŸL™L¨°dÀÐTVÔ WˆÔóg‰GˆAˆq�!à × Ñ × %Ñ % a¨aÐ %Ô 0Ø × Ñ × $Ñ $ Q¨a¸Ð $Õ <ðgð
|
|||
|
|
×Ñ× Ñ F°ÀÈ6ÐXYÐ ÔZÜ
|
|||
|
|
�]‰]˜3 z¸4×;LÑ;L×;RÑ;RÔ
|
|||
|
|
SˆØ
|
|||
|
|
�‰�V #¨AˆÔ.Ø ×Ñ×#Ñ#°2·6±6Ð#Ô:ä�y‰y˜‹~ˆØ � ‰ �s ¨ˆ Ô0Ü �
|
|||
|
|
‰
|
|||
|
|
�4Ð 0¸$×:NÑ:NÔO×TÑTÐZ`ÐghÐTÔiÜ �
|
|||
|
|
‰
|
|||
|
|
�4Ð DØ Ÿ>™>ô +ß+/©4°VÀ!¨4Õ+Dr) c óà ‡ — t j |« }|j |d¬« t j |d¬« }|j ddd¬« t j
|
|||
|
|
|d¬« j
|
|||
|
|
ddd d d
|
|||
|
|
¬ « t j d ¬
|
|||
|
|
« ‰ _ t j |‰ j d¬« j
|
|||
|
|
ddd ¬« t j
|
|||
|
|
|d¬« j
|
|||
|
|
ddd d
|
|||
|
|
¬« t j d¬
|
|||
|
|
« ‰ _ t j |‰ j d¬« j
|
|||
|
|
ddd ¬« t j
|
|||
|
|
|d¬« j
|
|||
|
|
dd d d
|
|||
|
|
¬« t j « ‰ _ t j |‰ j d¬« j
|
|||
|
|
ddd ¬« t j
|
|||
|
|
|d¬« j
|
|||
|
|
ddd d d
|
|||
|
|
¬ « t j « ‰ _
|
|||
|
|
t j |‰ j dd¬ « j
|
|||
|
|
ddd ¬« t j
|
|||
|
|
|d ¬« j
|
|||
|
|
ddd d
|
|||
|
|
¬« t j « ‰ _ t j |‰ j d ¬« j
|
|||
|
|
dddd d ¬ « t j |d!‰ j ¬"« j
|
|||
|
|
ddd ¬« t j |d#¬« }|j ddd¬« t j |d$ˆ fd%„¬"« j d&dd'¬(« t j |d)ˆ fd*„¬"« j d&d¬+« t j |d,ˆ fd-„¬"« j d&d¬+« t j |d.ˆ fd/„¬"« j d&d¬+« t j
|
|||
|
|
|d0d1d&d2¬3« }|j dd4d ¬« y )5Nu Сервер (SSH)rÒ u4 SSH-подключение к машине Ñ� OllamarÔ rÚ rÕ rÙ r r¯ rÛ rÜ rm rà é rã rµ ræ rç rè ré Ú22r u Логин:é rn u
|
|||
|
|
Пароль:Ú*)rä rå rE u Ключ (путь):é r )rÝ rÞ Ú
|
|||
|
|
columnspanr× rß u SSH-подключениеrë u, Управление Ñ�ервером Ollamau â–¶ ЗапуÑ�титьc ó& •— ‰ j d« S )NÚstart©Ú on_serverr} s €r' Ú<lambda>z4OllamaManagerApp._build_tab_server.<locals>.<lambda>¸ s ø€ ÈÏÉÐW^ÔH_r) r
|
|||
|
|
r° r u ■ОÑ�тановитьc ó& •— ‰ j d« S )NÚstoprX r} s €r' rZ z4OllamaManagerApp._build_tab_server.<locals>.<lambda>¹ s ø€ È$Ï.É.ÐY_ÔJ`r) r
|
|||
|
|
u ↻ ПерезапуÑ�титьc ó& •— ‰ j d« S )NÚrestartrX r} s €r' rZ z4OllamaManagerApp._build_tab_server.<locals>.<lambda>º s ø€ ÐPT×P^ÑP^Ð_hÔPir) u ℹ СтатуÑ�c ó& •— ‰ j d« S )NÚstatusrX r} s €r' rZ z4OllamaManagerApp._build_tab_server.<locals>.<lambda>» s ø€ À$Ç.Á.ÐQYÔBZr) z#666i„ u# Примечание: запуÑ�к/оÑ�тановка через systemctl требует прав sudo без паролÑ� (NOPASSWD) или запуÑ�каетÑ�Ñ� резервный режим «ollama serve». Вывод команд отображаетÑ�Ñ� в журнале внизу.)rï Ú
|
|||
|
|
wraplengthÚjustifyrÓ ro )r r, r- rð rñ rò ró rô rõ Ú var_ssh_hostr÷ Ú var_ssh_portÚ var_ssh_userÚ var_ssh_passÚ var_ssh_keyrù Úon_ssh_connect)r$ r r@ ÚconnÚctrlÚnotes ` r' r z"OllamaManagerApp._build_tab_serverœ s? ø€ Ü�i‰i˜‹mˆØ
|
|||
|
|
�‰ˆsÐ-ˆÔ.ä�~‰~˜cÐ(^Ô_ˆØ � ‰ �s ¨ˆ Ô+ä � ‰ �$˜[Ô)×.Ñ.°1¸QÀQÈQÐWZÐ.Ô[Ü ŸL™L¨Ô ?ˆÔÜ � ‰ �$ T×%6Ñ%6¸bÔA×FÑFÈ1ÐUVÐ]^ÐFÔ_Ü � ‰ �$˜[Ô)×.Ñ.°1¸QÀQÈsÐ.ÔSÜ ŸL™L¨tÔ 4ˆÔÜ � ‰ �$ T×%6Ñ%6¸aÔ@×EÑEÈ!ÐTUÐ\]ÐEÔ^Ü � ‰ �$˜]Ô+×0Ñ0°Q¸qÀqÐQTÐ0ÔUÜ ŸL™L›NˆÔÜ � ‰ �$ T×%6Ñ%6¸bÔA×FÑFÈ1ÐUVÐ]^ÐFÔ_ä � ‰ �$˜_Ô-×2Ñ2°qÀÈÐQRÐ[^Ð2Ô_Ü ŸL™L›NˆÔÜ � ‰ �$ T×%6Ñ%6¸bÀsÔK×PÑPÐUVÐ_`ÐghÐPÔiÜ � ‰ �$Ð 3Ô4×9Ñ9¸aÈÐPQÐZ]Ð9Ô^Ü Ÿ<™<›>ˆÔÜ � ‰ �$ T×%5Ñ%5¸RÔ@×EÑEÈ!ÐTUÐbcÐjkÐtwÐEÔxÜ �
|
|||
|
|
‰
|
|||
|
|
�4Ð :Ø ×.Ñ.ô 0ß04±¸À1È1°Ô0Mä�~‰~˜cÐ(VÔWˆØ � ‰ �s ¨ˆ Ô+Ü �
|
|||
|
|
‰
|
|||
|
|
�4Ð 6Ó@_Ô`×eÑeÐkqÐxyð ABÐeô CÜ �
|
|||
|
|
‰
|
|||
|
|
�4Ð 8ÓB`Ôa×fÑfÐlrÐyzÐfÔ{Ü �
|
|||
|
|
‰
|