AI/Ollama: Difference between revisions
Jump to navigation
Jump to search
No edit summary |
|||
| Line 777: | Line 777: | ||
|} | |} | ||
{|class='wikitable mw-collapsible mw-collapsed' | {|class='wikitable mw-collapsible mw-collapsed' | ||
!scope='col' style='text-align:left'| Ollama » Model | !scope='col' style='text-align:left' colspan='2'| Ollama » Model | ||
|- | |- | ||
|valign='top'| | |valign='top' style='width:50%'| | ||
<syntaxhighlight lang='bash'> | <syntaxhighlight lang='bash'> | ||
ollama pull gpt-oss:20b | ollama pull gpt-oss:20b | ||
| Line 793: | Line 793: | ||
success | success | ||
' | ' | ||
ollama ls | |||
</syntaxhighlight> | |||
|valign='top' style='width:50%'| | |||
<syntaxhighlight lang='bash'> | |||
ollama pull qwen3-coder:30b | |||
:' | |||
pulling manifest | |||
pulling 1194192cf2a1: 100% ▕███████████████████████████████████████████▏ 18 GB | |||
pulling d18a5cc71b84: 100% ▕███████████████████████████████████████████▏ 11 KB | |||
pulling 69aa441ea44f: 100% ▕███████████████████████████████████████████▏ 148 B | |||
pulling 24a94682582c: 100% ▕███████████████████████████████████████████▏ 542 B | |||
verifying sha256 digest | |||
writing manifest | |||
success | |||
' | |||
ollama ls | ollama ls | ||
</syntaxhighlight> | </syntaxhighlight> | ||
Revision as of 17:25, 8 March 2026
curl -fsSL https://ollama.com/install.sh | sh
ollama pull gpt-oss:20b
ollama --version
ollama ls
curl -fsSL https://claude.ai/install.sh | bash
ollama launch claude --model gpt-oss:20b
|
export ANTHROPIC_BASE_URL=http://localhost:11434
export ANTHROPIC_AUTH_TOKEN=ollama
export ANTHROPIC_API_KEY=''
export OLLAMA_NUM_CTX=32768
export OLLAMA_KEEP_ALIVE=5m
claude --model gpt-oss:20b
| ||||
sudo usermod -aG render,video ${USER}
echo 'id -nG'|sudo -i -u ${USER} bash
newgrp render
|
|||||
| |||||
Optimization
|
Optimization | |||||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
|
Installation
|
Installation | ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| ||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||||
References
|
References | ||
|---|---|---|