INFORMATICS

# Zaktualizuj system (opcjonalnie, ale zalecane)
sudo dnf update -y

# Na Rocky Linux 10 czasem potrzebne zstd
sudo dnf install -y zstd curl

# Instalacja oficjalna
curl -fsSL https://ollama.com/install.sh | sh

ollama --version
systemctl status ollama

# Mały i szybki model (dobry na start, nawet na CPU)
ollama run gemma3:4b

# albo inne popularne:
ollama run llama3.2          # 3B
ollama run qwen2.5:7b
ollama run deepseek-r1:8b    # dobre rozumowanie
ollama run llama3.1:8b

ollama list                  # lista zainstalowanych modeli
ollama pull nazwa_modelu     # tylko pobierz, bez uruchamiania
ollama rm nazwa_modelu       # usuń model
ollama serve                 # jeśli chcesz ręcznie odpalić serwer

# EPEL + CRB
sudo dnf install -y epel-release
sudo dnf config-manager --set-enabled crb

# Repo NVIDIA (dostosuj do swojej wersji Rocky – 9 lub 10)
# Dla Rocky 9:
sudo dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel9/x86_64/cuda-rhel9.repo

# Dla Rocky 10:
# sudo dnf config-manager --add-repo https://developer.download.nvidia.com/compute/cuda/repos/rhel10/x86_64/cuda-rhel10.repo

sudo dnf install -y kernel-devel-matched kernel-headers
sudo dnf install -y nvidia-open   # lub cuda-drivers
sudo reboot

nvidia-smi