Setup Ollama & Install Qwen 2.5 / CodeGemma 7B di Ubuntu WSL dengan Open WebUI

Jika anda ingin jalankan AI model Qwen 2.5 atau CodeGemma 7B secara lokal di Windows menggunakan Ubuntu WSL, Ollama bersama Open WebUI menyediakan cara mudah untuk berinteraksi dengan model melalui browser. Kali ini, kita tunjukkan cara manual dan rasmi setup Ollama serta Open WebUI.

Keperluan Sistem

Sebelum mula, pastikan sistem anda memenuhi keperluan berikut:

• OS: Windows 10/11 dengan WSL2 (Ubuntu 22.04 disarankan)

• RAM: Minimum 16GB (32GB disarankan untuk model besar)

• GPU: NVIDIA dengan CUDA support (optional)

• Storage: Minimum 50GB kosong

Langkah 1: Setup Ubuntu WSL

1. Buka PowerShell sebagai Administrator dan enable WSL:

2. Restart komputer jika perlu.

3. Launch Ubuntu WSL dan buat user/password.

Langkah 2: Update Sistem

Langkah 3: Pasang Ollama (Cara Rasmi)

1. Jalankan skrip install rasmi:

2. Semak Ollama telah terpasang:

3. Pull model Qwen 2.5 dan CodeGemma 7B:

Nota: Model ini akan disimpan secara lokal (~7GB untuk setiap model).

Langkah 4: Setup Open WebUI Manual

1. Pasang Python 3.11 & virtual environment:

2. Pasang Open WebUI dari PyPI:

3. Jalankan Open WebUI:

• Secara default, Open WebUI akan buka di: http://localhost:8080/

4. Tukar port atau gunakan model spesifik:

Langkah 5: Tips & Troubleshooting

• Virtual Environment: Pastikan aktif setiap kali run Open WebUI (source openwebui_venv/bin/activate).

• Port: Default 8080, boleh tukar menggunakan --port.

• GPU Acceleration: Untuk speed, install CUDA & NVIDIA driver di WSL.

• Storage: Simpan model dalam folder tersendiri untuk elak kehabisan ruang.

• Firewall: Pastikan port yang digunakan dibuka.

Kesimpulan

Dengan setup ini, anda boleh:

• Jalankan AI model Qwen 2.5 & CodeGemma 7B secara lokal menggunakan Ollama.

• Gunakan Open WebUI manual untuk interaksi melalui browser.

• Eksperimen projek AI tanpa bergantung pada cloud, terus dari WSL.