Membangun sistem AI percakapan di komputer lokal kini makin mudah berkat Open WebUI. Ini adalah antarmuka web yang ramah pengguna untuk berinteraksi dengan berbagai Model Bahasa Besar (LLM). Nah, supaya bisa menjalankannya dengan lancar dan terstruktur, cara terbaik adalah memanfaatkan Docker bersama Model Runner.
Menggunakan Docker untuk setup ini punya banyak kelebihan. Salah satunya, semua komponen yang dibutuhkan sudah terbungkus rapi dan terisolasi, jadi tidak mengganggu instalasi lain di sistem operasi kita. Proses instalasi jadi lebih cepat dan mudah diulang di komputer lain.
Persiapan Singkat Sebelum Mulai
Sebelum melangkah lebih jauh, pastikan dua hal penting sudah terpasang di komputer Anda:
- Docker Engine: Ini adalah mesin utama yang menjalankan kontainer.
- Docker Compose: Alat untuk mendefinisikan dan menjalankan aplikasi multi-kontainer Docker.
Kalau keduanya sudah siap, kita bisa langsung ke inti pengaturannya.
Membuat File Konfigurasi Utama
Untuk menjalankan Open WebUI dan Model Runner secara bersamaan, kita akan menggunakan satu file konfigurasi bernama docker-compose.yaml. File ini ibarat “resep” yang memberitahu Docker Compose bagaimana cara membangun dan menjalankan layanan-layanan yang kita butuhkan.
Buka editor teks favorit Anda, lalu buat file baru dengan nama docker-compose.yaml. Kemudian, salin dan tempel konfigurasi yang dibutuhkan ke dalam file ini.
Di dalam file ini, akan ada dua layanan utama yang didefinisikan: satu untuk Open WebUI itu sendiri, dan satu lagi untuk Model Runner. Model Runner ini fungsinya untuk mengelola dan menjalankan model AI yang akan Anda gunakan.
Konfigurasi ini biasanya mengatur beberapa hal penting:
- Image Docker: Menentukan versi Open WebUI dan Model Runner yang akan diunduh dan dijalankan.
- Port: Mengaitkan port di komputer lokal Anda dengan port di dalam kontainer Docker, supaya Anda bisa mengakses antarmuka web Open WebUI lewat browser. Misalnya, port 3000 di komputer Anda akan diarahkan ke port internal kontainer.
- Volume: Menentukan lokasi penyimpanan data, seperti model AI yang diunduh, riwayat percakapan, atau pengaturan pengguna. Data ini disimpan di luar kontainer (di komputer lokal Anda) supaya tidak hilang jika kontainer dibuat ulang atau diperbarui. Ini penting agar data Anda tetap aman.
Menjalankan Sistem AI Anda
Setelah file docker-compose.yaml selesai dibuat dan disimpan, langkah selanjutnya sangat sederhana. Buka terminal atau command prompt, lalu navigasikan ke folder tempat Anda menyimpan file tersebut.
Dari folder itu, jalankan command berikut:
docker compose up -d
Command ini akan dibaca oleh Docker Compose. Ia akan mengunduh image Docker yang dibutuhkan (jika belum ada), membuat kontainer sesuai definisi di file docker-compose.yaml, dan menjalankannya di latar belakang (-d artinya detached atau berjalan di background).
Tunggu beberapa saat sampai prosesnya selesai. Bergantung pada kecepatan internet Anda, mengunduh image bisa memakan waktu.
Mengakses Antarmuka Open WebUI
Setelah kontainer berhasil berjalan, Anda bisa langsung mengakses Open WebUI melalui browser web. Buka browser Anda, lalu kunjungi alamat lokal yang sudah diatur di file konfigurasi. Biasanya, alamatnya adalah http://localhost:3000.
Di sana, Anda akan disambut oleh antarmuka Open WebUI. Anda mungkin akan diminta untuk membuat akun pengguna pertama kali. Setelah masuk, Anda bisa mulai menjelajahi berbagai model AI yang tersedia, mengunduh model yang Anda inginkan, dan langsung memulai percakapan. Antarmukanya dirancang agar mudah digunakan, bahkan bagi pemula sekalipun.
Dengan setup menggunakan Docker dan Model Runner, mengelola sistem AI lokal jadi jauh lebih rapi dan efisien. Anda punya kendali penuh atas model yang digunakan dan data Anda tetap di komputer sendiri.
Sumber: https://collabnix.com/how-to-successfully-run-open-webui-with-docker-model-runner/