Install DeepSeek AI Model Locally
Opening
Sedang booming salah satu AI Model asal Tiongkok yaitu DeepSeek yang digadang-gadang akan menjadi salah satu pesaing ChatGPT. Bagi yang belum tau apa itu DeepSeek, atmin akan jelaskan sedikit apa itu DeepSeek.
Apa Itu DeepSeek?
DeepSeek adalah platform kecerdasan buatan (AI) dari China yang dirancang untuk memahami dan merespons bahasa manusia. Perusahaan ini mengembangkan model AI seperti DeepSeek-V3 dan DeepSeek-R1, yang diklaim setara dengan teknologi dari OpenAI (pembuat ChatGPT) dan Meta (induk Facebook).Seperti ChatGPT, DeepSeek bisa digunakan untuk percakapan, pembuatan konten, dan analisis data. Bedanya, DeepSeek menggunakan chip yang lebih sederhana dibandingkan pesaingnya, tetapi tetap mampu menjalankan model AI yang canggih.
Ya kurang lebih seperti itu penjelasannya, semoga kalian paham.
Tutorial
Buat yang udah penasaran dengan tutorialnya, langsung saja dibaca dengan seksama ya guys pada section ini.
1. Siapkan Device & Internet
"Bang, katanya offline, kok masih perlu internet", ehh masbro kan kita perlu download bahan-bahannya dulu, untuk bahan-bahannya ada pada step selanjutnya ya.
2. Download & Install Bahan-bahan
Untuk bahan-bahannya yaitu ada beberapa yang perlu kita download & installkan terlebih dahulu di device kita, yaitu :
1. Ollama
Ollama adalah platform yang memungkinkan pengguna untuk menjalankan model kecerdasan buatan (AI) secara lokal di komputer mereka. Dengan Ollama, pengguna bisa mengunduh, mengelola, dan menjalankan berbagai model AI tanpa perlu bergantung pada layanan cloud.
Link download => https://ollama.com/download (Sesuaikan dengan jenis OS kalian ya)
Setelah didownload.. langsung install aja ya guys, yakali gabisa install aplikasi, tinggal next-next doang kok.
2. Model
Untuk modelnya sendiri, bisa download juga di website Ollama langsung, karena di sini kita prakteknya menggunakan model DeepSeek, jadinya kita pilih model DeepSeek ya, oiya disini kita praktek yang 7b aja ya. Tapi kalo kalian mau yang lebih cerdas lagi.. bisa pilih yang lebih gede lagi, misal yang 671b
Buka terminal kalian (pastikan ollama udh terinstall & udh running juga ya guys), lalu ketikkan :
ollama run deepseek-r1
Kalo udh, kurang lebih proses downloadnya seperti ini :
Tinggal tunggu aja sampai selesai, nanti kalian bisa langsung lakukan prompt layaknya chat dengan AI seperti ChatGPT, tapi masih dalam bentuk CLI ya.
Sebenernya untuk stepnya cuma sampe sini, tapi pasti gk asik dong kalo cuma dalam bentuk CLI, jadi di sini atmin mau buatin tutorial dalam bentuk GUI-nya juga guys, mirip ChatGPT.
3. Open WebUI
Apa sih bang OpenWebUI itu, Open WebUI itu kalo kalo dijelaskan secara ringkas, intinya ini tuh buat jalanin model tapi dalam bentuk GUI, sama kaya kalian buka platform chatnya si ChatGPT.
Karena di sini atmin gamau ribet, atmin bakal install Open WebUI dengan docker ya guys, untuk stepnya tinggal running command docker ini di terminal kalian :
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
Tinggal tunggu aja proses pulling-nya, kalo udh nanti kalian bisa langsung running aja di browser kalian dengan mengakses localhost dengan port 3000
http://localhost:3000
atau
http://127.0.0.1:3000
Ini biasanya akan blank dulu ketika kita akses, tunggu saja kurang lebih 5 menit ya guys, nanti akan muncul kok.
Thank You !!!
next cara serve api nya min
ReplyDeleteSiapp abangku
DeleteBtw itu speknya harus tinggi? Aku cuma ram 8gb cukup? Corei3 gen 8
ReplyDeletePost a Comment
Komentar Spam Akan kami Hapus