AI agent sekarang tidak harus berjalan di cloud atau membutuhkan API berbayar. Kita bisa membuat AI agent lokal yang menjalankan model LLM langsung di komputer sendiri, kemudian memberinya akses ke file, terminal, kode, dan workspace.

Salah satu stack yang praktis untuk Windows adalah:

Ollama + Qwen3 + Open WebUI + Open Terminal

Arsitekturnya kira-kira seperti ini:

                 KOMPUTER SENDIRI
                       │
                       ▼
              ┌─────────────────┐
              │     Ollama      │
              │ Local LLM       │
              └────────┬────────┘
                       │
                       ▼
              ┌─────────────────┐
              │     Qwen3       │
              │    4B / 8B      │
              └────────┬────────┘
                       │
                       ▼
              ┌─────────────────┐
              │   Open WebUI    │
              │ Chat + Agent    │
              └────────┬────────┘
                       │
                       ▼
              ┌─────────────────┐
              │ Open Terminal   │
              │ Files / Code    │
              │ Commands / Git  │
              └─────────────────┘

Ollama bertugas menjalankan model secara lokal, sedangkan Open WebUI menyediakan interface dan kemampuan agentic. Open Terminal memberikan lingkungan untuk menjalankan perintah, membaca/menulis file, menjalankan kode, dan melakukan pekerjaan multi-step. Open WebUI

Yang menarik, setelah seluruh komponen dan model sudah di-download, sistem ini bisa digunakan tanpa koneksi internet. Untuk benar-benar air-gapped, koneksi keluar juga perlu dibatasi dengan firewall atau isolasi jaringan karena OFFLINE_MODE Open WebUI sendiri tidak otomatis memblokir seluruh koneksi jaringan. Open WebUI

1. Apa yang Akan Kita Buat?

Target akhir tutorial:

  • LLM berjalan di PC sendiri
  • Tidak membutuhkan OpenAI API
  • Tidak membutuhkan API key
  • Tidak membutuhkan subscription
  • Chat melalui browser
  • Model bisa menggunakan tools
  • Bisa membaca dan membuat file
  • Bisa menjalankan command
  • Bisa menjalankan Python
  • Bisa membuat project
  • Bisa melakukan debugging
  • Bisa menggunakan Git
  • Bisa bekerja pada folder workspace
  • Bisa dibuat offline
  • Bisa menggunakan GPU jika backend/hardware mendukungnya

Namun ada satu hal penting.

Local LLM biasa ≠ AI agent.

Contohnya:

LLM biasa:

User
 ↓
"buatkan program Python"
 ↓
LLM
 ↓
kode Python

Sedangkan agent:

User
 ↓
"Buatkan aplikasi Flask sederhana"
 ↓
AI membuat rencana
 ↓
membuat file
 ↓
menjalankan command
 ↓
menjalankan program
 ↓
membaca error
 ↓
memperbaiki kode
 ↓
menjalankan ulang
 ↓
verifikasi
 ↓
hasil akhir

Open WebUI menjelaskan agentic workflow sebagai loop memahami tujuan → memilih tindakan → menjalankan tindakan → mengamati hasil → memperbaiki/melanjutkan → memverifikasi. Open WebUI

2. Apakah Benar-Benar Gratis?

Ya, software stack yang digunakan dapat dijalankan tanpa biaya API:

Komponen Fungsi
Ollama Menjalankan LLM lokal
Qwen3 Model AI
Open WebUI Interface dan agent harness
Open Terminal Workspace dan execution environment
Docker Desktop Container untuk Open WebUI/Open Terminal

Tidak ada biaya per token seperti API cloud.

Tetapi tentu saja tetap ada:

  • listrik
  • kapasitas SSD
  • RAM
  • GPU/CPU
  • waktu download model

Jadi gratis dari biaya API, bukan berarti tidak ada biaya hardware/listrik.

3. Spesifikasi Minimum

Spesifikasi sangat tergantung model yang digunakan.

Sebagai contoh, Qwen3 tersedia dalam beberapa ukuran. Qwen3 4B berukuran sekitar 2,5 GB, sedangkan Qwen3 8B sekitar 5,2 GB dalam varian yang tersedia di Ollama. Qwen3 juga memiliki varian 14B, 30B, 32B dan 235B. Ollama

Minimum untuk sekadar mencoba

Komponen Minimum
CPU 4 core
RAM 8 GB
Storage kosong 15-20 GB
GPU Tidak wajib
VRAM Tidak wajib
OS Windows 10/11 64-bit
Internet Dibutuhkan saat instalasi/download

Untuk AI agent, saya tidak menyarankan 8 GB RAM jika ingin workflow yang cukup kompleks.

Minimum yang lebih masuk akal

CPU    : 6 core
RAM    : 16 GB
SSD    : 50 GB kosong
GPU    : 6-8 GB VRAM
Model  : 4B-8B

Ini jauh lebih nyaman untuk coding, dokumen dan automation sederhana.

4. Spesifikasi Recommended

Untuk penggunaan serius:

CPU    : Ryzen 5 / Core i5 atau lebih tinggi
RAM    : 32 GB
SSD    : NVMe 1 TB
GPU    : 12-16 GB VRAM
Model  : 8B-14B

Untuk model yang lebih besar:

RAM    : 64 GB+
GPU    : 24 GB VRAM+
Model  : 30B+

Model besar membutuhkan resource jauh lebih besar. Sebagai gambaran, Ollama mencantumkan Qwen3 14B sekitar 9,3 GB, 30B sekitar 19 GB, dan 32B sekitar 20 GB untuk varian yang tersedia di registry. Ollama

Jangan melihat ukuran file model saja.

Misalnya:

Model 8B
↓
5,2 GB file
↓
belum berarti hanya membutuhkan 5,2 GB RAM

Runtime, context, KV cache, OS, Docker, Open WebUI dan tools juga membutuhkan memory.

5. Apakah GPU Wajib?

Tidak.

LLM lokal dapat berjalan menggunakan:

CPU
GPU
CPU + GPU

Namun GPU sangat membantu performa.

Secara sederhana:

CPU only
████░░░░░░  lambat

GPU
████████░░  jauh lebih cepat

Untuk model 8B, GPU dengan VRAM sekitar 8 GB sudah cukup menarik untuk eksperimen local AI.

Jika GPU tidak cukup besar, sebagian pekerjaan dapat tetap menggunakan RAM/CPU, tetapi performanya bisa turun.

6. Software yang Dibutuhkan

Kita akan menggunakan:

1. Ollama

Runtime untuk menjalankan LLM lokal.

2. Qwen3

Model LLM yang mendukung tool calling dan tersedia dalam berbagai ukuran di Ollama. Qwen3 8B, misalnya, tersedia sebagai model sekitar 5,2 GB dan menggunakan lisensi Apache 2.0 pada halaman Ollama tersebut. Ollama

3. Docker Desktop

Untuk menjalankan Open WebUI dan Open Terminal secara terisolasi.

4. Open WebUI

Interface AI lokal.

Open WebUI mendukung Ollama dan berbagai provider lain, serta dapat berjalan sepenuhnya self-hosted. Open WebUI

5. Open Terminal

Bagian yang membuat Open WebUI menjadi agent harness dengan filesystem dan terminal untuk menjalankan pekerjaan nyata. Open WebUI

7. STEP 1: Install Ollama

Pertama install Ollama di Windows.

Download installer Ollama dari situs resminya:

Ollama

Setelah selesai install, buka:

PowerShell

Kemudian:

ollama --version

Jika berhasil akan muncul versi Ollama.

Contoh:

ollama version ...

Jika command tidak dikenali:

  1. tutup PowerShell
  2. buka PowerShell baru
  3. coba lagi

8. STEP 2: Download Model LLM

Untuk tutorial ini kita menggunakan:

qwen3:8b

Jalankan:

ollama pull qwen3:8b

Tunggu sampai selesai.

Model sekitar 5,2 GB perlu didownload terlebih dahulu. Ollama

Setelah selesai cek:

ollama list

Seharusnya muncul:

NAME
qwen3:8b

9. STEP 3: Tes LLM

Jalankan:

ollama run qwen3:8b

Kemudian coba:

Halo, jelaskan apa itu Python.

Kalau model menjawab berarti:

Windows
   ↓
Ollama
   ↓
Qwen3
   ↓
BERHASIL

Untuk keluar:

/bye

10. STEP 4: Tes Ollama API

Ollama menyediakan API lokal. Halaman model Qwen3 di Ollama juga menyediakan contoh penggunaan API melalui endpoint lokal localhost:11434. Ollama

Cek:

curl http://localhost:11434/api/tags

Jika berhasil, komputer akan mengembalikan daftar model.

Artinya server Ollama berjalan.

Secara default konsepnya:

http://localhost:11434

11. STEP 5: Install Docker Desktop

Download Docker Desktop:

Docker Desktop

Install seperti biasa.

Kemudian restart Windows jika diminta.

Buka Docker Desktop dan pastikan statusnya:

Docker Desktop
     │
     └── Running

Open WebUI secara resmi mendukung Windows dan Docker direkomendasikan untuk banyak instalasi. Open WebUI

12. STEP 6: Jalankan Open WebUI

Buka PowerShell.

Jalankan:

docker run -d `
  -p 3000:8080 `
  --add-host=host.docker.internal:host-gateway `
  -v open-webui:/app/backend/data `
  -e WEBUI_SECRET_KEY=local-ai-secret-key `
  --name open-webui `
  --restart always `
  ghcr.io/open-webui/open-webui:main

Jika PowerShell bermasalah dengan format multi-line, gunakan satu baris:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -e WEBUI_SECRET_KEY=local-ai-secret-key --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Command tersebut mengikuti pola deployment resmi Open WebUI. Open WebUI

13. STEP 7: Buka Open WebUI

Buka browser:

http://localhost:3000

Akan muncul halaman Open WebUI.

Buat akun administrator lokal.

Setelah login, kita sudah mempunyai:

Browser
   ↓
Open WebUI
   ↓
Ollama
   ↓
Qwen3

14. STEP 8: Hubungkan Open WebUI dengan Ollama

Dalam Docker, koneksi Ollama host biasanya menggunakan:

http://host.docker.internal:11434

Open WebUI memang mendokumentasikan alamat tersebut untuk Ollama yang berjalan di host ketika Open WebUI dijalankan dalam Docker. Open WebUI

Masuk:

Settings
↓
Admin Settings
↓
Connections
↓
Ollama

Gunakan:

http://host.docker.internal:11434

Kemudian save.

Jika berhasil, model:

qwen3:8b

akan muncul.

15. STEP 9: Tes Chat

Buat chat baru.

Pilih:

qwen3:8b

Kemudian:

Jelaskan konsep penetration testing
dengan struktur:
1. reconnaissance
2. enumeration
3. vulnerability assessment
4. exploitation
5. reporting

Jika mendapat jawaban:

LLM lokal sudah berhasil.

Tapi...

Kita belum mempunyai agent sepenuhnya.

16. LLM vs AI Agent

Ini bagian paling penting.

LLM

User
 ↓
Prompt
 ↓
AI
 ↓
Jawaban

AI Agent

User
 ↓
Goal
 ↓
AI berpikir
 ↓
Pilih tool
 ↓
Eksekusi
 ↓
Baca hasil
 ↓
Analisis
 ↓
Tool berikutnya
 ↓
Verifikasi
 ↓
Hasil

Open WebUI sendiri membedakan model provider biasa dengan autonomous AI agent yang membawa tools seperti terminal, file operations, web search, memory, dan skills. Open WebUI

17. STEP 10: Install Open Terminal

Open Terminal memberikan agent lingkungan nyata untuk:

  • membaca file
  • membuat file
  • menjalankan command
  • menjalankan script
  • menjalankan Git
  • menjalankan server
  • membaca output
  • memperbaiki error
  • mengulangi proses

Open WebUI menyebut Open Terminal sebagai execution environment untuk agent dan dapat dijalankan dalam Docker sebagai boundary/sandbox. Open WebUI

Jalankan:

docker run -d `
  --name open-terminal `
  --restart unless-stopped `
  -p 8000:8000 `
  -v open-terminal:/home/user `
  -e OPEN_TERMINAL_API_KEY=local-agent-key `
  ghcr.io/open-webui/open-terminal

Atau satu baris:

docker run -d --name open-terminal --restart unless-stopped -p 8000:8000 -v open-terminal:/home/user -e OPEN_TERMINAL_API_KEY=local-agent-key ghcr.io/open-webui/open-terminal

Open WebUI mendokumentasikan deployment Open Terminal menggunakan Docker dengan pola ini. Open WebUI

18. STEP 11: Hubungkan Open Terminal

Setelah container berjalan:

docker ps

Harus terlihat kira-kira:

open-webui
open-terminal

Kemudian masuk Open WebUI.

Cari pengaturan:

Settings
→ Admin
→ Connections / Tools

Hubungkan Open Terminal sesuai konfigurasi instalasi Open WebUI.

Tujuannya adalah membuat:

Qwen3
  │
  ▼
Open WebUI
  │
  ▼
Open Terminal
  │
  ├── filesystem
  ├── shell
  ├── Python
  ├── Git
  └── process

Open WebUI menjelaskan bahwa Open Terminal menyediakan tools seperti run_command, read_file, write_file, grep_search, glob_search, dan process management. Open WebUI

19. STEP 12: Pastikan Native Tool Calling Aktif

Ini sangat penting.

Open WebUI sekarang menggunakan Native Tool Calling / Agentic Mode sebagai mode default untuk model yang mendukungnya. Mode ini memungkinkan model menghasilkan structured tool calls, kemudian Open WebUI menjalankan tool tersebut dan mengembalikan hasilnya ke model. Open WebUI

Cari:

Settings
→ Admin
→ Models
→ qwen3:8b
→ Advanced Parameters

Pastikan:

Function Calling
= Native

Jangan menggunakan Legacy kecuali memang ada alasan kompatibilitas.

20. STEP 13: Buat Workspace Agent

Buat folder khusus.

Misalnya:

C:\AI-Agent\

Kemudian:

C:\AI-Agent\
│
├── projects\
├── documents\
├── output\
└── workspace\

Jangan langsung memberikan agent akses ke:

C:\

atau seluruh filesystem.

Lebih aman memberikan area kerja khusus.

21. STEP 14: Tes Agent Pertama

Sekarang berikan prompt:

Buat sebuah file hello.py di workspace.

Isi file dengan program Python sederhana
yang mencetak:

Hello from my local AI agent

Setelah itu jalankan program tersebut
dan tampilkan hasilnya.

Agent seharusnya melakukan:

1. memahami instruksi
2. membuat hello.py
3. menjalankan Python
4. membaca output
5. memberikan hasil

Jika berhasil:

Selamat, Anda sudah mempunyai local AI agent. 🤖

22. Tes Kedua: Coding Agent

Coba:

Buat aplikasi Flask sederhana.

Requirements:
- Python
- Flask
- halaman /
- halaman /about
- desain sederhana
- struktur project yang rapi

Buat semua file yang dibutuhkan.
Kemudian jalankan aplikasi.
Jika terjadi error, baca error tersebut,
perbaiki kode dan jalankan kembali.

Agent akan mempunyai workflow:

Plan
 ↓
Create files
 ↓
Install dependency
 ↓
Run Flask
 ↓
Read error
 ↓
Fix
 ↓
Run again
 ↓
Verify

Inilah perbedaan utama dengan chatbot biasa.

23. Tes Ketiga: AI Coding Assistant Lokal

Misalnya ada project:

C:\AI-Agent\projects\web-checker\

Berikan:

Analisis project ini.

Cari:
- struktur aplikasi
- dependency
- entry point
- potensi error
- file yang redundant
- konfigurasi yang bermasalah

Jangan mengubah file terlebih dahulu.

Berikan laporan terlebih dahulu.

Ini penting karena agent tidak selalu harus langsung melakukan perubahan.

Gunakan workflow:

READ
 ↓
ANALYZE
 ↓
REPORT
 ↓
APPROVE
 ↓
MODIFY

24. Tes Keempat: Debugging Otomatis

Setelah agent membaca project:

Jalankan test project ini.

Jika test gagal:
1. baca error
2. cari penyebab
3. perbaiki kode
4. jalankan test kembali
5. ulangi sampai berhasil

Jangan menghapus test untuk membuatnya pass.

Ini jauh lebih dekat dengan workflow software engineering agent.

25. Tes Kelima: Analisis Dataset

Misalnya punya:

data.csv

Prompt:

Analisis data.csv.

Lakukan:
1. cek jumlah row
2. cek jumlah kolom
3. cek missing value
4. cek duplicate
5. tampilkan statistik dasar
6. buat visualisasi
7. simpan hasil ke output/report

Agent bisa:

CSV
 ↓
Python
 ↓
Pandas
 ↓
Analisis
 ↓
Matplotlib
 ↓
Report

Open Terminal memang dirancang untuk workflow seperti analisis spreadsheet/data, document processing, software development dan automation. Open WebUI

26. Apakah Bisa Membuat Website?

Bisa.

Misalnya:

Buat landing page perusahaan
menggunakan HTML, CSS dan JavaScript.

Requirement:
- responsive
- mobile friendly
- navbar
- hero section
- services
- about
- contact
- footer

Buat seluruh file di workspace.
Jalankan local server.
Periksa apakah tidak ada error.

Agent dapat:

index.html
style.css
script.js

kemudian menjalankan local server.

27. Apakah Bisa Menjalankan Python?

Bisa.

Contoh:

Buat script Python untuk membaca
semua file CSV di folder data,
menggabungkannya menjadi satu dataset,
menghapus duplicate,
dan menyimpan hasil ke output/final.csv.

Agent kemudian dapat membuat dan menjalankan script tersebut di execution environment.

28. Apakah Bisa Git?

Bisa jika Git tersedia di environment agent.

Misalnya:

Clone repository ini ke workspace.

Setelah selesai:
- analisis struktur
- install dependency
- jalankan test
- jangan push perubahan
- buat laporan hasil analisis

Untuk pekerjaan berisiko seperti:

git push
git reset --hard
rm
delete
database migration

lebih baik menggunakan approval manual.

29. Jangan Langsung Memberikan Full Access

Ini sangat penting.

AI agent yang memiliki terminal bukan lagi sekadar chatbot.

Ia dapat melakukan perubahan nyata.

Misalnya:

AI
 ↓
run_command
 ↓
rm file

Karena itu gunakan sandbox/workspace.

Open WebUI juga membedakan Open Terminal yang terisolasi melalui Docker dengan mode bare-metal yang memberikan akses langsung ke host. Open WebUI

Untuk pemula:

Docker sandbox
       ↓
      LEBIH AMAN

daripada:

Agent
 ↓
akses seluruh Windows

30. Konfigurasi Offline

Setelah semuanya bekerja, kita bisa menyiapkan Open WebUI untuk offline mode.

Open WebUI menyediakan:

OFFLINE_MODE=true

Mode tersebut menghentikan beberapa koneksi otomatis seperti update check dan download model embedding. Namun OFFLINE_MODE bukan firewall. External API, web search, tool server, dan koneksi lain yang dikonfigurasi masih dapat melakukan koneksi jika jaringan mengizinkannya. Open WebUI

Jadi konsepnya:

OFFLINE_MODE
+
Firewall / network isolation
+
Local model
+
Local tools
=
True offline environment

31. Contoh Docker Open WebUI Offline

Jika ingin menjalankan Open WebUI dengan offline mode:

docker run -d `
  -p 3000:8080 `
  --add-host=host.docker.internal:host-gateway `
  -v open-webui:/app/backend/data `
  -e WEBUI_SECRET_KEY=local-ai-secret-key `
  -e OFFLINE_MODE=true `
  --name open-webui `
  --restart always `
  ghcr.io/open-webui/open-webui:main

Setelah model dan seluruh dependency sudah tersedia secara lokal, internet dapat diputus.

Tetapi jangan mengaktifkan offline mode sebelum semua model/dependency yang diperlukan selesai didownload. Open WebUI memperingatkan bahwa model embedding atau dependency yang belum tersedia dapat menyebabkan fitur tertentu gagal ketika offline. Open WebUI

32. Kalau Mau Benar-Benar Air-Gapped

Untuk keamanan lebih tinggi:

Internet
   X
   │
Firewall
   │
┌──▼───────────────────┐
│ Local AI Computer    │
│                      │
│ Ollama               │
│ Qwen3                │
│ Open WebUI            │
│ Open Terminal         │
│ Local files           │
└──────────────────────┘

Pastikan:

Cloud LLM        OFF
Web Search       OFF
Cloud embedding  OFF
External API     OFF
OAuth            OFF
Telemetry/update sesuai kebutuhan

Dan gunakan:

localhost

untuk layanan lokal.

Untuk lingkungan yang benar-benar terisolasi, dokumentasi Open WebUI menyarankan network-level isolation/firewall selain OFFLINE_MODE. Open WebUI

33. Model Apa yang Sebaiknya Dipakai?

Untuk komputer dengan resource terbatas:

Qwen3 4B

ollama pull qwen3:4b

Ukuran sekitar:

2.5 GB

Cocok untuk:

  • chat
  • coding sederhana
  • automation ringan
  • eksperimen agent

Ollama

Qwen3 8B

ollama pull qwen3:8b

Sekitar:

5.2 GB

Lebih cocok sebagai titik awal untuk:

  • coding
  • reasoning
  • tool calling
  • agent sederhana
  • dokumen
  • automation

Ollama

Qwen3 14B

ollama pull qwen3:14b

Sekitar:

9.3 GB

Membutuhkan resource lebih besar. Ollama

34. Kenapa Tidak Langsung Pakai 30B?

Karena:

30B
≈ 19 GB model

saja sudah besar.

Kemudian masih membutuhkan:

OS
+
runtime
+
context
+
KV cache
+
Open WebUI
+
Docker
+
tools

Jadi komputer dengan:

16 GB RAM

tidak ideal untuk model sebesar itu.

Untuk PC mainstream:

4B → ringan
8B → sweet spot
14B → mulai berat
30B → membutuhkan hardware serius

35. Context Length

Jangan otomatis mengatur context terlalu besar.

Misalnya:

2048
8192
16384
32768

Context yang semakin besar dapat membutuhkan memory lebih banyak.

Open WebUI juga memperingatkan bahwa context yang terlalu kecil dapat mengganggu native tool calling karena schema tools ikut masuk ke context. Dokumentasinya memberikan contoh 8192 atau 16384 sebagai nilai yang lebih realistis tergantung hardware/model. Open WebUI

Untuk awal:

8192

adalah titik yang masuk akal untuk diuji.

Kalau RAM/VRAM masih aman:

16384

bisa dicoba.

36. Setting Agent yang Saya Sarankan

Untuk local agent pemula:

Model:
Qwen3 8B

Context:
8192

Function Calling:
Native

Temperature:
default

Workspace:
C:\AI-Agent\workspace

Internet:
OFF

Cloud API:
OFF

Kemudian agent diberi tools:

read_file
write_file
run_command
grep_search
glob_search

Open Terminal menyediakan jenis tool tersebut untuk agent. Open WebUI

37. Prompt System untuk Local Coding Agent

Anda juga bisa memberikan system prompt:

You are a local software engineering AI agent.

Rules:

1. Work only inside the assigned workspace.
2. Never access files outside the workspace unless explicitly authorized.
3. Before modifying important files, explain what will be changed.
4. Never delete files unless explicitly requested.
5. Never run destructive commands without confirmation.
6. Inspect existing files before modifying them.
7. Run tests after making code changes.
8. If a command fails, inspect the error before retrying.
9. Never hide errors.
10. Never claim a task is complete without verification.
11. Prefer simple and maintainable solutions.
12. Keep track of files you create or modify.
13. For security-sensitive operations, ask for confirmation.
14. Do not expose secrets, API keys, passwords, or private credentials.

Ini bukan pengganti security boundary, tetapi membantu membentuk perilaku agent.

38. Contoh Workflow AI Agent untuk Cybersecurity

Karena local agent juga menarik untuk cybersecurity, kita bisa membuat workflow seperti:

Project
   ↓
Source Code
   ↓
AI Agent
   ↓
Static Analysis
   ↓
Dependency Check
   ↓
Configuration Review
   ↓
Report

Contoh prompt aman:

Analisis source code aplikasi ini secara defensif.

Cari:
- hardcoded secret
- insecure configuration
- dependency yang mencurigakan
- SQL injection pattern
- XSS pattern
- command injection pattern
- authentication weakness
- security headers

Jangan melakukan eksploitasi terhadap sistem eksternal.

Buat laporan:
- file
- line
- masalah
- severity
- alasan
- rekomendasi

Untuk lab milik sendiri, agent juga bisa membantu menjalankan testing di environment lokal yang memang Anda miliki.

39. Contoh Workflow untuk SIBRA Tech

Misalnya mempunyai folder:

sibra-project/

Agent dapat diminta:

Analisis project website SIBRA.

Tugas:
1. baca seluruh struktur project
2. identifikasi framework
3. cek dependency
4. cek konfigurasi
5. cek SEO dasar
6. cek security headers
7. cek responsive layout
8. jalankan project
9. identifikasi error
10. buat laporan

Kemudian:

Jangan mengubah file.

Setelah laporan selesai,
tunggu persetujuan saya.

Setelah Anda review:

Terapkan perbaikan yang sudah disetujui.
Setelah selesai jalankan test dan verifikasi.

Ini jauh lebih aman daripada:

"perbaiki semuanya"

40. Troubleshooting

Ollama tidak ditemukan

Coba:

ollama --version

Jika gagal:

  • restart PowerShell
  • restart Windows
  • pastikan Ollama sudah terinstall

Model tidak muncul

Cek:

ollama list

Jika kosong:

ollama pull qwen3:8b

Open WebUI tidak bisa konek Ollama

Dari Docker gunakan:

http://host.docker.internal:11434

bukan:

http://localhost:11434

untuk koneksi dari container ke Ollama yang berjalan di Windows host. Open WebUI

Agent tidak menggunakan tool

Periksa:

Function Calling
↓
Native

Kemudian pastikan model memang mampu melakukan tool calling dengan baik.

Open WebUI mencatat bahwa kemampuan model untuk menghasilkan tool call tidak otomatis berarti model tersebut akan memilih dan menggunakan tool secara andal. Open WebUI

41. Agent Lambat

Kalau lambat:

Turunkan model

8B → 4B

Kurangi context

16384 → 8192

Gunakan GPU

Jika backend/hardware mendukung GPU acceleration.

Kurangi aplikasi background

Misalnya:

Chrome 30 tab
+
Docker
+
VS Code
+
game
+
LLM

akan menghabiskan RAM dengan cepat.

42. RAM 16 GB Apakah Cukup?

Untuk eksperimen:

Ya.

Tetapi jangan berharap menjalankan:

LLM besar
+
Docker
+
browser banyak tab
+
VS Code
+
database
+
agent

secara nyaman sekaligus.

Untuk local AI agent:

16 GB
██████░░░░

32 GB
█████████░

64 GB
██████████

32 GB memberikan ruang jauh lebih besar untuk workflow agentic.

43. Storage yang Dibutuhkan

Minimal:

Ollama
        ~ beberapa GB
Qwen3 8B
        ~5.2 GB
Docker
        beberapa GB
Open WebUI
        beberapa GB
Workspace
        tergantung project

Saya menyarankan:

Minimal:
50 GB free

Recommended:
100 GB+ free

Kalau ingin menyimpan beberapa model:

Qwen3 4B
Qwen3 8B
Qwen3 14B
coding model
embedding model
Whisper

storage bisa cepat habis.

44. Setup Final

Setelah semuanya selesai, arsitektur akhirnya:

                    WINDOWS PC
                         │
            ┌────────────┴────────────┐
            │                         │
         Ollama                   Docker
            │                         │
            ▼                         ▼
         Qwen3                 ┌──────────────┐
         8B/14B                │ Open WebUI   │
                               └──────┬───────┘
                                      │
                                      ▼
                               ┌──────────────┐
                               │Open Terminal │
                               └──────┬───────┘
                                      │
                  ┌───────────────────┼─────────────────┐
                  ▼                   ▼                 ▼
               Files               Python             Git
                  │                   │                 │
                  └───────────────────┼─────────────────┘
                                      ▼
                                AI AGENT

Hasilnya:

LOCAL
FREE
PRIVATE
OFFLINE CAPABLE
NO API KEY
NO SUBSCRIPTION

45. Checklist Sampai Berhasil

Gunakan checklist ini:

[ ] Windows siap
[ ] Ollama terinstall
[ ] ollama --version berhasil
[ ] Qwen3 terdownload
[ ] ollama run qwen3:8b berhasil
[ ] Docker Desktop terinstall
[ ] Docker berjalan
[ ] Open WebUI berjalan
[ ] localhost:3000 bisa dibuka
[ ] Open WebUI terhubung ke Ollama
[ ] Qwen3 muncul di Open WebUI
[ ] Chat berhasil
[ ] Open Terminal terinstall
[ ] Open Terminal terhubung
[ ] Native Tool Calling aktif
[ ] Workspace dibuat
[ ] Agent bisa membuat file
[ ] Agent bisa membaca file
[ ] Agent bisa menjalankan command
[ ] Agent bisa menjalankan Python
[ ] Agent bisa membaca error
[ ] Agent bisa memperbaiki error
[ ] Offline mode disiapkan
[ ] Firewall/network isolation dikonfigurasi

Kalau semua checklist sudah tercentang, Anda sudah mempunyai AI agent lokal yang dapat bekerja di komputer sendiri, bukan sekadar chatbot lokal.

SIBRA TECH: Bangun AI Agent dan Automation Lokal

Tidak semua kebutuhan AI harus bergantung pada API cloud.

Untuk kebutuhan perusahaan, UMKM, developer, maupun tim cybersecurity, local AI dapat dikembangkan menjadi workflow yang lebih spesifik seperti:

  • AI coding agent
  • automation lokal
  • document processing
  • data analysis
  • local RAG
  • AI untuk internal knowledge base
  • workflow automation
  • custom AI tools
  • cybersecurity assistant
  • website development
  • custom software
  • data scraping dan automation
  • integrasi AI dengan sistem internal

SIBRA TECH dapat membantu merancang dan mengembangkan solusi teknologi yang disesuaikan dengan kebutuhan bisnis, mulai dari website, software custom, automation, data processing, sampai implementasi cybersecurity dan AI workflow.

Jika kebutuhan Anda bukan sekadar “install ChatGPT lokal”, tetapi ingin AI agent yang benar-benar mengerjakan pekerjaan tertentu secara otomatis di environment sendiri, arsitekturnya bisa dirancang mulai dari model, tools, sandbox, database, RAG, sampai workflow automation.