AI on kenji.blog

Tembok Pengembangan AI

Sun, 20 Jul 2025 21:52:42 +0900

Tembok Pengembangan AI

〜 Sampai di pos 8, tapi setelah itu seperti neraka 〜

Halo, saya kenji.

Belakangan ini, saya sering sekali mendengar, “Saya minta AI, dan aplikasi pun jadi!” Kita telah melewati era no-code dan low-code, dan memasuki fase “vibe-coding” (menulis kode berdasarkan suasana hati).

Misalnya, jika Anda berkata, “Buatkan aplikasi yang bisa mengedit gambar dan mempostingnya ke media sosial,” AI akan mengeluarkan kode dan bahkan antarmuka pengguna (UI). Anda mungkin berpikir, “Wow, kita tidak butuh manusia lagi, kan?”

Tapi tahukah Anda, itu seperti turun di pos 8 Gunung Fuji dengan memakai sandal.

Sampai pos 8 terlihat “sangat mudah”

Pengembangan dengan AI pada awalnya memang sangat mudah. File I/O? Untuk saat ini berfungsi. Jaringan? Yah, terhubung. Database? JSON saja cukup. UI? ChatGPT sudah memberikan kode React. Pembayaran? API Stripe cukup copy-paste.

Di sini, Anda mulai berkhayal, “Apakah saya sudah menjadi seorang engineer?” Namun, neraka yang sesungguhnya baru saja dimulai.

Mengapa kita terjebak?

Alasannya sederhana, “AI membuat sesuatu yang tampak jadi, tetapi penyesuaian akhir sepenuhnya diserahkan kepada manusia.”

Data hilang saat file I/O
Normalisasi DB yang buruk membuat pencarian menjadi lambat
UI tidak intuitif
Tidak ada pengujian beban, sehingga crash saat ada lonjakan akses
Ditolak saat review oleh Apple/Google
Menimbulkan masalah hukum (dan hampir viral)

Dengan kata lain, AI ahli dalam membuat “prototipe yang terlihat seperti sudah selesai”, tetapi mengubahnya menjadi “produk yang siap dirilis ke dunia nyata” masih merupakan pekerjaan manusia.

Tapi, ada sebuah paradoks

Di sini kita menyadari sebuah paradoks.

Bagaimana jika di masa depan AI benar-benar bisa melakukan segalanya? Artinya, bagaimana jika “keamanan, penagihan, dan desain semuanya ditangani dengan sempurna oleh AI”?

Pada saat itu, kebutuhan manusia untuk membuat aplikasi mungkin akan hilang sepenuhnya.

Sebab, jika pengguna langsung memberi tahu AI, “Saya ingin melakukan ini,” tugas tersebut akan langsung dieksekusi tanpa memerlukan aplikasi.

🌀 Sebagai contoh

Dulu kita “membuka aplikasi kalkulator untuk berhitung”, sekarang kita hanya perlu berkata, “Hey Siri, berapa 12×32?”, dan selesai.

Sama halnya, jika kita berkata, “AI, edit foto ini dan bagikan,” proses tersebut mungkin selesai tanpa melalui UI atau API aplikasi.

Dengan kata lain, ketika tujuan “membuat aplikasi dengan AI” terwujud, mungkin akan datang dunia di mana aplikasi itu sendiri tidak lagi dibutuhkan.

Pada akhirnya, apa yang bisa kita lakukan sekarang

Lalu, apa yang harus kita lakukan?

Saat ini “di atas pos 8” masih menjadi ranah manusia, jadi mari kita asah kemampuan di sana
Fokus pada pemahaman mendalam tentang pengguna dan desain layanan
Memikirkan “apa yang bernilai” daripada “apa yang bisa dibuat”
Sebaliknya, mencari cara untuk memberikan nilai yang “tidak terbatas pada format aplikasi”

AI adalah alat, lift, dan kadang-kadang pesaing. Namun, pertanyaan “apa yang akan dibuat” dan “mengapa membuatnya” masih merupakan pertanyaan untuk kita, manusia.

Kesimpulan:

Tembok pengembangan AI bukanlah teknologi, melainkan paradoks struktural

Kita berada di era di mana siapa pun bisa mencapai pos 8 Gunung Fuji. Tapi dari situlah ujian sebenarnya dimulai.

Dan mungkin, saat kita mencapai puncak, akan ada masa depan yang menunggu di mana kita bertanya, “Apakah kita benar-benar perlu mendaki gunung ini?”

Langkah-langkah Memanggil TinyLLaMA dari C++ (menggunakan llama.cpp)

Sat, 19 Jul 2025 09:40:53 +0900

✅ Langkah Persiapan TinyLLaMA × C++ (menggunakan `llama.cpp`)

🔧 Langkah 1: Siapkan llama.cpp

1-1. Lingkungan yang Dibutuhkan (Minimum)

OS: Windows / Linux / macOS
Lingkungan Pengembangan: g++ / clang / MSVC
Git / CMake

1-2. Dapatkan dan build llama.cpp

1
2
3
4
5
6


git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
mkdir build
cd build
cmake ..
cmake --build . --config Release

Jika menggunakan Windows, menggunakan Visual Studio Developer Command Prompt dengan cmake --build . --config Release akan lebih mudah.

📦 Langkah 2: Unduh dan konversi model TinyLLaMA

2-1. Dapatkan model asli dari HuggingFace

Contoh: TinyLLaMA-1.1B

1
2
3
4
5
6
7


# Unduh menggunakan transformers jika perlu
pip install transformers huggingface_hub

python3 -m transformers.models.llama.convert_llama_weights_to_hf \
 --input_dir ./TinyLlama-1.1B-Chat \
 --model_size 1B \
 --output_dir ./hf_model

Ini adalah langkah konversi ke format Hugging Face.

2-2. Konversi ke format GGUF (untuk `llama.cpp`)

1
2


cd llama.cpp
python3 convert.py ./hf_model --outfile tinyllama.gguf

2-3. Kuantisasi model (mengurangi ukuran)

1

./quantize ./tinyllama.gguf ./tinyllama-q4.gguf q4_0

q4_0 adalah kuantisasi 4bit. Ukuran model akan berkurang menjadi sekitar ** 350MB **.

🧪 Langkah 3: Panggil model dari C++ (Contoh Kode)

3-1. Kode C++ Sederhana (Inferensi)

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41


#include "llama.h"
#include <iostream>

int main() {
 llama_model_params model_params = llama_model_default_params();
 llama_context_params ctx_params = llama_context_default_params();

 llama_model *model = llama_load_model_from_file("tinyllama-q4.gguf", model_params);
 llama_context *ctx = llama_new_context_with_model(model, ctx_params);

 std::string prompt = "Pengguna mengatakan mereka ingin memuat data Excel, memfilternya, dan menyimpannya. Apa konfigurasi nodenya?";
 llama_batch batch = llama_batch_init(512, 0, 1);
 llama_token BOS = llama_token_bos(model);
 batch.token[0] = BOS;

 // Tokenisasi
 std::vector<llama_token> tokens(prompt.size() + 8);
 int n = llama_tokenize(model, prompt.c_str(), tokens.data(), tokens.size(), true);
 tokens.resize(n);

 for (size_t i = 0; i < tokens.size(); ++i) {
 batch.token[i + 1] = tokens[i];
 }

 batch.n_tokens = tokens.size() + 1;
 llama_decode(ctx, batch);

 // Dapatkan hasil inferensi
 for (int i = 0; i < 50; ++i) {
 llama_token next = llama_sample_token(ctx, nullptr);
 std::cout << llama_token_to_str(model, next);
 llama_batch next_batch = llama_batch_init(1, 0, 1);
 next_batch.token[0] = next;
 next_batch.n_tokens = 1;
 llama_decode(ctx, next_batch);
 }

 llama_free(ctx);
 llama_free_model(model);
 return 0;
}

🧱 Langkah 4: Metode Kompilasi (Contoh)

1

g++ -I./llama.cpp main.cpp ./llama.cpp/build/libllama.a -o tiny_infer -pthread -std=c++11

libllama.a dibuat di direktori build/ setelah proses build selesai.

✅ Contoh Struktur Hasil (Terorganisir)

1
2
3
4
5
6


my_app/
├── tinyllama-q4.gguf # Model terkuantisasi (~350MB)
├── main.cpp # Kode C++ di atas
├── llama.cpp/ # Inti llama.cpp
└── build/
 └── libllama.a # Pustaka terkompilasi

🧠 Catatan untuk penerapan pada use case

Miliki kode di C++ untuk mencocokkan dan memilih templat node berdasarkan output
Contoh: Jika mengandung “Excel”, “filter”, “simpan” -> Buat grup node yang sesuai
Bagian ini cukup dengan konfigurasi sederhana seperti pernyataan if + pemuatan templat JSON

📌 Ringkasan

Item	Konten
Model Rekomendasi	TinyLLaMA-1.1B-Chat v1.0 (GGUF + Kuantisasi)
Ukuran	~350-450MB (kuantisasi 4bit)
Integrasi C++	Memungkinkan menggunakan `llama.cpp`, hampir tanpa dependensi eksternal
Kekuatan Pemrosesan	Cukup untuk pemahaman niat sederhana & pembuatan teks (Teks alami -> Konfigurasi)
Ekstensibilitas	Dapat diubah menjadi AI pembuat node dengan menggabungkan pengisian slot dan pemanggilan templat

Cara Menghasilkan Gambar Ilustrasi Menggunakan AI (StableDiffusion)

Thu, 06 Apr 2023 00:43:19 +0900

Apa itu Stable diffusion

Stable diffusion adalah AI yang menghasilkan gambar dari informasi teks yang dimasukkan, dikembangkan oleh tim peneliti di Universitas Munich di Jerman. Dengan melatihnya pada berbagai gambar, ia dapat menghasilkan berbagai gambar mulai dari foto realistis hingga ilustrasi.

Kali ini, saya akan memperkenalkan cara menghasilkan gambar ilustrasi menggunakan data pra-terlatih dari Stable diffusion.

Yang perlu disiapkan

Akun Google

Hanya itu

Langkah-langkah pembuatan

Buka https://colab.research.google.com
Dari menu File di kiri atas, pilih Buku catatan baru
Dari menu Edit, pilih Setelan buku catatan
Ubah Akselerator hardware menjadi GPU
Tempelkan kode berikut dan jalankan

1

!pip install diffusers==0.8.0 transformers

Tempelkan kode berikut dan jalankan

1

from diffusers import StableDiffusionPipeline

Tempelkan kode berikut dan jalankan

1
2


pipe = StableDiffusionPipeline.from_pretrained("gsdf/Counterfeit-V2.5")
pipe.to("cuda")

Tempelkan kode berikut dan jalankan

1
2
3
4
5


prompt = "((masterpiece,best quality)),1girl, solo, animal ears, rabbit, barefoot, knees up, dress, sitting, rabbit ears, short sleeves, looking at viewer, grass, short hair, smile, white hair, puffy sleeves, outdoors, puffy short sleeves, bangs, on ground, full body, animal, white dress, sunlight, brown eyes, dappled sunlight, day, depth of field"
n_prompt = "EasyNegative, extra fingers,fewer fingers"

image = pipe(prompt, negative_prompt = n_prompt).images[0]
image

Prompt yang digunakan di sini didasarkan pada Prompt dari https://huggingface.co/gsdf/Counterfeit-V2.5.

AI on kenji.blog

Tembok Pengembangan AI

Tembok Pengembangan AI

Sampai pos 8 terlihat “sangat mudah”

Mengapa kita terjebak?

Tapi, ada sebuah paradoks

🌀 Sebagai contoh

Pada akhirnya, apa yang bisa kita lakukan sekarang

Kesimpulan:

Langkah-langkah Memanggil TinyLLaMA dari C++ (menggunakan llama.cpp)

✅ Langkah Persiapan TinyLLaMA × C++ (menggunakan `llama.cpp`)

🔧 Langkah 1: Siapkan llama.cpp

1-1. Lingkungan yang Dibutuhkan (Minimum)

1-2. Dapatkan dan build llama.cpp

📦 Langkah 2: Unduh dan konversi model TinyLLaMA

2-1. Dapatkan model asli dari HuggingFace

2-2. Konversi ke format GGUF (untuk `llama.cpp`)

2-3. Kuantisasi model (mengurangi ukuran)

🧪 Langkah 3: Panggil model dari C++ (Contoh Kode)

3-1. Kode C++ Sederhana (Inferensi)

🧱 Langkah 4: Metode Kompilasi (Contoh)

✅ Contoh Struktur Hasil (Terorganisir)

🧠 Catatan untuk penerapan pada use case

📌 Ringkasan

Cara Menghasilkan Gambar Ilustrasi Menggunakan AI (StableDiffusion)

Apa itu Stable diffusion

Yang perlu disiapkan

Langkah-langkah pembuatan

Hasil pembuatan (beberapa)

Referensi

AI on kenji.blog

Tembok Pengembangan AI

Tembok Pengembangan AI

Sampai pos 8 terlihat “sangat mudah”

Mengapa kita terjebak?

Tapi, ada sebuah paradoks

🌀 Sebagai contoh

Pada akhirnya, apa yang bisa kita lakukan sekarang

Kesimpulan:

Langkah-langkah Memanggil TinyLLaMA dari C++ (menggunakan llama.cpp)

✅ Langkah Persiapan TinyLLaMA × C++ (menggunakan llama.cpp)

🔧 Langkah 1: Siapkan llama.cpp

1-1. Lingkungan yang Dibutuhkan (Minimum)

1-2. Dapatkan dan build llama.cpp

📦 Langkah 2: Unduh dan konversi model TinyLLaMA

2-1. Dapatkan model asli dari HuggingFace

2-2. Konversi ke format GGUF (untuk llama.cpp)

2-3. Kuantisasi model (mengurangi ukuran)

🧪 Langkah 3: Panggil model dari C++ (Contoh Kode)

3-1. Kode C++ Sederhana (Inferensi)

🧱 Langkah 4: Metode Kompilasi (Contoh)

✅ Contoh Struktur Hasil (Terorganisir)

🧠 Catatan untuk penerapan pada use case

📌 Ringkasan

Cara Menghasilkan Gambar Ilustrasi Menggunakan AI (StableDiffusion)

Apa itu Stable diffusion

Yang perlu disiapkan

Langkah-langkah pembuatan

Hasil pembuatan (beberapa)

Referensi

✅ Langkah Persiapan TinyLLaMA × C++ (menggunakan `llama.cpp`)

2-2. Konversi ke format GGUF (untuk `llama.cpp`)