AI on kenji.blog

AI विकास की दीवार

Sun, 20 Jul 2025 21:52:42 +0900

AI विकास की दीवार

~ 8वें स्टेशन तक आ गए, लेकिन उसके बाद नरक था ~

नमस्ते, मैं kenji हूँ।

हाल ही में, मुझे बहुत से लोगों को यह कहते हुए सुना है: “मैंने AI से पूछा और ऐप बन गया!” हम नो-कोड (no-code) और लो-कोड (low-code) के युग को पार कर चुके हैं, और “वाइब कोडिंग (vibe coding)” के चरण में प्रवेश कर चुके हैं।

उदाहरण के लिए, यदि आप कहते हैं “एक ऐप बनाएं जो छवियों को संपादित कर सके और सोशल मीडिया पर पोस्ट कर सके”, तो AI कोड और यहाँ तक कि UI भी दे देगा। अद्भुत है ना, अब हमें इंसानों की आवश्यकता नहीं है? ऐसा ही लगता है।

लेकिन, वास्तव में यह चप्पल पहनकर माउंट फ़ूजी के 8वें स्टेशन पर उतरने जैसा है।

8वें स्टेशन तक यह “आसान” लगता है

शुरुआत में AI के साथ विकास वास्तव में आसान है। फ़ाइल I/O? बस काम करता है। नेटवर्क? खैर, यह कनेक्ट हो जाता है। डेटाबेस? JSON ठीक रहेगा। UI? ChatGPT ने मेरे लिए React कोड जेनरेट किया। भुगतान? Stripe API को कॉपी-पेस्ट करके किया जा सकता है।

यहाँ आपको भ्रम होता है कि “क्या मैं अब इंजीनियर नहीं हूँ?” लेकिन असली नरक यहीं से शुरू होता है।

आप क्यों अटक जाते हैं?

कारण सरल है: “AI एक पूर्ण उत्पाद जैसा दिखने वाला कुछ बनाता है, लेकिन अंतिम समायोजन इंसानों पर छोड़ दिया जाता है।”

फ़ाइल I/O के कारण डेटा गायब हो जाता है
डेटाबेस सामान्यीकरण कमज़ोर है और खोज धीमी है
UI सहज नहीं है
लोड परीक्षण नहीं किया, ट्रैफ़िक बढ़ने पर क्रैश हो गया
Apple/Google समीक्षा द्वारा अस्वीकृत
कानूनी आवश्यकताओं के साथ समस्याएं (लगभग आग लगा दी)

दूसरे शब्दों में, AI “तैयार उत्पाद की तरह दिखने वाले प्रोटोटाइप” बनाने में अच्छा है , लेकिन इसे “एक वास्तविक दुनिया में काम करने वाले उत्पाद” में बदलना अभी भी इंसानों का काम है ।

लेकिन, एक विरोधाभास है

यहाँ हम एक विरोधाभास देखते हैं।

क्या होगा यदि AI भविष्य में सचमुच सब कुछ कर सके? दूसरे शब्दों में, क्या होगा यदि “सुरक्षा, बिलिंग और डिज़ाइन पूरी तरह से AI द्वारा नियंत्रित” हों?

उस समय, इंसानों द्वारा ऐप बनाने की आवश्यकता ही समाप्त हो सकती है।

क्योंकि यदि उपयोगकर्ता सीधे AI से कहते हैं “मैं यह करना चाहता हूँ”, तो कार्य बिना ऐप के तुरंत निष्पादित हो जाएंगे।

🌀 उदाहरण के लिए

अतीत में, हम “गणना करने के लिए कैलकुलेटर ऐप खोलते थे”, लेकिन अब, हम केवल कहते हैं “अरे सिरी, 12 x 32 कितना होता है?” और काम हो जाता है।

इसी तरह, यदि आप कहते हैं “अरे AI, इस तस्वीर को संपादित और साझा करें”, तो ऐप के UI या API के बिना ही कार्य पूरा हो सकता है।

संक्षेप में, जब “AI के साथ ऐप बनाने” का लक्ष्य प्राप्त हो जाएगा, तो एक ऐसा विश्व आ सकता है जहाँ ऐप्स की ही आवश्यकता न हो ।

आखिर, हम अभी क्या कर सकते हैं?

तो हमें क्या करना चाहिए?

फिलहाल, “8वें स्टेशन से ऊपर” का क्षेत्र अभी भी इंसानों का है, इसलिए उसे सुधारें
आवश्यक उपयोगकर्ता समझ और सेवा डिज़ाइन पर ध्यान दें
“क्या बनाया जा सकता है” के बजाय “किसका मूल्य है” इसके बारे में सोचें
इसके बजाय, “ऐप प्रारूप तक सीमित रहे बिना” मूल्य प्रदान करने के तरीके खोजें

AI एक उपकरण है, एक लिफ्ट है, और कभी-कभी एक प्रतिस्पर्धी है। लेकिन, “क्या बनाना है” और “क्यों बनाना है” अभी भी हम इंसानों के लिए सवाल बने हुए हैं ।

निष्कर्ष:

AI विकास की दीवार तकनीकी नहीं है, बल्कि एक संरचनात्मक विरोधाभास है

यह एक ऐसा युग है जहाँ कोई भी माउंट फ़ूजी के 8वें स्टेशन तक जा सकता है। लेकिन असली चुनौती वहाँ से शुरू होती है।

और जब हम शिखर पर पहुँचेंगे, तो एक ऐसा भविष्य हमारी प्रतीक्षा कर सकता है जहाँ हम पूछेंगे “क्या हमें वास्तव में पहाड़ पर चढ़ने की आवश्यकता थी?”

TinyLLaMA को C++ से कॉल करने की प्रक्रिया (llama.cpp का उपयोग करके)

Sat, 19 Jul 2025 09:40:53 +0900

✅ TinyLLaMA × C++ सेटअप प्रक्रिया (`llama.cpp` का उपयोग करके)

🔧 Step 1: llama.cpp तैयार करें

1-1. आवश्यक वातावरण (न्यूनतम)

OS: Windows / Linux / macOS
विकास वातावरण: g++ / clang / MSVC
Git / CMake

1-2. llama.cpp प्राप्त करें और बिल्ड करें

1
2
3
4
5
6


git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
mkdir build
cd build
cmake ..
cmake --build . --config Release

Windows पर, Visual Studio Developer Command Prompt में cmake --build . --config Release का उपयोग करना आसान है।

📦 Step 2: TinyLLaMA मॉडल डाउनलोड और कनवर्ट करें

2-1. HuggingFace से मूल मॉडल प्राप्त करें

उदाहरण: TinyLLaMA-1.1B

1
2
3
4
5
6
7


# आवश्यकतानुसार transformers का उपयोग करके डाउनलोड करें
pip install transformers huggingface_hub

python3 -m transformers.models.llama.convert_llama_weights_to_hf \
 --input_dir ./TinyLlama-1.1B-Chat \
 --model_size 1B \
 --output_dir ./hf_model

यह Hugging Face प्रारूप में कनवर्ट करने का चरण है।

2-2. GGUF प्रारूप में कनवर्ट करें (`llama.cpp` के लिए)

1
2


cd llama.cpp
python3 convert.py ./hf_model --outfile tinyllama.gguf

2-3. मॉडल क्वांटाइजेशन (आकार कम करना)

1

./quantize ./tinyllama.gguf ./tinyllama-q4.gguf q4_0

q4_0 4bit क्वांटाइजेशन है। मॉडल का आकार लगभग ** 350MB ** तक कम हो जाता है।

🧪 Step 3: C++ से मॉडल को कॉल करें (कोड उदाहरण)

3-1. सरल C++ कोड (अनुमान)

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41


#include "llama.h"
#include <iostream>

int main() {
 llama_model_params model_params = llama_model_default_params();
 llama_context_params ctx_params = llama_context_default_params();

 llama_model *model = llama_load_model_from_file("tinyllama-q4.gguf", model_params);
 llama_context *ctx = llama_new_context_with_model(model, ctx_params);

 std::string prompt = "उपयोगकर्ता कहता है कि वह Excel डेटा पढ़ना, फ़िल्टर करना और सहेजना चाहता है। नोड कॉन्फ़िगरेशन क्या है?";
 llama_batch batch = llama_batch_init(512, 0, 1);
 llama_token BOS = llama_token_bos(model);
 batch.token[0] = BOS;

 // टोकनाइज़ेशन
 std::vector<llama_token> tokens(prompt.size() + 8);
 int n = llama_tokenize(model, prompt.c_str(), tokens.data(), tokens.size(), true);
 tokens.resize(n);

 for (size_t i = 0; i < tokens.size(); ++i) {
 batch.token[i + 1] = tokens[i];
 }

 batch.n_tokens = tokens.size() + 1;
 llama_decode(ctx, batch);

 // अनुमान परिणाम प्राप्त करें
 for (int i = 0; i < 50; ++i) {
 llama_token next = llama_sample_token(ctx, nullptr);
 std::cout << llama_token_to_str(model, next);
 llama_batch next_batch = llama_batch_init(1, 0, 1);
 next_batch.token[0] = next;
 next_batch.n_tokens = 1;
 llama_decode(ctx, next_batch);
 }

 llama_free(ctx);
 llama_free_model(model);
 return 0;
}

🧱 Step 4: संकलन विधि (उदाहरण)

1

g++ -I./llama.cpp main.cpp ./llama.cpp/build/libllama.a -o tiny_infer -pthread -std=c++11

libllama.a बिल्ड के बाद build/ निर्देशिका में बनाया जाता है।

✅ आउटपुट संरचना उदाहरण (व्यवस्थित)

1
2
3
4
5
6


my_app/
├── tinyllama-q4.gguf # क्वांटाइज्ड मॉडल (~350MB)
├── main.cpp # उपरोक्त C++ कोड
├── llama.cpp/ # llama.cpp स्रोत
└── build/
 └── libllama.a # संकलित लाइब्रेरी

🧠 उपयोग के मामले में लागू करने के लिए पूरक

आउटपुट प्राप्त करने और नोड टेम्पलेट से मिलान / चयन करने के लिए C++ में कोड रखें
उदाहरण: यदि “Excel”, “फ़िल्टर”, “सहेजें” शामिल हैं → संबंधित नोड समूह उत्पन्न करें
यह भाग if स्टेटमेंट + JSON टेम्पलेट लोडिंग जैसी सरल संरचना के साथ ठीक है

📌 सारांश

आइटम	विवरण
अनुशंसित मॉडल	TinyLLaMA-1.1B-Chat v1.0 (GGUF + क्वांटाइजेशन)
आकार	~350 से 450MB (4bit क्वांटाइजेशन)
C++ एकीकरण	`llama.cpp` का उपयोग करके संभव है, लगभग कोई बाहरी निर्भरता नहीं
प्रसंस्करण क्षमता	सरल इरादे को समझने और आउटपुट वाक्य उत्पन्न करने के लिए पर्याप्त (प्राकृतिक वाक्य → संरचना)
विस्तारशीलता	स्लॉट-फिलिंग और टेम्पलेट कॉलिंग के साथ मिलकर, इसे एक नोड जेनरेशन AI बनाया जा सकता है

AI (Stable Diffusion) का उपयोग करके इलस्ट्रेशन इमेजेज कैसे जनरेट करें

Thu, 06 Apr 2023 00:43:19 +0900

Stable diffusion क्या है

Stable diffusion म्यूनिख विश्वविद्यालय, जर्मनी की एक शोध टीम द्वारा विकसित एक AI है, जो इनपुट टेक्स्ट जानकारी से इमेजेज जनरेट करता है। विभिन्न इमेजेज पर ट्रेनिंग देकर, यह वास्तविक तस्वीरों से लेकर इलस्ट्रेशन्स तक विभिन्न प्रकार की इमेजेज जनरेट कर सकता है।

इस बार, मैं पेश करूंगा कि Stable diffusion के प्री-ट्रेंड डेटा का उपयोग करके इलस्ट्रेशन इमेजेज कैसे जनरेट करें।

आपको क्या चाहिए

Google अकाउंट

केवल यही

जनरेशन प्रक्रिया

https://colab.research.google.com खोलें
ऊपर बाईं ओर फ़ाइल से नई नोटबुक चुनें
संपादित करें से नोटबुक सेटिंग चुनें
हार्डवेयर एक्सेलेरेटर को GPU में बदलें
नीचे दिए गए कोड को पेस्ट करें और चलाएं

1

!pip install diffusers==0.8.0 transformers

नीचे दिए गए कोड को पेस्ट करें और चलाएं

1

from diffusers import StableDiffusionPipeline

नीचे दिए गए कोड को पेस्ट करें और चलाएं

1
2


pipe = StableDiffusionPipeline.from_pretrained("gsdf/Counterfeit-V2.5")
pipe.to("cuda")

नीचे दिए गए कोड को पेस्ट करें और चलाएं

1
2
3
4
5


prompt = "((masterpiece,best quality)),1girl, solo, animal ears, rabbit, barefoot, knees up, dress, sitting, rabbit ears, short sleeves, looking at viewer, grass, short hair, smile, white hair, puffy sleeves, outdoors, puffy short sleeves, bangs, on ground, full body, animal, white dress, sunlight, brown eyes, dappled sunlight, day, depth of field"
n_prompt = "EasyNegative, extra fingers,fewer fingers"

image = pipe(prompt, negative_prompt = n_prompt).images[0]
image

यहाँ उपयोग किया गया Prompt, https://huggingface.co/gsdf/Counterfeit-V2.5 के Prompt पर आधारित है।

AI on kenji.blog

AI विकास की दीवार

AI विकास की दीवार

8वें स्टेशन तक यह “आसान” लगता है

आप क्यों अटक जाते हैं?

लेकिन, एक विरोधाभास है

🌀 उदाहरण के लिए

आखिर, हम अभी क्या कर सकते हैं?

निष्कर्ष:

TinyLLaMA को C++ से कॉल करने की प्रक्रिया (llama.cpp का उपयोग करके)

✅ TinyLLaMA × C++ सेटअप प्रक्रिया (`llama.cpp` का उपयोग करके)

🔧 Step 1: llama.cpp तैयार करें

1-1. आवश्यक वातावरण (न्यूनतम)

1-2. llama.cpp प्राप्त करें और बिल्ड करें

📦 Step 2: TinyLLaMA मॉडल डाउनलोड और कनवर्ट करें

2-1. HuggingFace से मूल मॉडल प्राप्त करें

2-2. GGUF प्रारूप में कनवर्ट करें (`llama.cpp` के लिए)

2-3. मॉडल क्वांटाइजेशन (आकार कम करना)

🧪 Step 3: C++ से मॉडल को कॉल करें (कोड उदाहरण)

3-1. सरल C++ कोड (अनुमान)

🧱 Step 4: संकलन विधि (उदाहरण)

✅ आउटपुट संरचना उदाहरण (व्यवस्थित)

🧠 उपयोग के मामले में लागू करने के लिए पूरक

📌 सारांश

AI (Stable Diffusion) का उपयोग करके इलस्ट्रेशन इमेजेज कैसे जनरेट करें

Stable diffusion क्या है

आपको क्या चाहिए

जनरेशन प्रक्रिया

जनरेट किए गए परिणाम (कुछ)

संदर्भ

AI on kenji.blog

AI विकास की दीवार

AI विकास की दीवार

8वें स्टेशन तक यह “आसान” लगता है

आप क्यों अटक जाते हैं?

लेकिन, एक विरोधाभास है

🌀 उदाहरण के लिए

आखिर, हम अभी क्या कर सकते हैं?

निष्कर्ष:

TinyLLaMA को C++ से कॉल करने की प्रक्रिया (llama.cpp का उपयोग करके)

✅ TinyLLaMA × C++ सेटअप प्रक्रिया (llama.cpp का उपयोग करके)

🔧 Step 1: llama.cpp तैयार करें

1-1. आवश्यक वातावरण (न्यूनतम)

1-2. llama.cpp प्राप्त करें और बिल्ड करें

📦 Step 2: TinyLLaMA मॉडल डाउनलोड और कनवर्ट करें

2-1. HuggingFace से मूल मॉडल प्राप्त करें

2-2. GGUF प्रारूप में कनवर्ट करें (llama.cpp के लिए)

2-3. मॉडल क्वांटाइजेशन (आकार कम करना)

🧪 Step 3: C++ से मॉडल को कॉल करें (कोड उदाहरण)

3-1. सरल C++ कोड (अनुमान)

🧱 Step 4: संकलन विधि (उदाहरण)

✅ आउटपुट संरचना उदाहरण (व्यवस्थित)

🧠 उपयोग के मामले में लागू करने के लिए पूरक

📌 सारांश

AI (Stable Diffusion) का उपयोग करके इलस्ट्रेशन इमेजेज कैसे जनरेट करें

Stable diffusion क्या है

आपको क्या चाहिए

जनरेशन प्रक्रिया

जनरेट किए गए परिणाम (कुछ)

संदर्भ

✅ TinyLLaMA × C++ सेटअप प्रक्रिया (`llama.cpp` का उपयोग करके)

2-2. GGUF प्रारूप में कनवर्ट करें (`llama.cpp` के लिए)