IA on kenji.blog

La barrera del desarrollo de IA

Sun, 20 Jul 2025 21:52:42 +0900

La barrera del desarrollo de IA

〜Llegué a la octava estación, pero a partir de ahí fue un infierno〜

Hola, soy kenji.

Últimamente, escucho mucho decir: “¡Le pedí a la IA que hiciera una aplicación y la hizo!”. Hemos superado la era de no-code y low-code, y estamos entrando en una fase como de “programación por vibras” (escribir código por intuición).

Por ejemplo, si le dices: “Hazme una aplicación que pueda editar fotos y publicarlas en redes sociales”, la IA escupe el código e incluso la interfaz de usuario (UI). Increíble, ya no necesitamos a los humanos, ¿verdad? Eso es lo que uno piensa.

Pero, ¿saben? Eso es como aterrizar en la octava estación del Monte Fuji en sandalias.

Hasta la octava estación parece un “paseo”

Desarrollar con IA es realmente fácil al principio. ¿Entrada/Salida de archivos (File IO)? Funciona por ahora. ¿Red? Bueno, se conecta. ¿Base de datos? Con JSON es suficiente. ¿UI? ChatGPT me dio el código en React. ¿Pagos? Con copiar y pegar la API de Stripe basta.

Aquí es donde te haces la ilusión de: “¿Acaso ya soy ingeniero?”. Pero el verdadero infierno comienza a partir de aquí.

¿Por qué nos atascamos?

La razón es simple: “La IA hace que parezca terminado, pero los ajustes finales recaen en los humanos”.

Los datos se pierden en la entrada/salida de archivos (File IO).
La normalización de la base de datos es deficiente y las búsquedas son lentas.
La interfaz de usuario no es intuitiva.
No se hicieron pruebas de carga, por lo que colapsa con el tráfico concentrado.
Es rechazada en la revisión de Apple/Google.
Viola requisitos legales y causa polémica (o casi).

En resumen, la IA es buena para crear prototipos que “parecen productos terminados”, pero convertirlos en un producto real que funcione en el mundo sigue siendo, hoy por hoy, un trabajo para humanos.

Pero hay una paradoja

Aquí notamos una paradoja.

¿Qué pasaría si en el futuro la IA realmente pudiera hacerlo todo? Es decir, ¿qué pasaría si “la seguridad, la facturación y el diseño fueran procesados perfectamente por la IA”?

En ese momento, la necesidad misma de que la humanidad cree aplicaciones podría desaparecer.

Porque si los usuarios pueden decirle directamente a la IA “quiero hacer esto”, la tarea se ejecutará al instante sin necesidad de una aplicación.

🌀 Por ejemplo

Antes, abríamos la aplicación de la calculadora para hacer un cálculo, ahora, solo decimos: “Oye Siri, ¿cuánto es 12 por 32?” y listo.

De la misma manera, si decimos “IA, edita esta foto y compártela”, el proceso podría completarse sin siquiera pasar por la UI o la API de una aplicación.

En otras palabras, cuando se alcance el objetivo de “crear aplicaciones con IA”, podría llegar un mundo donde las aplicaciones en sí mismas ya no sean necesarias.

Al final, lo que podemos hacer ahora

Entonces, ¿qué debemos hacer?

Como la “zona por encima de la octava estación” sigue siendo dominio humano, debemos perfeccionarnos ahí.
Concentrarnos en la comprensión esencial del usuario y el diseño de servicios.
Pensar más en “lo que es valioso” que en “lo que se puede crear”.
Más bien, buscar formas de proporcionar valor que “no se limiten al formato de una aplicación”.

La IA es una herramienta, un ascensor y, a veces, un competidor. Pero, “qué crear” y “por qué crearlo” siguen siendo preguntas para nosotros, los humanos.

Conclusión:

La barrera del desarrollo de IA no es la tecnología, sino una paradoja estructural.

Es una era en la que cualquiera puede llegar a la octava estación del Monte Fuji. Pero a partir de ahí empieza lo de verdad.

Y, para cuando lleguemos a la cima, tal vez nos espere un futuro en el que nos preguntemos: “¿De verdad era necesario escalar la montaña?”.

Pasos para llamar a TinyLLaMA desde C++ (usando llama.cpp)

Sat, 19 Jul 2025 09:40:53 +0900

✅ Configuración de TinyLLaMA × C++ (usando `llama.cpp`)

🔧 Paso 1: Preparar llama.cpp

1-1. Entorno necesario (mínimo)

SO: Windows / Linux / macOS
Entorno de desarrollo: g++ / clang / MSVC
Git / CMake

1-2. Obtener y compilar llama.cpp

1
2
3
4
5
6


git clone https://github.com/ggerganov/llama.cpp
cd llama.cpp
mkdir build
cd build
cmake ..
cmake --build . --config Release

En Windows, es más fácil usar Visual Studio Developer Command Prompt y ejecutar cmake --build . --config Release.

📦 Paso 2: Descargar y convertir el modelo TinyLLaMA

2-1. Obtener el modelo original de HuggingFace

Ejemplo: TinyLLaMA-1.1B

1
2
3
4
5
6
7


# Instalar transformers para descargar si es necesario
pip install transformers huggingface_hub

python3 -m transformers.models.llama.convert_llama_weights_to_hf \
 --input_dir ./TinyLlama-1.1B-Chat \
 --model_size 1B \
 --output_dir ./hf_model

Este paso es para convertir al formato de Hugging Face.

2-2. Convertir al formato GGUF (para `llama.cpp`)

1
2


cd llama.cpp
python3 convert.py ./hf_model --outfile tinyllama.gguf

2-3. Cuantización del modelo (reducción de tamaño)

1

./quantize ./tinyllama.gguf ./tinyllama-q4.gguf q4_0

q4_0 es cuantización de 4 bits. El tamaño del modelo se reducirá a aproximadamente 350 MB.

🧪 Paso 3: Llamar al modelo desde C++ (Ejemplo de código)

3-1. Código C++ simple (Inferencia)

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41


#include "llama.h"
#include <iostream>

int main() {
 llama_model_params model_params = llama_model_default_params();
 llama_context_params ctx_params = llama_context_default_params();

 llama_model *model = llama_load_model_from_file("tinyllama-q4.gguf", model_params);
 llama_context *ctx = llama_new_context_with_model(model, ctx_params);

 std::string prompt = "El usuario dice que quiere leer datos de Excel, filtrarlos y guardarlos. ¿Cuál es la configuración de los nodos?";
 llama_batch batch = llama_batch_init(512, 0, 1);
 llama_token BOS = llama_token_bos(model);
 batch.token[0] = BOS;

 // Tokenización
 std::vector<llama_token> tokens(prompt.size() + 8);
 int n = llama_tokenize(model, prompt.c_str(), tokens.data(), tokens.size(), true);
 tokens.resize(n);

 for (size_t i = 0; i < tokens.size(); ++i) {
 batch.token[i + 1] = tokens[i];
 }

 batch.n_tokens = tokens.size() + 1;
 llama_decode(ctx, batch);

 // Obtener resultados de inferencia
 for (int i = 0; i < 50; ++i) {
 llama_token next = llama_sample_token(ctx, nullptr);
 std::cout << llama_token_to_str(model, next);
 llama_batch next_batch = llama_batch_init(1, 0, 1);
 next_batch.token[0] = next;
 next_batch.n_tokens = 1;
 llama_decode(ctx, next_batch);
 }

 llama_free(ctx);
 llama_free_model(model);
 return 0;
}

🧱 Paso 4: Método de compilación (Ejemplo)

1

g++ -I./llama.cpp main.cpp ./llama.cpp/build/libllama.a -o tiny_infer -pthread -std=c++11

libllama.a se crea en el directorio build/ después de compilar.

✅ Ejemplo de estructura del producto final (Organizado)

1
2
3
4
5
6


my_app/
├── tinyllama-q4.gguf # Modelo cuantizado (~350MB)
├── main.cpp # Código C++ anterior
├── llama.cpp/ # Código fuente de llama.cpp
└── build/
 └── libllama.a # Biblioteca compilada

🧠 Notas adicionales para aplicar a tu caso de uso

Tener código en C++ que reciba la salida y compare y seleccione plantillas de nodos.
Ejemplo: Si contiene “Excel”, “filtro” y “guardar” → Generar los nodos correspondientes.
Esta parte puede ser tan simple como sentencias if + lectura de plantilla JSON.

📌 Resumen

Elemento	Descripción
Modelo recomendado	TinyLLaMA-1.1B-Chat v1.0 (GGUF + Cuantización)
Tamaño	~350-450MB (Cuantización 4bit)
Integración C++	Posible usando `llama.cpp`, casi sin dependencias externas
Capacidad de procesamiento	Suficiente para comprensión de intención simple y generación de salida (texto natural → configuración)
Extensibilidad	Se puede combinar con el llenado de ranuras (slots) y llamadas a plantillas para crear una IA de generación de nodos

Cómo generar imágenes de ilustraciones usando IA (Stable Diffusion)

Thu, 06 Apr 2023 00:43:19 +0900

¿Qué es Stable Diffusion?

Stable Diffusion es una IA que genera imágenes a partir de información de texto (texto a imagen), desarrollada por un equipo de investigación de la Universidad de Múnich, Alemania. Al entrenar con diversas imágenes, puede generar una amplia variedad de imágenes, desde fotografías realistas hasta ilustraciones.

En esta ocasión, presentaré cómo generar imágenes de ilustraciones utilizando datos preentrenados de Stable Diffusion.

Lo que necesitas

Una cuenta de Google

Solo eso.

Procedimiento de generación

Abre https://colab.research.google.com
En la esquina superior izquierda, selecciona Archivo y luego Nuevo cuaderno
Selecciona Editar y luego Configuración del cuaderno
Cambia el Acelerador de hardware a GPU
Pega y ejecuta el siguiente código

1

!pip install diffusers==0.8.0 transformers

Pega y ejecuta el siguiente código

1

from diffusers import StableDiffusionPipeline

Pega y ejecuta el siguiente código

1
2


pipe = StableDiffusionPipeline.from_pretrained("gsdf/Counterfeit-V2.5")
pipe.to("cuda")

Pega y ejecuta el siguiente código

1
2
3
4
5


prompt = "((masterpiece,best quality)),1girl, solo, animal ears, rabbit, barefoot, knees up, dress, sitting, rabbit ears, short sleeves, looking at viewer, grass, short hair, smile, white hair, puffy sleeves, outdoors, puffy short sleeves, bangs, on ground, full body, animal, white dress, sunlight, brown eyes, dappled sunlight, day, depth of field"
n_prompt = "EasyNegative, extra fingers,fewer fingers"

image = pipe(prompt, negative_prompt = n_prompt).images[0]
image

El Prompt utilizado aquí está basado en el Prompt de https://huggingface.co/gsdf/Counterfeit-V2.5.

IA on kenji.blog

La barrera del desarrollo de IA

La barrera del desarrollo de IA

Hasta la octava estación parece un “paseo”

¿Por qué nos atascamos?

Pero hay una paradoja

🌀 Por ejemplo

Al final, lo que podemos hacer ahora

Conclusión:

Pasos para llamar a TinyLLaMA desde C++ (usando llama.cpp)

✅ Configuración de TinyLLaMA × C++ (usando `llama.cpp`)

🔧 Paso 1: Preparar llama.cpp

1-1. Entorno necesario (mínimo)

1-2. Obtener y compilar llama.cpp

📦 Paso 2: Descargar y convertir el modelo TinyLLaMA

2-1. Obtener el modelo original de HuggingFace

2-2. Convertir al formato GGUF (para `llama.cpp`)

2-3. Cuantización del modelo (reducción de tamaño)

🧪 Paso 3: Llamar al modelo desde C++ (Ejemplo de código)

3-1. Código C++ simple (Inferencia)

🧱 Paso 4: Método de compilación (Ejemplo)

✅ Ejemplo de estructura del producto final (Organizado)

🧠 Notas adicionales para aplicar a tu caso de uso

📌 Resumen

Cómo generar imágenes de ilustraciones usando IA (Stable Diffusion)

¿Qué es Stable Diffusion?

Lo que necesitas

Procedimiento de generación

Resultados generados (algunos)

Referencias

IA on kenji.blog

La barrera del desarrollo de IA

La barrera del desarrollo de IA

Hasta la octava estación parece un “paseo”

¿Por qué nos atascamos?

Pero hay una paradoja

🌀 Por ejemplo

Al final, lo que podemos hacer ahora

Conclusión:

Pasos para llamar a TinyLLaMA desde C++ (usando llama.cpp)

✅ Configuración de TinyLLaMA × C++ (usando llama.cpp)

🔧 Paso 1: Preparar llama.cpp

1-1. Entorno necesario (mínimo)

1-2. Obtener y compilar llama.cpp

📦 Paso 2: Descargar y convertir el modelo TinyLLaMA

2-1. Obtener el modelo original de HuggingFace

2-2. Convertir al formato GGUF (para llama.cpp)

2-3. Cuantización del modelo (reducción de tamaño)

🧪 Paso 3: Llamar al modelo desde C++ (Ejemplo de código)

3-1. Código C++ simple (Inferencia)

🧱 Paso 4: Método de compilación (Ejemplo)

✅ Ejemplo de estructura del producto final (Organizado)

🧠 Notas adicionales para aplicar a tu caso de uso

📌 Resumen

Cómo generar imágenes de ilustraciones usando IA (Stable Diffusion)

¿Qué es Stable Diffusion?

Lo que necesitas

Procedimiento de generación

Resultados generados (algunos)

Referencias

✅ Configuración de TinyLLaMA × C++ (usando `llama.cpp`)

2-2. Convertir al formato GGUF (para `llama.cpp`)