Tener mi propia IA local en Mac: misión cumplida (a medias)

Como les conté en el artículo anterior, me propuse instalar mi propia IA local en Mac. La buena noticia es que al final lo logramos. La no tan buena es que no fue exactamente lo que esperábamos.

Y hay un cambio importante frente a lo que les conté. En el artículo anterior mencioné que había instalado Gemma. Con el uso descubrí que no era totalmente independiente: seguía consultando restricciones en línea. Yo buscaba una IA 100 % local, así que decidí cambiarla por Qwen3.5 en su versión de 2B parámetros.

En este artículo te cuento qué pasó, cuál fue el gran obstáculo y la solución que inventamos para que mi MacBook pudiera correr la IA sin ahogarse.

El gran obstáculo: la memoria RAM

Lo primero que aprendí es que los modelos de inteligencia artificial consumen muchísima memoria RAM. Mientras más grande el modelo, más memoria necesita para funcionar.

Mi MacBook tiene 16 GB de RAM. Suena a bastante, pero para una IA local se queda corto. Con esa memoria, lo único que pudimos correr fue Qwen3.5, un modelo de 2B parámetros (2 mil millones de parámetros), uno de los más livianos que existen.

Y aun así había un problema: el Mac no solo corre la IA. También tiene abiertos el navegador, el editor de código, las apps de mensajería y todo lo que uso en el día. Cada una se come un pedazo de la memoria RAM, y la IA quedaba peleando por lo que sobraba.

La solución: creamos un botón “Modo IA” para la IA local en Mac

Modo IA

Modo IA

En lugar de rendirnos, desarrollamos un botón flotante que siempre está disponible en la pantalla. Lo llamamos Modo IA.

Su función es sencilla pero muy efectiva. Cuando lo presiono:

  1. Se cierran todas las aplicaciones que no son esenciales para el funcionamiento del Mac.
  2. Se libera la memoria RAM que esas apps estaban ocupando.
  3. Se ejecuta solamente mi IA local, con todos los recursos disponibles para ella.

En otras palabras, el Mac deja todo lo demás a un lado y se dedica solo a la IA. Este pequeño invento nos ayudó bastante: fue lo que hizo posible correr nuestra IA local en Mac sin las limitaciones de recursos que teníamos al principio.

¿Funciona? Lo que sigue con mi IA local

Sí, ya tenemos nuestra propia IA funcionando. Pero voy a ser honesto: todavía no la hemos puesto a prueba con tareas pesadas.

Qwen3.5 de 2B tiene sus límites, y quiero ver hasta dónde llega en el trabajo real del día a día. A medida que avancemos les voy contando cómo va funcionando, qué tareas resuelve bien y en cuáles se queda corta.

Si estás pensando en instalar una IA local en tu computador, la lección es clara: revisa primero cuánta memoria RAM tienes, porque eso define qué modelo puedes usar.

Preguntas frecuentes sobre IA local en Mac

¿Se puede instalar una IA local en un Mac con 16 GB de RAM? Sí, pero solo modelos pequeños, como Qwen3.5 de 2B parámetros. Los modelos más grandes necesitan más memoria RAM.

¿Por qué una IA local consume tanta memoria RAM? Porque el modelo completo se carga en la memoria para poder responder. Mientras más parámetros tiene, más espacio ocupa.

¿Qué hace el botón Modo IA? Cierra las aplicaciones que no son esenciales y deja que el Mac use sus recursos solo para la IA local.

¿Por qué Qwen3.5 y no Gemma? Porque Gemma, en mi caso, seguía consultando restricciones en línea. Con Qwen3.5 de 2B la IA funciona de forma totalmente local en el Mac.

Primero fue Gemma, ahora es Qwen3.5, y esto apenas empieza.

Si quieres seguir este experimento paso a paso, sígueme en mis redes: Instagram · TikTok · LinkedIn · YouTube

Nos leemos en el próximo artículo.

— Luis Gaona