Скачать или смотреть Quantizei e rodei o Qwen 3.5 LOCALMENTE (e o resultado me impressionou)

Quando o Qwen 3.5 foi lançado, a primeira coisa que pensei foi: preciso rodar isso aqui. A segunda coisa que pensei foi: matematicamente, isso é impossível. Um modelo com 397B parâmetros ocupa quase 800 GB, e meu Mac M3 Ultra tem 256 GB de RAM unificada.

Mas existe a quantização. Comprimindo os pesos do modelo de 16 bits para 3 bits no formato MLX, eu consegui chegar a 174 GB e carregar tudo no LM Studio. Fiz quatro testes pra entender o que ainda funciona depois dessa compressão toda: escrita, código, visão e até geração de imagem via Nano Banana usando um prompt gerado pelo próprio Qwen 3.5.

O resultado foi razoável, tem coisas que impressionam e coisas que decepcionam. E acho que você vai querer saber exatamente quais são quais antes de passar horas baixando 174 GB na sua máquina.

📌 Se quiser acompanhar o que anda passando pela minha cabeça, me segue lá no Substack: https://progbr.substack.com/

👉 E se você ainda tá por fora sobre LLMs, dá uma olhada nesse vídeo onde eu explico tudo o que você precisa saber para dar o primeiro passo nesse universo:    • O Que São LLM’s? (Large Language Models)  

_______

🔹 Quer aprender a criar apps do zero até a publicação comigo? Então dá uma olhada no meu curso: https://programadorbr.com/flutter?src...

_______

0:00 Intro
0:15 O problema
3:29 Geração de Descrição para YouTube
6:01 Jogo Peg Solitaire (Resta Um)
8:40 Jogo Flappy Bird
9:26 OCR de Texto Manuscrito
10:54 Descrição de Imagem

_______

👀 Se tiver curiosidade, dá uma olhada em alguns dos meus apps publicados:
⏵ Teleprompter: https://apps.apple.com/app/apple-stor...
⏵ Pomodoro: https://apps.apple.com/app/apple-stor...
⏵ Jogo da Velha Infinito
iOS: https://apps.apple.com/app/apple-stor...
Android: https://play.google.com/store/apps/de...

_______

✴️ Segue também meus outros canais:
⏵ Canal sobre o universo Apple:    / @iprogbr  
⏵ Canal de programação:    / @programadorbr  
⏵ Perfil no Instagram:   / progbr