Unsloth skill

O que ela faz

Fine-tuning é pegar um modelo aberto, como Llama, Qwen, Gemma ou Mistral, e treinar com os seus exemplos pra ele responder do seu jeito. O Unsloth faz esse treino mais rápido e com menos memória; a skill promete de 2 a 5 vezes mais velocidade e de 50% a 80% menos memória.

A skill não traz receita pronta: ela é a documentação oficial do Unsloth empacotada numa pasta de referência, que o Claude abre quando precisa. Ali estão instalação (pip, Docker, Windows, AMD, Google Colab), escolha de modelo, preparo do dataset e os ajustes de LoRA e QLoRA.

A mesma documentação cobre o treino de modelos de raciocínio com GRPO, o ajuste por preferência com DPO, ORPO e KTO, modelos de visão e de voz, e a parte de salvar o resultado em GGUF pra rodar no Ollama, ou em 16 bits pra servir no vLLM e no SGLang.

Nas palavras de quem fez

Quando usar

• Treinar um modelo aberto com as respostas do seu atendimento
• Montar o notebook de fine-tuning no Google Colab
• Escolher os valores de LoRA, épocas e tamanho de lote
• Exportar o modelo treinado pra rodar no Ollama
• Entender um erro de memória no meio do treino

Depois de instalar, é só pedir assim

• Monta um script com Unsloth pra treinar o Llama 3.1 8B em QLoRA com esse arquivo de perguntas e respostas
• Meu treino com Unsloth estoura a memória da placa de vídeo, o que eu mudo na configuração?
• Depois do treino, salva o modelo em GGUF e me mostra como rodar no Ollama

Segurança

Gen Agent Trust Hub, Socket e Snyk leem o código da skill atrás de comando perigoso, dado vazando e instrução escondida. Alerta não é reprovação: quer dizer que vale ler o que a skill faz antes de instalar.

• Gen Agent Trust HubPassou
• SocketPassou
• SnykPassou

Perguntas