Axolotl skill

O que ela faz

O Axolotl treina modelos de IA abertos a partir de um arquivo YAML: você descreve modelo, dados e método, e ele roda. A skill é a documentação oficial empacotada pro Claude consultar, com padrões prontos e referências de API, formatos de dataset e configuração.

Ela cobre mais de 100 modelos, LoRA e QLoRA, ajuste por preferência e por reforço (DPO, KTO, ORPO, GRPO), modelos de visão e treino quantizado. Nos formatos de dados, explica conversa com chat template, instrução, pré-treino e texto sem template.

Pra treino grande, mostra FSDP, DeepSpeed, várias máquinas, paralelismo de contexto e o teste de NCCL que acha gargalo entre placas. Também ensina a juntar o LoRA no modelo e salvar comprimido, com uns 40% menos disco e compatível com o vLLM.

Nas palavras de quem fez

Quando usar

• Montar o YAML de um fine-tuning com QLoRA
• Formatar o dataset de conversa no padrão que o Axolotl aceita
• Treinar com DPO a partir de pares de respostas boa e ruim
• Distribuir o treino em várias placas com FSDP ou DeepSpeed
• Juntar o LoRA treinado no modelo base pra publicar

Depois de instalar, é só pedir assim

• Escreve um YAML do Axolotl pra treinar o Mistral 7B em QLoRA com o meu dataset de conversas em JSONL
• Converte essa planilha de perguntas e respostas pro formato de conversa que o Axolotl aceita
• Meu treino em 4 placas está lento; configura o FSDP no YAML e me diz como testar a velocidade entre elas

Segurança

Gen Agent Trust Hub, Socket e Snyk leem o código da skill atrás de comando perigoso, dado vazando e instrução escondida. Alerta não é reprovação: quer dizer que vale ler o que a skill faz antes de instalar.

• Gen Agent Trust HubPassou
• SocketPassou
• SnykPassou

Perguntas