Voltar para projetos
ResearchExperimento

My LLM Executor

Experimento de treinamento e inferência de modelo de linguagem com Rust e Candle.

Biblioteca neural e binários para treino, construção de tokenizer e inferência. O caminho de inferência usa Candle/CUDA, tokenizer local e pesos safetensors, com geração autoregressiva. Requer GPU compatível, dados e pesos específicos. A presença do código não comprova qualidade de geração, benchmark ou reprodução do treinamento.

Destaques técnicos

Implementação

Experimento de treinamento e inferência de modelo de linguagem com Rust e Candle.

Stack

Rust, Candle, CUDA, Tokenizers

Tecnologias

RustCandleCUDATokenizers