ResearchExperimento
My LLM Executor
Experimento de treinamento e inferência de modelo de linguagem com Rust e Candle.
Biblioteca neural e binários para treino, construção de tokenizer e inferência. O caminho de inferência usa Candle/CUDA, tokenizer local e pesos safetensors, com geração autoregressiva. Requer GPU compatível, dados e pesos específicos. A presença do código não comprova qualidade de geração, benchmark ou reprodução do treinamento.
Destaques técnicos
Implementação
Experimento de treinamento e inferência de modelo de linguagem com Rust e Candle.
Stack
Rust, Candle, CUDA, Tokenizers
Tecnologias
RustCandleCUDATokenizers