Artykuły z tagiem
Optymalizacja
4 artykuły
SAGE: Twój Model Wie, Kiedy Przestać Myśleć — Tylko Mu Nie Pozwalasz
SAGE zamienia prawdopodobieństwo następnego tokenu na skumulowane, dzięki czemu model sam kończy myślenie: 40-50% mniej tokenów bez straty dokładności.
AILLMRozumowanie
OPUS: Jak Trenować LLM 6x Szybciej Wybierając Właściwe Dane
OPUS wybiera dane w każdej iteracji pretreningu: Qwen3-8B na 0,5B tokenów bije pełny trening na 3B, a narzut to 4,7% dzięki ghost gradients i CountSketch.
AILLMUczenie Maszynowe
HyDRA: Jak nauczyć telefon rozumieć obrazy bez palenia budżetu
HyDRA przydziela rangę LoRA hierarchicznie między warstwami VLM i dynamicznie wewnątrz nich, dając 4,7% poprawy bez wzrostu liczby trenowalnych parametrów.
Uczenie MaszynoweLoRAFine-tuning
LLM-kaskady z ograniczeniami kosztów — poznaj C3PO
C3PO buduje kaskady LLM z probabilistycznym ograniczeniem kosztu zamiast sztywnego budżetu, osiągając jakość najcięższego modelu przy dużo niższym rachunku.
AILLMMachine Learning