CHORD — sprytne rekomendacje na telefonie bez duszenia baterii
W aplikacjach typu sklep internetowy, serwis streamingowy czy media społecznościowe często chcemy dawać użytkownikom sugestie: „Może Ci się spodoba to albo tamto”. To tzw. rekomendacje. Zwykle te modele siedzą w chmurze — serwer ma moc, użytkownik wysyła zapytanie, dostaje odpowiedź. Ale coraz częściej przenosi się część modelu na urządzenia użytkownika (telefon, tablet). Dzięki temu: działa szybciej (mniej czekania), może być bardziej prywatnie (mniej danych leci do chmury), mniej obciążenia dla serwerów. Tylko że… telefony są różne. Jeden to rakieta, drugi ledwo zipie. I teraz: jak upchnąć model AI na różnych urządzeniach, żeby nadal działał dobrze? ...