Test trybu wysokiej wydajności MSI: maksymalizacja wydajności lokalnej sztucznej inteligencji LLM
Płyty główne
Moc obliczeniowa platform AI staje się coraz ważniejsza. Choć modernizacja sprzętu pozwala uzyskać zauważalny wzrost wydajności AI, może być kosztowna. Aby znaleźć bardziej opłacalną alternatywę, przeprowadziliśmy praktyczne testy wydajności. Okazało się, że już samo dostosowanie ustawienia High-Efficiency Mode — jednej z wbudowanych w BIOS MSI funkcji związanych z podkręcaniem pamięci — pozwala zoptymalizować wydajność pamięci DDR5 i znacząco przyspieszyć działanie dużych modeli językowych (LLM), bez konieczności kupowania dodatkowego sprzętu.
Testy na platformach AMD i Intel: więcej tokenów na sekundę i niższe opóźnienia
W testach z procesorem AMD Ryzen™ 9 9950X3D2 podkręcenie pamięci DDR5 do 8000 MT/s oraz włączenie trybu High-Efficiency Mode zwiększyło wydajność operacji AI nawet o 32%.
Przepustowość (Tokens/s): przetestowaliśmy różne karty graficzne przy różnych ustawieniach podkręcania, mierząc liczbę tokenów — najmniejszych jednostek tekstu przetwarzanych przez AI — generowanych w ciągu sekundy. Im wyższy wynik, tym szybciej AI generuje odpowiedź.
W porównaniu z ustawieniami domyślnymi podkręcenie pamięci RAM do 8000 MT/s zwiększyło wydajność kart RTX 5080 16G i RTX 5070 12G o 21,4%. Po włączeniu High-Efficiency Mode całkowity wzrost wydajności sięgnął 32%. W przypadku RTX 5070 Ti 16G podkręcenie pamięci do 8000 MT/s poprawiło wydajność o 17,6%, a po włączeniu High-Efficiency Mode łączny wzrost wyniósł 26,8%.
TTFT (Time to First Token): parametr ten mierzy czas od przesłania zapytania do wygenerowania pierwszego tokenu — im krótszy czas, tym większa sprawność generowania odpowiedzi przez AI. Podkręcenie pamięci do 8000 MT/s oraz włączenie High-Efficiency Mode skutecznie skróciło czas oczekiwania. Przy pamięci podkręconej do 8000 MT/s czas oczekiwania dla RTX 5080 16G zmniejszył się o 6,3%. Po włączeniu High-Efficiency Mode opóźnienie odpowiedzi było o 12,7% niższe niż przy ustawieniach domyślnych. W przypadku RTX 5060 Ti 16G redukcja była jeszcze większa i wyniosła 14,5%.
Na platformie Intel z procesorem Intel Core Ultra 7 270K Plus wzrost wydajności po włączeniu High-Efficiency Mode był jeszcze większy i sięgał nawet 43%.
Przepustowość (Tokens/s): podkręcenie pamięci do 8000 MT/s zwiększyło wydajność kart RTX 5080 16G i RTX 5070 Ti 16G odpowiednio o 25,7% i 24,9%. Po włączeniu High-Efficiency Mode liczba Tokens/s wzrosła odpowiednio o 43,5% i 42,4% względem ustawień fabrycznych. RTX 5070 12G, który po samym podkręceniu pamięci do 8000 MT/s uzyskał wzrost wydajności o 17,8%, po włączeniu High-Efficiency Mode przekroczył 30% poprawy. Pokazuje to, że tryb High-Efficiency Mode pozwala skuteczniej wykorzystać pełny potencjał systemu.
TTFT (Time to First Token):
We wszystkich testowanych kartach graficznych samo podkręcenie pamięci do 8000 MT/s przyniosło redukcję opóźnienia poniżej 10%. Po włączeniu High-Efficiency Mode czas TTFT został dodatkowo skrócony dla wszystkich testowanych modeli. Największą poprawę uzyskała karta RTX 5070 12G — 15,9%, natomiast RTX 5080 16G i RTX 5070 Ti 16G również odnotowały wyraźne korzyści.
Po złożeniu komputera wielu użytkowników pozostawia domyślne ustawienia BIOS-u. Są one w pełni wystarczające do codziennych zastosowań, ale kilka prostych zmian może pozwolić wykorzystać znaczną część niewykorzystanego potencjału wydajności. Na podstawie szeroko zakrojonych wewnętrznych testów MSI oferuje gotowe ustawienia BIOS-u, które ułatwiają dostosowanie parametrów pamięci przy jednoczesnym zachowaniu stabilności systemu.
Jeśli chcesz przyspieszyć lokalne zadania związane z AI i modelami LLM, włączenie MSI High-Efficiency Mode jest skuteczną i bezpłatną metodą optymalizacji, dostępną za pomocą kilku ustawień w BIOS-ie.
Metodyka i konfiguracja testowa
- Załaduj model LLM (Gemma 4 26B A4B) w LM Studio; długość kontekstu = 8192, GPU offload = ustawienie domyślne (RTX 5090 = 30, pozostałe = 19).
- Prompt: podaj adres URL bloga i poproś o jego podsumowanie.
- Skonfiguruj trzy profile testowe: (1) Ustawienia domyślne (RAM: 4800 MT/s). (2) Podkręcenie pamięci RAM do 8000 MT/s. (3) Podkręcenie pamięci RAM do 8000 MT/s + High-Efficiency Mode (na platformie AMD ustawiono tryb Tighter).
- Zapisz wartości TPS (Tokens/s) oraz TTFT (Time to First Token) raportowane przez LM Studio.
CPU: AMD – Ryzen 9 9950X3D2 / Intel – Core Ultra 7 270K Plus
Płyta główna: AMD - MEG X870E ACE MAX / Intel – MEG Z890 ACE
Pamięć systemowa DRAM: ADATA 24GB x2 DDR5
GPU:
MSI GeForce RTX™ 5090 32G SUPRIM SOC
MSI GeForce RTX™ 5080 16G Gaming Trio OC
MSI GeForce RTX™ 5070 TI 16G Inspire 3X OC
MSI GeForce RTX™ 5070 12G Shadow 3X OC
MSI GeForce RTX™ 5060 TI 16G Shadow 2X OC PLUS
Płyta główna: AMD - MEG X870E ACE MAX / Intel – MEG Z890 ACE
Pamięć systemowa DRAM: ADATA 24GB x2 DDR5
GPU:
MSI GeForce RTX™ 5090 32G SUPRIM SOC
MSI GeForce RTX™ 5080 16G Gaming Trio OC
MSI GeForce RTX™ 5070 TI 16G Inspire 3X OC
MSI GeForce RTX™ 5070 12G Shadow 3X OC
MSI GeForce RTX™ 5060 TI 16G Shadow 2X OC PLUS
Jak włączyć High-Efficiency Mode w BIOS-ie MSI
Na platformach AMD:
- Podczas uruchamiania systemu naciskaj klawisz Del, aby wejść do BIOS-u.
- Przełącz się do Advanced Mode (F7) i przejdź do menu OC.
- Sprawdź, czy funkcja EXPO lub A-XMP jest włączona.
- Znajdź opcję High-Efficiency Mode i ustaw ją na Enabled.
- Poniżej pojawi się opcja Memory Timing Preset, umożliwiająca wybór jednego z ustawień: Relax, Balance, Tighter lub Tightest. Dane prezentowane w tym artykule uzyskano przy użyciu trybu Tighter.
Na platformach Intel:
- Podczas uruchamiania systemu naciskaj klawisz Del, aby wejść do BIOS-u.
- Przełącz się do Advanced Mode (F7) i przejdź do menu OC.
- Sprawdź, czy funkcja XMP jest włączona.
- Znajdź opcję Memory Extension Mode i wybierz High-Efficiency Mode.
