W miarę jak sztuczna inteligencja rozwija się w coraz potężniejszych chmurach obliczeniowych, to także coraz większego znaczenia nabiera AI, które może być uruchamiane lokalnie na komputerach. Jest to opcja zapewniająca lepszą kontrolę, niższe koszty i przede wszystkim zachowanie pełnej prywatności, choć za cenę objętości modelu, jaki jest używany.

Dziś firma AMD po raz pierwszy umożliwiła obsługę algorytmu AI o aż 128 miliardach parametrów na konsumenckim PC z Windows, co było dotychczas zarezerwowane wyłącznie dla dużych centrów danych. Możliwość uruchomienia tak dużego modelu na osobistym komputerze przekłada się na znacznie większą liczbę opcji wykorzystania i wdrażania AI w domu i w firmach.

Dzięki wydanej dziś przez AMD nowej wersji sterownika komputer z procesorem AMD Ryzen AI Max+ 395 ze 128 GB pamięci może obsługiwać modele o 128 miliardach parametrów (128B), takie jak Llama 4 Scout 109B z pełną wizją i protokołem kontekstowym (MCP, Model Context Protocol). Nowa wersja oprogramowania AMD odpowiada za realokację RAM w taki sposób, że nawet 96 GB pamięci jest dostępne dla układu graficznego. Pozwala to na wieloetapowe wnioskowanie i działanie agentów AI, ponieważ system może generować aż 256 000 tokenów okien kontekstowych. Użytkownik może zatem korzystać z szerokiego spektrum rozwiązań – od lekkich asystentów po zaawansowane narzędzia do kodowania czy wizualizacji.

Więcej w blogu AMD