Uruchomienie modelu sztucznej inteligencji na konsoli Xbox 360: dowiedz się jak! 🚀
Użytkownik X (dawniej Twitter) Andriej Dawid właśnie zainstalowałem i uruchomiłem model sztucznej inteligencji oparty na pliku llama2.c autorstwa Andreja Karpathy'ego na konsoli Xbox 360, która ma prawie 20 lat. Pomimo wieku modelu, David użył bootloadera, aby załadować go na starą konsolę i uruchomić monit „Sleep Joe said”. Według wpisu, udana próba uruchomienia Llamy na komputerze z systemem operacyjnym EXO Lab Windows 98 zainspirowało Davida do przeprowadzenia własnego eksperymentu. 🚀
Chociaż AI LLM używany w konsoli Xbox 360 bazuje na tym samym, który zastosowano w komputerze Pentium II firmy EXO Lab, David wspomniał, że musiał zoptymalizować kod pod kątem architektury PowerPC konsoli i jej unikalnych cech zarządzania. na pamięć (które w tamtym czasie były nowatorskie). Najważniejszą różnicą jest to, że PowerPC jest architekturą big-endian, w której najważniejsze wartości są przechowywane jako pierwsze. 🖥️
Z drugiej strony, Procesor Intel Pentium II użyty w EXO Lab obsługuje technologię little-endian, co oznacza, że w pierwszej kolejności zapisuje wartości o mniejszej wartości. Aby więc mieć pewność, że model działa prawidłowo, musiał wdrożyć system wymiany bajtów i upewnij się, że wszelkie dane utworzone i zapisane miały prawidłowe wyrównanie pamięci wynoszące 128 bajtów, zgodnie z wymaganiami podsystemu pamięci konsoli Xbox 360. ⚙️
LLM działa na konsoli Xbox 360 z procesorem Xenon (3,2 GHz PowerPC z 3 rdzeniami) i 512 MB zunifikowanej pamięci RAM. Oparty na pliku 🩷llama2.c od @karpathy'ego, zaadaptowany do działania na potężnej konsoli Microsoftu z 2005 roku. Implementacja w czystym C zoptymalizowana pod kątem architektury PowerPC i zarządzania pamięcią konsoli Xbox. Zainspirowane… pic.twitter.com/e9oMLaWIyi10 stycznia 2025 r.
Kolejnym wyzwaniem, z jakim musiał się zmierzyć Dawid, było wykorzystanie pamięć zjednoczona z konsoli. Choć obecnie jest to powszechne w przypadku nowoczesnych konsol i procesorów APU, w momencie premiery konsoli Xbox 360 było to coś nowego, co zmuszało twórców gier do gry optymalizujące wykorzystanie sprzętu z konsoli. Mimo posiadania 512 MB pamięci RAM, Andriej musiał się upewnić, że model z 60 MB zmieści się w przestrzeni, jaką system przeznaczy na ten system. CPU lub GPU, ponieważ korzystają z tej samej puli pamięci RAM. 🕹️
Jednak dzięki starannemu zarządzaniu pamięcią i modyfikacjom sposobu działania procesora PowerPC udało mu się stworzyć starą wersję Konsola Xbox 360 wykona LLM. To kolejny krok w kierunku realizacji celu EXO Lab, jakim jest zapewnienie ludziom dostępu do sztucznej inteligencji. wspólny, nie ograniczając się do wielkich korporacji, które wydają miliardy dolarów na najnowocześniejszy sprzęt i zużywają megawaty energii. 🌟
Uruchomienie modelu sztucznej inteligencji (AI) opartego na grze Lama 2 na urządzeniu, które ma kilkadziesiąt lat, jest niewątpliwie imponującym osiągnięciem, które pokazuje ewolucję i zdolność adaptacji technologii. technologia. Jednak w ciekawej wymianie zdań w sieci jeden z użytkowników zamieścił komentarz, który przykuł uwagę: argumentował, że 512 MB zunifikowanej pamięci RAM powinno w zupełności wystarczyć do uruchomienia mniejszych, wydajniejszych modeli, takich jak SmolLM firmy Hugging Face lub model Qwen 2.5, który działa na 4 bitach i ma rozmiar 0,5 B.
Komentarz ten nie tylko podkreśla potencjał lżejszych modeli AI, ale także podnosi intrygujące pytania dotyczące zdolności starszych urządzeń do radzenia sobie z nimi technologie Miłośnik sztucznej inteligencji, Andrei David, entuzjastycznie odpowiedział: „Wyzwanie przyjęte! :)”, sugerując, że jest chętny do eksplorowania i eksperymentowania z tymi technologiami. technologie na platformach, które na pierwszy rzut oka mogą wydawać się nieodpowiednie.
Pomysł zobaczenia potężnych modeli sztucznej inteligencji działających na konsoli Xbox 360 gry wideo Wprowadzony na rynek w 2005 roku, jest ekscytujący i obiecuje otwarcie nowych możliwości. Tego rodzaju eksperymenty nie tylko mogą ożywić starsze urządzenia, ale także zainspirować społeczność technologiczną do znalezienia innowacyjnych sposobów na być optymistą Modele sztucznej inteligencji działające na sprzęcie o ograniczonych zasobach.
Z niecierpliwością czekamy na postęp i wyniki tych testów, ponieważ mogą one utorować drogę do przyszłości, w której sztuczna inteligencja być dostępne i funkcjonalne na różnych urządzeniach, niezależnie od ich wieku i ograniczeń technicznych. Połączenie kreatywności deweloperów i wszechstronności modeli sztucznej inteligencji może doprowadzić do fascynujących odkryć i nieoczekiwanych zastosowań. 👀
