Xbox 360'ta bir yapay zeka modelini çalıştırmak: Harika 👾

X'in (eski adıyla Twitter) kullanıcısı Andrey David Yaklaşık 20 yıllık bir Xbox 360 konsolunda Andrej Karpathy'nin llama2.c'sine dayanan bir AI modelini kurdum ve çalıştırdım. David, yaşına rağmen modeli eski konsola yüklemek ve 'Sleep Joe dedi' istemini çalıştırmak için bir önyükleyici kullandı. Gönderiye göre, EXO Lab'ın Llama'yı bir PC'de çalıştırma girişimi başarılı oldu Pencereler 98 David'in kendi deneyini yapmasına ilham verdi. 🚀

Xbox 360'ın kullandığı AI LLM'nin EXO Lab'ın Pentium II PC'sinde kullanılanla aynı temele dayanmasına rağmen David, konsolun PowerPC mimarisi ve kendine özgü yönetim özellikleri için kodu optimize etmesi gerektiğini belirtti. ezbere (o zamanlar yenilikçi olan). En önemli fark, PowerPC'nin big-endian mimarisi olması, yani en önemli değerin ilk önce depolanmasıdır. 🖥️

Öte yandan, Intel işlemci EXO Lab uygulamasında kullanılan Pentium II, little-endian'dır, yani öncelikle en küçük değeri depolamayı önceliklendirir. Yani, modelin düzgün çalıştığından emin olmak için bir uygulama yapması gerekiyordu bayt takas sistemi ve herhangi bir verinin Xbox 360 bellek alt sisteminin gerektirdiği şekilde, oluşturulan ve depolanan 128 baytlık uygun bir bellek hizalamasına sahipti. ⚙️

David'in karşılaştığı bir diğer zorluk da birleşik hafıza konsoldan. Bu, günümüzde modern konsollarda ve APU'larda yaygın olsa da, Xbox 360'ın piyasaya sürüldüğü dönemde bu yeni bir durumdu ve geliştiricileri donanım kullanımını optimize eden oyunlar konsoldan. Andrei, 512 MB RAM'e sahip olmasına rağmen, 60 MB'lık modelin sistemin tahsis edeceği alana sığacağından emin olmak zorundaydı. CPU veya GPU, aynı RAM havuzunu paylaştıkları için. 🕹️

Ancak, dikkatli bellek yönetimi ve PowerPC'nin çalışma biçimindeki ince ayarlarla eskiyi yapmayı başardı Xbox 360 konsolu LLM programını yürütecektir. Bu, EXO Lab'ın insanlara yapay zekaya erişim sağlama hedefine doğru attığı bir diğer adım. yaygın, milyarlarca dolar harcayarak son teknoloji ekipmanlara sahip olan ve megavatlarca enerji tüketen büyük şirketlerle sınırlı değil. 🌟

Onlarca yıllık bir cihazda Llama 2 tabanlı bir yapay zeka (YZ) modeli çalıştırmak, şüphesiz ki teknolojinin evrimini ve uyarlanabilirliğini gösteren etkileyici bir başarıdır. teknoloji. Ancak, ilginç bir çevrimiçi tartışmada, bir kullanıcı dikkat çeken bir yorumda bulundu: 512 MB birleşik RAM'in, Hugging Face'in SmolLM modeli veya 4 bit'te çalışan ve 0,5B boyutundaki Qwen2.5 modeli gibi daha küçük ve daha verimli modelleri çalıştırmak için fazlasıyla yeterli olması gerektiğini savundu.

Bu yorum yalnızca daha hafif AI modellerinin potansiyelini vurgulamakla kalmıyor, aynı zamanda eski cihazların bu tür yapay zekayı idare etme yeteneği hakkında da ilginç sorular ortaya çıkarıyor. teknolojiler gelişmiş. Yapay zeka tutkunu Andrei David, 'Meydan okuma kabul edildi!' şeklinde coşkuyla yanıt verdi. :)', bu da bunları keşfetmeye ve denemeye istekli olduğunuzu gösteriyor teknolojiler İlk bakışta uygunsuz gibi görünebilecek platformlarda.

Xbox 360 konsolunda çalışan güçlü yapay zeka modellerini görme fikri video oyunları 2005 yılında başlatılan bu etkinlik heyecan verici ve yeni olasılıklara kapı açmayı vaat ediyor. Bu tür deneyler yalnızca eski cihazları canlandırmakla kalmayıp aynı zamanda teknoloji topluluğuna yenilikçi yollar bulma konusunda ilham da verebilir. optimize Kaynak kısıtlı donanımlarda çalışacak yapay zeka modelleri.

Bu testlerin ilerlemesini ve sonuçlarını sabırsızlıkla bekliyoruz, çünkü bunlar geleceğin yolunu açabilir. yapay zeka Yaşına veya teknik kısıtlamalarına bakılmaksızın çeşitli cihazlarda erişilebilir ve işlevsel olmalıdır. Geliştiricilerin yaratıcılığı ile modellerin çok yönlülüğünün birleşimi Yapay zekanın büyüleyici keşiflere ve beklenmedik uygulamalara yol açabilir. 👀