X (पूर्व में ट्विटर) का उपयोगकर्ता आंद्रेई डेविड अभी-अभी एंड्रेज कारपैथी के llama2.c पर आधारित एक AI मॉडल को Xbox 360 कंसोल पर स्थापित और चलाया है, जो लगभग 20 वर्ष पुराना है। इसकी आयु के बावजूद, डेविड ने मॉडल को पुराने कंसोल में लोड करने के लिए बूटलोडर का उपयोग किया और 'स्लीप जो ने कहा' प्रॉम्प्ट को निष्पादित किया। पोस्ट के अनुसार, EXO लैब का Llama को PC पर चलाने का सफल प्रयास विंडोज़ 98 ने डेविड को अपना स्वयं का प्रयोग करने के लिए प्रेरित किया। 🚀
हालाँकि Xbox 360 द्वारा उपयोग किया गया AI LLM उसी पर आधारित है जो EXO लैब के पेंटियम II पीसी में उपयोग किया गया था, डेविड ने उल्लेख किया कि उन्हें कंसोल के पावरपीसी आर्किटेक्चर और इसकी अनूठी प्रबंधन विशेषताओं के लिए कोड को अनुकूलित करना था। रटकर (जो उस समय अभिनव थे)। सबसे महत्वपूर्ण अंतर यह है कि पावरपीसी एक बिग-एंडियन आर्किटेक्चर है, जो सबसे महत्वपूर्ण मान को पहले संग्रहीत करता है। 🖥️
दूसरी ओर, इंटेल प्रोसेसर EXO लैब कार्यान्वयन में प्रयुक्त पेंटियम II लिटिल-एंडियन है, अर्थात यह सबसे छोटे मान को पहले संग्रहीत करने को प्राथमिकता देता है। इसलिए, यह सुनिश्चित करने के लिए कि मॉडल ठीक से काम करे, उसे एक कार्यान्वयन करना पड़ा बाइट स्वैपिंग सिस्टम और यह सुनिश्चित करें कि कोई भी डेटा निर्मित और संग्रहीत की गई सामग्री में 128 बाइट्स का उचित मेमोरी संरेखण था, जैसा कि Xbox 360 मेमोरी सबसिस्टम द्वारा आवश्यक है।
LLM, Xenon CPU (3.2GHz पावरपीसी, 3 कोर) और 512MB एकीकृत RAM के साथ Xbox 360 पर चल रहा है। @karpathy के 🩷llama2.c पर आधारित, Microsoft के शक्तिशाली 2005 कंसोल पर चलाने के लिए अनुकूलित। पावरपीसी आर्किटेक्चर और Xbox मेमोरी प्रबंधन के लिए अनुकूलित शुद्ध C कार्यान्वयन। प्रेरित… pic.twitter.com/e9oMLaWIyi10 जनवरी, 2025
डेविड के सामने एक और चुनौती थी एकीकृत स्मृति कंसोल से. हालांकि आज आधुनिक कंसोल और APUs पर यह आम बात है, लेकिन Xbox 360 के लॉन्च के समय यह एक नई बात थी, जिससे डेवलपर्स को इस पर काम करने के लिए मजबूर होना पड़ा। हार्डवेयर उपयोग को अनुकूलित करने के लिए गेम कंसोल से. 512MB रैम होने के बावजूद, आंद्रेई को यह सुनिश्चित करना था कि 60MB मॉडल उस स्थान में फिट हो जाएगा जो सिस्टम आवंटित करेगा सीपीयू या जीपीयू, क्योंकि वे एक ही रैम पूल साझा करते थे। 🕹️
हालाँकि, सावधानीपूर्वक मेमोरी प्रबंधन और पावरपीसी की कार्यप्रणाली में सुधार के साथ, वह पुराने को बेहतर बनाने में सफल रहे। Xbox 360 कंसोल एलएलएम निष्पादित करेगा. यह लोगों को AI तक पहुंच प्रदान करने के EXO लैब के लक्ष्य की दिशा में एक और कदम है। सामान्ययह केवल बड़े निगमों तक सीमित नहीं है जो अत्याधुनिक उपकरणों पर अरबों डॉलर खर्च करते हैं और मेगावाट ऊर्जा की खपत करते हैं। 🌟
कई दशक पुराने डिवाइस पर लामा 2 पर आधारित कृत्रिम बुद्धिमत्ता (एआई) मॉडल चलाना निस्संदेह एक प्रभावशाली उपलब्धि है जो प्रौद्योगिकी के विकास और अनुकूलनशीलता को प्रदर्शित करती है। तकनीकी. हालांकि, एक दिलचस्प ऑनलाइन आदान-प्रदान में, एक उपयोगकर्ता ने एक टिप्पणी की जिसने कुछ लोगों का ध्यान आकर्षित किया: उसने तर्क दिया कि 512 एमबी एकीकृत रैम छोटे, अधिक कुशल मॉडल चलाने के लिए पर्याप्त से अधिक होना चाहिए, जैसे कि हगिंग फेस का स्मोल्म या क्वेन 2.5 मॉडल, जो 4 बिट्स पर काम करता है और जिसका आकार 0.5 बी है।
यह टिप्पणी न केवल हल्के एआई मॉडल की क्षमता पर प्रकाश डालती है, बल्कि पुराने उपकरणों की क्षमता के बारे में दिलचस्प सवाल भी उठाती है प्रौद्योगिकियों एआई उत्साही आंद्रेई डेविड ने उत्साहपूर्वक जवाब दिया, 'चुनौती स्वीकार है! :)', जिससे पता चलता है कि वह इन प्रौद्योगिकियों का पता लगाने और प्रयोग करने के इच्छुक हैं। प्रौद्योगिकियों ऐसे प्लेटफॉर्म पर, जो पहली नज़र में अनुपयुक्त लग सकते हैं।
Xbox 360, एक कंसोल पर चलने वाले शक्तिशाली कृत्रिम बुद्धिमत्ता मॉडल को देखने का विचार वीडियो गेम 2005 में शुरू किया गया यह कार्यक्रम रोमांचक है और नई संभावनाओं के द्वार खोलने का वादा करता है। इस तरह के प्रयोग न केवल पुराने उपकरणों को पुनर्जीवित कर सकते हैं, बल्कि तकनीकी समुदाय को नए तरीके खोजने के लिए प्रेरित भी कर सकते हैं। अनुकूलन संसाधन-सीमित हार्डवेयर पर चलने वाले एआई मॉडल।
हम इन परीक्षणों की प्रगति और परिणामों की प्रतीक्षा कर रहे हैं, क्योंकि वे ऐसे भविष्य का मार्ग प्रशस्त कर सकते हैं जहां कृत्रिम होशियारी विभिन्न उपकरणों पर उनकी आयु या तकनीकी सीमाओं की परवाह किए बिना सुलभ और कार्यात्मक होना। डेवलपर्स की रचनात्मकता और मॉडलों की बहुमुखी प्रतिभा का संयोजन एआई का इससे आकर्षक खोजें और अप्रत्याशित अनुप्रयोग हो सकते हैं। 👀
