การรันโมเดล AI บน Xbox 360: น่าทึ่ง 👾

ผู้ใช้ X (เดิมชื่อ Twitter) อันเดรย์ เดวิด เพิ่งติดตั้งและใช้งานโมเดล AI โดยอิงจาก llama2.c ของ Andrej Karpathy บนคอนโซล Xbox 360 ที่มีอายุเกือบ 20 ปี แม้ว่า David จะอายุมากแล้ว แต่ David ก็ใช้โปรแกรมโหลดบูตเพื่อโหลดโมเดลลงในคอนโซลเก่าและเรียกใช้ข้อความแจ้ง 'Sleep Joe says' ตามโพสต์ ความพยายามที่ประสบความสำเร็จของ EXO Lab ในการทำให้ Llama ทำงานบนพีซีด้วย หน้าต่าง 98 เป็นแรงบันดาลใจให้เดวิดนำประสบการณ์ของตัวเองไปใช้

แม้ว่า AI LLM ที่ใช้โดย Xbox 360 จะขึ้นอยู่กับเครื่องเดียวกับที่ใช้โดยพีซี Pentium II ของ EXO Lab แต่ David กล่าวว่าเขาต้องปรับโค้ดให้เหมาะสมสำหรับสถาปัตยกรรม PowerPC ของคอนโซลและคุณสมบัติการจัดการที่เป็นเอกลักษณ์ หน่วยความจำ (ซึ่งเป็นนวัตกรรมใหม่ในขณะนั้น) ความแตกต่างที่สำคัญที่สุดคือ PowerPC เป็นสถาปัตยกรรมแบบ big-endian ซึ่งเก็บค่าที่สำคัญที่สุดไว้ก่อน

ในทางกลับกัน โปรเซสเซอร์อินเทล Pentium II ที่ใช้ในการปรับใช้ EXO Lab นั้นเป็นแบบ little-endian ซึ่งหมายความว่าจะจัดลำดับความสำคัญในการจัดเก็บค่าที่น้อยที่สุดก่อน ดังนั้นเพื่อให้แน่ใจว่าโมเดลทำงานได้อย่างถูกต้อง เขาจึงต้องดำเนินการ ระบบแลกเปลี่ยนไบต์และรับรองว่าข้อมูลใดๆ ที่สร้างและจัดเก็บมีการจัดตำแหน่งหน่วยความจำที่เหมาะสม 128 ไบต์ตามที่กำหนดโดยระบบย่อยหน่วยความจำ Xbox 360 ⚙️

ความท้าทายอีกอย่างหนึ่งที่เดวิดเผชิญคือการใช้ หน่วยความจำแบบรวม จากคอนโซล แม้ว่าสิ่งนี้จะเป็นเรื่องปกติในปัจจุบันบนคอนโซลและ APU สมัยใหม่ แต่ในขณะที่ Xbox 360 เปิดตัว มันเป็นดินแดนใหม่ ทำให้นักพัฒนาต้อง เกมเพื่อเพิ่มประสิทธิภาพการใช้ฮาร์ดแวร์ จากคอนโซล แม้จะมี RAM ขนาด 512MB แต่ Andrei ก็ต้องแน่ใจว่ารุ่น 60MB นั้นพอดีกับพื้นที่ที่ระบบจะจัดสรรให้กับ ซีพียูหรือจีพียูเนื่องจากพวกเขาแชร์ RAM พูลเดียวกัน

อย่างไรก็ตาม ด้วยการจัดการหน่วยความจำอย่างรอบคอบและการปรับเปลี่ยนวิธีการทำงานของ PowerPC เขาจึงสามารถสร้างหน่วยความจำแบบเก่าได้ คอนโซลเอกซ์บอกซ์ 360 จะดำเนินการ LLM นี่เป็นอีกก้าวหนึ่งสู่เป้าหมายของ EXO Lab ในการให้การเข้าถึง AI แก่ผู้คนทุกวัน โดยไม่จำกัดอยู่เพียงองค์กรขนาดใหญ่ที่ใช้เงินหลายพันล้านดอลลาร์ไปกับอุปกรณ์ล้ำสมัยและใช้พลังงานเมกะวัตต์

การใช้โมเดลปัญญาประดิษฐ์ (AI) ที่ใช้ Llama 2 บนอุปกรณ์ที่มีอายุหลายสิบปีนั้นเป็นผลงานที่น่าประทับใจอย่างไม่ต้องสงสัย ซึ่งแสดงให้เห็นถึงวิวัฒนาการและความสามารถในการปรับตัวของ เทคโนโลยี- อย่างไรก็ตาม ในการแลกเปลี่ยนออนไลน์ที่น่าสนใจ ผู้ใช้รายหนึ่งแสดงความคิดเห็นที่ดึงดูดความสนใจ: เขาแย้งว่าการมี RAM แบบรวม 512MB ควรจะมากเกินพอที่จะรันโมเดลที่เล็กกว่าและมีประสิทธิภาพมากกว่า เช่น Hugging Face's SmolLM หรือ Qwen2.5 ซึ่ง ทำงานที่ 4 บิต และมีขนาด 0.5B

ความคิดเห็นนี้ไม่เพียงแต่เน้นถึงศักยภาพของโมเดล AI ที่เบากว่าเท่านั้น แต่ยังทำให้เกิดคำถามที่น่าสนใจเกี่ยวกับความสามารถของอุปกรณ์รุ่นเก่าในการจัดการ เทคโนโลยี Andrei David ผู้ที่ชื่นชอบ AI ตอบกลับอย่างกระตือรือร้นด้วยคำว่า "รับคำท้าแล้ว! :)" ซึ่งบ่งบอกว่าเขายินดีที่จะสำรวจและทดลองกับเทคโนโลยีเหล่านี้ เทคโนโลยี บนแพลตฟอร์มที่เมื่อมองแวบแรกอาจดูเหมือนไม่เหมาะสม

แนวคิดที่จะเห็นโมเดลปัญญาประดิษฐ์อันทรงพลังทำงานบน Xbox 360 คอนโซลจาก วิดีโอเกม เปิดตัวเมื่อปีพ.ศ. 2548 ถือเป็นเรื่องที่น่าตื่นเต้นและมีแนวโน้มที่จะเปิดประตูสู่โอกาสใหม่ๆ การทดลองประเภทนี้ไม่เพียงแต่จะช่วยฟื้นคืนชีพอุปกรณ์เก่าๆ เท่านั้น แต่ยังอาจเป็นแรงบันดาลใจให้ชุมชนเทคโนโลยีค้นหาวิธีการใหม่ๆ อีกด้วย ปรับให้เหมาะสม โมเดล AI ที่ทำงานบนฮาร์ดแวร์ที่มีทรัพยากรจำกัด

เราหวังเป็นอย่างยิ่งว่าจะได้รับความคืบหน้าและผลการทดสอบเหล่านี้ด้วยความสนใจอย่างยิ่ง เนื่องจากสิ่งเหล่านี้สามารถปูทางไปสู่อนาคตได้ ปัญญาประดิษฐ์ สามารถเข้าถึงและใช้งานได้บนอุปกรณ์หลากหลายชนิด โดยไม่คำนึงถึงอายุหรือข้อจำกัดทางเทคนิค การผสมผสานระหว่างความคิดสร้างสรรค์ของนักพัฒนาและความหลากหลายของโมเดล ของเอไอ อาจนำไปสู่การค้นพบอันน่าทึ่งและการประยุกต์ใช้ที่คาดไม่ถึง