ผู้ใช้ X (เดิมชื่อ Twitter) อันเดรย์ เดวิด เพิ่งติดตั้งและใช้งานโมเดล AI โดยอิงจาก llama2.c ของ Andrej Karpathy บนคอนโซล Xbox 360 ที่มีอายุเกือบ 20 ปี แม้ว่า David จะอายุมากแล้ว แต่ David ก็ใช้โปรแกรมโหลดบูตเพื่อโหลดโมเดลลงในคอนโซลเก่าและเรียกใช้ข้อความแจ้ง 'Sleep Joe says' ตามโพสต์ ความพยายามที่ประสบความสำเร็จของ EXO Lab ในการทำให้ Llama ทำงานบนพีซีด้วย หน้าต่าง 98 เป็นแรงบันดาลใจให้เดวิดนำประสบการณ์ของตัวเองไปใช้

แม้ว่า AI LLM ที่ใช้โดย Xbox 360 จะขึ้นอยู่กับเครื่องเดียวกับที่ใช้โดยพีซี Pentium II ของ EXO Lab แต่ David กล่าวว่าเขาต้องปรับโค้ดให้เหมาะสมสำหรับสถาปัตยกรรม PowerPC ของคอนโซลและคุณสมบัติการจัดการที่เป็นเอกลักษณ์ หน่วยความจำ (ซึ่งเป็นนวัตกรรมใหม่ในขณะนั้น) ความแตกต่างที่สำคัญที่สุดคือ PowerPC เป็นสถาปัตยกรรมแบบ big-endian ซึ่งเก็บค่าที่สำคัญที่สุดไว้ก่อน

ในทางกลับกัน โปรเซสเซอร์อินเทล Pentium II ที่ใช้ในการปรับใช้ EXO Lab นั้นเป็นแบบ little-endian ซึ่งหมายความว่าจะจัดลำดับความสำคัญในการจัดเก็บค่าที่น้อยที่สุดก่อน ดังนั้นเพื่อให้แน่ใจว่าโมเดลทำงานได้อย่างถูกต้อง เขาจึงต้องดำเนินการ ระบบแลกเปลี่ยนไบต์และรับรองว่าข้อมูลใดๆ ที่สร้างและจัดเก็บมีการจัดตำแหน่งหน่วยความจำที่เหมาะสม 128 ไบต์ตามที่กำหนดโดยระบบย่อยหน่วยความจำ Xbox 360 ⚙️

ความท้าทายอีกอย่างหนึ่งที่เดวิดเผชิญคือการใช้ หน่วยความจำแบบรวม จากคอนโซล แม้ว่าสิ่งนี้จะเป็นเรื่องปกติในปัจจุบันบนคอนโซลและ APU สมัยใหม่ แต่ในขณะที่ Xbox 360 เปิดตัว มันเป็นดินแดนใหม่ ทำให้นักพัฒนาต้อง เกมเพื่อเพิ่มประสิทธิภาพการใช้ฮาร์ดแวร์ จากคอนโซล แม้จะมี RAM ขนาด 512MB แต่ Andrei ก็ต้องแน่ใจว่ารุ่น 60MB นั้นพอดีกับพื้นที่ที่ระบบจะจัดสรรให้กับ ซีพียูหรือจีพียูเนื่องจากพวกเขาแชร์ RAM พูลเดียวกัน

อย่างไรก็ตาม ด้วยการจัดการหน่วยความจำอย่างรอบคอบและการปรับเปลี่ยนวิธีการทำงานของ PowerPC เขาจึงสามารถสร้างหน่วยความจำแบบเก่าได้ คอนโซลเอกซ์บอกซ์ 360 จะดำเนินการ LLM นี่เป็นอีกก้าวสู่เป้าหมายของ EXO Lab ในการให้ผู้คนเข้าถึง AI ทั่วไปโดยไม่จำกัดอยู่แค่บริษัทขนาดใหญ่ที่ใช้เงินหลายพันล้านดอลลาร์ไปกับอุปกรณ์ล้ำสมัยและใช้พลังงานเมกะวัตต์

การใช้โมเดลปัญญาประดิษฐ์ (AI) ที่ใช้ Llama 2 บนอุปกรณ์ที่มีอายุหลายสิบปีถือเป็นความสำเร็จที่น่าประทับใจซึ่งแสดงให้เห็นถึงวิวัฒนาการและความสามารถในการปรับตัวของเทคโนโลยีอย่างไม่ต้องสงสัย อย่างไรก็ตาม ในการแลกเปลี่ยนออนไลน์ที่น่าสนใจ ผู้ใช้รายหนึ่งแสดงความคิดเห็นที่ดึงดูดความสนใจ: เขาแย้งว่าการมี RAM แบบรวม 512MB ควรจะมากเกินพอที่จะรันรุ่นที่เล็กกว่าและมีประสิทธิภาพมากกว่า เช่น Hugging Face's SmolLM หรือ Qwen2.5 ซึ่ง ทำงานที่ 4 บิต และมีขนาด 0.5B

ความคิดเห็นนี้ไม่เพียงเน้นย้ำถึงศักยภาพของโมเดล AI ที่เบากว่าเท่านั้น แต่ยังทำให้เกิดคำถามที่น่าสนใจเกี่ยวกับความสามารถของอุปกรณ์รุ่นเก่าในการจัดการเทคโนโลยีขั้นสูง Andrei David ผู้ชื่นชอบ AI ตอบสนองอย่างกระตือรือร้นด้วยข้อความ 'Challenge Accepted! :)' ซึ่งบ่งบอกว่าคุณเต็มใจที่จะสำรวจและทดลองใช้เทคโนโลยีเหล่านี้บนแพลตฟอร์มที่อาจดูไม่เพียงพอเมื่อมองแวบแรก

แนวคิดในการดูโมเดล AI อันทรงพลังที่ทำงานบน Xbox 360 ซึ่งเป็นคอนโซลวิดีโอเกมที่เปิดตัวในปี 2548 เป็นเรื่องที่น่าตื่นเต้นและสัญญาว่าจะเปิดโอกาสใหม่ ๆ การทดลองประเภทนี้ไม่เพียงแต่ช่วยฟื้นฟูอุปกรณ์รุ่นเก่าเท่านั้น แต่ยังสร้างแรงบันดาลใจให้ชุมชนเทคโนโลยีค้นหาวิธีใหม่ๆ ในการปรับแต่งโมเดล AI ให้ทำงานบนฮาร์ดแวร์ที่มีทรัพยากรจำกัดได้อีกด้วย

เราตั้งตารอความคืบหน้าและผลลัพธ์ของการทดสอบเหล่านี้ เนื่องจากสามารถปูทางไปสู่อนาคตที่ปัญญาประดิษฐ์สามารถเข้าถึงได้และทำงานได้บนอุปกรณ์หลากหลายชนิด โดยไม่คำนึงถึงอายุหรือข้อจำกัดทางเทคนิค การผสมผสานระหว่างความคิดสร้างสรรค์ของนักพัฒนาและความสามารถรอบด้านของโมเดล AI อาจนำไปสู่การค้นพบที่น่าสนใจและการใช้งานที่ไม่คาดคิด