Xbox 360 で AI モデルを実行: 素晴らしい 👾

X ユーザー (旧 Twitter) アンドレイ・デヴィッド Andrej Karpathy の llama2.c に基づく AI モデルを、ほぼ 20 年前の Xbox 360 コンソールにインストールして実行しました。古いものにもかかわらず、David はブートローダーを使用してモデルを古いコンソールにロードし、「スリープ ジョーは言った」というプロンプトを実行しました。投稿によると、EXO Lab は次のコマンドを使用して PC 上で Llama を実行する試みに成功しました。 ウィンドウズ 98 年は、デイビッドに自分の経験を実行するよう促しました。 🚀

Xbox 360 で使用されている AI LLM は、EXO Lab の Pentium II PC で使用されているものと同じものに基づいていますが、David 氏は、コンソールの PowerPC アーキテクチャとその独自の管理機能に合わせてコードを最適化する必要があると述べました。 メモリ （当時としては革新的でした）。最も大きな違いは、PowerPC がビッグ エンディアン アーキテクチャであり、最も重要な値が最初に格納されることです。 🖥️

一方、 インテルプロセッサー EXO Lab の実装で使用される Pentium II はリトルエンディアンです。つまり、最小値を最初に格納することが優先されます。したがって、モデルが正しく機能することを確認するために、彼は次のことを実装する必要がありました。 バイト交換システムを使用し、あらゆるデータが確実に 作成および保存されたデータは、Xbox 360 メモリ サブシステムで必要とされる 128 バイトの適切なメモリ アライメントを持っていました。

デビッドが直面したもう 1 つの課題は、 統合メモリ コンソールから。これは、今日の最新のコンソールや APU では一般的ですが、Xbox 360 のリリース当時は新しい領域であり、開発者は次のことを余儀なくされました。 ハードウェアの使用を最適化するゲーム コンソールから。 512MB の RAM を搭載しているにもかかわらず、Andrei は、システムが割り当てるスペースに 60MB モデルが収まるようにする必要がありました。 CPUまたはGPU、同じ RAM プールを共有しているためです。 🕹️

しかし、慎重なメモリ管理と PowerPC の動作の調整により、彼はなんとか古いバージョンを作成することができました。 Xbox 360 本体 LLM を実行します。これは人々に AI へのアクセスを提供するという EXO Lab の目標に向けた新たな一歩です 一般最先端の設備に数十億ドルを費やし、メガワットのエネルギーを消費する巨大企業に限定されません。 🌟

数十年前のデバイス上で Llama 2 に基づく人工知能 (AI) モデルを実行することは、疑いもなく、その進化と適応性を示す素晴らしい偉業です。 テクノロジー。しかし、興味深いオンライン交換の中で、あるユーザーが注目を集めるコメントをしました。彼は、Hugging Face の SmolLM や Qwen2.5 などの、より小型で効率的なモデルを実行するには、512 MB のユニファイド RAM があれば十分であると主張しました。 4 ビットで動作し、サイズは 0.5B です。

このコメントは、より軽量な AI モデルの可能性を強調するだけでなく、古いデバイスの処理能力についての興味深い疑問も引き起こします。 テクノロジー 高度な。 AI 愛好家である Andrei David 氏は、「挑戦は受け入れられました!」と熱心に答えました。 :)'、これは、これらを探索して実験する意欲があることを示唆しています。 テクノロジー 一見すると不適切に見えるかもしれないプラットフォーム上で。

Xbox 360で強力な人工知能モデルが動作するというアイデアは、 ビデオゲーム 2005 年に開始されたこのプロジェクトは、刺激的で、新たな可能性を切り開くことが期待されています。こうした実験は古いデバイスを復活させるだけでなく、テクノロジーコミュニティに革新的な方法を見つけるきっかけを与えることもできる。 最適化する リソースに制約のあるハードウェア上で実行される AI モデル。

私たちは、これらのテストの進捗と結果に大きな関心を持って期待しています。これらのテストは、 人工知能 年齢や技術的な制限に関係なく、さまざまなデバイスでアクセスでき、機能すること。開発者の創造性とモデルの多様性の組み合わせ AIの 魅力的な発見や予期せぬ応用につながる可能性があります。 👀