X ユーザー (旧 Twitter) アンドレイ・デヴィッド Andrej Karpathy の llama2.c に基づく AI モデルを、ほぼ 20 年前の Xbox 360 コンソールにインストールして実行しました。古いものにもかかわらず、David はブートローダーを使用してモデルを古いコンソールにロードし、「スリープ ジョーは言った」というプロンプトを実行しました。投稿によると、EXO Lab は次のコマンドを使用して PC 上で Llama を実行する試みに成功しました。 ウィンドウズ 98 年は、デイビッドに自分の経験を実行するよう促しました。 🚀

Xbox 360 で使用されている AI LLM は、EXO Lab の Pentium II PC で使用されているものと同じものに基づいていますが、David 氏は、コンソールの PowerPC アーキテクチャとその独自の管理機能に合わせてコードを最適化する必要があると述べました。 メモリ （当時としては革新的でした）。最も大きな違いは、PowerPC がビッグ エンディアン アーキテクチャであり、最も重要な値が最初に格納されることです。 🖥️

一方、 インテルプロセッサー EXO Lab の実装で使用される Pentium II はリトルエンディアンです。つまり、最小値を最初に格納することが優先されます。したがって、モデルが正しく機能することを確認するために、彼は次のことを実装する必要がありました。 バイト交換システムを使用し、あらゆるデータが確実に 作成および保存されたデータは、Xbox 360 メモリ サブシステムで必要とされる 128 バイトの適切なメモリ アライメントを持っていました。

デビッドが直面したもう 1 つの課題は、 統合メモリ コンソールから。これは、今日の最新のコンソールや APU では一般的ですが、Xbox 360 のリリース当時は新しい領域であり、開発者は次のことを余儀なくされました。 ハードウェアの使用を最適化するゲーム コンソールから。 512MB の RAM を搭載しているにもかかわらず、Andrei は、システムが割り当てるスペースに 60MB モデルが収まるようにする必要がありました。 CPUまたはGPU、同じ RAM プールを共有しているためです。 🕹️

しかし、慎重なメモリ管理と PowerPC の動作の調整により、彼はなんとか古いバージョンを作成することができました。 Xbox 360 本体 LLM を実行します。これは人々に AI へのアクセスを提供するという EXO Lab の目標に向けた新たな一歩です 一般最先端の設備に数十億ドルを費やし、メガワットのエネルギーを消費する巨大企業に限定されません。 🌟

Llama 2 ベースの人工知能 (AI) モデルを数十年前のデバイスで実行することは、疑いもなく、テクノロジーの進化と適応性を示す素晴らしい偉業です。しかし、興味深いオンライン交換の中で、あるユーザーが注目を集めるコメントをしました。彼は、Hugging Face の SmolLM や Qwen2.5 などの、より小型で効率的なモデルを実行するには、512 MB のユニファイド RAM があれば十分であると主張しました。 4 ビットで動作し、サイズは 0.5B です。

このコメントは、軽量 AI モデルの可能性を強調するだけでなく、古いデバイスが高度なテクノロジーを処理できるかどうかについての興味深い疑問も引き起こします。 AI 愛好家である Andrei David 氏は、「挑戦は受け入れられました!」と熱心に答えました。 :)」というメッセージは、一見すると不適切に見えるプラットフォーム上でこれらのテクノロジを探索して実験する意欲があることを示唆しています。

2005 年に発売されたビデオ ゲーム機である Xbox 360 上で強力な AI モデルが実行されるのを見るというアイデアは刺激的であり、新たな可能性が開かれることを約束します。この種の実験は、古いデバイスを活性化するだけでなく、リソースに制約のあるハードウェア上で実行する AI モデルを最適化する革新的な方法を見つけるよう技術コミュニティを刺激する可能性もあります。

これらのテストは、使用年数や技術的制限に関係なく、さまざまなデバイスで人工知能にアクセスして機能する未来への道を切り開く可能性があるため、これらのテストの進捗と結果を楽しみにしています。開発者の創造性と AI モデルの多用途性を組み合わせることで、魅力的な発見や予期せぬ応用が生まれる可能性があります。 👀