執筆者: J1N、Techub News
はじめに: エポック 1 から 2
Kuzco は、LLM 大規模言語モデルの提供に特化したコンピューティング パワー マイニング ネットワークで、今年、 9 月 9 日にニューヨークで開始された Crypto Startup Accelerator (CSX) 秋のアクセラレータ プログラムに a16z によって選ばれました。このプログラムによって選ばれたプロジェクトには賞品が贈られます。 a16z USD の投資から少なくとも 500,000 ドルを獲得し、a16z 運用チームからの指導とサポートを受けます。アクセラレーター プログラムは終了しました。
11月16日、Kuzcoは、第1段階(Epoch One)のインセンティブプランが2024年11月18日に終了すると発表しました。すべての業務は停止され、データスナップショットは永久に保存され、最終的なポイントランキングは新しいランキングリストで発表されます。 。
公式開示によると、Epoch One は 2024 年 3 月 6 日に開始され、ピーク時のデバイス数は 8,000 を超え、ネットワークはMeta によってリリースされた 8B 仕様の Llama-3 AI 大型言語モデルを実行し、総推論量は 1 兆を超えました。トークン。
そして、資金調達情報とプロジェクト開発ロードマップが今後数週間以内にリリースされ、第 2 フェーズ (エポック 2) インセンティブ プログラムが 12 月 9 日に開始されることを発表しました。エポック 2 は、より高い NVIDIA ハードウェア スループットや、信頼性; A100 や H100 などのトップ コンピューティング機器へのアクセスをユーザーに奨励し、より多くの画像生成とマルチモーダル言語モデル VLM をサポートします。
Epoch Two のリリースまでには、まだ半月ほどの準備期間があります。この記事では次のことについて説明します。
- 個人マイニングの実践と結果、およびスタンドアロンからクラスターへの移行を共有します。
- 研究と実践を通じて資金を獲得し、ハイスペックなマシンを構築するまでの全プロセスをデモンストレーションします。
- ハードウェア構成とプロジェクト要件の一致について話し合い、投資家からのよくある質問に答えます。
エポックワンレビュー: ワンマンファイティング
構成
著者の構成リストには、RTX シリーズ グラフィックス カード 2060、2070S、3080、4060、4060Ti に加えて、4 つの 4070S デバイスと 2 つの Apple M2 および M3 デバイスが含まれています。これらのデバイスは、複数のホスト、ラップトップ、および専用のマイニング リグに分散されています。
料金
これらのグラフィックス カードはもともとゲームのニーズのために著者が毎年購入したものであり、マイニングのために特別に購入したものではないことは言及する価値があります。したがって、ハードウェアの購入費用はコスト計算に含まれず、マイニング マシンの実際の電気代のみが計算されます。最初の記事はこちら「 A16z "弟子" Kuzco 実践ガイド: AI コンピューティング パワー マイニングを効率的に行うには?」 》鉱山機械の組立例。
マイニングマシンの構成:
- メインボード: z490 (産業用ボードは後で交換されます)
- CPU:第10世代I9
- グラフィックスカード: 2060、2070s、3080、4060ti、4070s
手こすりマイニングマシン
下の写真は10月と11月にマイニングマシンが消費した電力を示しており、合計564キロワットアワーが得られ、獲得したKZOポイントは約6億ポイントとなった。すべてのマシンを合計すると、最大約 11 億ポイントになります。具体的な電気料金は、お住まいの地域の電気料金に基づいて計算する必要があります。これは参考値です。
画像の一番右は合計10億ポイント獲得済み
エポック 2 の準備: クラスターの展開
著者は、最初の記事での共有と、機器の組み立て、デバッグ、環境展開に自ら参加した豊富な運用保守の経験に基づいて、一定の資金援助を得ることができ、そのすべてを高性能マイニングマシンの組み立てに投資しました。さらにさらに 計算能力規模と運用効率を向上させます。
エポック 2 の準備: クラスターの展開
著者は、最初の記事での共有と、機器の組み立て、デバッグ、環境展開に自ら参加した豊富な運用保守の経験に基づいて、一定の資金援助を獲得することに成功し、高性能マイニングマシンの組み立てに全額投資しました。さらにさらに コンピューティング能力の規模と運用効率を向上させます。
個々の兵士からクラスター展開まで
ハイスペックマシンの構成と選択ロジック
Epoch One での著者の実際の経験と組み合わせることで、マザーボード、CPU、グラフィックス カード、電源、プラットフォーム、ネットワーク構成が完全に最適化され、より適切なハードウェアの組み合わせが選択されました。これにより、システムの安定性、セキュリティ、効率が向上しただけでなく、ハードウェアの選択においては、中古市場の流動性にもより注意を払います。この戦略により、実際の投資コストを効果的に削減し、後続の参加者に費用対効果の高いオプションを提供できます。
マザーボード
著者は、主にパフォーマンス、安定性、費用対効果を総合的に考慮して、主流の B85 ではなく産業用マザーボードを選択しました。
パフォーマンスの点では、Kuzco の Llama-3 モデルを実行するには複数の Docker プロセスを起動する必要があり、これらのプロセスを並行して実行すると多くの CPU リソースが占有され、高い CPU パフォーマンスが必要になります。B85 互換の CPU ではこの需要を満たすことができません。
さらに、産業用マザーボードは、長期安定動作、高温耐性、メーカー保証の点で明らかな利点を持っており、同時に中古市場での流動性も高いため、間違いなく最良の選択肢です。
グラフィックスカード
筆者は主に次の点に基づいて、メイングラフィックスカードとして 4070S を使用することを選択しました。
AI コンピューティング パフォーマンスの利点: 30 シリーズ グラフィックス カードと比較して、AI コンピューティングにおける 40 シリーズ グラフィックス カードのパフォーマンス向上は、ゲーム パフォーマンスの向上よりもはるかに大きくなります。その主な理由は、AI の計算能力は主にグラフィックス カードの CUDA コアの数に依存し、40 シリーズ グラフィックス カードには 30 シリーズ グラフィックス カードよりも大幅に多くの CUDA コアが搭載されていることです。
エネルギー効率の利点: 著者はさまざまな GPU で詳細なテストを実施し、各トークンの平均消費電力を計算しました。
- 4060Ti (160W): 0.125 トークン/W
- 3080 (330W): 0.22 トークン/W
- 4090 (450W): 0.26 トークン/W
- 4070S (220W): 0.38 トークン/W
テスト結果から判断すると、4070S はパフォーマンスと消費電力のバランスの点で最高のパフォーマンスを発揮し、エネルギー効率が高いため、電気コストが直接削減され、最もコスト効率の高い選択肢となります。
中古市場での価格と流動性: ミッドエンドからハイエンドのグラフィックス カードとして、4070S は中古市場での高い流動性と価値保持力を備えており、デバイスの保有コストをさらに削減し、その後の柔軟性を提供します。ハードウェアのアップグレード。
CPU
前述したように、Kuzco の Llama-3 は実行時に複数の Docker を起動する必要があり、特に複数のカードで実行する場合、CPU 使用率が 80% ~ 90% に達する可能性があります。したがって、マルチコアおよびマルチスレッドの処理能力が特に重要です。高性能、マルチスレッド、安定した CPU は、マルチタスク操作を効果的にサポートするだけでなく、マイニング プロセス全体の安定性と効率性を確保します。
第 13 世代 i5 は、グラフィックス カードを全負荷で実行すると、使用率が 70% 以上に達します。
- ネットワーク環境
ソフトルートは写真の四角い箱です
マイニングではネットワーク環境も重要です。高性能のグラフィックス カードが構成されている場合でも、ネットワークが最適化されていない場合は、コンピューティング能力に重大な影響を及ぼします。著者の実測によると、ネットワーク速度が不十分だと計算能力が 30% に低下する可能性があり、低品質のネットワーク ノードは Kuzco ネットワークに接続できなくなる可能性があります。これらの点はいずれもマイニングには受け入れられません。これらの問題を解決するために、著者はソフト ルーティング ソリューションを採用しています。この方法は設定が簡単なだけでなく、セットアップ完了後に手動介入なしで効率的に実行でき、理論的には無制限のデバイスへのアクセスもサポートできます。具体的な操作方法については、必要に応じて関連情報を参照されることをお勧めします。
電源
古典的な万里の長城 2000 ワット核爆弾電源
古典的な万里の長城 2000 ワット核爆弾電源
電源を選択するときは、ピーク消費電力の問題に特に注意する必要があります。7 ショット 4070S の定格消費電力がわずか 1540W であるにもかかわらず、著者が 2000W の電源をデュアルで使用することを選択したのはこのためです。総電力は4000Wです。これは資源の無駄ではありませんが、機器の安定性と安全性を考慮したものではありません。
グラフィックス カードは動作中にピーク電力消費を経験します。つまり、実際の電力消費量は特定の瞬間に定格消費電力の 1.5 倍以上に達し、その後通常のレベルに戻ることがあります。電源がこのピークに対処できるほど強力でない場合、電源の強制シャットダウン メカニズムがトリガーされ、グラフィックス カードが損傷する可能性もあります。これは、マイニングマシンの通常の動作にとって致命的な脅威です。
4070sの実行時消費電力性能
4070Sを例にとると、定格消費電力は220Wですが、ピーク消費電力は400Wを超える場合があります。 7 枚のグラフィックス カードのピーク消費電力の合計は 3000 W を超える場合があるため、マシンの安定した動作を確保するためにデュアル 2000 W 電源が構成されています。複数の 4090 を構成するユーザーは、特別な注意を払う必要があります。単一の 4090 の定格消費電力は 450 W であり、ピーク消費電力は 770 W に達する可能性があります。複数のカードの場合、2 つの電源だけでは需要を満たすことができない場合があります。この場合、システムの安定性を確保するには通常 3 つの電源が必要です。
4090走行時の消費電力性能
補充する
BIOS 設定、ハードウェアの互換性、リモート管理などの問題については、ここでは詳しく説明しません。インターネット上には、参考となる無料のチュートリアルが多数あります。チュートリアルに従うことで、ほとんどの問題を解決できます。独自のハードウェア構成とニーズに応じて、対象を絞ったレビューと処理を実行することをお勧めします。これは簡単で効率的です。
リスクと利点
BIOS 設定、ハードウェアの互換性、リモート管理などの問題については、ここでは詳しく説明しません。インターネット上には、参考となる無料のチュートリアルが多数あります。チュートリアルに従うことで、ほとんどの問題を解決できます。独自のハードウェア構成とニーズに応じて、対象を絞ったレビューと処理を実行することをお勧めします。これは簡単で効率的です。
リスクと利点
誰もが最も懸念している質問に答えてください。毎日どれくらいのお金を掘ることができますか?率直に言って、リスクと利益は常に共存するため、この質問に対する明確な答えはありません。私が共有できる明確な視点は、通貨圏であれ、伝統産業であれ、どのようなプロジェクトであっても、日々の収入を正確に計算できれば、おそらく多くのお金を稼ぐことはできないということです。極端に低い電気料金や非常に安価なマイニング設備など、特定の独占リソースを持っていない限り、収益面で有利になる可能性があります。ただし、誰もがそのようなリソースを持っているわけではありません。
著者は、投資リスクとコスト圧力を軽減するために、流動性の高い機器を正確に選択します。 Kuzco マイニングを例にとると、コストは主にハードウェアの減価償却費と電気代に集中しているため、最大損失はこれらの固定費に限定されます。低コストで参加しなければ、いかなる投資決定も意味を失います。最初の鉱山の採掘の特性により、明確な利益が期待できないことが決定されることを強調する必要がありますが、ここに最初の鉱山の可能性も秘められています。
主観的な判断からすると、このトラックには大きな市場の見通しがあります。一方で、Kuzco は a16z から投資支援を受けており、他方では、LLM の大規模言語モデルの需要が急速に拡大しています。考えてみて、LLM を使用しない人はほとんどいないでしょう? OpenAI の ChatGPT、Meta の Llama、Musk の XAI など、これらのプラットフォームは高額の資金調達ラウンドを受けており、この業界の成長可能性を明確に示しています。
一般の人にとって、AI業界に直接参加することは簡単ではありません。 AI テクノロジーの敷居は高い一方で、AI モデルのトレーニングには膨大なリソースと資金が必要であり、ほとんどの人はそのようなコストを支払う余裕がありません。 Kuzco を通じて AI コンピューティング パワー ネットワークに参加することで、一般の人々も制御可能なコストでこの高成長分野に簡単に参加し、AI コンピューティング パワーに貢献し、同時に利益を得ることができます。
さらに、ビットコインの価格は現在、2022年の16,000米ドルから今日の高値まで上昇し、10万米ドルを超えようとしていますが、その背後にはリトレースメントの大きなリスクがあります。 AI プロジェクトのトークンを直接購入することを選択した場合も、同様の高いボラティリティのリスクに直面することになります。対照的に、AI コンピューティング パワー ネットワークへの参加は、より堅牢な選択です。コストを明確に制御できるだけでなく、比較的低いリスクで AI 業界の高速成長軌道に参入することもできます。これは、現在の環境において一般の人が AI 分野に参入するための現実的な方法の 1 つです。
全てのコメント