物理Macを丸ごと利用
OsxNode M4-16は、M4チップ、16GBユニファイドメモリ、256GB SSDを搭載。利用期間中は物理マシンを専有でき、macOSのGUIとコマンドラインを利用できます。
制限事項:16GBを超えるメモリのモデルは提供していません。ストレージを増やしてもメモリは増設されません。
モデルの読み込みが終わる前に、手元のMacのメモリが足りなくなる。OsxNodeなら、Mac mini M4を購入する代わりに、専有マシンを1日単位でレンタルできます。
MLXを使った推論や小規模なファインチューニングに取り組む個人開発者・研究者向けです。まずタスクが16GBのユニファイドメモリに収まるか確認し、今回の実験に必要な期間を選んでください。
1日$21.6から。日・週・月・四半期単位の前払いで、契約満了時に更新がなければ停止し、追加料金は発生しません。
OsxNode · サービス提供範囲
1台の物理マシンを、利用期間中は1人の利用者にのみ割り当てます。
CPUとGPUは同じメモリプールを使用します。SSDの追加はファイル保存容量を増やしますが、ユニファイドメモリの容量は増えません。
必要なのはモデルの処理や一連の実験、あるいは一度のビルドかもしれません。今後数年分の機材を購入する必要があるとは限りません。
手元のMacでMLXを試すとき、まず問題になるのはコマンドの書き方よりも、モデルの重み、コンテキストキャッシュ、ほかのアプリが同時にメモリを使うことです。アイデアを検証するためだけにMacを買い替えるのは、費用とプロジェクト期間が釣り合わないことがあります。週末だけ使いたいのに、長期契約を前提にしたくない方もいるでしょう。
OsxNodeは、こうした具体的なニーズに応えるために生まれました。マシンを丸ごと使え、利用期間は日・週・月・四半期から選べます。環境構築、モデルの重み、タスクの実行は利用期間中にご自身で管理してください。実験が終わったら結果をエクスポートし、更新がなければ契約満了時に停止します。
1台のマシンを複数人で同時利用するために分割するサービスではありません。分けるのは利用期間であり、ユニファイドメモリやGPUコアではありません。モデルが現在の構成で動くかどうかはご自身でご確認ください。データのアップロード、依存関係のインストール、結果のバックアップにかかる時間も見込んでおきましょう。
現在提供しているモデルは1種類です。選べるのはプロジェクト期間、接続拠点、ストレージの追加オプションで、非公開のハードウェアグレードはありません。
OsxNode M4-16は、M4チップ、16GBユニファイドメモリ、256GB SSDを搭載。利用期間中は物理マシンを専有でき、macOSのGUIとコマンドラインを利用できます。
制限事項:16GBを超えるメモリのモデルは提供していません。ストレージを増やしてもメモリは増設されません。
シンガポール、東京、ソウル、香港から選べます。ご利用のネットワーク環境やファイル転送の要件に合わせてお選びください。拠点までの距離はタスクの処理速度を保証するものではありません。
制限事項:実際の利用可否はコンソールに表示される最新の状態をご確認ください。リモートデスクトップの操作感は、お使いのネットワーク環境にも左右されます。
日単位$21.6、週単位$58.2、月単位$107.8、四半期単位$293.2。決済確認後、当日中に利用を開始します。コンソールに拠点情報と接続情報が表示された時点で引き渡し完了となります。
制限事項:当日中の利用開始は、決済直後の引き渡しを意味しません。契約満了時に更新がなければ停止するため、タスクとバックアップは利用期間内に済ませてください。
お支払いはUSDT-TRC20、またはStripe経由のVisa / Mastercard / Amexに対応しています。すべて米ドルで決済されます。実際に利用できる決済方法は、バックエンドの応答をご確認ください。
インフラの提供とモデルのタスク実行は別のサービスです。提供範囲を明確にすることで、プロジェクトの移行に適しているか判断しやすくなります。
1台の物理MacのユニファイドメモリやGPUコアを、複数の利用者に分割して提供することはありません。専有とは、利用期間中のハードウェア割り当てを指します。物理的な容量を超えるタスクを実行できるという意味ではありません。
1台のマシンを、同じ利用期間中に複数の利用者へ割り当てることはありません。ディレクトリに掲載された選択肢と、コンソールに表示される最新の空き状況は、それぞれご確認ください。推測ではなく、実際の提供内容をご確認いただけます。
現在の構成は16GBのユニファイドメモリが上限で、追加のGPUカードはありません。13B以上の8-bitモデルの実行は推奨していません。コンテキストを長くすると、さらにメモリが必要になります。
モデルの選定、重みのダウンロード、依存関係のインストール、パラメータ調整、出力確認は利用者ご自身で行ってください。モデルの重みのインストール代行は行わず、特定モデルの生成速度、学習の収束、実験結果も保証しません。
選ぶのはマシンの設置地域です。受け取るのはコンソールに表示されるインスタンス情報と接続情報で、拠点名によってハードウェア構成が変わることはありません。
現在、シンガポール、東京、ソウル、香港の4拠点を提供しています。利用開始後、コンソールの拠点情報と注文内容を確認してから、割り当てられたマシンに接続してください。
提供していないデータセンター認証、実測帯域、電源冗長性を保証として掲げることはありません。拠点の所在地もネットワーク品質を保証するものではありません。
ログイン後、インスタンス詳細で接続情報を確認し、ブラウザーからリモートデスクトップを開きます。コマンドラインやファイル転送を使う場合は、接続手順に沿ってSSHまたはVNCを設定できます。
初回接続時に初期パスワードを変更し、鍵を適切に管理してください。接続パラメータは、引き渡し済みのインスタンスに表示される情報をご確認ください。
短期利用に適したタスクには、再現可能な環境、見積もり可能なリソース要件、終了前にエクスポートできる成果物がそろっています。
まず量子化モデルを読み込んで動作を確認し、コンテキスト長やバッチサイズを段階的に増やします。重みのサイズ、最大メモリ使用量、出力を記録し、パラメータ数だけで実行可否を判断しないようにしましょう。
小規模なLoRAファインチューニングでも、学習状態、アクティベーション、シーケンス長を別途評価する必要があります。推論できるモデルでも、同じモデルをファインチューニングできるとは限りません。
開始前に、サンプル数とシーケンス長を減らして試運転してください。メモリの負荷が高まったら処理量を減らし、スワップを追加メモリとして当てにしないでください。
ソースコード、依存関係の一覧、ビルドコマンドをまとめて移行し、まず依存関係を復元してからフルビルドを実行します。キャッシュと成果物は分けて保存し、終了時に持ち出すデータを減らしましょう。
モデルの推論とコンパイルは、同じ16GBのメモリプールを使用します。両方の作業を行う場合は、同時に実行せず、時間をずらしてください。
開始前に、必要な開発ツールのバージョン、署名に必要な資材、ディスク容量を確認してください。プロジェクトの依存関係とライセンスは利用者ご自身でご用意ください。
マシンにself-hosted runnerを自分でセットアップし、インストール手順と作業ディレクトリをスクリプトに記述します。タスクキューを明確にし、利用期間内にビルドと成果物のアップロードを計画しましょう。
リモート接続が切れるたびにタスク管理をやり直す運用は避けましょう。長時間のタスクではtmuxでセッションを維持し、完了後にログと終了ステータスを確認してください。
終了前にrunnerの登録を解除し、必要な成果物をエクスポートして、認証情報を削除してください。契約満了時に停止すると、その後はこの拠点でタスクを実行できません。
ハードウェアの割り当て、メモリ容量、課金終了は、それぞれ異なる条件です。ある用語を別の約束と取り違えないようにしてください。
プランページでは4種類の利用期間とストレージ追加オプションを確認できます。ヘルプセンターでは接続方法、環境準備、契約満了前の確認事項をご案内しています。16GBのユニファイドメモリでタスクを実行できることを確認してから、レンタルを開始してください。