短租實驗 · 連線準備

桌面檢查環境,
終端接續跑實驗

租用獨享 Mac 後,先從控制台開啟瀏覽器遠端桌面,確認環境與磁碟;長時間執行 MLX 推論時,改用 SSH 搭配 tmux,避免工作綁定在單一瀏覽器分頁。

OsxNode M4-16:16GB 統一記憶體 / 256GB SSD。連線方式不會增加記憶體容量;租期到期未續約,機器即會停止。

先確認桌面可用

用瀏覽器初步檢查環境

節點開通後,不必先安裝桌面用戶端。登入後可從執行個體詳情進入遠端桌面;公開說明頁不提供直接連線至執行個體的操作入口。

  1. 01

    登入並找到執行個體

    登入控制台,確認訂單對應的節點與租期,再開啟執行個體詳情。若尚未看到連線資訊,請先確認付款與開通狀態,不要用其他訂單的位址嘗試連線。

  2. 02

    開啟遠端桌面

    點選執行個體中的「開啟遠端桌面」,並使用提供的系統使用者名稱與密碼。首次登入後請變更初始密碼並妥善保存;控制台登入資訊與系統連線資訊請勿混用。

  3. 03

    檢查資料夾與記憶體

    確認模型資料夾所在的磁碟,再開啟「活動監視器」查看記憶體壓力。先以小型工作負載確認環境正常,避免同時下載權重、解壓縮資料集並啟動推論。

瀏覽器需求

建議使用最新版穩定版 Chrome、Edge、Firefox 或 Safari,並允許 JavaScript、WebSocket 與 Canvas。受管理的網路若封鎖長連線,可能會在驗證後出現黑畫面或持續重新連線。

先排除瀏覽器擴充功能的影響,再改用其他瀏覽器或網路測試。請勿把重新整理頁面當成重新啟動實體機器。

解析度與縮放

桌面解析度由遠端 macOS 的顯示設定決定;瀏覽器縮放只會改變本機的顯示比例,不會自動擴大遠端工作區。先選擇符合視窗大小以檢視完整桌面,再視需要調整遠端解析度。

高解析度會增加傳輸負擔。查看記錄不需要大畫面;文字太小時,優先放大應用程式字型,而非不斷提高遠端解析度。

剪貼簿與輸入

剪貼簿功能取決於瀏覽器權限與遠端桌面工具的支援範圍。先用一小段不含敏感資訊的文字測試;若快捷鍵無效,請使用工作階段工具列中的剪貼簿功能。

請勿依賴跨裝置圖片傳輸、拖放檔案或雙向剪貼簿自動同步。資料集與權重請透過 SSH 傳輸,並避免將密碼留在共用剪貼簿中。

需要持續操作桌面時

用 VNC 讓用戶端調整畫質

若需反覆操作圖形工具,可使用相容的 VNC 用戶端;在本機使用 macOS 時,也可使用「螢幕共享」。兩種方式連線的都是同一台租用機器。

依提供的欄位填寫連線資訊

伺服器
填入控制台顯示的主機位址,而不是控制台網頁的網址。
連接埠
填入提供的 VNC 外部連接埠。5900 是常見的通訊協定連接埠,但實際映射的連接埠可能不同,請勿直接假設。
驗證
依服務的驗證方式,使用提供的 VNC 憑證或系統憑證。
位址格式
若用戶端將位址與連接埠分成不同欄位,請分別填寫;若要求 URI,可依其文件使用 vnc://HOST:PORT。

不同用戶端對單冒號、雙冒號與顯示編號的解讀可能不同。請優先使用獨立的連接埠欄位,勿將顯示編號誤當成連接埠。

先確保文字清晰,再提高畫質

  • 先選擇自動畫質或中等畫質,並關閉不必要的桌面動畫;畫面穩定後再提高影像品質。
  • 除錯程式碼時,請確認字型邊緣清晰且中文輸入正常;影像壓縮過高會讓小字模糊,不適合核對較長的指令。
  • 若滑鼠移動明顯延遲,請降低遠端解析度並減少頻繁更新的視窗,不要只縮小本機的用戶端視窗。
  • 先在文字編輯器中測試符號鍵與輔助鍵的對應,再將長指令貼到終端機,以免鍵盤配置造成路徑或參數變更。

VNC 用戶端無法消除網路往返延遲。跨網路操作大量圖形介面時,仍會受到延遲與頻寬影響;若只需查看推論輸出,可直接改用 SSH。

讓工作留在遠端執行

用 SSH 搭配 tmux,接回同一輪推論

直接在一般 SSH 工作階段中啟動的前景程序,可能會在連線中斷時結束。請先進入 tmux 再執行指令碼,本機斷線後仍可重新連回該工作階段。

先在本機終端機連線

將三個變數填入控制台提供的值。SSH 常用連接埠為 22,實際外部連接埠請以提供的資訊為準。

read -r -p "SSH host: " SSH_HOST
read -r -p "SSH user: " SSH_USER
read -r -p "SSH port: " SSH_PORT
ssh -p "$SSH_PORT" "$SSH_USER@$SSH_HOST"

以上變數輸入範例適用於本機 Bash。首次連線時請先核對主機指紋;若指紋有變更,請先確認原因,勿關閉主機身分驗證來略過警告。

登入遠端後建立實驗工作階段

以下指令請在租用的 Mac 上執行。需已安裝 Homebrew;安裝軟體與下載模型需要可用的網路及足夠的磁碟空間。

brew install tmux
tmux new-session -A -s mlx-lab

進入工作階段後,再啟用 Python 環境並執行自己的推論指令。先按 Ctrl+B,再按 D 即可離開工作階段;重新 SSH 登入後執行 tmux attach -t mlx-lab 即可重新連回。

tmux 只會保留工作階段,不是工作容錯系統。程式錯誤、記憶體不足、系統重新啟動或租期結束,仍會導致工作中止。16GB 統一記憶體由系統與應用程式共用,不建議在此方案執行 13B 及以上的 8-bit 模型。

先評估連線距離

用往返延遲估算互動體驗

節點位置會影響桌面操作的回應速度,但不代表模型推論速度。參考區間可供初步判斷,無法取代實際網路連線體驗。

節點延遲參考:以下為區域參考範圍,非各城市的實測結果
節點 服務區域 參考往返延遲 適合的工作方式
新加坡 東南亞 20~50ms 遠端桌面、建置、檔案傳輸
東京 東亞 30~60ms 遠端桌面、建置、檔案傳輸
首爾 東北亞 30~50ms 遠端桌面、建置、檔案傳輸
香港 華南與東南亞 20~40ms 遠端桌面、建置、檔案傳輸

以上為參考範圍,實際情況以連線網路為準。電信業者路由、無線網路、代理伺服器與尖峰時段壅塞都可能影響結果;以上數值不代表延遲保證。

傳輸大型權重時,也要留意持續傳輸量與重傳情況。往返延遲較低,不代表下載速度一定較快;請勿只憑一次延遲測試決定資料遷移方式。

依工作內容選擇工具

記錄、圖形介面與資料,各用不同通道

一次實驗可同時使用多種連線方式。用桌面確認狀態、用終端機執行程序、用檔案工具同步資料,不必讓遠端桌面包辦所有工作。

查看模型輸出:SSH

閱讀生成文字、追蹤記錄或調整命令列參數時,SSH 只傳輸終端機內容。長時間執行的工作可放在 tmux 中,並將記錄儲存至遠端檔案,重新連線後即可繼續查看。

限制:無法直接操作圖形應用程式;終端機輸出也不會自動永久保存,需自行儲存。

文字互動

操作圖形介面:瀏覽器或 VNC

查看「活動監視器」、檔案資料夾、應用程式設定與視覺化結果時,請使用桌面。臨時查看可優先使用瀏覽器;長時間操作則可在 VNC 用戶端中調整畫質與按鍵配置。

限制:畫面回應會受網路影響;關閉桌面分頁不代表實驗已停止,也不代表租期已結束。

圖形介面操作

傳輸資料集:rsync

透過 SSH 通道同步檔案,並確認指令中的目標路徑指向正確的磁碟。先同步少量範例並檢查資料夾結構,再傳輸完整資料集;實驗結果也可用相同方式取回。

限制:額外掛載的磁碟不會自動成為下載目錄,模型工具的快取路徑仍需自行設定。

檔案同步

從本機上傳資料集資料夾

先依照前文設定 SSH_HOST、SSH_USER、SSH_PORT,並在遠端使用者目錄中建立 datasets 資料夾。

rsync -avP -e "ssh -p $SSH_PORT" ./datasets/ "$SSH_USER@$SSH_HOST:~/datasets/"

來源路徑結尾的斜線代表同步資料夾內的內容。此範例未啟用刪除目標檔案的選項;再次執行時仍需確認來源與目標。大型檔案可事先分割,並在上傳後驗證完整性,避免將尚未傳輸完成的檔案交給推論程式。

在同一台機器上交叉確認

切換連線方式,檢查的仍是同一個環境

以下以操作示意列出三種檢查視角,不代表實際擷取的畫面。實際按鈕、桌面配置與用戶端選單,請以提供的介面為準。

瀏覽器 · 執行個體詳情
OsxNode M4-16
統一記憶體
16GB
系統磁碟
256GB SSD
開啟遠端桌面
入口視角先確認執行個體與租期,再進入桌面。此處的按鈕標籤僅為示意,實際操作請登入控制台。
VNC · macOS 桌面
活動監視器
  • 查看記憶體壓力
  • 確認模型程序
  • 檢查磁碟可用空間
不填入虛構的即時數據
系統視角觀察的是遠端系統本身,而非本機電腦的記憶體。桌面上看到的程序,應與透過 SSH 啟動的工作相對應。
SSH · 遠端終端機
確認資料夾與工作階段
hostname
pwd
df -h
tmux list-sessions
程序視角比較主機識別資訊、工作路徑與工作階段名稱。若不同連線方式使用不同的系統使用者,可見檔案與權限可能也會不同。

若遇到「桌面看得到檔案,終端機卻找不到」的情況,請先確認兩邊是否為同一個執行個體與使用者,再檢查絕對路徑及磁碟掛載位置,勿立即重新上傳所有權重。

開始前先了解使用限制

遠端畫面不代表本機周邊設備也能延伸使用

此服務提供獨享實體 Mac 的遠端使用權限,不會自動將本機電腦的所有硬體與瀏覽器權限映射到遠端。

不支援音訊回傳

請勿依賴遠端工作階段收聽音訊或進行需要即時聲音回饋的工作。模型產生音訊後,可將結果檔案下載至本機檢查;傳輸音訊檔案與回傳桌面聲音是兩回事。

不支援 USB 裝置直連

插在本機的 USB 裝置不會出現在租用的 Mac 上。需要連接實體裝置的除錯流程不適用此方式;可透過檔案匯入的資料,則可先同步至遠端再處理。

中斷連線、結束程序與終止租期須分開處理

關閉瀏覽器或 VNC 用戶端只會中斷桌面連線。SSH 工作是否繼續,取決於工作階段管理方式;tmux 不會延長租期。租期到期未續約,機器即會停止。請提早取回實驗結果,勿將遠端磁碟當作長期備份。

若連線失敗需要協助,請透過控制台工單提供節點名稱、訂單編號、發生時間與時區、使用的連線方式及完整錯誤訊息。請勿在工單內容中附上系統密碼、私密金鑰或其他敏感連線資訊。

先確認連線,再開始這輪實驗

可選擇按天、週、月或季租用。先確認模型能在 16GB 統一記憶體中執行,再準備資料路徑與持續工作階段;完成後取回結果,租期到期未續約即停止。