Рассчитайте стоимость Mac для эксперимента

Сколько памяти нужно модели и сколько дней займёт эксперимент?

Сначала проверьте, поместится ли модель, а затем решайте, стоит ли платить за отдельную машину. Краткосрочная аренда Mac помогает решить задачу на ограниченный срок или компенсировать нехватку памяти на своём устройстве — но не означает, что все задачи нужно переносить в облако.

Рассмотрим семидневный эксперимент с инференсом MLX: запуск модели 7B в формате 4-bit, два часа интерактивных тестов в день, неизменные модель, промпты и параметры контекста. Параллельная сборка и обучение не выполняются. Продолжительность — план эксперимента, а не гарантия производительности.

Стартовая цена — $21.6 в день. Оплата заранее за календарный срок аренды, а не за часы работы скрипта инференса. По окончании срока без продления машина останавливается, дополнительных списаний нет.

Стоимость зависит от срока аренды

Краткосрочная аренда — по фиксированной цене, бюджет покупки зависит от вашей ситуации

Сейчас OsxNode предлагает одну конфигурацию: OsxNode M4-16 — M4 / 16 ГБ объединённой памяти / SSD 256 ГБ. В таблице указаны стандартные цены за полный срок без дополнительных опций. Для покупки цена не указана: она зависит от региона, конфигурации и даты покупки.

Одна конфигурация, четыре срока аренды. Затраты на свой Mac и покупку рассчитывайте отдельно для своей ситуации.
Срок эксперимента Стоимость аренды OsxNode Продолжить работу на своём Mac Купить отдельный Mac
1 день $21.6 в день Дополнительных затрат на покупку нет; проверьте, достаточно ли памяти на вашем устройстве. Оплатите устройство целиком — после эксперимента оно останется у вас.
1 неделя $58.2 в неделю В течение недели на своём Mac придётся совмещать обычную работу и эксперимент. Покупка также оплачивается целиком; будет ли устройство простаивать, зависит от следующей задачи.
1 месяц $107.8 в месяц Длительная нагрузка может отнимать память и время, нужные для повседневной разработки. Оцените частоту использования, необходимый объём памяти и затраты на обслуживание устройства.
1 квартал $293.2 за квартал Если объёма памяти хватает постоянно, можно продолжать пользоваться своим устройством. Если впереди ещё задачи без перерывов, заново оцените покупку по актуальным ценам.

Не считайте два часа работы двумя часами аренды

Даже если вы тестируете модель всего два часа в день, семидневный эксперимент требует аренды на все семь дней. Загрузку весов, установку зависимостей, устранение ошибок и экспорт результатов тоже нужно учесть при планировании срока.

В таблице указаны цены за полный срок, а не сумма ежедневной оплаты за то же количество дней.

Учтите простой при оценке покупки

Запишите фактическую цену устройства, предполагаемую дату следующего использования и планы на него после эксперимента. Не считайте полную стоимость устройства затратами на один эксперимент и не закладывайте предполагаемый доход от перепродажи.

Мы не рассчитываем «срок окупаемости» без реальных цен покупки и данных о частоте использования.

Сначала определите срок по календарю: на 1–2 дня подойдёт посуточная аренда; на 3–7 дней сравните её с недельной за $58.2; для срока свыше 3 недель рассмотрите месячную за $107.8; проект на квартал — $293.2. Если эксперимент может закончиться раньше, учтите, что оставшийся срок аренды может пропасть.

Расчёт памяти

Если веса помещаются, это ещё не значит, что для инференса останется запас

Сравним в одной таблице свой Mac с 8 ГБ памяти и арендуемый — с 16 ГБ. Теоретический объём весов рассчитан по формуле «число параметров × разрядность ÷ 8» в десятичных ГБ. Это только исходный объём весов, а не размер скачиваемого файла или измеренный пик использования памяти.

В файлах модели могут быть метаданные квантования; во время работы также нужны память для системы, буферов, активаций и KV-кэша.
Модель и квантование Теоретический объём исходных весов Свой Mac, 8 ГБ Аренда, 16 ГБ
3B · 4-bit около 1.5 ГБ Можно начать с проверки на своём Mac: закройте ненужные приложения и следите за нагрузкой памяти. Подходит для лёгкого эксперимента; переносить задачу только ради объёма памяти не обязательно.
3B · 8-bit около 3 ГБ Проверьте расход памяти системой и контекстом; стабильная работа не гарантируется. Можно попробовать, но следите за пиковым расходом памяти.
7B · 4-bit около 3.5 ГБ Запас ограничен — не делайте вывод о пригодности устройства только по объёму весов. Подходит для первого эксперимента с инференсом; начните с короткого контекста.
7B · 8-bit около 7 ГБ Не рекомендуется: исходные веса почти занимают всю память устройства. Можно попробовать при подходящих условиях; длинный контекст и параллельные запросы увеличат расход памяти.
13B · 4-bit около 6.5 ГБ Не рекомендуется: системе и процессу инференса вряд ли останется достаточно памяти. Пробуйте осторожно; это не вариант по умолчанию. Проверьте фактический пиковый расход памяти.
13B · 8-bit около 13 ГБ Не рекомендуется. Не рекомендуется — рассмотрите устройство с большим объёмом памяти.

В этой конфигурации доступно не более 16 ГБ объединённой памяти.Модели 13B и больше в формате 8-bit для этой конфигурации не рекомендуются. При увеличении контекста, числа параллельных запросов или тонкой настройке LoRA таблица по инференсу не гарантирует, что памяти хватит. Дополнительный SSD увеличивает объём хранилища, а не объединённой памяти.

Сначала проверьте на небольшом примере

Используйте ту же версию модели и файл квантования, задайте фиксированные контекст и длину ответа. Сначала отправьте один запрос, затем проверьте нагрузку на память и использование файла подкачки в Мониторе активности. Если нагрузка становится жёлтой или продолжает расти, сократите контекст, уменьшите число параллельных запросов, закройте другие процессы или выберите модель поменьше. Файл подкачки — не бесплатное расширение памяти.

Выбирайте по задаче

Одни задачи стоит запускать в аренду, другие — оставить на своём Mac

При выборе важен не только объём памяти. Оцените требования к памяти, частоту задач и объём работы по переносу. Если эти факторы не объясняют, зачем нужна аренда, пока оставьте всё как есть.

Задача Когда стоит остаться на своём Mac Когда стоит арендовать OsxNode M4-16 Когда стоит купить Mac и что учесть
Лёгкая сборка и проверка скриптов Зависимости уже установлены, памяти хватает, повседневной работе ничего не мешает. Нужна отдельная среда macOS на короткий срок или требуется отделить задачу от своего Mac. Если устройство нужно каждый день и требуется взаимодействие с локальной периферией, оцените бюджет покупки.
Повседневная разработка Редактирование кода, отладку и сборку можно выполнять на своём Mac. Есть чёткие сроки проекта и вы готовы работать через сеть и синхронизировать файлы. Покупку стоит рассмотреть при постоянной активной работе, необходимости работать без интернета или тесной зависимости от локальной периферии.
Инференс MLX Модель поменьше работает стабильно, нагрузка на память в норме. На своём Mac с 8 ГБ не хватает запаса памяти, а выбранная модель проверена на конфигурации с 16 ГБ. Модель или контекст постоянно требуют больше 16 ГБ — рассмотрите устройство с большим объёмом памяти. OsxNode такую конфигурацию не предлагает.
Небольшая тонкая настройка LoRA На практике проверено, что пиковая нагрузка при обучении небольшой модели с малым размером пакета остаётся под контролем. Сначала проверьте суммарный расход памяти с учётом модели, размера пакета, длины последовательности и режима обучения; затем решайте, нужна ли краткосрочная аренда. Если обучение повторяется и памяти постоянно не хватает, выбирайте устройство под требования обучения: выводы о памяти для инференса здесь неприменимы.

Если веса модели и датасеты занимают много места, рассмотрите дополнительный SSD на 1 ТБ: $2.1 в день, $5.6 в неделю, $10.4 в месяц или $28.3 за квартал. Дополнительный диск не увеличивает объём объединённой памяти для модели. Инструменты, зависимости и веса моделей пользователь устанавливает и подготавливает самостоятельно.

Перенос тоже требует времени

Экономия на покупке означает, что нужно спланировать подключение и синхронизацию

Сеть не увеличивает вычислительные возможности модели, запущенной на удалённой машине. Она влияет на получение результатов, управление интерфейсом и передачу файлов. Заложите время на все три задачи в план первого дня.

Задержка сети: отделяйте управление от вычислений

Для работы на своём Mac передавать удалённое изображение не нужно. Графический интерфейс в облаке требует стабильной сети; на отзывчивость влияют расстояние и маршрут соединения. Для длительного инференса можно подключаться по SSH и смотреть журналы, не передавая рабочий стол постоянно.

Четыре локации: Сингапур, Токио, Сеул и Гонконг. Указанные диапазоны — не результаты измерений именно вашей сети и не гарантия отзывчивой работы.

Синхронизация файлов: первая загрузка тоже входит в срок аренды

Если веса и данные уже есть на вашем Mac, можно сразу приступать к работе. При переносе в облако потребуется установить зависимости и передать или загрузить файлы заново. Для последующих изменений обычно удобнее синхронизировать только обновлённые файлы, а не каждый раз передавать весь каталог.

Не рассчитывайте, что все 256 ГБ SSD будут доступны для датасетов: система и среда тоже занимают место. До окончания аренды самостоятельно экспортируйте результаты — не планируйте забирать их после остановки машины.

Изоляция среды: записывайте зависимости даже на отдельной машине

Эксперимент в облаке позволяет не менять среду Python и зависимости для разработки на вашем Mac. Даже на выделенной физической машине среду всё равно нужно настраивать: фиксируйте версии зависимостей и модели, а также параметры запуска, чтобы повторить эксперимент при следующей аренде.

Изоляция не означает, что среду будут администрировать за вас. Пользователь самостоятельно управляет процессами, учётными данными и резервными копиями, а также соблюдает условия лицензирования программ и данных.

Проверьте, кому принадлежат ресурсы

Одинаковый объём памяти не означает одинаковый способ предоставления ресурсов

На срок аренды OsxNode предоставляет физический Mac mini M4, выделенный только вам, без виртуализации. Сравнивая другие сервисы, проверяйте реальные условия предоставления ресурсов: слово «виртуальная машина» само по себе ничего не говорит о конфигурации или производительности.

Что проверить Свой Mac Выделенная физическая машина OsxNode Что проверить у сервиса виртуальных машин
Распределение памяти Ресурсы используются системой и процессами на вашем устройстве. 16 ГБ объединённой памяти не делятся с другими арендаторами в течение срока аренды. Выделенный объём, правила совместного использования ресурсов хоста и условия перепродажи мощностей.
Ядра GPU Вы сами следите, не заняты ли они другими задачами на устройстве. Ядра GPU физической машины не делятся с другими арендаторами. Предоставляется ли доступ к GPU и совместно ли используются ресурсы.
Metal и MLX Нужны совместимые оборудование, ОС и программная среда. Доступны возможности Metal на физическом M4; среду MLX настраивает пользователь. Проверьте, доступен ли Metal, а также совместимость и ограничения: доступность не гарантируется.
Влияние других нагрузок Браузер, IDE и эксперимент конкурируют за ресурсы своего Mac. Запущенные вами процессы по-прежнему конкурируют за память и вычислительные ресурсы одной машины. Влияние планирования ресурсов хоста и нагрузок других арендаторов.

Выделение означает изоляцию от других арендаторов, а не неограниченный объём ресурсов или фиксированную скорость. OsxNode не предлагает конфигурации с памятью свыше 16 ГБ и дополнительные ускорители GPU, а также не скачивает, не устанавливает и не обслуживает модели за вас.

Превратите решение в конкретный план

Сначала проверьте задачу на минимальном примере, затем решайте, стоит ли вкладываться надолго

Не пытайтесь компенсировать нехватку памяти долгим сроком аренды и не покупайте машину ради эксперимента, который ещё не проверили. Пройдите шаги ниже, чтобы принять решение с возможностью вернуться к исходному варианту.

  1. Своего Mac хватает: ничего не меняйте

    Если модель стабильно загружается, нагрузка на память в норме и эксперимент не мешает повседневной разработке, продолжайте работать на своём Mac. Запишите модель, разрядность квантования и контекст; переносите задачу, только если обнаружится реальное ограничение.

  2. На короткий срок не хватает памяти: сначала арендуйте

    Если выбранная модель подходит для 16 ГБ, а проект займёт всего несколько дней или недель, сначала проверьте её в аренде, а затем выберите срок по календарному плану. Аренда начинается от одного дня; после подтверждения оплаты машина запускается в тот же день. Результат предоставления — узел и учётные данные в панели управления; фактический статус доступности отображается там в реальном времени.

  3. Задача постоянно превышает лимит: выберите другую машину

    Если для больших моделей, длинного контекста или длительного обучения пиковая нагрузка превышает 16 ГБ, рассмотрите устройство с большей памятью или измените задачу. При постоянном использовании и зависимости от локальной периферии добавьте к сравнению фактическую цену покупки.

Перед арендой проверьте оплату и резервное копирование

Принимаются только USDT-TRC20 и Visa / Mastercard / Amex через Stripe. Все платежи списываются в долларах; фактическая доступность платёжного шлюза определяется ответом серверного интерфейса. До окончания аренды экспортируйте конфигурации моделей, результаты и нужные файлы. По окончании срока без продления машина останавливается; заранее ознакомьтесь с правилами обработки данных и информацией о безопасности и доступности.

Выберите срок аренды для этого эксперимента

Убедитесь, что для задачи достаточно 16 ГБ, затем выберите аренду на день, неделю, месяц или квартал. Если пиковый расход памяти пока неизвестен, обратитесь за консультацией, указав размер модели, разрядность квантования и параметры контекста.