Пока загружается модель, на собственном компьютере уже заканчивается память. OsxNode превращает время работы выделенного Mac mini M4 в услугу с посуточной оплатой — вместо решения о покупке компьютера.
Для разработчиков и исследователей, которые используют MLX для инференса и небольших дообучений. Сначала убедитесь, что задача помещается в 16 ГБ унифицированной памяти, затем выберите срок аренды для эксперимента.
От $21.6 в день; предоплата за день, неделю, месяц или квартал. По окончании срока без продления компьютер выключается, дополнительных списаний нет.
OsxNode · Описание услуги
Один физический компьютер на весь срок аренды выделяется одному клиенту.
CPU и GPU используют общий пул памяти. Дополнительный SSD увеличивает место для файлов, но не объём унифицированной памяти.
Вам нужно обработать модель, провести эксперимент или выполнить сборку — не обязательно покупать устройство на ближайшие несколько лет.
При работе с MLX на собственном компьютере проблема часто не в командах, а в том, что веса модели, контекстный кеш и другие приложения одновременно занимают память. Покупать новый компьютер ради проверки одной идеи может быть неоправданно, а аренда только на выходные не должна требовать долгосрочных обязательств.
OsxNode создан именно для таких задач: компьютер остаётся целым, а срок можно выбрать на день, неделю, месяц или квартал. Во время аренды вы сами настраиваете среду, загружаете веса и запускаете задачи. По завершении эксперимента экспортируйте результаты: если не продлевать аренду, компьютер выключится.
Мы не делим один компьютер между несколькими пользователями. Делится срок аренды, а не унифицированная память или ядра GPU. Вам всё равно нужно оценить, подходит ли конфигурация для модели, и заложить время на загрузку данных, установку зависимостей и резервное копирование результатов.
Сейчас доступна одна конфигурация. Выбор зависит от длительности проекта, локации подключения и дополнительного хранилища, а не от скрытых уровней оборудования.
OsxNode M4-16: чип M4, 16 ГБ унифицированной памяти и SSD на 256 ГБ. На весь срок аренды компьютер выделяется только вам; доступны полноценные графический интерфейс macOS и командная строка.
Ограничение: конфигураций с объёмом памяти более 16 ГБ сейчас нет; дополнительное хранилище не заменяет память.
В каталоге доступны Сингапур, Токио, Сеул и Гонконг. Выбирайте локацию с учётом своей сети и потребностей в передаче файлов: расстояние до узла не гарантирует скорость выполнения задач.
Ограничение: актуальная доступность отображается в консоли; качество работы с удалённым рабочим столом также зависит от вашей сети.
День — $21.6, неделя — $58.2, месяц — $107.8, квартал — $293.2. После подтверждения оплаты компьютер активируется в тот же день. Услуга считается предоставленной, когда в консоли появляются узел и данные для подключения.
Ограничение: активация в тот же день не означает мгновенную выдачу после оплаты. По окончании срока без продления компьютер выключается — планируйте задачи и резервное копирование на период аренды.
Оплата принимается только в USDT-TRC20 и картами Visa / Mastercard / Amex через Stripe; все платежи — в долларах США. Доступные способы оплаты зависят от ответа платёжного шлюза.
Предоставление инфраструктуры и выполнение задач с моделями — разные услуги. Чёткие границы сервиса помогут понять, подходит ли вам перенос проекта.
Мы не распределяем память и ядра GPU одного физического Mac между несколькими клиентами. Выделенный компьютер означает, что на срок аренды он предоставляется одному клиенту, но задача всё равно должна укладываться в физические возможности устройства.
На один срок аренды компьютер выделяется только одному клиенту. Доступные сочетания в каталоге и актуальную доступность в консоли проверяйте отдельно — ориентируйтесь на подтверждённый статус, а не на предположения.
В текущей конфигурации доступно до 16 ГБ унифицированной памяти; дополнительных ускорителей GPU нет. Запуск моделей с 13B параметров и более в 8-битном формате на этой конфигурации не рекомендуется. Длинный контекст увеличивает потребность в памяти.
Вы сами выбираете модель, скачиваете веса, устанавливаете зависимости, настраиваете параметры и проверяете результаты. Мы не устанавливаем веса моделей и не гарантируем скорость генерации, сходимость обучения или результаты экспериментов для конкретной модели.
Вы выбираете регион, где находится компьютер, а в консоли получаете данные экземпляра и параметры подключения. Название узла не означает другую конфигурацию оборудования.
Сейчас доступны четыре локации: Сингапур, Токио, Сеул и Гонконг. После активации проверьте узел и заказ в консоли, а затем подключитесь к выделенному вам компьютеру.
Мы не заявляем о сертификатах дата-центров, результатах замеров пропускной способности или резервировании электропитания, если таких данных не предоставляем. Расположение узла само по себе не гарантирует качество сети.
После входа откройте сведения об экземпляре и просмотрите параметры подключения. Удалённый рабочий стол можно открыть в браузере; для командной строки или передачи файлов настройте SSH либо VNC по инструкции.
При первом подключении смените начальный пароль и надёжно храните ключи. Используйте параметры подключения, указанные в выданном экземпляре.
Краткосрочная аренда лучше всего подходит для задач с воспроизводимой средой, предсказуемыми требованиями к ресурсам и результатами, которые можно экспортировать до окончания срока.
Сначала проверьте загрузку квантованной модели, затем постепенно увеличивайте длину контекста или размер пакета. Записывайте размер весов, пиковое потребление памяти и результаты — не судите о выполнимости только по числу параметров.
Для небольшого дообучения LoRA отдельно оцените состояние обучения, активации и длину последовательности. Успешный инференс не означает, что ту же модель получится дообучить.
Перед началом: уменьшите объём выборки и длину последовательности для пробного запуска. Если растёт нагрузка на память, сократите её — подкачка не заменяет дополнительную память.
Перенесите исходный код, список зависимостей и команды сборки. Сначала восстановите зависимости, затем выполните полную сборку. Храните кеш отдельно от готовых артефактов, чтобы в конце пришлось переносить меньше данных.
Инференс модели и компиляция используют один пул памяти объёмом 16 ГБ. Если нужно выполнять обе задачи, запускайте их по очереди, а не рассчитывайте на параллельную работу.
Перед началом: проверьте версии инструментов разработки, материалы для подписи и свободное место на диске. Зависимости проекта и необходимые лицензии вы подготавливаете самостоятельно.
Установите на компьютер собственный self-hosted runner, а шаги установки и рабочую директорию внесите в скрипт. Используйте чёткую очередь задач, чтобы успеть выполнить сборки и загрузить результаты в срок аренды.
Не стоит полагаться на постоянное удалённое подключение для управления задачами. Для длительных процессов используйте tmux, чтобы сохранить сессию, а после завершения проверьте журнал и код выхода.
Перед окончанием аренды: удалите регистрацию runner, экспортируйте нужные артефакты и удалите учётные данные. После выключения компьютера по окончании срока узел больше нельзя использовать для выполнения задач.
Распределение оборудования, объём памяти и окончание оплаты — разные условия. Не воспринимайте одно как обещание другого.
На странице тарифов указаны четыре срока аренды и дополнительные варианты хранилища; в центре помощи — инструкции по подключению, подготовке среды и проверке перед окончанием срока. Убедитесь, что задача помещается в 16 ГБ унифицированной памяти, и только потом начинайте аренду.