ИИ-агенты в кармане без привязки к ПК
Представьте сцену: вы сидите в кафе, и ваш коллега спрашивает, как использовать DeepSeek или Gemma для анализа данных прямо сейчас. Раньше для этого требовался мощный ноутбук с установленным LM Studio. Теперь же, благодаря новому связному решению от создателей LM Studio, вы можете управлять этими моделями с iPhone. Это не просто «еще одно приложение», а полноценный мост, который превращает смартфон в терминал доступа к локальному искусственному интеллекту.
Как это работает на практике
Система построена на принципе централизованного управления. Вы запускаете тяжелую вычислительную часть на компьютере, где установлена LM Studio. Это программа, которая умеет загружать и запускать модели локально, не отсылая запросы в облако. Затем вы устанавливаете приложение Locally AI на iPhone. Оно выступает в роли клиента, который подключается к вашему компьютеру через протокол LM Link.
Подключение происходит автоматически, если оба устройства находятся в одной Wi-Fi сети. Приложение на телефоне сканирует сеть и находит запущенный сервер LM Studio. После подтверждения вы получаете полный доступ к чату, настройкам и даже истории переписок. Это означает, что вы можете:
- Запускать модели без цензуры: Доступны Gemma, Llama, Granite, Qwen, Dolphin и Nous Hermes.
- Использовать ИИ-агентов: Автоматизированные помощники, которые могут выполнять сложные задачи.
- Работать офлайн: Если компьютер и телефон в одной сети, данные не уходят в интернет.
Почему это важно для разработчиков и энтузиастов
Раньше, чтобы протестировать новую модель, например, Llama 3.3, нужно было иметь доступ к серверу. Теперь вы можете настроить свой домашний сервер или мощный ноутбук и использовать его как облако для любого устройства в доме. Это особенно полезно для тех, кто работает с большими языковыми моделями (LLM) и не хочет платить за подписку на API.
Кроме того, это решение решает проблему мобильности. Вы можете взять с собой свой «мозговой центр» в поездку. Если у вас дома стоит сервер с Qwen или Granite, вы можете подключиться к нему с телефона в любом месте, где есть Wi-Fi. Это открывает новые сценарии использования: от проверки кода на телефоне до анализа медицинских данных локально, без утечки в облака.
Главный вывод: технологии локального ИИ перестали быть привязанными к рабочему столу. Смартфон становится универсальным пультом управления для ваших локальных нейросетей. Это шаг к тому, чтобы каждый человек мог иметь свой персональный ИИ, который работает на его оборудовании, а не на серверах корпораций.