Приложение Ollama, предназначенное для локального запуска ИИ-моделей на PC, обновилось и теперь поддерживает аппаратное ускорение на процессорах Apple M5. Это делает его уникальным среди облачных сервисов, таких как ChatGPT, требующих постоянного интернет-соединения.
- Ollama доступно для Windows, macOS и Linux.
- Поддержка аппаратного ускорения реализована в версии 0.19.
- Работа улучшена на чипах Apple M5, M5 Pro и M5 Max.
- Необходимо минимум 32 ГБ унифицированной памяти.
Преимущества локального запуска ИИ
Одной из главных особенностей Ollama является возможность загружать и запускать модели ИИ без подключения к интернету. Это значительно упрощает доступ к мощным инструментам, которые могут работать на домашних компьютерах. Открытые модели размещаются на различных платформах и доступны для скачивания.
Технические улучшения и ограничения
С выходом версии 0.19 разработчики интегрировали фреймворк машинного обучения MLX от Apple, что позволяет повысить производительность на соответствующих устройствах. В частности, приложение обращается к нейроускорителям, что обеспечивает более быстрое создание токенов и улучшает работу таких ИИ-агентов, как OpenClaw, а также специализированных систем, таких как OpenCode, Anthropic Claude Code и OpenAI Codex.
| Модель процессора | Поддержка Ollama | Минимальная память |
|---|---|---|
| Apple M5 | Да | 32 ГБ |
| Apple M5 Pro | Да | 32 ГБ |
| Apple M5 Max | Да | 32 ГБ |
Вместе с тем, пользователям следует учитывать, что для комфортной работы приложения требуется достаточный объем системной памяти, что ограничивает использование Ollama на более старых моделях компьютеров.