DeepSeek: как скачать и запустить нейронку локально без подключения к интернету

2 способа запустить нейронку локально на ПК. И зачем это нужно.

DeepSeek — это сетевой чат‑бот на основе нейросети, созданный китайской компанией. Бесплатный бот в последнее время набрал большую популярность благодаря своим возможностям, которые сопоставимы, а порой даже превосходят платные ChatGPT-4^o. Благодаря тому, что нейронка умеет думать пошагово, хорошо продумывая структуру ответа, учитывая всевозможные нюансы и наличие встроенного поиска в Интернете, результаты ответа машины впечатлили пользователей по всему миру. Однако некоторые выразили обеспокоенность, связанную с конфиденциальностью и безопасностью данных пользователей, а также с наличием возможных уязвимостей онлайн-сервиса. Также нейронку обвинили в цензурировании информации.

Если вы хотите попробовать ИИ DeepSeek, но беспокоитесь о сохранности и конфиденциальности своих данных, то лучшим способом использования нейросети будет локальная установка на вашем компьютере. Запущенный на ПК чат-бот не будет иметь никакой связи с сетевым облаком или интернетом, и ваши данные будут храниться только на вашем устройстве.

Так что для тех, кто хочет заморочиться, мы сделали инструкцию.

Плюсы локальной установки

• Конфиденциальность и безопасность данных пользователя;
• Локальная установка устраняет любую зависимость от интернета (можно использовать ИИ где угодно и когда угодно);
• Время отклика бота меньше (не будет сетевой задержки);
• Нет зависимости от загрузки сервера DeepSeek и его перегрузки.

Как локально установить и запустить нейронку DeepSeek-R1

Сделать это можно двумя способами. Метод № 1 требует установки бесплатной программы LM Studio на ПК — локального инструмента, позволяющего работать с различными нейросетями. Метод № 2 сработает при наличии фреймворка Ollama, который также бесплатен. Оба метода не предполагают никаких технических знаний и просты в установке. Нейронку можно локально установить на Windows, Linux или macOS.

Запускаем ИИ DeepSeek локально с помощью LM Studio

Шаг 1. Скачайте и установите LM Studio V0.3.0 или более позднюю версию на свое устройство. (Ссылка для скачивания). Для этого, пройдя по ссылке, выберите операционную систему своего компьютера и нажмите «Download LM Studio …», где … — название вашей операционки.

 ^{1GAI, LM Studio}

Шаг 2. После завершения загрузки откройте файл .exe. Установка программы на ПК займёт несколько секунд.

Шаг 3. Теперь откройте установленное приложение. Нажмите на значок «Поиск», затем выберите «DeepSeek R1 Distill (Qwen 7B)» и нажмите на кнопку «Download» (Скачать). Поскольку файл весит около ~4,5 ГБ, загрузка может занять некоторое время.

Шаг 4. После скачивания файла нажмите на иконку «Чат» (Chat), а затем на «Select a model to load» (Выбрать модель для загрузки) или на CTRL+L. Теперь выберите DeepSeek R1 и нажмите «Load Model» (Загрузить модель).

Вот и всё. Теперь вы сможете бесплатно получить доступ к нейронке DeepSeek R1 и запускать её локально на своём компьютере. Однако если вы получите какую-либо ошибку, перейдите к шагу 4 и перетащите ползунок «GPU offload» на минимум (или ноль). Это исправит проблему, если таковая имеется.

Запускаем DeepSeek локально с помощью фреймворка Ollama

 ^{1GAI, Ollama}

Шаг 1. Скачайте Ollama и установите его на компьютер. (Ссылка для скачивания).

Шаг 2. Перед вами откроется терминал. Скопируйте указанную ниже команду для языковой модели, вставьте её в терминал и нажмите Enter. Также эту же команду вы можете ввести в командной строке. 

ollama run deepseek-r1:1.5b

Вот команда для другой языковой модели:

ollama run deepseek-r1:70b

Что означают цифры 1.5b и 70b? Это количество параметров (в миллиардах), используемых в языковой модели. Чем их больше, тем более качественные ответы выдаёт бот и тем реже ошибается. И чем меньше нейронка использует параметров, тем меньше нагружает ПК.  Как вы уже поняли, это урезанные модели. Полная модель DeepSeek-R1 называется 671b. Ей требуется ОЗУ (VRAM) для временного хранения 400 ГБ. 

Вот все команды для всех моделей нейронки.

Шаг 3. После завершения установки вы сможете пользоваться чат-ботом DeepSeek R1 даже без подключения к интернету. Если вы хотите выйти, просто закройте терминал или нажмите «CTRL+D».

Для расширенного использования нейросети вы можете использовать их веб-сайт или приложение. Хоть локальная установка защищает данные пользователей, но имеет ограничения в производительности и качестве ответов.

Обложка: 1GAI, DeepSeek