«Создайте локальные LLM с помощью Ollama и LM Studio: Ваше практическое руководство к успеху!»

Для кого этот курс?

• Начинающие и опытные пользователи AI-чат-ботов и LLM
• Специалисты, которым важна высокая степень защиты данных
• Технические энтузиасты и пользователи AI, желающие углубить свои знания
• Запускайте большие языковые модели, такие как Gemma, Llama или DeepSeek, на своем оборудовании для выполнения AI-инференса.

Практический курс для всех желающих

Этот курс предлагает пошаговое руководство по запуску современных больших языковых моделей (LLM) на вашем компьютере с использованием инструментов Ollama и LM Studio.

Что вы получите?

• Изучение открытых LLM: Понимание основ открытых языковых моделей и их применения.
• Аппаратные требования: Реальные требования к оборудованию для локального запуска LLM.
• Квантование: Обучение техникам, позволяющим запускать большие модели на обычных компьютерах.
• LM Studio: Практика установки и настройки моделей через LM Studio.
• Ollama: Установка и работа с моделями через Ollama.
• Реальные задачи: Использование LLM для OCR, суммирования документов и создания креативного контента.
• Интеграция: Встраивание локальных моделей в собственные приложения через API.

Требования для участия

• Базовое понимание работы и использования LLM.
• Нет необходимости в навыках программирования или продвинутых технических знаниях.
• Для локального запуска моделей требуется не менее 8 ГБ (V)RAM.

Откройте для себя силу ИИ на своем ПК!

В современном мире ChatGPT и Google Gemini стали стандартом, но когда речь идет о приватности, стоимости и кастомизации, запуск открытых моделей на своем компьютере дает вам ряд преимуществ.

Почему стоит выбрать локальные и открытые LLM?

Локальный запуск современных моделей обеспечивает множество преимуществ:

• Низкая стоимость: Используйте мощные модели без дорогих подписок.
• 100% приватность: Ваши данные остаются только на вашем устройстве.
• Оффлайн-доступ: Работайте с ИИ в любое время и в любом месте.
• Свобода выбора: Доступ к разнообразной экосистеме открытых моделей.
• Невероятные возможности: Открывайте для себя ведущие модели, такие как Gemma, Llama и DeepSeek.

Обзор курса

Этот курс — ваш подробный и практический путь в мир локальных LLM. Мы проведем вас от установки до продвинутого использования.

Что вы освоите?

• Понимание открытых LLM и их значимость.
• Аппаратные требования для локального запуска.
• Квантование для запуска больших моделей.
• Практика использования LM Studio для работы с моделями.
• Мастерство в Ollama для взаимодействия с моделями.
• Применение знаний в реальных задачах.
• Интеграция локальных моделей в собственные проекты.
• И многие другие навыки!

Курс для всех желающих

• Разработчики, стремящиеся интегрировать ИИ в свои приложения.
• Технические энтузиасты, желающие экспериментировать.
• Люди, заботящиеся о безопасности своих данных.
• Все, кто ищет решения без подписок.
• Студенты и профессионалы, желающие освоить практические навыки.

Готовы изменить свое будущее в AI?

Откройте для себя мир мощного, приватного и доступного искусственного интеллекта. Запишитесь на курс и начните запускать большие языковые модели на своем компьютере уже сегодня!

Материалы курса

5 разделов • 58 лекций • Общая продолжительность 3 ч 54 мин

Введение

1. Добро пожаловать на курс!
2. Что такое открытые LLM?
3. Почему стоит запускать LLM локально?
4. Популярные открытые LLM — примеры.
5. Где найти открытые LLM?
6. Локальные варианты выполнения LLM.
7. Проверка лицензий моделей.
8. Слайды курса.

Понимание требований к оборудованию и квантование

1. Введение в модуль.
2. Требования к оборудованию LLM.
3. Определение требований к оборудованию по параметрам модели.
4. Квантование — как это работает?
5. Работает ли на вашем компьютере?

Глубокое погружение в LM Studio

1. Введение в модуль.
2. Запуск локально и удаленно.
3. Установка и использование LM Studio.
4. Поиск, загрузка и активация LLM.
5. Работа с интерфейсом чата LM Studio.
6. Использование системных подсказок.
7. Управление чатами.
8. Функции для опытных пользователей.
9. Извлечение информации из изображений.
10. Анализ и обобщение PDF-документов.
11. Более продвинутые настройки.
12. Управление параметрами модели.
13. Работа со структурированными результатами.
14. Генерация кода с помощью LLM.
15. Инженерия подсказок.
16. Программное использование.
17. Совместимость с OpenAI.
18. Примеры кода.
19. Сообщества программного обеспечения.

Глубокое погружение в Ollama

1. Введение в модуль.
2. Установка и запуск Ollama.
3. Поиск открытых моделей.
4. Запуск LLM через Ollama.
5. Добавление графического интерфейса.
6. Работа с многострочными сообщениями.
7. Редактирование параметров модели.
8. Управление моделями.
9. Создание чертежей моделей.
10. Создание моделей из файлов.
11. Создание модели с нуля.
12. Начало работы с сервером Ollama.
13. Изучение API Ollama.
14. Получение структурированного вывода.
15. Примеры кода.

Итог курса

1. Итоги.
2. Бонусная лекция.