March 12
Встреча 3 — [2024-03-12]
Видео
Презентация
Конспект лекции
1/ Introduction
- Eще раз про цель лаборатории - создать пространство для работы над задачами с использованием AI-инструментов
- Интерактивный формат: практика, работа в группах, обмен опытом
- Философия аллайнмента искусственного интеллекта с высшими моральными принципами, а не только с текущими задачами
- Предложение вести интерактивный конспект во время лекции, отправляя слайды и мысли в чат с AI-моделью
- Пример промпта для интерактивного конспектирования
2/ AI Landscape
- Обзор рынка AI: консюмерские продукты, корпоративный стек, вертикальные решения, внутренний стек протоколов, hardware
- Примеры компаний и продуктов в каждой категории (ChatGPT, Jasper, DALL-E, NVIDIA и др.)
- Экосистема решений вокруг открытых моделей (LLAMA, Stable Diffusion и др.)
3/ Advanced Prompts
- Элементы продвинутого промптинга: системный промпт, инструкция, контекст, данные, формат вывода
- Примеры составления эффективных промптов
- Библиотеки готовых промптов от OpenAI, Anthropic и других компаний
- Проблема "галлюцинаций" моделей и способы ее решения
- Итеративный подход к составлению промптов с помощью самих AI-моделей
4/ Business Cases
- Примеры использования AI в бизнес-процессах: продажи, маркетинг, контент-генерация, секьюрити и др.
- Базовые принципы работы нейронных сетей и современных языковых моделей. Обсуждение механизма генерации текста на основе предсказания следующего слова.
- Кейс персонального ассистента, обученного на истории чатов и документах команды/проекта. Вопросы участников о приватности данных и возможностях кастомизации моделей.
5/ AI Automations
- Инструменты автоматизации процессов с помощью AI (Zapier, N8N, BotPress и др.). Примеры интеграции сервисов, обработки данных и коммуникации.
- Концепция Inline-инструментов для интеграции AI в рабочие процессы (Raycast, Keyboard Maestro и др.). Обсуждение удобства использования AI без переключения контекста.
- Комментарии участников о сложности работы с no-code инструментами для людей без технического бэкграунда и необходимости более дружелюбных интерфейсов.
6/ Open Source AI
- Открытые AI-модели и платформы (Hugging Face, LMstudio EleutherAI и др.)
- Инструменты для локального запуска моделей (LangChain, GPTQ, Llama.cpp и др.)
- Примеры специализированных открытых моделей (Falcon, CodeLLaMA и др.)
7/ Homework
- Рекомендация поделиться своими проектами и идеями в чате курса. Призыв не стесняться показывать даже ранние наработки и концепции.
- Обсуждение промежуточных результатов и получение обратной связи как важная часть процесса создания проектов.
- Цель - показать результаты проектов на последнем занятии, даже если они будут базовыми. Главное - попробовать применить полученные знания на практике.
also discussed
- Философские аспекты аллайнмента ИИ с высшими принципами vs текущими задачами
- Детальный разбор процесса итеративного составления продвинутых промптов
- Работа с открытыми моделями, запуск их локально с помощью инструментов типа LangChain
- Способы интеграции AI в рабочие процессы с помощью Inline-инструментов вроде Raycast
Glossary
- Аллайнмент: Процесс согласования целей и поведения ИИ с человеческими ценностями и этическими принципами.
- Промптинг: Методика составления эффективных текстовых запросов (промптов) для получения желаемого результата от языковой модели.
- Файн-тьюнинг: Дообучение предварительно обученной языковой модели на специфических данных для улучшения производительности в конкретной задаче.
- Галлюцинации: Феномен, при котором языковая модель генерирует правдоподобный, но фактически неверный или несуществующий ответ.
- No-code tools: Инструменты и платформы, позволяющие создавать ИИ-приложения без навыков программирования.
- Inline-инструменты: ИИ-инструменты, интегрированные непосредственно в рабочие процессы и интерфейсы существующих приложений.
Links
- Perplexity AI - ИИ-ассистент для поиска информации и ответов на вопросы
- Playground by OpenAI - Среда для экспериментов с моделями OpenAI
- Zapier - Платформа для автоматизации workflows, интегрирующая множество приложений
- N8N - Инструмент автоматизации, позволяющий создавать workflow с помощью готовых "узлов"
- Botpress - Фреймворк для создания чат-ботов с легкой интеграцией NLP-моделей
- Hugging Face - Платформа для разработки, обучения и публикации моделей машинного обучения
- LangChain - Библиотека для разработки приложений с LLM
- LlamaIndex - Инструмент для работы с базами знаний на основе языковых моделей
- AutoGPT - Автономный ИИ-агент на базе языковых моделей
- numerous - GPT для google spreadsheets