March 12

Встреча 3 — [2024-03-12]

Видео

Презентация

Конспект лекции

1/ Introduction

  • Eще раз про цель лаборатории - создать пространство для работы над задачами с использованием AI-инструментов
  • Интерактивный формат: практика, работа в группах, обмен опытом
  • Философия аллайнмента искусственного интеллекта с высшими моральными принципами, а не только с текущими задачами
  • Предложение вести интерактивный конспект во время лекции, отправляя слайды и мысли в чат с AI-моделью
  • Пример промпта для интерактивного конспектирования

2/ AI Landscape

  • Обзор рынка AI: консюмерские продукты, корпоративный стек, вертикальные решения, внутренний стек протоколов, hardware
  • Примеры компаний и продуктов в каждой категории (ChatGPT, Jasper, DALL-E, NVIDIA и др.)
  • Экосистема решений вокруг открытых моделей (LLAMA, Stable Diffusion и др.)

3/ Advanced Prompts

  • Элементы продвинутого промптинга: системный промпт, инструкция, контекст, данные, формат вывода
  • Примеры составления эффективных промптов
  • Библиотеки готовых промптов от OpenAI, Anthropic и других компаний
  • Проблема "галлюцинаций" моделей и способы ее решения
  • Итеративный подход к составлению промптов с помощью самих AI-моделей

4/ Business Cases

  • Примеры использования AI в бизнес-процессах: продажи, маркетинг, контент-генерация, секьюрити и др.
  • Базовые принципы работы нейронных сетей и современных языковых моделей. Обсуждение механизма генерации текста на основе предсказания следующего слова.
  • Кейс персонального ассистента, обученного на истории чатов и документах команды/проекта. Вопросы участников о приватности данных и возможностях кастомизации моделей.

5/ AI Automations

  • Инструменты автоматизации процессов с помощью AI (Zapier, N8N, BotPress и др.). Примеры интеграции сервисов, обработки данных и коммуникации.
  • Концепция Inline-инструментов для интеграции AI в рабочие процессы (Raycast, Keyboard Maestro и др.). Обсуждение удобства использования AI без переключения контекста.
  • Комментарии участников о сложности работы с no-code инструментами для людей без технического бэкграунда и необходимости более дружелюбных интерфейсов.

6/ Open Source AI

  • Открытые AI-модели и платформы (Hugging Face, LMstudio EleutherAI и др.)
  • Инструменты для локального запуска моделей (LangChain, GPTQ, Llama.cpp и др.)
  • Примеры специализированных открытых моделей (Falcon, CodeLLaMA и др.)

7/ Homework

  • Рекомендация поделиться своими проектами и идеями в чате курса. Призыв не стесняться показывать даже ранние наработки и концепции.
  • Обсуждение промежуточных результатов и получение обратной связи как важная часть процесса создания проектов.
  • Цель - показать результаты проектов на последнем занятии, даже если они будут базовыми. Главное - попробовать применить полученные знания на практике.

also discussed

  • Философские аспекты аллайнмента ИИ с высшими принципами vs текущими задачами
  • Детальный разбор процесса итеративного составления продвинутых промптов
  • Работа с открытыми моделями, запуск их локально с помощью инструментов типа LangChain
  • Способы интеграции AI в рабочие процессы с помощью Inline-инструментов вроде Raycast

Glossary

  • Аллайнмент: Процесс согласования целей и поведения ИИ с человеческими ценностями и этическими принципами.
  • Промптинг: Методика составления эффективных текстовых запросов (промптов) для получения желаемого результата от языковой модели.
  • Файн-тьюнинг: Дообучение предварительно обученной языковой модели на специфических данных для улучшения производительности в конкретной задаче.
  • Галлюцинации: Феномен, при котором языковая модель генерирует правдоподобный, но фактически неверный или несуществующий ответ.
  • No-code tools: Инструменты и платформы, позволяющие создавать ИИ-приложения без навыков программирования.
  • Inline-инструменты: ИИ-инструменты, интегрированные непосредственно в рабочие процессы и интерфейсы существующих приложений.

Links

  • Perplexity AI - ИИ-ассистент для поиска информации и ответов на вопросы
  • Playground by OpenAI - Среда для экспериментов с моделями OpenAI
  • Zapier - Платформа для автоматизации workflows, интегрирующая множество приложений
  • N8N - Инструмент автоматизации, позволяющий создавать workflow с помощью готовых "узлов"
  • Botpress - Фреймворк для создания чат-ботов с легкой интеграцией NLP-моделей
  • Hugging Face - Платформа для разработки, обучения и публикации моделей машинного обучения
  • LangChain - Библиотека для разработки приложений с LLM
  • LlamaIndex - Инструмент для работы с базами знаний на основе языковых моделей
  • AutoGPT - Автономный ИИ-агент на базе языковых моделей
  • numerous - GPT для google spreadsheets