Встреча 7 — [2024-03-28]

видео

video

презентация

pres

Философские идеи встречи

Два лагеря восприятия ИИ: Существует разделение на ИИ-оптимистов, таких как Balaji S. Srinivasan, которые видят в ИИ инструмент для решения глобальных проблем и создания новой "технологической утопии", и ИИ-алармистов вроде Элиезера Юдковского, предупреждающих о рисках неконтролируемого ИИ вплоть до экзистенциальной угрозы человечеству в ближайшие годы.
Важность аллайнмента ИИ с человеческими ценностями: Чтобы ИИ приносил пользу, а не вред, критически важно встроить в него следование человеческой этике и ценностям. Подходы к этому могут включать обеспечение выживания человечества как приоритета, контроль систем ИИ их создателями, встраивание свода правил и протоколов взаимодействия.
Необходимость "оцифровки" человеческой морали для ИИ: Многие философы, такие как Джарон Ланье, указывают на сложность формализации человеческих этических норм, межличностных отношений, ценностей, прививаемых детям в ходе воспитания, для машинного обучения ИИ. Требуется выработка новых подходов к их представлению и оцифровке.
Ответственность при использовании мощных генеративных моделей: По мере того, как генеративный ИИ берет на себя все более важные задачи - от написания финансовых отчетов до генерации маркетинговых стратегий на основе конфиденциальных данных - цена ошибки возрастает. Ошибки ИИ могут иметь далеко идущие последствия. Кроме того, потенциальные проблемы ИИ, такие как дипфейки в политике, могут привлечь большое общественное внимание.
Призыв к осознанному развитию ИИ: Учитывая быстрое развитие возможностей ИИ и непредсказуемость долгосрочных последствий, лидеры призывают к maksимальной осознанности, оценке рисков и ответственному внедрению этих технологий. При этом с точки зрения бизнеса разумный оптимизм и проактивное изучение возможностей ИИ видится более продуктивным, чем избегание новых технологий из-за страха потенциальных негативных эффектов.

Конспект

1/ Code & Command Line

Обзор инструментов для написания кода, локального и удаленного запуска
Использование библиотек ChatGPT и OpenInterpreter для создания примеров кода
Отладка и итеративная разработка с помощью ИИ

2/ Ethics & Philosophy

Два основных лагеря: ИИ-оптимисты (верят, что ИИ решит глобальные проблемы) vs ИИ-думеры (считают ИИ опасным и сложным в контроле)
Важность аллайнмента ИИ - соответствия систем ИИ человеческим ценностям и целям
Лидеры мнений и инфлюенсеры в сфере этики ИИ:

Balaji S. Srinivasan - технологический мыслитель, создающий философскую утопию трансгуманизма
Nick Bostrom - философ, пишущий о экзистенциальных рисках ИИ
Sam Altman - CEO OpenAI, сторонник ускорения развития ИИ
Tristan Harris - основатель Center for Humane Technology, призывает к контролю ИИ
Eliezer Yudkowsky - радикальный ИИ-алармист, предсказывает скорую гибель человечества от ИИ
Jaron Lanier - философ, рассуждающий об этике и морали ИИ

Подходы к аллайнменту ИИ: выживание человечества, цели создателей, следование протоколам и правилам
Необходимость оцифровки человеческих ценностей и морали для обучения ИИ

3/ Robots

Прогресс в объединении ИИ с робототехникой и воплощенными ИИ-агентами
ИИ позволяет роботам обучаться новым навыкам по нескольким примерам
Имплементация языковых моделей в роботов
Влияние развития автономных ИИ-агентов

4/ AI Workflows

Инструменты автоматизации и создания ИИ-воркфлоу
Zapier для связи приложений и автоматизации задач
Make и n8n как open-source альтернативы
Langchain для объединения LLM с другими инструментами в многошаговые воркфлоу
FlowiseAI для создания мультиагентных систем

5/ Homework

Приглашение поделиться проектами, экспериментами и выводами на финальной сессии
Планы авторов по созданию курсов по продуктивности с ИИ
Заключительные мысли о скорости прогресса ИИ и необходимости адаптивности

Глоссарий

Воплощенный ИИ (Embodied AI) - ИИ-системы, взаимодействующие с физическим миром через робототехническое тело
Обучение по малому количеству примеров (Few-shot learning) - Способность ИИ-системы обучаться новым концепциям по нескольким примерам
Автономный агент - ИИ-система, способная самостоятельно принимать решения и действовать для достижения целей
Prompt engineering - Разработка эффективных промптов для получения нужных результатов от языковых моделей
Аллайнмент ИИ (AI Alignment) - Задача создания ИИ-систем, действующих в соответствии с человеческими ценностями и целями
ИИ-алармист (AI doomsayer) - Тот, кто считает прогресс ИИ опасным и ведущим к большим проблемам для человечества
Генеративный ИИ - ИИ-системы, фокусирующиеся на создании нового контента (текст, изображения, аудио, видео)
Чанки (chunks) - Фрагменты/блоки текста, которые обрабатываются моделью за один раз
Эмбеддинги (embeddings) - Векторные представления смыслов слов/фраз/абзацев для обработки нейросетью
Нуминозность - Ощущение присутствия чего-то божественного, сверхъестественного, вызывающего благоговение и трепет

Ссылки

Zapier - платформа автоматизации задач и связывания сервисов
Make (Integromat) - платформа автоматизации для связывания API, сервисов и приложений
n8n - инструмент автоматизации рабочих процессов с открытым исходным кодом
Langchain - библиотека для разработки приложений с LLM
FlowiseAI - визуальная среда разработки чат-ботов и агентов
AudioPen AI - сервис для превращения аудио в текст с помощью ИИ
Obsidian - приложение для управления базой знаний
The 01 Project - проект по созданию открытой операционной системы на базе ИИ
video intro 01 project - видео-интро проекта 01
rabbit r1 - pre-order now - карманный ИИ-компаньон rabbit r1, доступный для предзаказа
2024 AI Business Predictions: PwC - прогнозы PwC по развитию ИИ в бизнесе в 2024 году
16 Changes to the Way Enterprises Are Building and Buying Generative AI | Andreessen Horowitz - 16 изменений в том, как предприятия разрабатывают и покупают генеративный ИИ