Генеративное глубокое обучение, Как не мы рисуем картины, пишем романы и музыку, Фостер Д., 2024

Генеративное глубокое обучение, Как не мы рисуем картины, пишем романы и музыку, Фостер Д., 2024.
     
   Генеративное моделирование — одна из самых обсуждаемых тем в области искусственного интеллекта. Машины можно научить рисовать, писать и сочинять музыку. Вы сами можете посадить искусственный интеллект за парту или мольберт, для этого достаточно познакомиться с самыми актуальными примерами генеративных моделей глубокого обучения: вариационными автокодировщиками, генеративно-состязательными сетями, моделями типа кодер-декодер и многим другим.
Дэвид Фостер делает понятными и доступными архитектуру и методы генеративного моделирования, его советы и подсказки сделают ваши модели более творческими и эффективными в обучении. Вы начнете с основ глубокого обучения на базе Keras, а затем перейдете к самым передовым алгоритмам.




Генеративное и дискриминативное моделирование.
Чтобы по-настоящему понять цель и важность генеративного моделирования, полезно сравнить его с аналогом — дискриминативным моделированием. Знакомые с машинным обучением знают, что большинство задач, с которыми вы столкнетесь, скорее всего, носят дискриминативный характер. Рассмотрим пример, чтобы понять разницу.

Предположим, у нас есть набор данных с коллекцией картин, часть которых написаны Ван Гогом, а часть — другими художниками. Имея достаточный объем данных, мы сможем обучить дискриминативную модель, способную предсказать, была ли данная картина написана Ван Гогом. Наша модель может выучить, какие цвета, формы и текстуры с большей вероятностью будут указывать на принадлежность картины кисти голландского мастера, и в соответствии с этими характеристиками оценивать свой прогноз. На рис. 1.2 показан процесс дискриминативного моделирования — обратите внимание на то, как он отличается от процесса генеративного моделирования, изображенного на рис. 1.1.

ОГЛАВЛЕНИЕ.
Предисловие.
Вступление.
Цели и подходы.
Предварительные условия.
Структура издания.
Изменения во втором издании.
Прочие ресурсы.
Условные обозначения.
Примеры кода.
Использование программного кода примеров.
Благодарности.
От издательства.
ЧАСТЬ I. ВВЕДЕНИЕ В ГЕНЕРАТИВНОЕ ГЛУБОКОЕ ОБУЧЕНИЕ.
Глава 1. Генеративное моделирование.
Что такое генеративное моделирование.
Генеративное и дискриминативное моделирование.
Появление генеративного моделирования.
Генеративное моделирование и ИИ.
Наша первая генеративная модель.
Привет, мир!.
Базовые принципы генеративного моделирования.
Обучение представлению.
Основы теории вероятностей.
Классификация генеративных моделей.
Код примеров генеративного глубокого обучения.
Клонирование репозитория.
Использование Docker.
Применение графического процессора.
Резюме.
Глава 2. Глубокое обучение.
Данные для глубокого обучения.
Глубокие нейронные сети.
Что такое нейронная сеть.
Выявление высокоуровневых признаков.
TensorFlow и Keras.
Многослойный перцептрон.
Подготовка данных.
Конструирование модели.
Компиляция модели.
Обучение модели.
Оценка модели.
Сверточные нейронные сети (CNN).
Сверточные слои.
Пакетная нормализация.
Слои прореживания.
Построение CNN.
Обучение и оценка CNN.
Резюме.
ЧАСТЬ II. МЕТОДЫ.
Глава 3. Вариационные автокодировщики.
Введение.
Автокодировщики.
Набор данных Fashion-MNIST.
Архитектура автокодировщика.
Автокодировщик.
Декодировщик.
Объединение кодировщика и декодировщика.
Реконструкция изображений.
Визуализация скрытого пространства.
Генерирование новых изображений.
Вариационный автокодировщик.
Кодировщик.
Функция потерь.
Обучение вариационного автокодировщика.
Анализ вариационного автокодировщика.
Исследование скрытого пространства.
Набор данных CelebA.
Обучение вариационного автокодировщика.
Анализ вариационного автокодировщика.
Генерирование новых лиц.
Арифметика скрытого пространства.
Преобразование одного лица в другое.
Резюме.
Глава 4. Генеративно-состязательные сети.
Введение.
Глубокая сверточная GAN.
Набор данных Bricks.
Дискриминатор.
Генератор.
Обучение DCGAN.
Анализ DCGAN.
Обучение GAN: советы и рекомендации.
Дискриминатор получает подавляющее преимущество перед генератором.
Генератор получает подавляющее преимущество перед дискриминатором.
Неинформативные потери.
Гиперпараметры.
Решение проблем генеративно-состязательных сетей.
Генеративно-состязательные сети Вассерштейна со штрафом за градиент.
Функция потерь Вассерштейна.
Ограничение Липшица.
Реализация ограничения Липшица.
Функция потерь со штрафом за градиент.
Обучение WGAN-GP.
Анализ WGAN-GP.
Условные генеративно-состязательные сети.
Архитектура CGAN.
Обучение CGAN.
Анализ CGAN.
Резюме.
Глава 5. Модели авторегрессии.
Введение.
Сети с долгой краткосрочной памятью.
Набор данных Recipes.
Работа с текстовыми данными.
Лексемизация.
Создание набора обучающих данных.
Архитектура модели LSTM.
Слой Embedding.
Слой LSTM.
Ячейка LSTM.
Обучение LSTM.
Анализ LSTM.
Расширения RNN.
Многослойные рекуррентные сети.
Управляемые рекуррентные блоки.
Двунаправленные ячейки.
PixelCNN.
Маскированные сверточные слои.
Остаточные блоки.
Обучение PixelCNN.
Анализ PixelCNN.
Смесь распределений.
Резюме.
Глава 6. Модели нормализующих потоков.
Введение.
Нормализующие потоки.
Замена переменных.
Определитель якобиана.
Уравнение замены переменных.
RealNVP.
Набор данных Two Moons.
Слои связи.
Обучение модели RealNVP.
Анализ модели RealNVP.
Другие модели нормализующего потока.
GLOW.
FFJORD.
Резюме.
Глава 7. Модели на основе энергии.
Введение.
Модели на основе энергии.
Набор данных MNIST.
Функция энергии.
Выборка с использованием динамики Ланжевена.
Обучение с контрастивной дивергенцией.
Анализ модели на основе энергии.
Другие модели на основе энергии.
Резюме.
Глава 8. Модели диффузии.
Введение.
Модели удаления шума.
Набор данных Flowers.
Процесс прямой диффузии.
Трюк с перепараметризацией.
Режимы диффузии.
Процесс обратной диффузии.
Модель удаления шума U-Net.
Обучение диффузионной модели.
Выборка из диффузионной модели удаления шума.
Анализ модели.
Резюме.
ЧАСТЬ III. ПРАКТИЧЕСКОЕ ПРИМЕНЕНИЕ.
Глава 9. Трансформеры.
Введение.
GPT.
Набор данных Wine Reviews.
Внимание.
Запросы, ключи и значения.
Многоголовое внимание.
Причинно-следственная маскировка.
Блок трансформера.
Позиционное представление.
Обучение GPT.
Анализ GPT.
Другие трансформеры.
T5.
GPT-3 и GPT-4.
ChatGPT.
Резюме.
Глава 10. Продвинутые GAN.
Введение.
ProGAN.
Прогрессивное обучение.
Выходы.
StyleGAN.
Сеть отображения.
Синтезирующая сеть.
Вывод сети StyleGAN.
StyleGAN2.
Модуляция и демодуляция весов.
Регуляризация длины пути.
Вывод сети StyleGAN2.
Другие важные генеративно-состязательные сети.
Self-Attention GAN.
BigGAN.
VQ-GAN.
ViT VQ-GAN.
Резюме.
Глава 11. Генерирование музыки.
Введение.
Генерирование музыки с помощью модели трансформера.
Набор данных JS Bach Cello Suite.
Парсинг MIDI-файлов.
Кодирование.
Создание обучающего набора.
Синусоидальное позиционное кодирование.
Несколько входов и выходов.
Анализ трансформера генерирования музыки.
Генерирование полифонической музыки.
MuseGAN.
Набор данных Bach Chorale.
Генератор MuseGAN.
Критик MuseGAN.
Анализ сети MuseGAN.
Резюме.
Глава 12. Модели мира.
Введение.
Обучение с подкреплением.
CarRacing.
Обзор модели мира.
Архитектура.
Обучение.
Сбор данных в ходе случайных прогонов.
Обучение VAE.
Архитектура VAE.
Анализ VAE.
Сбор данных для обучения RNN.
Обучение сети MDN-RNN.
Архитектура сети MDN-RNN.
Выборка следующего состояния и вознаграждения из MDN-RNN.
Обучение контроллера.
Архитектура контроллера.
CMA-ES.
Параллельное выполнение алгоритма CMA-ES.
Обучение в мнимом окружении.
Резюме.
Глава 13. Мультимодальные модели.
Введение.
DALL.E 2.
Архитектура.
Кодировщик.
CLIP.
Модель выборки.
Декодировщик.
Примеры изображений, сгенерированных моделью DALL.E 2.
Imagen.
Архитектура.
DrawBench.
Примеры изображений, созданных Imagen.
Stable Diffusion.
Архитектура.
Примеры изображений, созданных Stable Diffusion.
Flamingo.
Архитектура.
Vision Encoder.
Perceiver Resampler.
Языковая модель.
Примеры использования Flamingo.
Резюме.
Глава 14. Заключение.
Хронология генеративного ИИ.
2014–2017 годы — эпоха VAE и GAN.
2018–2019 годы — эпоха трансформеров.
2020–2022 годы — эпоха больших моделей.
Текущее состояние генеративного ИИ.
Большие языковые модели.
Модели преобразования текста в программный код.
Модели преобразования текста в изображение.
Другие приложения.
Будущее генеративного ИИ.
Генеративный ИИ в повседневной жизни.
Генеративный ИИ на рабочем месте.
Генеративный ИИ в образовании.
Практические и этические проблемы генеративного ИИ.
Заключительные комментарии.
Ссылки.
Об авторе.
Иллюстрация на обложке.



Бесплатно скачать электронную книгу в удобном формате, смотреть и читать:
Скачать книгу Генеративное глубокое обучение, Как не мы рисуем картины, пишем романы и музыку, Фостер Д., 2024 - fileskachat.com, быстрое и бесплатное скачивание.

Скачать pdf
Ниже можно купить эту книгу, если она есть в продаже, и похожие книги по лучшей цене со скидкой с доставкой по всей России.Купить книги


Скачать - pdf - Яндекс.Диск.




Теги: учебник по программированию :: программирование :: Фостер