Строим LLM с нуля, Рашка С., 2025

Строим LLM с нуля, Рашка С., 2025.
 
   Говорят, что физик Ричард Фейнман однажды сказал: «Я не понимаю того, чего не могу создать». Основываясь на этом же важном принципе, автор бестселлеров Себастьян Рашка шаг за шагом ведет вас к созданию LLM в стиле GPT. которую вы сможете запустить на своем ноутбуке. Это увлекательная книга, которая охватывает каждый этап процесса — от планирования и кодирования до обучения и тонкой настройки.
«Строим LLM с нуля» — это чрезвычайно занимательное путешествие в основы генеративного ИИ. Не полагаясь на существующие библиотеки LLM, вы реализуете в коде базовую модель, превратите ее в классификатор текста и в конечном счете создадите чат-бот. который сможет следовать вашим инструкциям в диалоге. И вы действительно поймете LLM, потому что создали ее сами!




Знакомство с большими языковыми моделями.
Большие языковые модели, такие как ChatGPT от OpenAI, представляют собой модели глубоких нейронных сетей, которые были разработаны за последние несколько лет. Они открыли новую эру в обработке естественного языка (natural language processing, NLP). До появления LLM традиционные методы хорошо подходили для решения задач категоризации, таких как классификация спама в электронной почте и распознавание простых закономерностей, которые можно было обнаружить с помощью разработанных вручную правил или простых моделей машинного обучения. Однако эти методы, как правило, не помогали в случае с языковыми задачами, требующими сложных навыков понимания текста, такими как анализ подробных инструкций, проведение контекстного анализа и создание логически связного текста. Например, предыдущие поколения языковых моделей не могли написать электронное письмо, взяв за основу список ключевых слов, — задача, которая для современных LLM является тривиальной.

Большие языковые модели обладают замечательными способностями понимать, генерировать и интерпретировать человеческий язык. Однако важно уточнить: под словами «языковые модели “понимают”» имеется в виду, что они могут обрабатывать и генерировать текст так, чтобы он казался связным и контекстуально правильным с точки зрения человека, а не то, что они обладают сознанием или пониманием, подобным человеческому.

ОГЛАВЛЕНИЕ.
Предисловие.
Глава 1. Знакомство с большими языковыми моделями.
Глава 2. Работа с текстовыми данными.
Глава 3. Программирование механизмов внимания.
Глава 4. Создание GPT-подобной модели для генерации текста с нуля.
Глава 5. Предварительное обучение на неразмеченных данных.
Глава 6. Тонкая настройка по классификации.
Глава 7. Тонкая настройка по инструкциям.
Приложение А. Введение в PyTorch.
Приложение Б. Ссылки и дополнительные источники.
Приложение В. Решения упражнений.
Приложение Г. Добавление новых возможностей в процесс обучения.
Приложение Д. Эффективная настройка параметров с помощью LoRA.



Бесплатно скачать электронную книгу в удобном формате, смотреть и читать:
Скачать книгу Строим LLM с нуля, Рашка С., 2025 - fileskachat.com, быстрое и бесплатное скачивание.

Скачать pdf
Ниже можно купить эту книгу, если она есть в продаже, и похожие книги по лучшей цене со скидкой с доставкой по всей России.Купить книги


Скачать - pdf - Яндекс.Диск.




Теги: учебник по программированию :: программирование :: Рашка