Основы генеративного ИИ на языке Python

Полное руководство по пониманию и реализации генеративного ИИ и больших языковых моделей (LLM). Этот курс охватывает переход от теоретических основ к практической разработке на Python, включая ГАНы, диффузионные модели, трансформеры, донастройку и вывод в производственную среду.

Освойте основные принципы и практическое применение современных языковых моделей и генеративных методов с помощью Python.

Автор: Карлос Родригес

Благодарности: Особая благодарность жене автора Джилл, его родителям и техническим ревьюерам Морган Бойсу, Эрику Руи и Самире Шахи (автору предисловия).

1. Различать классические (дискриминативные) парадигмы машинного обучения и генеративные модели ИИ.
2. Определять основополагающие архитектуры генеративного ИИ, включая ГАНы, диффузионные модели и трансформеры.
3. Объяснять роль и эволюцию больших языковых моделей (LLM) в более широком контексте искусственного интеллекта.
4. Различать уникальные особенности и архитектурные парадигмы ГАНов, диффузоров и трансформеров.
5. Анализировать достижения и ограничения каждого типа моделей, включая конкретные проблемы, такие как коллапс режимов или скорость выборки.
6. Реализовать пайплайн Stable Diffusion и оценить сгенерированные результаты с использованием логитов и вероятностей на основе CLIP.
7. Отследить эволюцию обработки естественного языка (NLP) от ранних методов подсчета и РНН до современных распределённых представлений и переносного обучения.
8. Объяснить технические особенности многоголовочного внимания (MHA), самовнимания, маскирования и сетей прямого распространения (FFN).
9. Реализовать полную архитектуру трансформера, включая токенизацию данных, позиционное кодирование и функции обучения/вывода.
10. Сопоставлять функции прототипирования (например, Google Colab) с рабочими средами с использованием Docker и VS Code.