Quick Start Guide to Large Language Models: Strategies and Best Practices for using ChatGPT and Other LLMs, 1st edition

Các Mô hình Ngôn ngữ Lớn (LLM) như ChatGPT đang thể hiện những khả năng ngoạn mục, nhưng quy mô và độ phức tạp của chúng đã ngăn cản nhiều người thực hành áp dụng chúng. Trong Hướng dẫn bắt đầu nhanh về mô hình ngôn ngữ lớn, nhà khoa học dữ liệu tiên phong và doanh nhân AI Sinan Ozdemir đã xóa bỏ những trở ngại đó và cung cấp hướng dẫn cách làm việc, tích hợp và triển khai LLM để giải quyết các vấn đề thực tế.

Ozdemir tập hợp tất cả những gì bạn cần để bắt đầu, ngay cả khi bạn không có kinh nghiệm trực tiếp với LLM: hướng dẫn từng bước, phương pháp hay nhất, nghiên cứu trường hợp thực tế, bài tập thực hành, v.v. Đồng thời, anh ấy chia sẻ những hiểu biết sâu sắc về hoạt động bên trong của LLM để giúp bạn tối ưu hóa việc lựa chọn mô hình, định dạng dữ liệu, thông số và hiệu suất. Bạn thậm chí sẽ tìm thấy nhiều tài nguyên hơn trên trang web đồng hành, bao gồm các tập dữ liệu mẫu và mã để làm việc với LLM nguồn mở và mã nguồn đóng, chẳng hạn như các LLM từ OpenAI (GPT-4 và ChatGPT), Google (BERT, T5 và Bard), EleutherAI (GPT-J và GPT-Neo), Cohere (dòng Command) và Meta (BART và dòng LLaMA).

Tìm hiểu các khái niệm chính: đào tạo trước, học chuyển giao, tinh chỉnh, chú ý, nhúng, mã thông báo, v.v.
Sử dụng API và Python để tinh chỉnh và tùy chỉnh LLM theo yêu cầu của bạn
Xây dựng một hệ thống truy xuất thông tin thần kinh/ngữ nghĩa hoàn chỉnh và gắn vào LLM đàm thoại để tạo ra khả năng truy xuất tăng cường
Nắm vững các kỹ thuật kỹ thuật nhắc nhở nâng cao như cấu trúc đầu ra, chuỗi suy nghĩ và nhắc nhở vài lần theo ngữ nghĩa
Tùy chỉnh phần nhúng LLM để xây dựng công cụ đề xuất hoàn chỉnh từ đầu với dữ liệu người dùng
Xây dựng và tinh chỉnh các kiến ​​trúc Transformer đa phương thức bằng cách sử dụng LLM mã nguồn mở
Căn chỉnh LLM bằng cách sử dụng Học tăng cường từ phản hồi của con người và AI (RLHF/RLAIF)
Triển khai các lời nhắc và LLM được tinh chỉnh tùy chỉnh lên đám mây với lưu ý đến khả năng mở rộng và quy trình đánh giá
"Bằng cách cân bằng tiềm năng của cả mô hình nguồn mở và nguồn đóng, Hướng dẫn bắt đầu nhanh về Mô hình ngôn ngữ lớn đóng vai trò là hướng dẫn toàn diện để hiểu và sử dụng LLM, thu hẹp khoảng cách giữa các khái niệm lý thuyết và ứng dụng thực tế."
--Giada Pistilli, Nhà đạo đức chính tại HuggingFace

"Một nguồn tài liệu mới mẻ và đầy cảm hứng. Chứa đầy những hướng dẫn thực tế và giải thích rõ ràng giúp bạn thông minh hơn về lĩnh vực mới đáng kinh ngạc này."--Pete Huang, tác giả cuốn The Neuron

Preface xvii

Acknowledgments xxi

About the Author xxiii

Part I: Introduction to Large Language Models 1

Chapter 1: Overview of Large Language Models 3

What Are Large Language Models? 4
Popular Modern LLMs 20
Domain-Specific LLMs 22
Applications of LLMs 23
Summary 29

Chapter 2: Semantic Search with LLMs 31

Introduction 31
The Task 32
Solution Overview 34
The Components 35
Putting It All Together 51
The Cost of Closed-Source Components 54
Summary 55

Chapter 3: First Steps with Prompt Engineering 57

Introduction 57
Prompt Engineering 57
Working with Prompts Across Models 65
Building a Q/A Bot with ChatGPT 69
Summary 74

Part II: Getting the Most Out of LLMs 75

Chapter 4: Optimizing LLMs with Customized Fine-Tuning 77

Introduction 77
Transfer Learning and Fine-Tuning: A Primer 78
A Look at the OpenAI Fine-Tuning API 82
Preparing Custom Examples with the OpenAI CLI 84
Setting Up the OpenAI CLI 87
Our First Fine-Tuned LLM 88
Case Study: Amazon Review Category Classification 93
Summary 95

Chapter 5: Advanced Prompt Engineering 97

Introduction 97
Prompt Injection Attacks 97
Input/Output Validation 99
Batch Prompting 103
Prompt Chaining 104
Chain-of-Thought Prompting 111
Revisiting Few-Shot Learning 113
Testing and Iterative Prompt Development 123
Summary 124

Chapter 6: Customizing Embeddings and Model Architectures 125

Introduction 125
Case Study: Building a Recommendation System 126
Summary 144

Part III: Advanced LLM Usage 145

Chapter 7: Moving Beyond Foundation Models 147

Introduction 147
Case Study: Visual Q/A 147
Case Study: Reinforcement Learning from Feedback 163
Summary 173

Chapter 8: Advanced Open-Source LLM Fine-Tuning 175

Introduction 175
Example: Anime Genre Multilabel Classification with BERT 176
Example: LaTeX Generation with GPT2 189
Sinan's Attempt at Wise Yet Engaging Responses: SAWYER 193
The Ever-Changing World of Fine-Tuning 206
Summary 207

Chapter 9: Moving LLMs into Production 209

Introduction 209
Deploying Closed-Source LLMs to Production 209
Deploying Open-Source LLMs to Production 210
Summary 225

Part IV: Appendices 227

Appendix A: LLM FAQs 229
Appendix B: LLM Glossary 233
Appendix C: LLM Application Archetypes 239

Index 243