Dersin Adı | Kodu | Yarıyıl | T+U+L (saat/hafta) | Türü (Z / S) | Yerel Kredi | AKTS |
---|---|---|---|---|---|---|
Doğal Dil İşlemenin Temelleri | CMPE 408 | Bahar | 03+00+00 | Seçmeli | 3 | 6 |
Akademik Birim: | Bilgisayar Mühendisliği, Mühendislik ve Doğa Bilimleri |
Öğrenim Türü: | Örgün Eğitim |
Ön Koşullar | • Calculus, Doğrusal Cebir ve Olasılık ve İstatistik bilgisi • Python'da programlama becerileri • Numpy, Pandas, Matplotlib, Seaborn, Scikit-Learn bilgisi • Makine Öğrenmesi ve Derin Öğrenme Bilgisi |
Öğrenim Dili: | İngilizce |
Dersin Düzeyi: | Lisans |
Dersin Koordinatörü: | - - |
Dersin Amacı: | Bu ders, lisans öğrencilerine doğal dil işleme (NLP) ve Büyük Dil Modellerinin (LLM) temellerini öğretmeyi amaçlamaktadır. Ders ayrıca öğrencilere konuları, Python programlama dili ve Numpy, Pandas, Matplotlib, Seaborn ve Scikit-Learn gibi popüler kütüphaneler ve ChatGPT, Gemini ve LangChain gibi popüler LLM modelleri ve çerçeveleri kullanarak uygulamaya koyma imkanı da sağlayacaktır. |
Dersin İçeriği: | 1. NLP'ye Giriş 2. Makine Öğrenmesiyle NLP 3. Derin Öğrenmeyle NLP 4. Büyük Dil Modelleri 5. Numpy, Pandas, Matplotlib, Seaborn, Scikit-Learn, ChatGPT, Gemini ve LangChain ile Python uygulaması dahil olmak üzere çeşitli kütüphaneler ve çerçevelerle uygulama. |
Dersin Öğrenme Çıktıları (ÖÇ): |
|
Dersin Öğrenme Yöntem ve Teknikleri | • Sınıf içi dersler, • Ödevler, • Ara sınav, • Final sınavı |
Hafta | Konular | Ön Hazırlık |
---|---|---|
1 | Dersin Tanıtımı | - Tüm öğrencileri kişisel ve akademik açıdan tanımak ve beklentilerini öğrenmek. - Ders Müfredatın, detaylarının ve anlatma yönteminin tanıtılması |
2 | NLP'ye Giriş | - NLP’ye Giriş - NKP Teorisi - Veri Temizleme, - Vektörizasyon |
3 | Makine Öğrenmesiyle NLP | - Makine Öğrenmesiyle NLP Uygulaması - Makine Öğrenmesiyle GenAI Uygulaması |
4 | Vektörleri Yerleştirme | - Word2Vec - Glove - ELMo |
5 | Derin Öğrenmeyle NLP-1 | - RNN & LSTM & GRU Teorisi |
6 | Derin Öğrenmeyle NLP-2 | - Derin Öğrenme ile NLP Uygulaması - Derin Öğrenme ile GenAI Uygulaması |
7 | Transformers Modelleri | - Attention konusuna Giriş - Transformatörler - BERT Modelleri - BERT Modelleri için İnce-ayar |
8 | Ara Sınav | |
9 | Büyük Dil Modelleri-1 | - LLM’lere Giriş - Prompt Engineering - Using of OpenAI GPT Models |
10 | Büyük Dil Modelleri-2 | - OpenAI GPT Modelleri için İnce-ayar |
11 | Büyük Dil Modelleri-3 | - Google Gemini Modellerini Kullanma - Google Gemini Modelleri İçin İnce Ayar |
12 | Büyük Dil Modelleri-4 | - Langchain Çerçevesine Giriş, - Langchain Çerçevesinin Kullanımı, - Langchain aracılığıyla Metinden Özellik ve Etiket Çıkarımı |
13 | Büyük Dil Modelleri-5 | - Langchain Üzerinden Artırılmış Üretim (RAG) Chatbot'u Alımı - Langchain Üzerinden Büyük Metin Özetleme |
14 | Konuların Gözden Geçirilmesi | - Önemli Konuların Gözden Geçirilmesi |
Bu dersi başarıyla takip etmek için zorunlu ders kitapları yoktur. Ancak, özellikle belirli konuları daha derinlemesine incelemek isteyenler için dikkate değer olabilecek çok sayıda referans bulunmaktadır. |
• Jay Alammar, Maarten Grootendorst, 2024, Hands-On Large Language Models, September 2024, O'Reilly Media, Inc., ISBN: 9781098150969. • Sebastian Raschka, Build a Large Language Model (From Scratch), September 2024, Manning Publications Co., ISBN 9781633437166 • Jurafsky, D., Martin, J. H., 2022. Speech and Language processing : An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition (3/E), Prentice Hall. • Delip Rao and Brian McMahan, 2019, Natural Language Processing with PyTorch: Build Intelligent Language Applications Using Deep Learning, O’Reilly Media; 1st edition • Yoav Goldberg, 2017, Neural Network Models for Natural Language Processing, Springer • Jacob Eisenstein, 2019, Introduction to Natural Language Processing, MIT Press |
Yarıyıl İçi Çalışmaları | Sayı | Katkı Payı (%) |
---|---|---|
Ödev | 2 | 30 |
Ara Sınavlar/Sözlü Sınavlar/Kısa Sınavlar | 1 | 20 |
Final Sınavı | 1 | 50 |
Total: | 4 | 100 |
Etkinlikler | Sayısı | Süresi (saat) | Toplam İş Yükü (saat) |
---|---|---|---|
Ders Saati | 14 | 3 | 42 |
Ödev | 2 | 15 | 30 |
Ara Sınavlar/Sözlü Sınavlar/Kısa Sınavlar | 1 | 40 | 40 |
Final Sınavı | 1 | 40 | 40 |
Toplam İş Yükü (saat): | 152 |
# | PY1 | PY2 | PY3 | PY4 | PY5 | PY6 | PY7 | PY8 | PY9 | PY10 | PY11 |
OC1 | |||||||||||
OC2 | |||||||||||
OC3 |