DERS TANITIM ve UYGULAMA BİLGİLERİ
| Dersin Adı | Kodu | Yarıyıl | T+U+L (saat/hafta) | Türü (Z / S) | Yerel Kredi | AKTS |
|---|---|---|---|---|---|---|
| Doğal Dil İşlemenin Temelleri | CMPE 408 | Bahar | 03+00+00 | Seçmeli | 3 | 6 |
| Akademik Birim: | Bilgisayar Mühendisliği, Mühendislik ve Doğa Bilimleri |
| Öğrenim Türü: | Örgün Eğitim |
| Ön Koşullar | • Calculus, Doğrusal Cebir ve Olasılık ve İstatistik bilgisi • Python'da programlama becerileri • Numpy, Pandas, Matplotlib, Seaborn, Scikit-Learn bilgisi • Makine Öğrenmesi ve Derin Öğrenme Bilgisi |
| Öğrenim Dili: | İngilizce |
| Dersin Düzeyi: | Lisans |
| Dersin Koordinatörü: | Rahim DEHKHARGHANİ |
| Dersi Veren(ler): | Zeki Erdem |
| Dersin Amacı: | Bu ders, lisans öğrencilerine doğal dil işleme (NLP) ve Büyük Dil Modellerinin (LLM) temellerini öğretmeyi amaçlamaktadır. Ders ayrıca öğrencilere konuları, Python programlama dili ve Numpy, Pandas, Matplotlib, Seaborn ve Scikit-Learn gibi popüler kütüphaneler ve ChatGPT, Gemini ve LangChain gibi popüler LLM modelleri ve çerçeveleri kullanarak uygulamaya koyma imkanı da sağlayacaktır. |
| Dersin İçeriği: | 1. NLP'ye Giriş 2. Makine Öğrenmesiyle NLP 3. Derin Öğrenmeyle NLP 4. Büyük Dil Modelleri 5. Numpy, Pandas, Matplotlib, Seaborn, Scikit-Learn, ChatGPT, Gemini ve LangChain ile Python uygulaması dahil olmak üzere çeşitli kütüphaneler ve çerçevelerle uygulama. |
| Dersin Öğrenme Çıktıları (ÖÇ): |
|
| Dersin Öğrenme Yöntem ve Teknikleri | • Sınıf içi dersler, • Ödevler, • Ara sınav, • Final sınavı |
HAFTALIK PROGRAM
| Hafta | Konular | Ön Hazırlık |
|---|---|---|
| 1 | Dersin Tanıtımı | - Tüm öğrencileri kişisel ve akademik açıdan tanımak ve beklentilerini öğrenmek. - Ders Müfredatın, detaylarının ve anlatma yönteminin tanıtılması |
| 2 | NLP'ye Giriş | - NLP’ye Giriş - NKP Teorisi - Veri Temizleme, - Vektörizasyon |
| 3 | Makine Öğrenmesiyle NLP | - Makine Öğrenmesiyle NLP Uygulaması - Makine Öğrenmesiyle GenAI Uygulaması |
| 4 | Vektörleri Yerleştirme | - Word2Vec - Glove - ELMo |
| 5 | Derin Öğrenmeyle NLP-1 | - RNN & LSTM & GRU Teorisi |
| 6 | Derin Öğrenmeyle NLP-2 | - Derin Öğrenme ile NLP Uygulaması - Derin Öğrenme ile GenAI Uygulaması |
| 7 | Transformers Modelleri | - Attention konusuna Giriş - Transformatörler - BERT Modelleri - BERT Modelleri için İnce-ayar |
| 8 | Ara Sınav | |
| 9 | Büyük Dil Modelleri-1 | - LLM’lere Giriş - Prompt Engineering - Using of OpenAI GPT Models |
| 10 | Büyük Dil Modelleri-2 | - OpenAI GPT Modelleri için İnce-ayar |
| 11 | Büyük Dil Modelleri-3 | - Google Gemini Modellerini Kullanma - Google Gemini Modelleri İçin İnce Ayar |
| 12 | Büyük Dil Modelleri-4 | - Langchain Çerçevesine Giriş, - Langchain Çerçevesinin Kullanımı, - Langchain aracılığıyla Metinden Özellik ve Etiket Çıkarımı |
| 13 | Büyük Dil Modelleri-5 | - Langchain Üzerinden Artırılmış Üretim (RAG) Chatbot'u Alımı - Langchain Üzerinden Büyük Metin Özetleme |
| 14 | Konuların Gözden Geçirilmesi | - Önemli Konuların Gözden Geçirilmesi |
Kadir Has Üniversitesi'nde bir dönem 14 haftadır, 15. ve 16. hafta sınav haftalarıdır.
ZORUNLU ve ÖNERİLEN OKUMALAR
| Bu dersi başarıyla takip etmek için zorunlu ders kitapları yoktur. Ancak, özellikle belirli konuları daha derinlemesine incelemek isteyenler için dikkate değer olabilecek çok sayıda referans bulunmaktadır. |
DİĞER KAYNAKLAR
| • Jay Alammar, Maarten Grootendorst, 2024, Hands-On Large Language Models, September 2024, O'Reilly Media, Inc., ISBN: 9781098150969. • Sebastian Raschka, Build a Large Language Model (From Scratch), September 2024, Manning Publications Co., ISBN 9781633437166 • Jurafsky, D., Martin, J. H., 2022. Speech and Language processing : An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition (3/E), Prentice Hall. • Delip Rao and Brian McMahan, 2019, Natural Language Processing with PyTorch: Build Intelligent Language Applications Using Deep Learning, O’Reilly Media; 1st edition • Yoav Goldberg, 2017, Neural Network Models for Natural Language Processing, Springer • Jacob Eisenstein, 2019, Introduction to Natural Language Processing, MIT Press |
DEĞERLENDİRME SİSTEMİ
| Yarıyıl İçi Çalışmaları | Sayı | Katkı Payı (%) |
|---|---|---|
| Ödev | 2 | 30 |
| Ara Sınavlar/Sözlü Sınavlar/Kısa Sınavlar | 1 | 20 |
| Final Sınavı | 1 | 50 |
| Total: | 4 | 100 |
İŞ YÜKÜ HESAPLAMASI
| Etkinlikler | Sayısı | Süresi (saat) | Toplam İş Yükü (saat) |
|---|---|---|---|
| Ders Saati | 14 | 3 | 42 |
| Ödev | 2 | 15 | 30 |
| Ara Sınavlar/Sözlü Sınavlar/Kısa Sınavlar | 1 | 40 | 40 |
| Final Sınavı | 1 | 40 | 40 |
| Toplam İş Yükü (saat): | 152 | ||
1 AKTS = 25 saatlik iş yükü
PROGRAM YETERLİLİKLERİ (PY) ve ÖĞRENME ÇIKTILARI (ÖÇ) İLİŞKİSİ
| # | PY1 | PY2 | PY3 | PY4 | PY5 | PY6 | PY7 | PY8 | PY9 | PY10 | PY11 |
| OC1 | |||||||||||
| OC2 | |||||||||||
| OC3 |
Katkı Düzeyi: 1 Düşük, 2 Orta, 3 Yüksek