DERS TANITIM ve UYGULAMA BİLGİLERİ

Dersin Adı Kodu Yarıyıl T+U+L (saat/hafta) Türü (Z / S) Yerel Kredi AKTS
Doğal Dil İşlemenin Temelleri CMPE 408 Bahar 03+00+00 Seçmeli 3 6
Akademik Birim: Bilgisayar Mühendisliği, Mühendislik ve Doğa Bilimleri
Öğrenim Türü: Örgün Eğitim
Ön Koşullar • Calculus, Doğrusal Cebir ve Olasılık ve İstatistik bilgisi • Python'da programlama becerileri • Numpy, Pandas, Matplotlib, Seaborn, Scikit-Learn bilgisi • Makine Öğrenmesi ve Derin Öğrenme Bilgisi
Öğrenim Dili: İngilizce
Dersin Düzeyi: Lisans
Dersin Koordinatörü: - -
Dersin Amacı: Bu ders, lisans öğrencilerine doğal dil işleme (NLP) ve Büyük Dil Modellerinin (LLM) temellerini öğretmeyi amaçlamaktadır. Ders ayrıca öğrencilere konuları, Python programlama dili ve Numpy, Pandas, Matplotlib, Seaborn ve Scikit-Learn gibi popüler kütüphaneler ve ChatGPT, Gemini ve LangChain gibi popüler LLM modelleri ve çerçeveleri kullanarak uygulamaya koyma imkanı da sağlayacaktır.
Dersin İçeriği: 1. NLP'ye Giriş
2. Makine Öğrenmesiyle NLP
3. Derin Öğrenmeyle NLP
4. Büyük Dil Modelleri
5. Numpy, Pandas, Matplotlib, Seaborn, Scikit-Learn, ChatGPT, Gemini ve LangChain ile Python uygulaması dahil olmak üzere çeşitli kütüphaneler ve çerçevelerle uygulama.
Dersin Öğrenme Çıktıları (ÖÇ):
  • 1- NLP ve LLM'lerin kavramlarını ve temellerini öğrenmek ve kullanmak
  • 2- NLP ve LLM'lerin genel sürecini anlamak
  • 3- Python, temel kütüphaneler ve modeller kullanarak örneklerle NLP ve LLM'ler pratikleri
Dersin Öğrenme Yöntem ve Teknikleri • Sınıf içi dersler, • Ödevler, • Ara sınav, • Final sınavı


HAFTALIK PROGRAM

HaftaKonularÖn Hazırlık
1 Dersin Tanıtımı - Tüm öğrencileri kişisel ve akademik açıdan tanımak ve beklentilerini öğrenmek. - Ders Müfredatın, detaylarının ve anlatma yönteminin tanıtılması
2 NLP'ye Giriş - NLP’ye Giriş - NKP Teorisi - Veri Temizleme, - Vektörizasyon
3 Makine Öğrenmesiyle NLP - Makine Öğrenmesiyle NLP Uygulaması - Makine Öğrenmesiyle GenAI Uygulaması
4 Vektörleri Yerleştirme - Word2Vec - Glove - ELMo
5 Derin Öğrenmeyle NLP-1 - RNN & LSTM & GRU Teorisi
6 Derin Öğrenmeyle NLP-2 - Derin Öğrenme ile NLP Uygulaması - Derin Öğrenme ile GenAI Uygulaması
7 Transformers Modelleri - Attention konusuna Giriş - Transformatörler - BERT Modelleri - BERT Modelleri için İnce-ayar
8 Ara Sınav
9 Büyük Dil Modelleri-1 - LLM’lere Giriş - Prompt Engineering - Using of OpenAI GPT Models
10 Büyük Dil Modelleri-2 - OpenAI GPT Modelleri için İnce-ayar
11 Büyük Dil Modelleri-3 - Google Gemini Modellerini Kullanma - Google Gemini Modelleri İçin İnce Ayar
12 Büyük Dil Modelleri-4 - Langchain Çerçevesine Giriş, - Langchain Çerçevesinin Kullanımı, - Langchain aracılığıyla Metinden Özellik ve Etiket Çıkarımı
13 Büyük Dil Modelleri-5 - Langchain Üzerinden Artırılmış Üretim (RAG) Chatbot'u Alımı - Langchain Üzerinden Büyük Metin Özetleme
14 Konuların Gözden Geçirilmesi - Önemli Konuların Gözden Geçirilmesi


ZORUNLU ve ÖNERİLEN OKUMALAR

Bu dersi başarıyla takip etmek için zorunlu ders kitapları yoktur. Ancak, özellikle belirli konuları daha derinlemesine incelemek isteyenler için dikkate değer olabilecek çok sayıda referans bulunmaktadır.


DİĞER KAYNAKLAR

• Jay Alammar, Maarten Grootendorst, 2024, Hands-On Large Language Models, September 2024, O'Reilly Media, Inc., ISBN: 9781098150969.
• Sebastian Raschka, Build a Large Language Model (From Scratch), September 2024, Manning Publications Co., ISBN 9781633437166
• Jurafsky, D., Martin, J. H., 2022. Speech and Language processing : An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition (3/E), Prentice Hall.
• Delip Rao and Brian McMahan, 2019, Natural Language Processing with PyTorch: Build Intelligent Language Applications Using Deep Learning, O’Reilly Media; 1st edition
• Yoav Goldberg, 2017, Neural Network Models for Natural Language Processing, Springer
• Jacob Eisenstein, 2019, Introduction to Natural Language Processing, MIT Press


DEĞERLENDİRME SİSTEMİ

Yarıyıl İçi ÇalışmalarıSayıKatkı Payı (%)
Ödev 2 30
Ara Sınavlar/Sözlü Sınavlar/Kısa Sınavlar 1 20
Final Sınavı 1 50
Total: 4 100


İŞ YÜKÜ HESAPLAMASI

EtkinliklerSayısıSüresi (saat)Toplam İş Yükü (saat)
Ders Saati14342
Ödev21530
Ara Sınavlar/Sözlü Sınavlar/Kısa Sınavlar14040
Final Sınavı14040
Toplam İş Yükü (saat):152


PROGRAM YETERLİLİKLERİ (PY) ve ÖĞRENME ÇIKTILARI (ÖÇ) İLİŞKİSİ

# PY1 PY2 PY3 PY4 PY5 PY6 PY7 PY8 PY9 PY10 PY11
OC1                      
OC2                      
OC3