LLM (Large Language Model — Büyük Dil Modeli), çok büyük miktarda metinle eğitilmiş, doğal dili anlayıp üretebilen bir yapay zeka modelidir. Soru yanıtlama, özetleme, çeviri, kod yazma gibi işleri tek bir genel amaçlı modelle yapabilir.
Açık kaynak vs kapalı modeller
- Kapalı (API) modeller: sağlayıcının sunucusunda çalışır; veri dışarı gider.
- Açık kaynak modeller: ağırlıkları indirilebilir, kurum kendi sunucusunda çalıştırabilir — kapalı devre kurulumun temelidir.
Sınırları ve yönetimi
LLM’ler bazen kendinden emin ama yanlış yanıt üretebilir (halüsinasyon). Bu, mimariyle yönetilir: RAG ile yanıtı kurumun belgelerine bağlamak ve kaynak göstermek, doğruluğu belirgin biçimde artırır.
Bir LLM’in kuruma faydalı olması için onu kurumun kendi bilgisiyle birleştirmek gerekir; bu birleştirme katmanı RAG’dir.