ÖYG213 · YAPAY ZEKA DESTEKLİ YAZILIM GELİŞTİRME

Büyük Dil Modelleri

1. Bölüm — LLM nedir, nereden geldi, metni nasıl görür?

  • Tanım
  • Tarihçe
  • Token

Anadolu Üniversitesi · Bilişim Teknolojileri MYO · Ekim 2026 · Yön tuşlarıyla ilerleyin, T tema, + / − yazı boyutu, Esc genel görünüm

Güvenç Usanmaz · github.com/gusanmaz

Bu ünitenin haritası

1Nedir?Tanım, tarihçe, token
2Nasıl çalışır?Eğitim, tahmin, temperature
3BellekBağlam, halüsinasyon, araçlar
4KonuşmakPrompt, düşünen modeller
5İçi ve dışıAçık modeller, donanım
6BedeliMaliyet, kullanım, riskler

Sıra önemli: her bölüm bir öncekinin kavramlarını kullanır. Token bilinmeden bağlam penceresi, bağlam penceresi bilinmeden halüsinasyon anlaşılmaz.

ISINMA

Bugün bir yapay zekâya kaç soru sordunuz?

Eylül 2026 sonu itibarıyla ChatGPT'yi her hafta yaklaşık 1,2 milyar kişi kullanıyor. Bu ünitenin sonunda, her gün kullandığınız bu aracın içinde ne olduğunu anlatabiliyor olacaksınız.

ISINMA · LOGOYU TANI

Bu logo neyin logosu?

OpenAI

2015'te San Francisco'da kurulan şirket. Ürünü ChatGPT de aynı simgeyi kullanır; modellerinin adı GPT'dir.

ISINMA · LOGOYU TANI

Peki bu?

Claude

Claude hem uygulamanın hem modelin adıdır. Üreten şirket: Anthropic (2021'de kuruldu; kendi logosu farklıdır).

ISINMA · LOGOYU TANI

Bu?

Gemini

Gemini hem uygulamanın hem modelin adıdır. Üreten şirket: Google. Transformer'ı da Google icat etmişti.

ISINMA · LOGOYU TANI

Bu?

DeepSeek

Şirketin de modelin de adı DeepSeek. 2023'te Çin'in Hangzhou kentinde kuruldu. Ocak 2025'te çıkardığı R1 modeli, ucuzluğu ve gücüyle sektörü şaşırttı.

ISINMA · LOGOYU TANI

Bu?

Meta

Facebook, Instagram ve WhatsApp'ın sahibi olan şirket. Peki modelinin adı ne?

ISINMA · LOGOYU TANI

Meta'nın modeli: Llama

Machu Picchu'da, yeşil teraslar önünde duran beyaz-kahverengi bir lama
Adını aldığı hayvan: lama · Wikimedia Commons

LLaMA = Large Language Model Meta AI

  • Şubat 2023'ten beri indirilebilir (açık ağırlıklı)
  • Ayrı bir resmî logosu yok; Meta logosuyla anılır
  • Lama, açık model dünyasının gayriresmî maskotu oldu: Ollama, llama.cpp, LlamaIndex…
Parlayan mavi bir ağ küresinin yanında ışıktan yapılmış bir lama figürü
Meta AI'ın ürettiği “Meta AI ve Llama” görseli · Wikimedia Commons

ISINMA · LOGOYU TANI

Zorlaşıyor…

Mistral
şirket ve model · Paris

Grok
ürün · şirketi xAI

Qwen
model · şirketi Alibaba

Kimi
model · şirketi Moonshot AI

ISINMA · LOGOYU TANI

Şirketin logosu ile ürünün logosu ayrıdır

ŞirketÜrün / model
AnthropicClaude
GoogleGemini
xAIGrok
AlibabaQwen
Moonshot AIKimi

Karıştırmak kolay: bir haberde “Anthropic” geçer, uygulamada “Claude” yazar. Anthropic şirketin, Claude ise o şirketin ürününün adıdır.

ISINMA · LOGOYU TANI

BU KİM?

Logoların arkasındaki insanlar

Takım elbiseli, kısa saçlı genç bir adam

Sam AltmanOpenAI'ın yöneticisi

Gözlüklü, kıvırcık saçlı, konuşma yapan bir adam

Dario AmodeiAnthropic'in kurucu ortağı ve yöneticisi

Gözlüklü, saçsız, takım elbiseli bir adam

Demis HassabisGoogle DeepMind'ın yöneticisi; 2024 Nobel Kimya Ödülü

Kıvırcık saçlı, gülümseyen genç bir adam

Mark ZuckerbergMeta'nın kurucusu ve yöneticisi

Koyu takım elbiseli bir adam

Elon MuskxAI'ın kurucusu (Grok)

Gözlüklü, kır saçlı, gülümseyen bir adam

Jensen HuangNvidia'nın kurucusu ve yöneticisi

Fotoğraflar: Wikimedia Commons (Wikipedia'daki ilgili maddelerin görselleri)

ISINMA · LOGOYU TANI

TUZAK SORU

Hangisi bir LLM değildir?

ChatGPT bir uygulamadır. İçinde çalışan model GPT'dir. Uygulama; modelin üstüne arama, dosya yükleme, hafıza, kod çalıştırma gibi araçlar ekler. Bu ayrım ünite boyunca işimize yarayacak.

ISINMA · LOGOYU TANI

Ürün ≠ Model

ŞirketÜrün (uygulama)Model (LLM)
OpenAIChatGPTGPT-6 Astra, GPT-6.1 Sol, GPT-6 Luna
AnthropicClaude uygulaması, Claude CodeClaude Fable 5.1, Opus 5.5, Sonnet 5.5, Haiku 4.5
GoogleGemini uygulaması, AI StudioGemini 3.8 Flash, Gemini 3.1 Pro, Gemma (açık)
MicrosoftCopilotÇoğunlukla OpenAI modelleri
—Cursor, PerplexityBaşka şirketlerin modellerini kiralar

Model adları Ekim 2026 itibarıyla. Kaynak: OpenAI, Anthropic, Google model sayfaları.

ISINMA · LOGOYU TANI

Aynı soru, üç uygulama

“LLM nedir? Tek cümleyle, lise öğrencisine anlatır gibi açıkla.”

ChatGPT

“LLM (Büyük Dil Modeli), çok miktarda metin okuyarak dili öğrenen ve sorulara cevap verebilen, metin yazabilen bir yapay zekâ modelidir.”

Gemini

“… kelimelerin birbirini takip etme ihtimalini hesaplayarak … sohbet edebilen … çok gelişmiş bir yapay zeka programıdır.”

Gemini'nin mesaj kutusunun sağ ucu: model adı Flash-Lite ve mikrofon simgesi.

Perplexity

“… çok miktarda metinden öğrenerek insan dilini anlayıp yeni metinler yazabilen bir yapay zekâdır.”

Perplexity'nin Kaynaklar kutusu: üç site simgesi ve 10 kaynak.

Cevaplar benzer ama aynı değil. Model adı (Flash-Lite) ve kaynak kutusu modelin değil, uygulamanın eklediği şeyler.

Ekran görüntüleri: chatgpt.com, gemini.google.com, perplexity.ai; 11 Ekim 2026.

01

LLM nedir?

Üç kelime, tek fikir: sıradaki parçayı tahmin et.

01 · LLM NEDİR?

Large Language Model

Büyük Dil Modeli

Üç kelimeyi sondan başa doğru açalım: önce model, sonra dil, en son büyük.

01 · LLM NEDİR?

Önce büyük resim

İç içe dört kutu: Yapay zekâ (AI) içinde Makine öğrenmesi (ML), onun içinde Derin öğrenme (derin sinir ağları, DNN), en içte Büyük dil modelleri (LLM); her birinin kısa tanımı ve örneği yazıyor

Her LLM bir derin sinir ağıdır; her yapay zekâ programı LLM değildir. Bugün “yapay zekâ” denince çoğunlukla en içteki kutu kastediliyor.

01 · LLM NEDİR?

HANGİ KUTU?

Bunlar hangi kutuya girer?

ProgramEn dar kutu
ELIZA (1966): kurallarla sohbetYapay zekâ (AI); öğrenme yok
Spam süzgeci: örneklerden öğrenirMakine öğrenmesi (ML)
Telefonda yüz tanımaDerin öğrenme (DL)
ChatGPT'nin içindeki GPTBüyük dil modeli (LLM)

01 · LLM NEDİR?

Model: dünyayı taklit eden küçük bir kopya

  • Hava durumu modeli yarının havasını tahmin eder.
  • Navigasyon varış saatini tahmin eder.
  • Dil modeli sıradaki kelimeyi tahmin eder.

Bir model gerçeğin kendisi değildir. İyi bir tahmin makinesidir; bazen yanılır.

tahmin ≠ bilgi

Tahmin etmek, bilmek değildir. Model yanlış bir şeyi de aynı güvenle tahmin edebilir; buna 3. bölümde “halüsinasyon” adıyla döneceğiz.

01 · LLM NEDİR?

SİZ TAHMİN EDİN

Cümleyi tamamlayın

“Türkiye'nin başkenti Ankara”

Hepiniz aynı kelimeyi söylediniz. Kimse düşünmedi bile.

01 · LLM NEDİR?

SİZ TAHMİN EDİN

Peki bu?

“Bugün hava çok ___”

Tek doğru cevap yok; bir olasılık dağılımı var. Değerler temsilidir.

01 · LLM NEDİR?

Dil modeli tam olarak bunu yapar

Sinir ağı 'The mouse ate the' girdisinden sonraki token için olasılık tablosu üretiyor: cheese 0.20, cookie 0.12...

Girdi: “The mouse ate the” → Çıktı: sözlükteki her parça için bir olasılık.

Görsel: Stanford CS224G 2026, 3. ders — Whaley & Jannink

01 · LLM NEDİR?

Telefonunuzda zaten bir dil modeli var

Telefon klavyesi: 'Thou shalt' yazılmış; öneri çubuğunda 'is', 'not', 'I' kelimeleri
“Thou shalt” yazınca klavye üç devam öneriyor: is · not · I · Görsel: Jay Alammar, The Illustrated GPT-2

Klavyenin üstündeki öneri çubuğu küçük bir dil modelidir: yazdıklarınıza bakar, sıradaki kelimeyi tahmin eder.

LLM aynı işi yapar; farkı ölçek:

  • Çok daha fazla metin okumuştur
  • Çok daha uzun bir geçmişe bakar
  • Tahmini art arda binlerce kez yapar

01 · LLM NEDİR?

SINIFTA DENEYİN

Telefonunuzu çıkarın

  1. Bir mesaj kutusuna “Bugün okula” yazın
  2. Klavyenin önerdiği ortadaki kelimeye basın
  3. Yeni öneriden yine ortadakine basın; 10 kez tekrarlayın

Ortaya çıkan cümleyi yanınızdakiyle karşılaştırın. Anlamlı mı? Aynı mı?

Yaptığınız şey, bir dil modelinin metin üretme biçiminin ta kendisi: her adımda sıradaki kelimeyi seç, sona ekle, tekrarla.

01 · LLM NEDİR?

Büyük: ne kadar büyük?

Bu sayılar parametre sayısıdır. Güncel amiral gemisi modellerin parametre sayısı açıklanmıyor; açık modellerde yüz milyarlar ile trilyon arası.

Kaynak: OpenAI GPT-1/2/3 makaleleri. Çubuklar GPT-3'e oranlıdır; GPT-1 neredeyse görünmez.

01 · LLM NEDİR?

Parametre nedir?

Bir ses masasındaki ayar düğmelerini düşünün.

  • Her düğme tek bir sayı tutar
  • Eğitim, bu düğmeleri azar azar çevirme işidir
  • Amaç, modelin tahminlerinin gerçek metne benzemesidir

175 milyar düğmeyi kimse elle çevirmiyor. Bunu bir algoritma yapıyor; 2. bölümde göreceğiz.

175.000.000.000

GPT-3'ün düğme sayısı. Saniyede bir düğme çevirseniz 5.500 yıl sürerdi.

01 · LLM NEDİR?

Kutunun içi: sinir ağı (neural network)

Altı katmanlı sinir ağı: solda 4 mavi girdi düğümü, ortada dört gri gizli katman, sağda 3 turuncu çıktı düğümü; komşu katmanlar çizgilerle tam bağlı

Daireler düğüm, çizgiler bağlantı. Sıra sıra dizilmiş dairelere katman (layer) denir. Sayılar soldan girer, sağdan çıkar.

01 · LLM NEDİR?

SİZ HESAPLAYIN

Tek bir düğümde ne olur?

Üç giriş sayısı (0,5 ; 0,8 ; 0,2), üstlerinde ağırlıklar yazan çizgilerle (çarpı 0,9 ; çarpı eksi 0,3 ; çarpı 0,4) 'topla' düğümüne bağlı; çıkan sayı 0,29

Çarp ve topla; hepsi bu. Çizgilerin üstündeki sayılar ağırlık (weight) ya da parametre: her biri bir ayar düğmesi.

01 · LLM NEDİR?

Son küçük adım: aktivasyon fonksiyonu (activation function)

Solda ReLU grafiği: eksi tarafta sıfır, artı tarafta aynen. Sağda üç örnek: 0,29 → 0,29 ; −0,40 → 0 ; 1,70 → 1,70

Her düğüm: çarp, topla, kapıdan geçir. En yaygın kapı ReLU: eksiyse 0, artıysa aynen. Bu küçük bükülme olmasa yüz katman, tek katmandan farksız olurdu.

01 · LLM NEDİR?

Derin (deep) = çok katman

GPT-2'nin dört boyutu giderek büyüyen kutularla: 117 milyon, 345 milyon, 762 milyon, 1.542 milyon parametre

Aynı yapıyı çok daha fazla daireyle, üst üste onlarca katman (layer) hâlinde kurarsanız buna derin sinir ağı denir.

Şekil: aynı modelin (GPT-2) dört boyutu. Kutu büyüdükçe düğme sayısı artıyor.

Görsel: Jay Alammar, The Illustrated GPT-2

01 · LLM NEDİR?

DÜŞÜNÜN

Gözünüz bağlı, dağda en alçak noktayı arıyorsunuz. Ne yaparsınız?

Dalgalı turuncu bir yüzeyde siyah noktalar tepelerden çukurlara doğru adım adım iniyor
Wikimedia Commons

Ayağınızla eğimi yoklar, aşağı doğru küçük bir adım atarsınız. Tekrar yoklarsınız.

Bu benzetmede arazinin yüksekliği modelin hatasıdır; bulunduğunuz yer de düğmelerin o anki ayarı. En alçak nokta, hatanın en az olduğu ayardır.

Bu yöntemin adı gradyan inişi (gradient descent).

01 · LLM NEDİR?

Eğitim (training): düğmeleri azar azar çevirmek

1Göster“Türkiye'nin başkenti ___”
2TahminModel: “Paris” (düğmeler henüz rastgele)
3ÖlçDoğru cevap “Ankara”. Tahmin ne kadar yanlış?
4ÇevirHer düğmeyi, hatayı azaltacak yöne çok az çevir

↻ Milyarlarca kez

Kimse 175 milyar düğmeyi elle ayarlamıyor.

01 · LLM NEDİR?

Eğitimden önce, eğitimden sonra

Aynı ağ iki kez: solda eğitimden önce 'Türkiye'nin başkenti' için olasılıklar rastgele (mavi %31, koşmak %27, Paris %22, Ankara %2); sağda eğitimden sonra Ankara %88

Ağın yapısı aynı. Değişen yalnızca çizgilerin üstündeki sayılar.

01 · LLM NEDİR?

Sinir ağından dil modeline

Dört adım: metin beş tokena bölünür; her token bir sayı listesine dönüşür; sayılar çok katmanlı sinir ağından geçer; çıkışta olasılıklar: Ankara %88, neresidir %6, İstanbul %3

“Sıradaki kelimeyi tahmin eden program” ile “milyarlarca düğmeli sinir ağı” aynı şey: biri ne yaptığını, diğeri neyden yapıldığını söyler.

Token bölünmesi ve numaralar gerçek (o200k_base); olasılıklar temsili.

01 · LLM NEDİR?

Özetle…

xkcd karikatürü: Bu sizin makine öğrenmesi sisteminiz mi? Evet, veriyi şu lineer cebir yığınına döküyorsun, cevapları öbür taraftan topluyorsun. Ya cevaplar yanlışsa? Doğru görünene kadar yığını karıştırıyorsun.

“Ya cevaplar yanlışsa?” — “Doğru görünene kadar yığını karıştırıyorsun.”

Randall Munroe, xkcd 1838: Machine Learning

01 · LLM NEDİR?

Sinir ağları, çizimlerle (19 dk)

3Blue1Brown, “But what is a neural network?” · devamı: “Gradient descent, how neural networks learn”

01 · LLM NEDİR?

BU KİM?

Bu ünitede adını sık duyacaksınız

Kürsüde, dizüstü bilgisayarının başında gülümseyen genç bir adam

Andrej Karpathy

  • OpenAI'ın kurucu ekibinden araştırmacı
  • Tesla'da otonom sürüş yapay zekâsının eski yöneticisi
  • Bu konuları en iyi anlatan eğitmenlerden; videoları ücretsiz
  • “Vibe coding” terimini ortaya atan kişi (2025)

Fotoğraf: Wikimedia Commons · videoları: karpathy.ai/llm-course

01 · LLM NEDİR?

Bir LLM aslında iki dosyadır

1 · Parametre dosyası

İçinde yalnızca sayılar olan, yüzlerce gigabaytlık bir dosya. Modelin bütün “bilgisi” buradadır.

2 · Çalıştırma kodu

Birkaç yüz satırlık küçük bir program. Bu sayıları çarpıp toplayarak sıradaki parçayı üretir.

İnternetin kayıplı sıkıştırılmış bir kopyası gibi düşünün: zip dosyası, ama açınca aslının tıpatıp aynısı çıkmıyor.Andrej Karpathy, “Intro to Large Language Models” (2023) — serbest çeviri

01 · LLM NEDİR?

Tek cümleyle

LLM, çok büyük miktarda metinden öğrenerek sıradaki parçayı tahmin eden ve bunu art arda yaparak metin üreten bir sinir ağıdır.

Soru cevaplamak, kod yazmak, çeviri yapmak: hepsi bu tek becerinin yan ürünü.

01 · LLM NEDİR?

LLM ne değildir?

Veritabanı

Bilgiyi satır satır saklamaz; kalıpları saklar.

Arama motoru

Kendi başına internete bakmaz.

Hesap makinesi

Sayıyı hesaplamaz, tahmin eder.

Kişi

Niyeti ve duygusu yoktur. Özel bir ayar yoksa bir sohbetten diğerine sizi hatırlamaz.

Bugünkü uygulamalar bu eksikleri araçlarla kapatır. Modelin kendisi hâlâ bir tahmin makinesidir.

01 · LLM NEDİR?

8 dakikada özet

3Blue1Brown, “Large Language Models explained briefly” — youtube.com/watch?v=LPZh9BOjkQs · Türkçe altyazı açılabilir.

02

Tarihçe

Fikir 70 yıllık; asıl sıçrama son birkaç yılda oldu.

02 · TARİHÇE

TAHMİN

ChatGPT ne zaman yayımlandı?

30 Kasım 2022. Henüz dört yıl olmadı. Beş günde 1 milyon, iki ayda 100 milyon kullanıcıya ulaştı.

02 · TARİHÇE

BU KİM?

1950: “Makineler düşünebilir mi?”

Takım elbiseli, saçları yana taranmış genç bir adamın siyah beyaz portresi

Alan Turing

İngiliz matematikçi (1912–1954). Modern bilgisayar biliminin kurucularından; İkinci Dünya Savaşı'nda Alman şifrelerinin kırılmasında rol aldı.

Turing testi: yazışarak konuştuğunuz karşı tarafın insan mı makine mi olduğunu ayırt edemiyorsanız, o makineye “düşünüyor” denebilir mi?

Fotoğraf: Wikimedia Commons

02 · TARİHÇE

1966: ELIZA

ELIZA programının terminalde bir kullanıcıyla sohbeti
ELIZA sohbeti · Wikimedia Commons, kamu malı

MIT'de Joseph Weizenbaum'un yazdığı, ilk sohbet programlarından biri.

  • Yazılanı anlamıyordu
  • Cümlenizdeki bir kelimeyi alıp soruya çeviriyordu
  • Yine de insanlar ona içini döktü

İnsanın makineye anlam yükleme eğilimine bugün hâlâ ELIZA etkisi deniyor.

02 · TARİHÇE

ELIZA nasıl “konuşuyordu”?

Cümlede şu varsaŞunu söyle
“annem”, “babam”“Bana ailenizden bahsedin.”
“Ben … hissediyorum”“Neden … hissediyorsunuz?”
hiçbiri“Devam edin.”
Gözlüklü, bıyıklı, yaşlı bir adamın siyah beyaz fotoğrafı: Joseph Weizenbaum

Program birkaç yüz satırlık kuraldan ibaretti. Yazılanı anlamıyor, yeni bir şey de öğrenmiyordu.

Weizenbaum'un sekreteri, programla konuşurken ondan odadan çıkmasını istedi. Weizenbaum bundan o kadar rahatsız oldu ki ömrünün kalanında yapay zekâyı eleştirdi.

Akıcı konuşan bir makinenin bizi anladığını sanmamıza ELIZA etkisi denir.

02 · TARİHÇE

1997: bilgisayar, satrançta dünya şampiyonunu yendi

Müzede sergilenen insan boyunda siyah bilgisayar kabini: IBM Deep Blue
Deep Blue · Wikimedia Commons, CC BY 2.0
Takım elbiseli, kır saçlı bir adam: Garry Kasparov

Garry Kasparov: 1985'ten 2000'e kadar dünya satranç şampiyonu. Pek çok kişiye göre tarihin en iyi oyuncusu.

Deep Blue: IBM şirketinin yalnızca satranç oynamak için yaptığı bilgisayar.

Mayıs 1997'de altı oyunluk bir maç yaptılar. Maçı Deep Blue kazandı: 3,5'e 2,5.

02 · TARİHÇE

TAHMİN

Kasparov'u yenen bu bilgisayar bir cümle kurabiliyor muydu?

Hayır. Deep Blue “zeki” değildi ve hiçbir şey öğrenmiyordu. Her hamleden önce saniyede 200 milyon olası hamleyi tek tek deniyor, en iyi sonucu vereni seçiyordu.

Düşünmek yerine bütün olasılıkları hızla denemeye kaba kuvvet (brute force) denir. Satrançta işe yarar; dilde yaramaz, çünkü kurulabilecek cümlelerin sayısı sonsuzdur.

02 · TARİHÇE

TARTIŞIN

2012: “Go’da bilgisayarlar hâlâ en iyi insanlara yeniliyor”

xkcd çizelgesi: bilgisayarlar için oyunların zorluğu. Go, “bilgisayarlar hâlâ en iyi insanlara yeniliyor” bölgesinde

Bu çizelge 2012’den. Satranç yukarıda, Go aşağıda.

Dört yıl sonra AlphaGo dünya düzeyinde bir Go oyuncusunu yendi.

Bugün hangi “bilgisayar bunu asla yapamaz” cümlesine şüpheyle bakardınız?

xkcd 1002: Game AIs, CC BY-NC 2.5

02 · TARİHÇE

2012: ekran kartları sahneye çıkıyor

Fotoğraftaki nesneyi tanıma yarışması (ImageNet):

AlexNet derin bir sinir ağıydı ve oyun bilgisayarlarındaki iki ekran kartında (GPU) eğitilmişti.

Neden ekran kartı?

Oyunda milyonlarca pikseli aynı anda hesaplamak için tasarlandı. Sinir ağı eğitimi de aynı türden bir iştir: çok sayıda basit çarpma işleminin aynı anda yapılması gerekir.

O günden beri yapay zekâ modelleri ekran kartlarında eğitiliyor. Bu kartların en büyük üreticisi Nvidia da bu sayede dünyanın en değerli şirketlerinden biri oldu.

Krizhevsky, Sutskever, Hinton, “ImageNet Classification with Deep Convolutional Neural Networks” (2012)

02 · TARİHÇE

BU KİM?

Derin öğrenmenin arkasındaki isimler

Elini çenesine dayamış, beyaz saçlı yaşlı bir adam

Geoffrey HintonSinir ağlarının öncüsü; AlexNet ekibinin hocası. 2024 Nobel Fizik Ödülü

Sahnede koltukta oturan takım elbiseli bir adam

Ilya SutskeverAlexNet'in ortak yazarı; sonra OpenAI'ın kurucu ortağı ve baş bilimcisi

Kürsüde konuşma yapan bir kadın

Fei-Fei LiYarışmanın dayandığı ImageNet fotoğraf arşivini kurdu

Siyah çerçeveli gözlüklü, gülümseyen bir adam

Yann LeCunGörüntü tanıyan sinir ağlarının öncüsü; uzun yıllar Meta'nın baş bilimcisi

Kır saçlı ve sakallı, gülümseyen bir adam

Yoshua BengioHinton ve LeCun ile 2018 Turing Ödülü'nü paylaştı

AlexNet'in üç yazarı: Alex Krizhevsky, Ilya Sutskever ve hocaları Geoffrey Hinton. Turing Ödülü, bilgisayar biliminin Nobel'i sayılır.

Fotoğraflar: Wikimedia Commons (Wikipedia'daki ilgili maddelerin görselleri)

02 · TARİHÇE

Uzun bekleyiş

  • 1950 Alan Turing: “Makineler düşünebilir mi?”
  • 1966 ELIZA: kural tabanlı sohbet
  • 1997 Deep Blue satrançta Kasparov'u yener; ama tek cümle kuramaz
  • 2012 AlexNet: derin sinir ağları görüntü tanımada büyük fark atar; ekran kartları önem kazanır
  • 2013 word2vec: kelimeler sayıya dönüşür
  • 2017 Transformer: “Attention Is All You Need”

02 · TARİHÇE

2013: kelimeler koordinat olur

King, Man, Queen, Woman kelimelerinin iki boyutlu uzayda paralel oklarla gösterimi
Wikimedia Commons · “Word vector illustration”
Uzun saçlı genç bir adam: Tomáš Mikolov

kral − erkek + kadın ≈ kraliçe

Yöntemi geliştiren: Tomáš Mikolov ve Google'daki ekibi.

Her kelimeye bir sayı listesi verilir; bu listeye embedding denir. Anlamca yakın kelimelerin sayıları da birbirine yakındır.

Bugünkü modellerde her parça için binlerce sayıdan oluşan bir liste tutulur.

02 · TARİHÇE

Kelimelerle toplama çıkarma: kendiniz görün

word2viz sitesi: yatay eksen she'den he'ye, dikey eksen woman'dan queen'e. aunt–uncle, niece–nephew, mother–father, queen–king gibi kelime çiftleri birbirine paralel çizgilerle bağlanmış

Yatay eksen: “she” (kadın) → “he” (erkek). Her çizgi bir çifti bağlıyor: teyze–amca, kraliçe–kral… Çizgiler paralel: “cinsiyet” farkı hep aynı yönde. Kendi kelime çiftinizi ekleyebilirsiniz.

lamyiowce.github.io/word2viz · hesap makinesi gibi denemek için: Word to Vec JS Demo · nokta bulutu: Embedding Projector

02 · TARİHÇE

TAHMİN EDİN

“computer” kelimesinin en yakın komşuları hangileri?

10 bin İngilizce kelimelik word2vec haritasında computer (bilgisayar) kelimesine en yakın beş kelime sizce hangileri? Videoyu oynatmadan tahmin edin.

Sırasıyla: computers · computing · software · hardware · pc. Kimse modele “yazılım bilgisayarla ilgilidir” demedi; kelimelerin metinlerde yan yana geçmesinden öğrenildi.

Embedding Projector, projector.tensorflow.org · kayıt: 11 Ekim 2026 · her kelime 200 sayılık bir liste; ekrandaki üç boyut onun sığdırılmış gölgesi

02 · TARİHÇE

SINIFTA OYNAYIN

Semantle Türkçe: gizli kelimeyi anlamından bulun

Semantle Türkçe sitesinin açılış ekranı: 'Gizli Sözcüğü Bul' başlıklı kural açıklaması; tahminlerin gizli sözcüğe anlamca yakınlığının Word2Vec ile hesaplandığı yazıyor
  1. Bir kelime tahmin edin
  2. Oyun, tahmininizin gizli kelimeye anlamca ne kadar yakın olduğunu puanla söyler
  3. Puan arttıkça doğru yöndesiniz

Puanı hesaplayan şey, az önce gördüğümüz kelime sayılarıdır (word2vec). İngilizce benzerleri: Contexto, Semantris (hızlı oyun)

semantle.ozanalpay.com · her gün yeni bir kelime

02 · TARİHÇE

2017: her şeyi değiştiren makale

Transformer mimarisi şeması: kodlayıcı ve kod çözücü blokları
Vaswani ve ark., 2017 · Şekil 1

“Attention Is All You Need”

  • Google'dan 8 araştırmacı
  • Amaç: daha iyi makine çevirisi
  • Fikir: her kelime, cümledeki tüm diğer kelimelere aynı anda baksın
  • Sonuç: ekran kartlarında hızla eğitilebilen ve uzun metinde bağlamı kaybetmeyen bir tasarım

GPT'deki T harfi: Transformer.

arxiv.org/abs/1706.03762

02 · TARİHÇE

2018–2020: “daha büyüğünü yap” dönemi

  • 2018 GPT-1 ve BERT: modeli önce bol miktarda ham metinle eğitme, sonra belirli bir işe uyarlama fikri
  • 2019 GPT-2: OpenAI “kötüye kullanılabilir” diyerek tam modeli aylarca yayımlamadı
  • 2020 GPT-3: 175 milyar parametre; birkaç örnek gösterince yeni iş öğreniyor
  • 2021 GitHub Copilot: ilk yaygın yapay zekâ kod yardımcısı

Keşif: mimariyi değiştirmeden yalnızca büyütmek bile yeni yetenekler doğuruyor.

02 · TARİHÇE

30 Kasım 2022: ChatGPT

100 milyon kullanıcıya ulaşma süresi

Teknoloji yeni değildi (GPT-3.5). Yeni olan arayüzdü: bir sohbet kutusu.

Kaynak: UBS / Similarweb analizi, Reuters, Şubat 2023.

02 · TARİHÇE

2023–2024: yarış başlıyor

  • 2023 Şubat Meta, Llama'yı yayımlar: herkesin indirebildiği modeller dönemi başlar
  • 2023 Mart GPT-4 ve Claude: avukatlık ve tıp sınavlarını geçen modeller
  • 2024 Mayıs GPT-4o: metin, ses ve görüntü tek modelde
  • 2024 Eylül o1: cevap vermeden önce “düşünen” ilk yaygın model
  • 2024 Bağlam penceresi 1 milyon tokena çıkar (Gemini 1.5)

02 · TARİHÇE

İlk LLM'lerin soy ağacı

Word2Vec'ten (2013) Mixtral'e (2024) erken LLM'lerin zaman çizelgesi; her modelin getirdiği yenilik etiketlenmiş

Görsel: Stanford CS224G 2026, 3. ders — Whaley & Jannink. Parantez içi: parametre sayısı.

02 · TARİHÇE

2025: DeepSeek şoku ve ajanlar

  • Ocak DeepSeek R1: Çin'den, herkesin indirebildiği ve cevaptan önce “düşünen” bir model
  • Şubat Claude Code: terminalde çalışan kodlama ajanı; “vibe coding” terimi doğar
  • Ağustos GPT-5
  • Yıl boyu Modeller saatlerce kendi başına çalışmaya başlar

≈ 589 milyar $

27 Ocak 2025'te Nvidia'nın bir günde kaybettiği piyasa değeri. Sebep: yatırımcılar, güçlü modellerin çok daha ucuza yapılabildiğini görünce pahalı çiplere talebin düşeceğinden korktu.

Kaynak: CNBC, 27 Ocak 2025.

02 · TARİHÇE

“Herkesin indirebildiği model” nerede durur?

Hugging Face'te deepseek-ai/DeepSeek-R1 sayfası: 1 kurum ve model adı, 2 MIT lisansı, 3 Files and versions sekmesi, 4 geçen ay 1.119.761 indirme, 5 model boyutu 684 milyar parametre

Hugging Face: açık modellerin paylaşıldığı site. Ekran görüntüsü: huggingface.co, 11 Ekim 2026.

02 · TARİHÇE

Bugün: Ekim 2026

LMArena ana sayfası: en iyi ajanlar listesinde Claude Fable 5.1, Claude Opus 5.5, Claude Sonnet 5.5, GPT 6 Astra, GPT 6.1 Sol

Ekran görüntüsü: lmarena.ai, 5 Ekim 2026. Sıralama haftadan haftaya değişir; derse gelmeden canlı sayfaya bakın.

02 · TARİHÇE

TARTIŞIN

1525 puanlı model, 1507 puanlıdan daha mı iyi?

Rank Spread (3): 2. sıradaki modelin gerçek yeri 2. ile 10. arası.

± hata payı (4): puanlar birbirine bu paydan daha yakın.

Kategori (2): kodlamada birinci olan, yaratıcı yazıda birinci olmayabilir.

Birkaç puanlık fark “daha iyi” demek değil; kendi işinizde deneyin.

LMArena Text Arena sıralaması: 1 toplam 8,7 milyon oy ve 414 model, 2 kategori listesi, 3 Rank Spread sütunu, 4 Score ve hata payı, 5 Votes sütunu

Ekran görüntüsü: lmarena.ai/leaderboard/text, 11 Ekim 2026.

02 · TARİHÇE

Dört yılda ne değişti?

Kasım 2022Ekim 2026
Bağlam penceresi≈ 4 bin token1 milyon token standart
Girdi türüYalnızca metinMetin, görüntü, ses, video, PDF
Güncel bilgiYokWeb araması yerleşik
Çalışma süresiTek cevapSaatlerce süren ajan görevleri
Haftalık kullanıcı (ChatGPT)0≈ 1,2 milyar

Kaynak: OpenAI, Anthropic, Google model sayfaları; kullanıcı sayısı: TechnologyChecker derlemesi, Eylül 2026.

02 · TARİHÇE

Neden şimdi oldu?

Veri

İnternet: milyarlarca sayfa hazır metin.

Hesaplama

Oyun için üretilen GPU'lar, sinir ağı eğitimine çok uygun çıktı.

Mimari

Transformer bu ikisini verimli kullanabilen ilk tasarımdı.

Üçü de aynı on yıla denk geldi. Sinir ağı fikri 1950'lerden beri vardı; onu çalıştıracak veri ve donanım ancak şimdi hazır oldu.

03

Token

Modelin metni böldüğü parçalar. Kullanımın ölçüsü de ücreti de bunlarla hesaplanır.

03 · TOKEN

SORU

Bir LLM metni nasıl okur?

Model metni token adı verilen parçalara böler. Token bazen bir kelime, bazen bir hece, bazen tek bir harf ya da noktalama işaretidir.

03 · TOKEN

Kelime ≠ token

Gerçek tokenizer çıktısı. Her renkli kutu bir token.

I love programming 3 kelime · 3 token

ChatGPT hallucinated a nonexistent citation. 5 kelime · 8 token

indistinguishable 1 kelime · 4 token

Sık geçen kısa kelimeler tek token. Uzun ya da nadir kelimeler İngilizcede de parçalanır; üstelik anlamlı yerlerinden değil.

OpenAI o200k_base tokenizer'ı (GPT-4o ve sonrası), tiktoken kütüphanesiyle hesaplandı.

03 · TOKEN

Aynı cümle, iki dil

I am going to school today. 6 kelime · 7 token

Bugün okula gidiyorum. 3 kelime · 7 token

Hello, how are you today? 5 kelime · 7 token

Merhaba, bugün nasılsın? 3 kelime · 9 token

Türkçe az kelimeyle çok şey söyler; ama her kelime daha çok parçaya bölünür.

Kendiniz deneyin: tiktokenizer.vercel.app · platform.openai.com/tokenizer · Hugging Face tokenizer playground (farklı modellerin tokenizer'ları)

03 · TOKEN

TAHMİN EDİN

Bu cümle kaç token?

Yapay zekâ, yazılım geliştirmeyi değiştiriyor.

14 token. İngilizcesi (Artificial intelligence is changing software development.) 7 token. Türkçe kelimeler üçer parçaya bölünüyor: geliştirmeyi değiştiriyor

Token sayısı videonun sağ üstünde. Tiktokenizer, o200k_base (GPT-4o ve sonrası): tiktokenizer.vercel.app · kayıt: 11 Ekim 2026

03 · TOKEN

Tokenizer'ı canlı görün

Tiktokenizer sitesi: solda yazılan cümleler, sağda aynı metin renkli tokenlara bölünmüş ve altında token numaraları; toplam 65 token

Ekran görüntüsü: tiktokenizer.vercel.app · sağ altta tokenların numaraları: model yalnızca bunları görür.

03 · TOKEN

Türkçe neden daha çok token harcar?

evlerimizdekilerden 6 token

from those in our houses 5 kelime, 5 token

Türkçe sondan eklemeli: tek kelimeye bir cümlelik anlam sığar. Tokenizer İngilizce ağırlıklı metinle eğitildiği için Türkçe ekleri tanımaz, kelimeyi parçalar.

03 · TOKEN

TAHMİN

Bu kelime kaç token?

Çekoslovakyalılaştıramadıklarımızdan mısınız?

Çekoslovakyalılaştıramadıklarımızdan mısınız?

19 token

03 · TOKEN

Türkçe yazmak kaç kat pahalı?

Aynı 2.009 cümle, İngilizcesine göre kaç kat token

“Türkçe 3 kat pahalı” söylentisi doğru değil; yaygın modellerde yaklaşık 1,4 kat.

Kaynak: M. T. Şahin, token-toll ölçümü.

03 · TOKEN

Pratik kural

≈ 4

karakter = 1 token
(İngilizce)

≈ 750

kelime = 1.000 token
(İngilizce)

≈ 500

kelime = 1.000 token
(Türkçe, kabaca)

1 milyon token ≈ 2.500 sayfa İngilizce metin. Kesin sayı için metni tokenizer'a yapıştırın.

03 · TOKEN

Neden harf ya da kelime değil?

Modelin bir sözlüğü (vocabulary) var: tanıdığı parçaların listesi. Yalnızca listedeki parçaları okuyup yazabilir. Listeye ne koymalı?

Yöntem“evlerimizdekilerden”Sorun
Harf harf19 parçaHer metin çok uzar; model yavaşlar
Kelime kelime1 parçaev, evler, evlerim, evlerimiz… hepsi listeye sığmaz; listede olmayan kelimeyi model okuyamaz
Tokenevlerimizdekilerden
6 parça
Yok: model kelimeyi hiç görmemiş olsa da parçalarını tanır

Güncel modellerin listesinde yaklaşık 100–200 bin parça var.

03 · TOKEN

KLASİK

“strawberry” kelimesinde kaç tane r var?

Siz 3 dediniz. 2024'te en iyi modeller ısrarla 2 diyordu. Çünkü model harfleri görmüyor: strawberry Model üç parça görüyor; kelimede kaç r olduğu hiçbir yerde yazmıyor.

03 · TOKEN

Model harfleri değil, numaraları görür

Metinstrawberry
Tokenlarst · raw · berry
NumaralarHer tokenın bir numarası var: 3 sayı
Sayı listeleriHer numara, binlerce sayılık bir listeye çevrilir

Harf saymak, tersten yazmak, kafiye bulmak: token sınırlarını aşan işler model için şaşırtıcı derecede zordur.

Güncel modeller bu soruyu çoğunlukla doğru cevaplıyor: ya “düşünerek” harfleri tek tek yazıyor ya da kod çalıştırıyor.

03 · TOKEN

TAHMİN EDİN

Harfleri ayrı ayrı yazarsak ne olur?

strawberry 3 token. Aynı kelimeyi s t r a w b e r r y diye, harflerin arasına boşluk koyarak yazarsak kaç token olur? Bu, harf saymayı neden kolaylaştırır?

10 token: her harf ayrı bir kutu. Üç r artık modelin önünde ayrı ayrı duruyor. Düşünen modeller harf saymadan önce kelimeyi tam olarak böyle yazıyor.

Tiktokenizer, o200k_base: tiktokenizer.vercel.app · kayıt: 11 Ekim 2026 · videodaki toplam 14 = 3 + satır sonu + 10

03 · TOKEN

3 dakikada: yapay zekâ neden “strawberry” yazamıyor?

TechCrunch, “AI can't spell strawberry. Here's why”

03 · TOKEN

Sayılar da parçalanır

1234567 * 7654321

Model 1234567 sayısını tek bir sayı olarak görmez; üç ayrı parça görür.

Büyük sayılarla çarpma neden zor? 4. bölümde bu resme geri döneceğiz.

03 · TOKEN

Token aynı zamanda para birimidir

1 milyon token başına API fiyatı (ABD doları)

ModelGirdiÇıktı
Claude Fable 5.1 · GPT-6 Astra10,0050,00
Claude Opus 5.54,0020,00
GPT-6.1 Sol · Claude Sonnet 5.52,0010,00
GPT-6 Luna0,100,50

Modelin yazdığı (çıktı) token, okuduğu (girdi) tokendan 5 kat pahalı. En ucuz ile en pahalı arasında 100 kat fark var.

Kaynak: OpenAI ve Anthropic fiyat sayfaları, Ekim 2026.

03 · TOKEN

Token üç şeyi belirler

Maliyet

Fatura token başına kesilir. Türkçe yazınca fatura büyür.

Hız

Model tokenları tek tek üretir. Hız “saniyede token” ile ölçülür.

Kapasite

Modelin bir seferde görebildiği metin token ile sınırlıdır.

Üçüncüsünün adı bağlam penceresi. 3. bölümün konusu.

03 · TOKEN

SINIFTA DENEYİN

Kendi adınız kaç token?

  1. tiktokenizer.vercel.app ya da HF tokenizer playground adresini açın
  2. Adınızı ve soyadınızı yazın
  3. Aynı cümleyi Türkçe ve İngilizce yazıp token sayılarını karşılaştırın
  4. Bir emoji, bir sayı ve bir kod satırı deneyin

İçinde ç, ğ, ı, ö, ş, ü olan adlar genellikle daha çok tokena bölünür.

03 · TOKEN

Öğrenmek için sorun

Bu konuları yapay zekâyla birlikte öğrenmek için örnek istekler (14. sunum, “Yapay zekâyla öğrenmek”):

🗂️ Ben sınıflayayım

“Yapay zekâ, makine öğrenmesi, derin öğrenme ve LLM'i iç içe kutularla açıkla. Sonra 6 örnek ver; hangisinin hangi kutuya girdiğini ben söyleyeyim.”

🕰️ Ben sıralayayım

“2012, 2013, 2017 ve 2022'deki dönüm noktalarını karışık ver. Ben sıraya dizip her birinin neyi mümkün kıldığını yazayım.”

🔢 Önce tahminim

“Bana 5 cümle ver. Her birinin kaç token olacağını önce ben tahmin edeyim, sonra Tiktokenizer'da kontrol edelim.”

03 · TOKEN

1. bölümden akılda kalacaklar

  • LLM bir tahmin makinesidir: sıradaki tokenı tahmin eder
  • ChatGPT ürün, GPT model; ikisi aynı şey değil
  • Bugünkü sıçramayı üç şey mümkün kıldı: Transformer (2017), internet verisi ve ekran kartları
  • Model harf ya da kelime değil, token görür
  • Token; maliyetin, hızın ve kapasitenin ölçü birimidir

Sırada: bu makine nasıl eğitiliyor ve içinde ne oluyor? → 2. bölüm

Bütün sunumlar · 2. sunum: Bir LLM nasıl üretilir, nasıl çalışır? →

Güvenç Usanmaz · github.com/gusanmaz