Artık her şey sende. Modeli seç, ona belgelerini öğret; test et, koru, anlat ve yayına al. Sonra bayrağı devret.
6.01 · 8 dk
Yap mı, Satın Al mı?
Yönetim kurulu CafeFlow'a bir yapay zekâ asistanı istiyor. Modeli kendin mi eğiteceksin, yoksa kiralayacak mısın, karar ver. Sonra Model Lab'de yeterince iyi, yeterince hızlı ve bütçeye uygun olanı seç.
Motoru kirala, sana ait olanı kendin yap. Her sınırı geçen modeli seç.
- Modeli kiralayıp belgeleri, kuralları ve testleri kendin kurmaya karar verebilirsin.
- Kendi test setinde kalite, hız ve maliyeti tartarak bir yapay zekâ modeli seçebilirsin.
6.02 · 11 dk
Belgelerimizi Öğret
Asistan kendinden emin konuşuyor ama CafeFlow'la ilgili bilgileri yanlış veriyor. Ona kendi belgelerini ver: parçalara böl, doğru parçayı bul ve Byte'a yalnızca ihtiyacı olanı ver.
Açık kitap: doğru parçaları bul, yalnızca onları gönder, “bilmiyorum”a izin ver.
- RAG için belgeleri konulara bölüp embedding aramasının nasıl çalıştığını açıklayabilirsin.
- Yapay zekâya yalnızca gereken parçaları verip gerekirse “bilmiyorum” dedirtebilirsin.
6.03 · 12 dk
Ölç Bakalım
“Demoda harikaydı” bir puan değildir. Bir eval kur: örnek cevapları notlandır, bir test setini neyin dürüst kıldığını öğren, sonra asistanı senin yerine notlandıracak yapay zekâ yargıcının kriterlerini yaz.
Demo puan değildir. Gerçek, zor soruları notlandır; her değişiklikte yeniden çalıştır.
- Gerçek ve zorlayıcı sorulardan oluşan, geçti/kaldı puanlanan bir eval kurabilirsin.
- Yapay zekâ yargıç için bilgiyi kaynakla karşılaştıran net kriterler yazabilirsin.
6.04 · 8 dk
Cevap Başına Maliyet
İlk fatura geliyor ve Victor espressosunu boğazına kaçırıyor. Paranın nereye gittiğini bul; sonra cevapları kötüleştirmeden, bir cache ve kolay sorular için daha ucuz bir modelle faturayı düşür.
Paranın nereye gittiğini ölç; sonra tekrar edeni cache'le, basit olanı yönlendir.
- Yapay zekâ faturasını özelliklere ayırıp tekrar eden ve basit soruları bulabilirsin.
- Kişisel olmayan cevapları cache'leyip kolay soruları küçük modele yönlendirebilirsin.
6.05 · 9 dk
Guardrail'ler
Asistan bir müşteriye ömür boyu bedava kahve sözü verdi ve ekran görüntüsü viral oldu. System prompt'unu incele, guardrail'leri doğru katmanlara yerleştir ve neyi bir insanın onaylaması gerektiğine karar ver.
Tek duvar yetmez: girdiyi kontrol et, araçları sınırla, çıktıyı kontrol et, insana sor.
- System prompt'ta gizli bilgi, tahmin ve sınırsız iade gibi riskli satırları bulabilirsin.
- Girdi, araç, çıktı ve insan onayı katmanlarıyla guardrail kurabilirsin.
6.06 · 10 dk
Sorumlu Yapay Zekâ
Aynı sabah iki e-posta geliyor: müşteriler verilerinin silinmesini istiyor, Victor ise asistanın fotoğraflardan ruh hâli tahmin etmesini. Yapay zekânın hangi verileri kullanabileceğine, önyargının nerede saklandığına ve bir silme talebine nasıl “evet” diyeceğine karar ver.
Yalnızca gerekeni topla, her grubu test et; silme istenince her kopyayı sil.
- Verileri GDPR ve KVKK'ya göre serbest, izne bağlı ve toplanmaz diye ayırabilirsin.
- Bir silme talebini doğrulayıp verinin her kopyasını bulabilir ve silebilirsin.
6.07 · 7 dk
Hızlı Hissettir
Asistana soru sorduktan sonra altı saniye boyunca hiçbir şey olmuyor, Patel Hanım da düğmeye üç kez basıyor. Zamanın nereye gittiğini bul ve cevabın hızlı geldiğini hissettir.
İnsanlar ilk kelimeyi beklerken sabırsızlanır. Stream et, tekrarı cache'le, asla susma.
- İlk kelimeye kadar geçen süreyi toplamdan ayrı ölçüp cevabı stream edebilirsin.
- Sık sorulara cache ve dürüst ilerleme mesajlarıyla yapay zekâyı hızlı hissettirebilirsin.
6.08 · 10 dk
Yönetim Kurulu Toplantısı
Cuma günü yönetim kurulu toplanıyor ve kimse token'ın ne olduğunu bilmiyor. Yapay zekâyı sade bir dile çevir, tek sayfalık bir bilgi notu planla ve onu emekli bir bankacının, bir avukatın ve Patel Hanım'ın anlayacağı şekilde yaz.
Kararla başla; sonra fayda, maliyet, risk ve sonraki adım. Sade bir dille.
- Token, RAG ve gecikme gibi yapay zekâ terimlerini sade bir dile çevirebilirsin.
- Karar, fayda, maliyet, risk ve sonraki adımı içeren bir kurul notu yazabilirsin.
6.09 · 9 dk
Açık mı, Kapalı mı?
Büyük bir kafe zinciri, verilerinin kendi sunucularından asla çıkmamasını şart koşuyor. Açık ağırlıklı modellerle kapalı API'leri tart, kendi sunucunda çalıştırmanın ne zaman kârlı olduğunu hesapla ve dürüstçe “evet” diyebileceğin bir plan bul.
Önce kirala. Sözleşme, gizlilik ya da büyük ve sabit hacim karşılıyorsa kendin barındır.
- Açık ağırlıklı modelle kapalı API arasında gizlilik ve maliyete göre seçim yapabilirsin.
- Kendi sunucunda barındırmanın ne zaman başa baş noktasına geldiğini hesaplayabilirsin.
6.10 · 21 dk
Prompt to Prod
CafeFlow asistanını baştan sona yayına al: sistemi çiz, ona doğru belgeleri ver, yayın panosunu oku, sürümü yönet, sistem kartını yaz ve yayın gününü atlat. Sonra yeni biriyle tanış.
Kanıtla, küçük başla, bir dönüş yolu tut ve her olayı bir teste çevir.
- Guardrail, retriever ve router'larıyla bir yapay zekâ ürününü uçtan uca çizebilirsin.
- Lansman panelini okuyup eval, canary ve acil durum anahtarıyla kademeli yayın yapabilirsin.
bonus · 9 dk
Pişir mi, Getir mi?
Victor, asistanı CafeFlow'a gelmiş bütün e-postalarla fine-tune etmek istiyor. Fine-tuning ile RAG'i maliyet, güncellik ve gizlilik açısından karşılaştır ve ona ayakta kalan bir plan sun.
Üslubu pişir, bilgiyi getir.
- Maliyeti, güncelliği ve gizliliği tartarak RAG ile fine-tuning arasında seçim yapabilirsin.
- Değişen bilgi ile silinebilecek verinin neden ağırlıkta değil, getirmede durması gerektiğini anlatabilirsin.