Bir noktada AI dil modelleri kullanan herkes aynı şeyi yapıyor:
“Şu dokümanı da ekleyeyim.”
“Şu WhatsApp konuşmasını da özetlesin.”
“Bu sağlık raporunu da yorumlasın.”
“Şu sözleşmeyi de hızlıca açıklasın.”
Başta her şey mükemmel gidiyor. AI hızlandırıyor, toparlıyor, yazıyor, düzenliyor.
Sonra bir gün… AI çok “emin” bir şey söylüyor. Ama yanlış. Ve siz (genelde en sakin hâlinizle) şu cümleyi kuruyorsunuz:
“Bu bunu nereden çıkardı ya?”
Spoiler: “bir yerden” çıkarmadı. Büyük ihtimalle bizim bıraktığımız izlerden, eksik bağlamdan, çelişkili cümlelerden ve yanlış anlaşılan detaylardan bir mantıklı gibi duran cevap uydurdu.
Üstelik bunu yapması garip bir bug değil. Dil modelleri belirsizlikte tahmin etmeye itilebiliyor. OpenAI’ın 2025’te yayımladığı çalışma da standart eğitim ve değerlendirme yaklaşımlarının bazen emin konuşmayı ödüllendirebildiğini ve bunun halüsinasyonları beslediğini anlatıyor.
Bu yazı tam olarak bunun üzerine: AI’ya yazdıklarımız ve yüklediklerimiz arttıkça, neden risk de büyüyor? ve bunu nasıl kontrol altına alırız?
AI’ya verdiğiniz bilgi arttıkça halüsinasyon ve kişisel veri sızıntısı riski artar. Çözüm; gereksiz veriyi içeri sokmamak, hassas bilgileri maskelemek, kritik cevaplarda kaynak + kontrol alışkanlığı edinmek ve gerektiğinde geçici sohbet kullanmaktır.
AI’nın hafızası dediğimiz şey aslında ne?
Hafıza deyince kulağa tek bir yer gibi geliyor ama pratikte içerikler birkaç farklı yerde birikiyor:
Sohbetlerde paylaşılan içerikler: Chat’e yapıştırdığınız metinler, tablolar, notlar, konuşmalar.
Yüklenen dosyalar / görseller: PDF, sözleşme ekran görüntüsü, rapor, sağlık sonucu, banka dekontu, fotoğraf…
Sizin geri bildiriminiz: “Şu iyi oldu / şu yanlış” gibi tepkiler, modelin nasıl cevap vermesi gerektiğine dair sinyal verir.
Bu üçü birlikte şuna dönüşüyor: AI’nın “konuşurken ayağını bastığı zemin.”
Ve zemin büyüdükçe iki şey olur:
- Doğru yönetirseniz hız + tutarlılık artar.
- Yanlış yönetirseniz yanlış bilgi + sızıntı + güvenlik açıkları aynı anda büyür.
Bazı servislerde geçici sohbet gibi seçenekler var. Örneğin ChatGPT’de Temporary Chats bu sohbetlerin 30 gün sonra silindiği, eğitimde kullanılmadığı, geçmişe kaydedilmediği ve hafıza oluşturmadığı belirtiliyor.
Ayrıca (yine ChatGPT örneğinde) sohbet geçmişiniz açık kalsa bile modeli geliştirme kullanımını kapatabilme seçeneği bulunuyor.
Risk 1: Halüsinasyon (AI’nın “özgüven problemi”)
Halüsinasyon aslında saçmalama değil, daha tehlikelisi: ikna edici yanlış.
Bunun arkasındaki temel dinamik şu: Dil modelleri cevabından emin olamadığı noktalarda, bilmiyorum demek yerine tahmin etmeye kayabiliyor. Bazı eğitim/değerlendirme algoritmaları da bu tahmini cezalandırmak yerine ödüllendirebiliyor.
Bilgi katmanı büyüdükçe halüsinasyon niye artabiliyor?
- Çelişki çoğalır: Aynı konunun iki sürümü içerideyse model harmanlar.
- Güncellik bulanıklaşır: Eski doküman hâlâ “gerçek” gibi konuşur.
- Kaynak sorulmazsa: Model yazmayı bilir, kanıtlamayı bilmez. (Kaynak istemezsen, kaynak gösterme refleksi de gelişmez.)
Bu durumlarda ise AI yazıyor, siz kullanıyorsunuz. Arada doğrulama yoksa suç ortaklığı oluşuyor.
Halüsinasyonlar neden artar?
Eksik bağlam: AI’ya “şu kararın mantığını yaz” dersiniz; ama kararın şartlarını vermemişsinizdir.
Çelişkili dokümanlar: 2024 süreç dokümanı da içeride, 2026 süreç dokümanı da içeride AI ikisini harmanlar.
Yanlış otorite etkisi: Otoriter dille yazılmış yanlış bilgi, AI’yı daha kolay kandırabilir. (Bu konu özellikle sağlık örneklerinde çalışılmış: “resmi görünümlü” metinler yanlış bilgiyi daha kolay taşıtıyor.)
Kesin söyle baskısı: Modelin en zayıf olduğu an, “emin ol” dendiği an olabilir çünkü dil modelleri bazen bilmiyorum demeyi seçmek yerine tahmin üretir.
Risk 2: Sessiz veri sızıntısı
AI kullanımında en pahalı hatalardan birisi hızlıca chat’e yapıştırılan ham veridir. Hızlıca bir baksın diye chat’e ham kişisel veri yapıştırmak. Burada temel prensip basit. Gerekli olmayan kişisel veriyi chat’e yapıştırma.
Örnek olarak:
- WhatsApp konuşmalarının tamamı (isimler, adresler, özel detaylar)
- T.C. kimlik / pasaport / ehliyet fotoğrafı
- IBAN / dekont / kart bilgisi
- Sözleşme fotoğrafı (imza dahil)
- Sağlık raporu, tahlil sonuçları
Bu noktada teknik tartışmaya boğmadan şu soruyu sormak yeterli: Bu bilgi AI’nın cevabını gerçekten iyileştiriyor mu, yoksa sadece bunu da bilsin diyerek mi koyuyoruz?
Bunu da bilsin dediğiniz her şey yarın yanlış yerlerde karşınıza çıkabilir.
Bunu yavaşlayalım diye söylemiyorum. Aslında tam tersi hızınızı koruyarak güvenli kalmanın yolu, içeri verdiğiniz veriyi sadeleştirmek.
Örnek:
- “Müşteri adı” yerine M1 / M2
- “Bütçe” yerine aralık
- Kişisel veri yerine anonim özet
AI çoğu zaman ham veriye değil, desene ihtiyaç duyar.
- “Mert” yerine Kişi A
- Telefon/IBAN gibi alanları XXXXX ile maskele
- Konuşmanın tamamı yerine, sadece ilgili 5–10 satırı ver
- Kritik bir şeyse geçici sohbet kullan
Risk 3: Yanlış yönlendirme (AI yanlışsa siz de yanlış yaparsınız)
Halüsinasyonun “zararsız” versiyonu: yanlış bilgi.
Zararlı versiyonu: sizi yanlış karara götürmesi.
Özellikle şuralarda dikkat:
- Sağlık (ilaç/teşhis/yorum)
- Hukuk (sözleşme maddesi, hak/ceza)
- Finans (yatırım, borç, vergi)
AI burada çok iyi bir taslak üreticidir ama hakem değildir. Kritik yerlerde ikinci bir kaynağa bakmak en basit sigortadır.
Risk 4: Bağlam karması (çok şey yazınca kalite artmıyor)
Aynı sohbete her şeyi yığdığınızda (CV + sözleşme + WhatsApp + sağlık raporu + iş planı) AI bazen:
- eski bir detayı yeni cevaba taşır,
- iki konuyu birbirine karıştırır,
- “ortalama” bir cevap üretir.
Bu sadece doğruluğu değil gizliliği de etkiler. Yanlış bağlam, yanlış durumu gündeme getirebilir.
Peki ne yapacağız?
Bunlar hayat kurtaran küçük alışkanlıklar. Büyük güvenlik sistemleri kurmadan da uygulanıyor. Üstelik hızınızı kesmiyor tam tersine çoğu zaman kaliteyi artırıyor.
1) “Maskele–özetle” refleksi
AI’ya ham veri vermeden önce 10 saniye dur. Şu soruyu sor: Bu detay, cevabı gerçekten iyileştiriyor mu? İyileştirmiyorsa, orada kalmasının tek etkisi risk.
Ne yapmamız gerekiyor?
- İsimleri Kişi A / Kişi B yap
- Telefon, adres, IBAN, TCKN gibi bilgileri çıkar ya da XXXXX ile maskele
- Konuşmanın / belgenin tamamını yapıştırmak yerine sadece ilgili kısmı ver
- Gereksiz paragrafları kes AI’nın işini görecek minimum bağlamı bırak
Mini senaryo: WhatsApp konuşması özetletmek
- Kötü örnek: “Bu konuşmayı özetle” deyip 200 satır mesajı (isim + adres + özel detaylarla) yapıştırmak
- İyi örnek: Aşağıdaki konuşma Kişi A ile Kişi B arasındadır. Amaç: anlaşmazlığın nedenini ve çözüm önerilerini 5 maddeyle özetle. Metin: …
Mini senaryo: sözleşme paragrafını yorumlatmak
- Kötü örnek: imzalı sözleşmenin ekran görüntüsünü komple yüklemek
- İyi örnek: Aşağıdaki maddeyi sadeleştir ve riskli kısımları ‘dikkat’ diye işaretle. Madde: …
Neden işe yarıyor? AI çoğu zaman ham veriye değil desene ihtiyaç duyar. Ham veri azalınca hem risk düşer hem de AI’nın odağı artar.
2) Kaynak sorun (özellikle iddialı cevaplarda)
AI bir şey söylüyorsa, özellikle kesin konuşuyorsa, o yanıttan şüphelen.
AI’ya soracağın 3 cümlelik set:
- “Bunu neye dayanarak söylüyorsun?”
- “Bu bir varsayım mı, yoksa kesin bilgi mi?”
- “Bunu doğrulamak için neye bakmalıyım?”
Bu üç soru halüsinasyonları (ikna edici yanlışları) anında görünür kılar.
Mini senaryo: sağlık yorumu
- Kötü örnek: “Bu tahlil sonucum kötü mü?” (tek cümle, ham rapor, panik)
- İyi örnek: Aşağıdaki değerler için genel bilgi ver: bu değerler genelde neyi ifade eder? Kesin teşhis koyma. Eğer riskli olabilecek bir durum varsa doktorla görüş diye belirt. Ayrıca doğrulamak için hangi uzmana gitmeliyim? sorusunu cevapla.
Mini senaryo: hukuk/sözleşme
- Kötü örnek: “Bu madde bir sorun var mı?” (kesin cevap beklentisi)
- İyi örnek: Bu maddeyi sadeleştir. Olası riskleri ve yorum farkı olan yerleri muğlak diye işaretle. Sonunda bir avukata şu soruları sor diye 5 soru üret.
Neden işe yarıyor? AI güzel cümle üretmeyi sever; kanıt istemediğiniz sürece kanıt üretmek zorunda hissetmez. Kaynak sorunca, uydurma ile gerçek ayrışır.
3) Taslak gibi kullanın
AI’yı hakem gibi değil hızlı bir taslak makinesi gibi düşünün.
Yani iş paylaşımı şöyle:
- AI: hızlıca yazar, düzenler, seçenek üretir
- Siz: seçer, düzeltir, kritik yerleri doğrularsınız
Bunu özellikle şu alanlarda uygulayın:
- Para/finans (ödeme, borç, sözleşme bedeli)
- Sağlık (tahlil yorumu, ilaç, teşhis)
- Hukuk (haklar, cezalar, sözleşme yorumu)
Bu konularda AI’nın çıktısı başlangıç noktası olabilir ama son nokta olmamalı.
4) Aynı sohbete her şeyi doldurmayın
Tek sohbetin içine her şeyi doldurmak çok pratik geliyor. CV + sözleşme + WhatsApp + sağlık raporu + iş planı… Ama bunun bedeli var. Bağlam karışıyor, AI yanlış şeyi yanlış yerde hatırlayabiliyor.
Bunu şöyle düşün: AI’nın kafasında aynı anda 6 dosya açıyorsunuz. Sonra hangisi hangisiydi? diye şaşırıyor.
Basit çözüm: Konuları ayırın.
- Sözleşme – sadeleştirme
- CV – düzenleme
- Sağlık – soru listesi
- E-ticaret – plan
- WhatsApp – mesaj düzeltme
Bu iki şeyi sağlar:
- Kalite artar (AI daha doğru bağlamda çalışır)
- Yanlış bağlam riski azalır (bir konunun detayı diğerine taşınmaz)
AI’ya içerik ekledikçe sistem güçleniyor gibi hissediyoruz. Çoğu zaman doğru. Ama aynı anda şu da oluyor dil modellerinin halüsinasyon görme olasılığı artıyor, eski bilgi yeniden canlanıyor, gereksiz veriler risk yaratıyor.
Bu yüzden mesele AI kullanalım mı? değil.
Mesele: AI’nın beslendiği bilgi birikimini temiz, güncel ve kontrollü tutabiliyor muyuz?