Değerli KOSKİ Ailesi,

Bilgi İşlem Dairesi Başkanlığı olarak kurumumuzda dijital dönüşümü hızlandırırken, hepimizin hayatına giren yapay zeka araçlarını daha bilinçli ve güvenli kullanmamız gerektiğine inanıyoruz. Bugün sizlere, yapay zeka dünyasının en kritik konularından birinden bahsetmek istiyorum: Halüsinasyon.

Birçoğumuz yapay zekayı devasa bir veri tabanı veya bize her zaman mutlak doğruları sunan bir ansiklopedi gibi hayal ediyoruz. Ancak kaputun altına baktığımızda, büyük dil modellerinin (LLM) aslında istatistiksel bir "tahmin makinesi" olduğunu görüyoruz. Yapay zeka kelimelerin anlamını bilmez; milyarlarca metni analiz ederek bir sonraki en olası kelimeyi tahmin eder ve kulağa en mantıklı gelen cümleleri kurar.

İşte bu çalışma mantığı, yapay zekanın bazen gerçekte var olmayan kanun maddeleri, hayali yetkili isimleri veya sahte raporlar uydurmasına neden olur. "Halüsinasyon" adı verilen bu durum, bir arıza değil, yapay zekanın doğasının bir sonucudur. Ancak kamu sektörü gibi kritik bir alanda bu uydurmalar masum bir hata olarak değerlendirilemez. Olmayan bir yönetmeliğe dayandırılan resmi yazılar veya uydurma teknik veriler, kurumumuz için idari, hukuki ve operasyonel riskler taşır.

Peki bu riski nasıl yöneteceğiz? Çözüm: Yapay zekaya "Bağlam" (Context) vermek. Yapay zekaya bağlam vermeden soru sorduğumuzda, tüm internet evrenindeki olasılıklar arasından en ortalama ve riskli cevabı seçer. Ancak ona net sınırlar çizdiğimizde hata payını sıfıra yaklaştırırız.

İşte son eğitimlerimizde de vurguladığımız NotebookLM aracı tam olarak bu felsefeyle tasarlandı. Google'ın geliştirdiği bu asistan, internetteki rastgele bilgilerle değil, yalnızca sizin yüklediğiniz raporlar, web sayfası linkleri, videolar üzerinden çalışır. Dışarıdan bilgi uydurmaz ve verdiği her cevabın dokümanınızdaki kaynağını (sayfa ve paragraf olarak) size referansla gösterir.

Geçmişte saatler süren uzun doküman analizlerini, artık  güvenilir bir sınır içinde saniyeler içinde yapabiliriz. Geleceğin çalışma kültürünü inşa ederken, teknolojiyi sadece kullanmakla kalmayıp, onu güvenli ve bilinçli bir şekilde yönetmek elimizde.

Hepinize verimli ve yenilikçi bir çalışma günü dilerim.

Yapay Zekâ Kullanımında Halüsinasyon Riski ve Rol Model Yaklaşımı

Hangi Araçlar Kullanılabilir?

Yavuz Sinan Aydemir

Bilgisayar Mühendisi

KOSKİ Bilgi İşlem Dairesi Başkanlığı