Yapay Zekâ Asistanı – Canlı Demo
DİKKAT: BU UYGULAMA YALNIZCA DEMO SÜRÜMÜDÜR. Bu sürümün amacı, yüksek doğrulukta yanıtlar üretmek değil, geliştirilen yapay zekâ mimarisinin sisteme entegrasyonunu ve canlı ortamda çalışabilirliğini göstermektir. Demo, sınırlı sunucu kaynakları nedeniyle küçük ölçekli bir dil modeli kullanılarak hazırlanmıştır. Bu nedenle sistemin her soruya doğru, tutarlı veya anlamlı yanıtlar vermesi beklenmemelidir. Eksik, hatalı veya soruyla ilgisiz cevaplar oluşturabilir. Dr. Ozan ÖNAL tarafından daha yüksek kapasiteli dil modelleri kullanılarak, daha gelişmiş bağlam anlama ve yanıt üretme yeteneklerine sahip sistemler üzerinde de çalışmalar gerçekleştirilmiştir. Mevcut demo, bu çalışmaların nihai performansını temsil etmemektedir. Proje Hakkında: Dr. Ozan ÖNAL tarafından geliştirilen bu yapay zekâ asistanı; doğal dil işleme, belge tabanlı bilgi erişimi, anlamsal arama ve RAG mimarisini bir araya getirmektedir. Sistem, yerel ortamda çalışabilecek şekilde geliştirilmiş olup uygun yapılandırmalarda verilerin harici yapay zekâ servislerine aktarılmadan işlenmesine olanak sağlamaktadır. Canlı demo, ağırlıklı olarak geliştiricinin akademik çalışmaları, projeleri ve uzmanlık alanlarına ilişkin bilgi kaynaklarıyla sınırlandırılmıştır.
Proje Hakkında
Bu çalışma, Dr. Ozan ÖNAL tarafından yapay zekâ, doğal dil işleme ve bilgi erişim teknolojilerinin birlikte uygulanmasını incelemek amacıyla geliştirilmiştir.
Çalışma kapsamında açık kaynaklı dil modelleri, anlamsal arama yöntemleri ve vektör veri tabanı teknolojileri bir araya getirilerek belge tabanlı bir yapay zekâ asistanı oluşturulmuştur.
Projenin temel amacı, bir dil modelinin özel bilgi kaynaklarıyla bütünleştirilmesi, bu kaynaklardan anlamlı bilgilerin elde edilmesi ve kullanıcı sorularına doğal dilde yanıt oluşturulması süreçlerinin uygulamalı olarak gerçekleştirilmesidir.
Geliştirilen sistem, Dr. Ozan ÖNAL'ın akademik çalışmaları, projeleri ve uzmanlık alanlarıyla ilgili bilgilerin sorgulanabilmesine olanak sağlamaktadır.
Kullanılan Yöntem ve Teknolojiler
Çalışmada Retrieval-Augmented Generation (RAG – Getirim Destekli Üretim) mimarisi kullanılmıştır.
Bu yaklaşımda belgeler işlenerek belirli metin parçalarına ayrılmakta, embedding modelleri aracılığıyla vektör temsillerine dönüştürülmekte ve vektör veri tabanında saklanmaktadır.
Kullanıcı tarafından bir soru yöneltildiğinde, soruyla anlamsal açıdan ilişkili içerikler belirlenerek dil modeline sunulmaktadır. Dil modeli bu bilgilerden yararlanarak doğal dilde yanıt oluşturmaktadır.
Çalışmada kullanılan başlıca teknolojiler:
Python
Açık kaynaklı dil modelleri
Retrieval-Augmented Generation (RAG)
Sentence Transformers
ChromaDB
Streamlit
Linux
Sistem kapsamında belge işleme, bilgi havuzu oluşturma, anlamsal arama, kullanıcı arayüzü geliştirme ve dil modeli entegrasyonu gerçekleştirilmiştir.
Ayrıca farklı kullanıcılar ve bilgi kaynakları için ayrı çalışma alanları oluşturulmasına yönelik yazılım altyapısı geliştirilmiştir.
Yerel Çalışma ve Veri Gizliliği
Çalışmanın önemli teknik özelliklerinden biri, yapay zekâ modelinin ve bilgi erişim bileşenlerinin yerel ortamda çalıştırılabilmesidir.
Bu yaklaşımda dil modeli, embedding modeli ve vektör veri tabanı yerel bilgisayarda veya özel bir sunucuda çalıştırılabilmektedir.
Böylece harici yapay zekâ servislerine ihtiyaç duyulmadan belge işleme, bilgi erişimi ve yanıt oluşturma işlemleri gerçekleştirilebilmektedir.
Tamamen yerel ve dış bağlantıları sınırlandırılmış kurulumlarda, işlenen verilerin harici yapay zekâ servislerine aktarılmadan sistem içerisinde tutulması mümkündür.
Bu özellik, yapay zekâ uygulamalarında veri gizliliği, bilgi güvenliği ve sistemin dış servislere bağımlılığı açısından önem taşımaktadır.
Bununla birlikte veri güvenliğinin sağlanması, yerel çalışmanın yanında uygun erişim kontrolleri ve güvenlik önlemlerinin uygulanmasını da gerektirmektedir.
Canlı Demo ve Sınırlılıkları
Geliştirilen sistemin temel işlevlerinin gösterilebilmesi amacıyla bir demo sürümü internet üzerinden erişilebilir hâle getirilmiştir.
Canlı demo, sınırlı donanım kaynaklarına sahip bir sunucu üzerinde çalışmaktadır. Bu nedenle uygulamada küçük ölçekli, açık kaynaklı bir dil modeli kullanılmaktadır.
Daha yüksek kapasiteli dil modellerinin kullanılması, modelin özelliklerine bağlı olarak daha fazla RAM, GPU belleği ve işlem gücü gerektirebilmektedir.
Mevcut demo sürümünde kullanılan modelin sınırlı kapasitesi nedeniyle bazı sorular yanlış yorumlanabilmekte, eksik veya hatalı yanıtlar oluşturulabilmektedir.
Örneğin, "Nerelisin?" gibi kısa ve bağlamı belirsiz bir soru sorulduğunda sistem, soruyu doğru yorumlayamayarak bilgi havuzunda yer alan Dr. Ozan ÖNAL hakkındaki bilgilerle yanıt verebilmektedir.
Bu durum, dil modelinin bağlam yorumlama kapasitesinin yanı sıra bilgi erişim sürecinin de yanıt kalitesi üzerindeki etkisini göstermektedir.
Ayrıca mevcut bilgi havuzu yalnızca belirli çalışma alanlarıyla sınırlandırılmıştır. Bu nedenle sistemin genel bilgi sorularını yanıtlaması amaçlanmamıştır.
Canlı demo, sistemin nihai doğruluk performansını değil, geliştirilen mimarinin teknik uygulanabilirliğini göstermek amacıyla yayımlanmıştır.
Farklı Dil Modelleriyle Yapılan Çalışmalar
Projenin geliştirme sürecinde farklı parametre büyüklüklerine sahip açık kaynaklı dil modelleri üzerinde de çalışmalar gerçekleştirilmiştir.
Bu çalışmalar kapsamında dil modellerinin donanım gereksinimleri, yerel ortamda çalıştırılabilmeleri ve belge tabanlı soru-cevap sistemleriyle bütünleştirilmeleri ele alınmıştır.
Daha yüksek kapasiteli dil modelleri, belirli görevlerde bağlamı yorumlama ve tutarlı yanıt oluşturma açısından avantaj sağlayabilmektedir.
Ancak sistemin genel başarısı yalnızca dil modeline değil; bilgi havuzunun kapsamına, anlamsal arama yöntemine, getirilen içeriklerin uygunluğuna ve yanıt oluşturma sürecine de bağlıdır.
Çalışmanın Değerlendirilmesi
Bu proje kapsamında açık kaynaklı yapay zekâ teknolojileri kullanılarak belge tabanlı bilgi erişimi sağlayan bir yapay zekâ asistanının geliştirilmesi ve canlı ortamda çalıştırılması gerçekleştirilmiştir.
Çalışma, dil modellerinin özel bilgi kaynaklarıyla bütünleştirilmesi, yerel ortamda çalıştırılması ve sınırlı donanım kaynaklarında uygulanabilirliğinin incelenmesi bakımından uygulamalı bir örnek oluşturmaktadır.
Projenin tasarımı, yazılım geliştirme süreçleri, model entegrasyonu, bilgi erişim altyapısı ve canlı sunucu ortamına aktarılması Dr. Ozan ÖNAL tarafından gerçekleştirilmiştir.