Sağlık alanında giderek yaygınlaşan yapay zekâ sistemlerinin güvenilirliği tartışma konusu olmaya devam ediyor. Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, yüksek doğruluk oranlarının tek başına güvenilirlik anlamına gelmediğini belirterek yapay zekânın kararlarını hangi verilere dayandırdığının da incelenmesi gerektiğini vurguladı.
Yapay zekâ teknolojilerinin sağlık hizmetlerinde kullanımı artarken uzmanlar, bu sistemlerin ürettiği sonuçların yalnızca doğruluk oranlarına göre değerlendirilmemesi gerektiğine dikkat çekiyor.
Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü Dr. Öğr. Üyesi Damla Övek Baydar, yapay zekânın doğru tahminlerde bulunsa bile bu sonuçlara klinik açıdan anlamlı olmayan veriler üzerinden ulaşabileceği uyarısında bulundu.
Baydar, yapay zekâ modellerinin karar alma süreçlerinin anlaşılabilir ve denetlenebilir olmasının hasta güvenliği açısından önem taşıdığını belirtti.
"DOĞRU TAHMİN İLE GÜVENİLİR TAHMİN AYNI ŞEY DEĞİL"
Yapay zekânın tıbbi görüntüleme, hastalık risklerinin belirlenmesi, genomik analizler ve klinik karar destek sistemleri gibi birçok alanda kullanıldığını belirten Baydar, bu teknolojilerin sağlık profesyonellerine önemli katkılar sunabildiğini söyledi.
Ancak sistemlerin başarısının çoğunlukla tahmin doğruluğu üzerinden değerlendirildiğine dikkat çeken Baydar, şu ifadeleri kullandı:
"Bu gelişmeler çoğu zaman modellerin ne kadar yüksek doğrulukla tahmin yaptığı üzerinden değerlendiriliyor. Ancak sağlık gibi insan yaşamını doğrudan etkileyen bir alanda yalnızca doğru sonuca ulaşmak yeterli olmayabilir. Bir sistemin bu sonuca nasıl ulaştığını anlamak da önemlidir. Çünkü doğru tahmin ile güvenilir tahmin her zaman aynı şey değildir."
YAPAY ZEKÂNIN "KARA KUTU" SORUNUNA DİKKAT ÇEKTİ
Derin öğrenme modellerinin karmaşık veri ilişkilerini analiz edebildiğini ancak kararlarını hangi bilgilere dayanarak oluşturduklarının her zaman anlaşılamadığını belirten Baydar, bu durumun "kara kutu" sorunu olarak tanımlandığını ifade etti.
Özellikle genetik araştırmalar, ilaç keşfi ve hastalıkların incelenmesinde kullanılan modellerin karar süreçlerinin açıklanabilir olması gerektiğini vurgulayan Baydar, şunları söyledi:
"Bir model yüksek doğrulukla tahmin yapabilir. Ancak bu tahmini biyolojik ya da klinik olarak anlamlı bir işarete mi, yoksa verideki tesadüfi veya yanıltıcı bir örüntüye mi dayandırdığını bilmiyorsak sonuca güvenmek zorlaşır."
Baydar, bir yapay zekâ sisteminin tıbbi görüntüde risk tespit etmesinin tek başına yeterli olmadığını, görüntünün hangi bölgesine odaklandığının ve hangi hasta verilerini dikkate aldığının da bilinmesi gerektiğini kaydetti.
"DOĞRU CEVAP İLE DOĞRU NEDENE DAYANAN CEVAP AYNI ŞEY DEĞİLDİR"
Yapay zekâ sistemlerinin bazı durumlarda doğru sonuçlara yanıltıcı veriler üzerinden ulaşabileceğini belirten Baydar, bunun özellikle farklı hasta gruplarında güvenilirlik sorunlarına yol açabileceğini ifade etti.
Eğitim verilerindeki beklenmedik özelliklerin, tıbbi cihazlar arasındaki farklılıkların ve belirli hasta gruplarına özgü yanlılıkların modellerin tahminlerini etkileyebileceğini söyleyen Baydar, şu değerlendirmeyi yaptı:
"Bir yapay zekâ modeli testlerde yüksek doğruluk gösterebilir; ancak kararını klinik olarak anlamlı olmayan özelliklere dayandırıyorsa, farklı hasta gruplarında veya farklı koşullarda güvenilir sonuçlar vermeyebilir."
Baydar, bu nedenle yapay zekâ sistemlerinin yalnızca başarılı sonuçlar üretmesinin değil, bu sonuçlara hangi gerekçelerle ulaştığının da araştırılması gerektiğini vurguladı.
YAPAY ZEKÂNIN AÇIKLAMALARI DA DENETLENMELİ
Yapay zekâ modellerinin kararlarını açıklayabilmesinin hekimler açısından önemli olduğunu belirten Baydar, bu açıklamaların her zaman gerçek biyolojik veya klinik nedenleri ortaya koymayabileceği uyarısında bulundu.
Baydar, "Bir modelin hangi verilerden etkilendiğini görselleştirmek, hastalığın nedenini ortaya çıkardığı anlamına gelmez" dedi.
Açıklanabilir yapay zekâ yöntemlerinin sonuçlarının klinik bilgiler, biyolojik kanıtlar ve bağımsız doğrulamalarla desteklenmesi gerektiğini ifade eden Baydar, bu yaklaşımın hekimlerin yapay zekâ destekli önerileri daha sağlıklı değerlendirmesine yardımcı olabileceğini söyledi.
BİLİMSEL ARAŞTIRMALAR İÇİN YENİ FIRSATLAR SUNABİLİR
Açıklanabilir yapay zekânın yalnızca güvenilirlik açısından değil, bilimsel araştırmalar bakımından da önemli fırsatlar sunduğunu belirten Baydar, modellerin öğrendiği örüntülerin incelenmesiyle daha önce fark edilmemiş biyolojik ilişkilerin araştırılabileceğini ifade etti.
Baydar, "Modeli yalnızca bir tahmin makinesi olarak görmek yerine, hangi örüntüleri öğrendiğini anlamaya çalıştığımızda hem modeli geliştirebilir hem de biyoloji hakkında yeni sorular sorabiliriz" diye konuştu.
"YAPAY ZEKÂ, HEKİMİN YERİNİ ALAN BİR SİSTEM OLMAMALI"
Sağlık alanında yapay zekânın bağımsız bir karar mekanizması olarak değil, uzmanların değerlendirmelerini destekleyen bir araç olarak kullanılması gerektiğini vurgulayan Baydar, insan denetiminin önemine işaret etti.
Baydar, "Amaç yalnızca yüksek performanslı modeller geliştirmek değil; güvenilir, denetlenebilir ve insan uzmanlığıyla birlikte kullanılabilecek sistemler oluşturmaktır" dedi.
"GÜVENİLİR YAPAY ZEKÂ, SINIRLARI BİLİNEN YAPAY ZEKÂDIR"
Sağlıkta yapay zekânın geleceğinin yalnızca yüksek doğruluk oranlarına bağlı olmadığını belirten Baydar, sistemlerin hangi koşullarda başarısız olabileceğinin de bilinmesi gerektiğini söyledi.
Yapay zekâ modellerinin hangi verilerle eğitildiğinin, hangi hasta gruplarında hata yapabileceğinin ve kararlarını hangi özelliklere dayandırdığının sorgulanması gerektiğini ifade eden Baydar, sözlerini şöyle tamamladı:
"Sağlıkta yapay zekânın güvenilir olması, yalnızca doğru tahmin yapan değil, sınırları bilinen ve kararları eleştirel biçimde değerlendirilebilen sistemlerin geliştirilmesine bağlıdır."
SAĞLIK 26 Ekim 2026 Pazartesi, 10:34
Benzer Haberler