Yapay Zekâ Destekli Kararlarda Hekim Nerede Durmalı?

Sağlık hizmetlerinde yapay zekâ (YZ) kullanımı, klinik karar süreçlerini dönüştürmektedir. Özellikle karar destek sistemleri, hekimlere teşhis, tedavi ve risk tahmini gibi alanlarda önemli avantajlar sunmaktadır. Ancak bu gelişme beraberinde kritik bir soruyu da getirmektedir: YZ destekli bir karar sürecinde hekimin özerkliği nerede başlar ve nerede biter? Avrupa Birliği’nin 2024 tarihli Yapay Zekâ Yasası (AI Act) bu soruya hukuki bir çerçeve sunarken, uygulamada yanıtlar hâlâ tartışmalıdır.

YZ sistemleri, özellikle “yüksek riskli” sınıfına giren tıbbi uygulamalarda, hekim kararlarını destekleyen ama yerine geçmeyen araçlar olarak tanımlanır. AI Act’in 14. maddesi, yüksek riskli YZ sistemlerinde “insan gözetimi” zorunluluğunu getirmiştir. Bu düzenleme, hekimlerin YZ’nin sunduğu çıktıları eleştirel biçimde değerlendirme yükümlülüğünü açıkça ortaya koyar. Hekim, sistemi körü körüne takip eden bir kullanıcı değil; sistemin sınırlılıklarını bilen, gerektiğinde YZ önerisini reddedebilen aktif bir karar vericidir.

Ancak burada temel gerilim “otomasyon yanlılığı”dır. Klinik ortamda zaman baskısı altında çalışan bir hekim, algoritmanın önerisini genellikle güvenilir kabul etme eğilimindedir. Oysa YZ modelleri, öğrenme süreçlerinde veri önyargıları (bias) barındırabilir ve bu durum klinik sonuçları olumsuz etkileyebilir. Örneğin yalnızca belirli bir demografik gruba ait verilerle eğitilen bir model, diğer hasta gruplarında yanlış sınıflandırma riski taşır. AI Act, bu riski azaltmak için veri kalitesi, temsiliyet ve hata oranı bakımından sıkı denetim şartı öngörür. Buna rağmen, pratikte hekimin sorumluluğu devam eder: yanlış yönlendiren bir algoritma, hatalı klinik kararın gerekçesi olamaz.

YZ destekli karar süreçlerinde hekim özerkliği sadece teknik bir mesele değil, aynı zamanda etik ve hukuki bir zorunluluktur. Avrupa İnsan Hakları Sözleşmesi ve Oviedo Biyotıp Sözleşmesi, hastanın bilgilendirilmiş onam hakkını güvence altına alır. Hekim bu hakkı, YZ’nin katkı ve sınırlarını açıklayarak korumalıdır. Hasta, algoritmanın karar sürecine nasıl dahil olduğunu, hangi verilerin kullanıldığını ve hangi risklerin mevcut olduğunu anlamalıdır. Bu bilgilendirme yapılmadan alınan bir onam, geçerli sayılmaz.

Öte yandan, YZ kullanımı hekimin bilgi ve beceri düzeyine yeni bir boyut ekler. “Yeterli teknik bilgiye sahip olma” ilkesi, AI Act’in 14. maddesi kapsamında hekimin görevlerinden biridir. Hekim, kullandığı sistemin nasıl çalıştığını tam olarak bilmek zorunda değildir; ancak çıktıların nasıl yorumlanacağı konusunda asgari düzeyde eğitimli olmalıdır. Bu gereklilik, tıp eğitiminin geleceğini de etkilemektedir. Artık tıp fakülteleri, etik ve sağlık hukuku kadar “YZ okuryazarlığı” derslerini de müfredata dahil etmek zorundadır.

Bir diğer tartışma noktası, “karar sorumluluğu paylaşımı”dır. YZ bir araçtır, dolayısıyla nihai kararın sorumlusu hekimdir. Ancak hatanın algoritmadan mı, yoksa hekimin kullanım biçiminden mi kaynaklandığını belirlemek her zaman kolay değildir. Bu durum, ürün sorumluluğu (Product Liability Directive) ve haksız fiil sorumluluğu arasında karmaşık bir kesişim alanı yaratır. AI Liability Directive taslağı, bu konuda ispat yükünü hafifletmeyi amaçlasa da, ulusal hukukta hekim yine birincil sorumluluk sahibidir.

Sonuç

YZ destekli karar sistemleri, sağlık hizmetlerinde hem fırsat hem risk barındırmaktadır. Hekimin rolü, teknolojiyi “ikame eden” değil “yöneten” bir pozisyona evrilmektedir. Bu çerçevede üç temel ilke öne çıkar:

Eleştirel kullanım: Hekim, YZ’nin önerisini kendi klinik bilgisiyle tartmalı, gerekirse reddetmelidir.

Şeffaf iletişim: Hasta, karar sürecinde YZ’nin rolü hakkında açık biçimde bilgilendirilmelidir.

Sürekli eğitim: Hekim, algoritmaların sınırlarını anlayabilecek teknik yeterliliğe sahip olmalıdır.

Sonuç olarak, YZ hekimin yerine geçemez; fakat hekimin karar verme gücünü dönüştürür. Asıl mesele, bu dönüşümün özerklik ve sorumluluk dengesini koruyacak biçimde yönetilmesidir. Geleceğin sağlık hukuku, YZ’yi denetleyen değil, onu etik ve hukuki sınırlar içinde yöneten hekimlere ihtiyaç duyacaktır.