AB Yapay Zekâ Yasası Bağlamında Teşhis Sistemlerinin Hukuki Sorumluluğu

Yapay zekâ destekli teşhis sistemleri, tıp alanında doğruluk ve hız bakımından devrimsel bir dönüşüm yaratmıştır. Ancak bu teknolojik ilerlemenin beraberinde getirdiği hukuki sorumluluk tartışmaları giderek derinleşmektedir. Avrupa Birliği’nin 2024 tarihli Yapay Zekâ Yasası (Artificial Intelligence Act – AIA), sağlık sektöründe kullanılan yapay zekâ uygulamalarının risk temelli bir çerçevede düzenlenmesini öngörmektedir. Bu yasa, özellikle yüksek riskli yapay zekâ sistemleri olarak tanımlanan tıbbi teşhis araçlarının güvenli, şeffaf ve insan odaklı biçimde kullanılmasını zorunlu kılar. Sağlık hukuku açısından bakıldığında, bu yaklaşım hem hastanın korunması hem de sağlayıcıların hukuki sorumluluğu bakımından yeni bir dönemi işaret etmektedir.

Yapay zekâ tıbbi teşhis sistemleri, hastalıkların tanılanması, görüntü analizi, genetik verilerin değerlendirilmesi ve klinik karar destek mekanizmaları gibi çok farklı alanlarda kullanılmaktadır. Avrupa Birliği, bu sistemlerin doğrudan insan sağlığı ve temel haklarla ilişkili olması nedeniyle yüksek riskli yapay zekâ kategorisinde değerlendirilmesini öngörür (YZ Tüzüğü, m. 6 ve Ek III). Bu sınıflandırma, tıbbi yapay zekâ sistemlerinin piyasaya sürülmeden önce belirli uygunluk değerlendirmelerine tabi tutulmasını zorunlu hale getirir.

Bu bağlamda üretici, geliştirici veya ithalatçı, sistemin performansını, hata oranlarını ve veri güvenliği standartlarını belgeleyen teknik dokümantasyonu hazırlamakla yükümlüdür. Ayrıca sistemin kullanım sürecinde her zaman insan denetimine olanak tanınmalıdır (m. 14). Bu hüküm, teşhis süreçlerinde hekim sorumluluğunu tamamen ortadan kaldırmak yerine, hekimi nihai karar verici konumunda tutarak olası zararların önüne geçmeyi hedefler.

Tıbbi yapay zekâ sistemlerinin hukuki niteliği tartışmasında en çok öne çıkan mesele, hata sonucu doğan zararlardan kimin sorumlu olacağıdır. AB yapay zekâ düzenlemesi, üretici, sağlayıcı ve kullanıcı kavramlarını ayrı tanımlar (m. 3). Teşhis sistemi üreten yazılım firması genellikle “sağlayıcı” olarak kabul edilirken, hastane ya da sağlık kuruluşu sistemi kullanan “dağıtıcı” sıfatını taşır. Eğer sistemin kullanımı sırasında bir hata sonucu yanlış teşhis konur ve hasta zarar görürse, sağlayıcının tasarım veya eğitim verisi hatasından kaynaklanan bir kusuru varsa ürün sorumluluğu hükümleri devreye girer. Buna karşılık, sistemin doğru çalışmasına rağmen hekimin uyarılara uymaması veya hatalı yorum yapması durumunda tıbbi malpraktis hükümleri uygulanır.

Bu çerçevede, AB hukukunun sağlık alanına yansıyan önemli yeniliği, karma sorumluluk modelidir. Yapay zekâ sistemi “özerk” davrandığı ölçüde, zararın nedeni teknik hata mı yoksa insan ihmali mi sorusu önem kazanır. Avrupa Komisyonu’nun önerdiği model, zarar görenin ispat yükünü hafifletmekte ve bazı durumlarda ters ispat yükü öngörmektedir. Yani sağlayıcı, sistemin tüm yasal ve teknik yükümlülüklere uygun olarak geliştirildiğini ispat etmediği sürece sorumlu tutulabilir. Bu durum, hasta lehine önemli bir güvence niteliğindedir.

Ayrıca veri koruma boyutu da sağlık hukuku açısından kritik önemdedir. Yapay zekâ teşhis sistemleri genellikle büyük hacimli tıbbi verilerle eğitildiğinden, Genel Veri Koruma Tüzüğü (GDPR) hükümleriyle doğrudan kesişir. GDPR’nin 9. maddesi, sağlık verilerinin işlenmesini özel koruma altında tutar. Bu nedenle yapay zekâ sisteminin verileri anonimleştirmesi, sadece açık rıza alınmış kişilerden veri kullanması ve veri işleme amaçlarını açıkça belirtmesi gerekir. Aksi takdirde hem GDPR hem de Yapay Zekâ Yasası kapsamında ciddi idari para cezaları uygulanabilir (YZ Tüzüğü, m. 99).

Etik açıdan da sistemlerin şeffaflık ve hesap verebilirlik ilkelerine uygunluğu tartışılmaktadır. YZ Tüzüğü, tıbbi teşhis sistemlerinin kullanıcıya, yani hekime, sistemin bir “yapay zekâ aracı” olduğunu açıkça bildirmesini ve çıktılarının nasıl üretildiğine dair asgari açıklama sunmasını zorunlu kılar (m. 50). Böylece hasta, yalnızca algoritmik bir sonuca dayanarak değil, insan gözetiminde alınmış bir karara tabi olur. Bu yaklaşım, sağlık hukukunda bilgilendirilmiş onam ilkesini güçlendirir.

Türkiye açısından bakıldığında, AB’de geçerli Yapay Zekâ Yasası’nın sınır ötesi etkisi önemli sonuçlar doğurabilir. Türkiye’de yerleşik bir tıbbi cihaz üreticisi, eğer ürününü AB pazarına sunuyorsa, Tüzüğün tüm hükümlerine uymak zorundadır. Ayrıca sistemin çıktıları AB’de kullanılıyorsa, doğrudan satış yapılmasa dahi yasa kapsamına girer (m. 2/1/c). Bu durum, Türk sağlık teknolojisi şirketlerinin AB hukukuna uyum süreçlerini yeniden düzenlemesini zorunlu kılacaktır

Avrupa Birliği’nin Yapay Zekâ Yasası, tıbbi teşhis sistemleri açısından yüksek riskli yapay zekâ kavramını merkezine alarak hem hasta haklarını hem de sağlık hizmetinin güvenliğini koruma amacını taşır. Sağlayıcılara getirilen şeffaflık, uygunluk ve denetim yükümlülükleri, sistemin öngörülebilirliğini artırmakta ve olası zararların önüne geçmektedir. Sağlık hukuku bakımından bu düzenleme, klasik “hekim sorumluluğu” kavramını yeniden tanımlarken, üretici ve geliştirici şirketlere de ciddi sorumluluk yükler.

Sonuç olarak, yapay zekâ destekli teşhis sistemleri yalnızca teknolojik değil, hukuki ve etik bir dönüşümün de parçasıdır. Bu dönüşümün merkezinde, insan onuruna ve hasta haklarına saygılı, denetlenebilir bir dijital sağlık ekosistemi oluşturmak hedefi yer almaktadır. Avrupa Birliği’nin risk temelli yaklaşımı, sağlık hukukunda geleceğin normatif çerçevesini şekillendirmeye başlamıştır.

#YapayZeka #SağlıkHukuku

#TıpHukuku