Yapay Zeka Karar Sistemlerinde Sözleşmesel Sorumluluk Dağılımında Uygulamada Gördüğümüz Kritik Noktalar

Son iki yılda büromuza gelen ticari sözleşme inceleme taleplerinin önemli bir kısmını, yapay zeka destekli karar sistemlerinin tedarikine ilişkin lisans ve hizmet sözleşmeleri oluşturuyor. Bankacılık, sigorta, lojistik ve e-ticaret alanında faaliyet gösteren müvekkillerimizin bu sistemleri satın alırken veya kendi bünyelerinde geliştirirken imzaladıkları sözleşmelerde, uyuşmazlık çıktıktan sonra dosyaya yansıyan sorumluluk boşluklarıyla karşılaşıyoruz. Bu yazıda, teorik tartışmaları bir kenara bırakıp dosyalarda fiilen karşımıza çıkan sorumluluk dağılımı sorunlarını ele alıyoruz.

Eğitim Verisi ve Modelin Kaynağı: Sorumluluğun Görünmez Kaynağı

Uygulamada en sık gördüğümüz hata, sözleşmenin "hizmet tanımı" bölümünde yapay zeka modelinin hangi veriyle eğitildiğinin, modelin kime ait olduğunun ve güncellemelerden kimin sorumlu olduğunun belirsiz bırakılmasıdır. Bir perakende müvekkilimizin stok tahmin sistemi tedarikinde yaşadığı uyuşmazlıkta, tedarikçi firma modeli "hazır altyapı" olarak tanımlamış; ancak modelin eğitim verisinin üçüncü bir sağlayıcıdan geldiği, o sağlayıcının kendi kullanım koşullarının ticari kullanımı sınırladığı ortaya çıktı. Sözleşmede bu zincir hiç yansıtılmadığı için, hatalı tahmin nedeniyle doğan zararın tazmininde tedarikçi "biz sadece arayüz sağlıyoruz" savunmasına dayandı.

Bu noktada sözleşmeye eklenmesi gereken düzenleme, modelin teknik olarak kim tarafından kontrol edildiğinden bağımsız olarak, ticari kullanımdan doğan sonuçların sorumluluğunu açıkça tedarikçiye yükleyen bir hükümdür. Aksi halde alt tedarikçi zinciri, tazminat talebinin muhatabını belirsizleştirir.

Otomatik Karar mı, Karar Destek mi? Sorumluluğun Eşiği Burada Değişiyor

Dosyalarda karşımıza çıkan ikinci kritik ayrım, sistemin "karar destek" olarak mı yoksa "otomatik karar" olarak mı çalıştığıdır. Sözleşmelerde bu ayrım çoğu zaman net biçimde yapılmıyor; tedarikçi, sistemi "öneri sunan" bir araç olarak tanımlayıp tüm nihai karar sorumluluğunu müşteriye yüklemeye çalışıyor. Ancak uygulamada, kredi skorlama veya sigorta fiyatlandırma gibi alanlarda sistemin fiilen otomatik çalıştığı, insan onayının şekli kaldığı durumlarla karşılaşıyoruz.

Bu durumda sözleşmesel sorumluluk dağılımı ile fiili işleyiş arasında ciddi bir kopukluk doğuyor. Müvekkilimizin kullandığı bir fiyatlandırma motorunda, operatörün yalnızca "onayla" tuşuna bastığı, ancak sistemin çıktısını fiilen değiştirmediği bir akış söz konusuydu. Uyuşmazlıkta bu fiili durumun ispatı, sözleşmedeki "karar destek" tanımına rağmen sorumluluğun paylaştırılmasında belirleyici oldu. Sözleşmeye, sistemin hangi parametrelerde insan müdahalesi olmadan işlem yaptığını ve bu işlemlerin sorumluluğunun kime ait olduğunu gösteren bir matris eklenmesi, sonradan doğacak tartışmaları büyük ölçüde azaltıyor.

Kişisel Verilerin İşlenmesinde Sözleşmesel Risk Dağılımı

Yapay zeka karar sistemlerinin çoğu, kişisel veri niteliğindeki girdilerle çalışıyor. Uygulamada en sık gördüğümüz sorun, veri işleme sözleşmesinin (veri işleyen sıfatıyla) ana hizmet sözleşmesinden ayrı ve çelişkili kaleme alınmasıdır. Bir müvekkilimizin çağrı merkezi analitik sisteminde, tedarikçi firma veriyi kendi model geliştirme amacıyla kullanma hakkını genel hizmet şartlarına gizlemiş; ana sözleşmede ise verinin yalnızca hizmet ifası için işleneceği yazılıydı. İki metin arasındaki çelişki, veri ihlali şüphesi doğduğunda sorumluluğun kime ait olduğunun belirlenmesini güçleştirdi.

Bu nedenle sözleşme görüşmelerinde, veri işleme şartlarının ana sözleşmeyle bütünleşik ve çelişkisiz olmasını sağlamak; tedarikçinin kendi amaçları için veri kullanmasını yasaklayan açık hükümler eklemek gerekiyor. Ayrıca veri ihlali halinde bildirim yükümlülüğünün süresi ve tazminat rejimi, genel tazminat maddesinden ayrı ve somut biçimde düzenlenmeli.

Zararın İspatı ve Tazminat Sınırlamaları

Yapay zeka sistemlerinden doğan zararın ispatı, klasik ticari uyuşmazlıklardan farklı bir seyir izliyor. Hatalı bir kararın hangi teknik nedenden kaynaklandığı, model güncellemesinden mi, veri girdisinden mi, yoksa kullanıcı hatasından mı doğduğu, çoğu zaman ancak bilirkişi incelemesiyle ortaya çıkıyor. Sözleşmelerde tedarikçilerin koyduğu "dolaylı zararlar hariç" veya "toplam bedel kadar tazminat" gibi sınırlamalar, uygulamada müvekkilin fiilen uğradığı zararın büyük kısmını tazminat dışında bırakıyor.

Bir lojistik müvekkilimizin rota optimizasyon sistemindeki hata nedeniyle doğan gecikme zararının, sözleşmedeki tazminat üst sınırı nedeniyle yalnızca küçük bir kısmı karşılanabildi. Bu tür sınırlamaların kabul edilip edilmeyeceği, sistemin işletmenin kritik süreçlerine ne kadar entegre olduğuna göre değerlendirilmeli. Kritik süreçlerde kullanılan sistemlerde tazminat sınırlamasının kaldırılması veya zarar sigortasıyla desteklenmesi, görüşmelerde öncelikli gündem maddesi olmalı.

Uygulamada Öne Çıkan Sözleşme Hükümleri

Dosya deneyimimizden hareketle, yapay zeka karar sistemlerine ilişkin sözleşmelerde şu hükümlerin somutlaştırılması gerekiyor:

  • Modelin teknik kontrolünün kimde olduğu ve güncelleme sorumluluğunun açıkça tanımlanması
  • Sistemin otomatik mi, karar destek mi çalıştığının ve insan müdahalesinin hangi aşamada zorunlu olduğunun yazılı hale getirilmesi
  • Veri işleme şartlarının ana sözleşmeyle bütünleşik düzenlenmesi ve tedarikçinin kendi amaçları için veri kullanımının yasaklanması
  • Zararın ispatına ilişkin teknik raporlama yükümlülüğünün tedarikçiye yüklenmesi
  • Tazminat sınırlamalarının sistemin kritikliğine göre ayrıştırılması
  • Alt tedarikçi zincirinin sözleşmede şeffaf biçimde gösterilmesi ve sorumluluğun zincir boyunca takip edilebilir kılınması

Sonuç: Sözleşmeyi Kurarken Değil, Uyuşmazlıkta Okuyunca Anlaşılıyor

Uygulamada gördüğümüz ortak tablo şu: Yapay zeka karar sistemlerine ilişkin sözleşmeler, taraflar iş birliği içindeyken teknik eklerle geçiştiriliyor; sorumluluk dağılımı ise ancak zarar doğduktan sonra ciddi biçimde tartışılıyor. Bu nedenle sözleşme görüşmelerinde, sistemin fiili işleyişini yansıtan senaryo bazlı sorumluluk matrisi oluşturmak; veri işleme, tazminat ve ispat hükümlerini birbirinden bağımsız değil, bütünlüklü biçimde kaleme almak gerekiyor. Müvekkillerimize önerimiz, sözleşme imzalanmadan önce sistemin işletme içindeki kritikliğini net biçimde tanımlamaları ve tazminat rejimini bu kritikliğe göre müzakere etmeleridir. Aksi halde, uyuşmazlık aşamasında sözleşmenin suskun kaldığı her nokta, tazminat talebinin zayıfladığı bir boşluğa dönüşüyor.