Son Dakika
Yapay Zeka

Açığa Çıkan Veri AI Projelerini Durduruyor – Nasıl Yönetilir?

AI uygulamaları, uzun süredir unutulmuş veri varlıklarını aniden değerli hâle getiriyor, ancak bu durum güvenlik risklerini de beraberinde getiriyor.

AI, üretken ve ajan temelli modeller sayesinde işletme profesyonellerine bilgi ve içgörü sağlarken, veri sızıntısı endişeleri projelerin geçici olarak durdurulmasına yol açabiliyor. New York’taki Veeam konferansındaki bir panelde, büyük ölçekli AI dağıtımlarının sorumluları, sorunun AI’dan değil, mevcut veri hazinelerinden kaynaklandığını vurguladı.

Fidelity Investments’ta 400.000 çalışanı temsil eden üst düzey yöneticiler, SharePoint ve ağ depolama birimlerinde yıllardır gizli kalan dosyaların AI sorguları sayesinde aniden ortaya çıktığını belirtti. “AI bir sorun değildi, AI’nın hızlı arama yeteneği veri güvenliği sorununun farkına varmamızı sağladı” diyen Steve MacIntyre, bu durumun yapılandırılmamış verinin bir altın rezervine dönüşmesinin bir örneği olduğunu söyledi.

EY’de ise veri sahipliğinin tespiti ve ardından erişimlerin kısıtlanması öncelik oldu. Wim Geurden, küresel ağdaki bağımsız ortakların veri mülkiyetini netleştirmenin zorunlu olduğunu, ardından tüm AI erişimlerinin lisanslı kullanıcılarla sınırlanması gerektiğini anlattı. Şirket, bulunan veri setlerini “gizli”, “finansal hizmetler” gibi etiketlerle sınıflandırdı ve AI’yı bu etiketleme sürecine dahil etti; çünkü insan etiketlemesi yüksek çalışan devir hızı nedeniyle sürdürülebilir değildi.

Etiketleme, sadece üst düzey sınıflandırmadan öteye geçmeli; coğrafi kısıtlamalar, iş hattı etiketleri ve sözleşme gereksinimleri gibi detayları da içermelidir. Tüm bu meta verilerin sözleşmelere kodlanması ise hâlen zor bir görev olarak tanımlanıyor.

Yöneticiler, AI projelerinin başarısının anahtarının güçlü yönetişim olduğunun altını çizdi. Varlık envanterinin güncel ve kullanılan AI senaryolarıyla uyumlu olması, gölge AI ve gölge BT risklerinin azaltılması için şart. Ayrıca, ajanların hangi ortamda çalışacağı, temel modellerle nasıl etkileşime gireceği ve izlenebilir bir mimarinin kurulması gerektiği vurgulandı.

En zorlu konulardan biri de ajan kimliğinin tanımlanması; kısa ömürlü ajanların çalışan olarak sınıflandırılması, kimlik yönetimi açısından yeni bir sorunu gündeme getiriyor.

Yorum Yap

Yapay Zeka Risk Analizi | AI Model Safety Database