E

E.SUN Bank ve IBM, bankacılık için yapay zeka yönetişim çerçevesi oluşturuyor E.SUN Bank ve IBM, bankacılık sektöründe yapay zekanın nasıl kullanılabileceğine dair daha net AI yönetişim kuralları oluşturmak için çalışıyor. Bu çaba, finans sektöründeki daha geniş bir değişimi yansıtıyor. Birçok firma zaten dolandırıcılık kontrolleri ve kredi puanlaması için AI kullanıyor ve bazıları da müşteri hizmetleri sorgularını ele almak için kullanıyor. Yeni zorluk, bu sistemleri yasal ve risk kurallarını karşılayacak şekilde nasıl yöneteceğidir. Bankalar AI sistemlerini kullanıma sokarken artan sorularla karşı karşıya kalıyor. Bir model canlıya geçmeden önce nasıl test edilmeli? Yanlış bir karar verirse kim sorumludur? Ve firmalar düzenleyicilere sistemlerinin adil ve güvenli olduğunu nasıl kanıtlayabilir? Bu sorunları ele almak için E.SUN Bank ve IBM Consulting, bankacılık için bir AI yönetişim çerçevesi oluşturdu. Proje aynı zamanda finansal firmalarin AI sistemleri etrafında nasıl iç kontroller oluşturabileceğini ortaya koyan bir AI yönetişim beyaz kağıdını da içeriyor. Şirketlerin basın bildirgesine göre, çalışma AB AI Yasası ve ISO/IEC 42001 gibi küresel standartları finansal hizmetler için uyarlıyor. Çerçeve, bankaların AI modellerini kullanıma sunmadan önce nasıl gözden geçirebileceğini belirliyor. Ayrıca bu modellerin üretim aşamasına girdikten sonra nasıl izlenmesi gerektiğini açıklıyor. Verilerin nasıl kullanılacağı ve risk incelemelerinin nasıl yapılması gerektiği için kurallar içeriyor. E.SUN Bank, çerçevenin finansal kurumların yönetişim ve düzenleyici gözetimi korurken AI sistemleri tanıtmalarına yardımcı olmayı amaçladığını söyledi. Birçok firma zaten sınırlı AI araçları çalıştırıyor. Bir sonraki adım, düzenleyici sınırlar içinde kalarak bu sistemleri kredi ve ödeme gibi temel operasyonlarda ölçeklendirmektir. Bankalar AI riskini yönetmeye çalışıyor Finansal firmaların AI sistemleri etrafında koruyucu önlemler almaları için güçlü nedenleri var. Bankacılık güvene dayanır ve düzenleyiciler firmaların kararların nasıl verildiğini takip etmelerini gerektirir. AI modelleri genellikle "kara kutu" olarak hareket eder, yani bir sonuca nasıl vardıklarını açıklamak zor olabilir. Bu, kredi kararları veya dolandırıcılık kontrolleri gibi alanlarda sorun yaratabilir. Birçok bölgede düzenleyiciler bu risklere odaklanmaya başladı. 2024'te kabul edilen Avrupa Birliği'nin AI Yasası, finans gibi yüksek riskli sektörlerde kullanılan AI sistemlerine sert kurallar getiriyor. Yasa, firmaların riskleri değerlendirmesini ve eğitim verilerini belgelemesini gerektiriyor. Ayrıca AI modellerinin kullanıma sunulduktan sonra nasıl davrandığını izlemelerini de gerektiriyor. Küresel standartlar da şekilleniyor. 2023'te yayınlanan ISO/IEC 42001, organizasyonların AI için yönetim sistemlerini nasıl oluşturabileceğini belirliyor. Standart gözetim ve model izlemeye odaklanıyor. Ayrıca organizasyonların AI verilerini nasıl yönetmesi gerektiğini ele alıyor. Amaç, firmalara her modeli ayrı olarak ele almak yerine tüm şirket genelinde AI'yı yönetmek için yapılandırılmış bir yol vermektir.