E

E.SUN Bank ve IBM, bankacılık için yapay zeka yönetişim çerçevesi geliştiriyor E.SUN Bank ve IBM, bankacılık için yapay zeka yönetişim çerçevesi geliştiriyor E.SUN Bank, yapay zekanın bir banka içinde nasıl kullanılabileceğine dair daha net AI yönetişim kuralları oluşturmak için IBM ile çalışıyor. Bu çaba, finans sektöründeki daha geniş bir değişimi yansıtıyor. Birçok firma zaten dolandırıcılık kontrolleri ve kredi puanlaması için AI kullanıyor ve bazıları müşteri hizmetleri sorgularını ele almak için de kullanıyor. Yeni zorluk, bu sistemleri yasal ve risk kurallarını karşılayacak şekilde nasıl yöneteceğidir. Bankalar, AI'yı devreye sokarken artan bir soru listesiyle karşı karşıya. Bir model canlıya geçmeden önce nasıl test edilmeli? Yanlış bir karar verirse kim sorumlu? Ve firmalar sistemlerinin adil ve güvenli olduğunu düzenleyicilere nasıl kanıtlayabilir? Bu sorunları ele almak için, E.SUN Bank ve IBM Consulting bankacılık için bir AI yönetişim çerçevesi oluşturdu. Proje ayrıca finansal firmaların AI sistemleri etrafında nasıl iç kontroller oluşturabileceklerini belirleyen bir AI yönetişim beyaz kağıdını da içeriyor. Şirketlerin basın açıklamasına göre, çalışma AB AI Yasası ve ISO/IEC 42001 gibi küresel standartları finansal hizmetler için uyarlar. Çerçeve, bankaların AI modellerini devreye almadan önce nasıl inceleyebileceklerini belirler. Ayrıca bu modellerin üretim aşamasına girdikten sonra nasıl izlenmesi gerektiğini açıklar. Verilerin nasıl kullanılacağı ve risk incelemelerinin nasıl gerçekleşmesi gerektiği konusunda kurallar içerir. E.SUN Bank, çerçevenin finansal kurumların yönetişim ve düzenleyici gözetimi koruyarak AI sistemlerini tanıtmalarına yardımcı olmayı amaçladığını söyledi. Birçok firma zaten sınırlı AI araçları çalıştırıyor. Bir sonraki adım, bu sistemleri düzenleyici sınırlar içinde kalarak kredi ve ödemeler gibi temel operasyonlarda ölçeklendirmektir. Bankalar AI riskini yönetmeye çalışıyor Finansal firmaların AI sistemleri etrafına korkuluklar koymak için güçlü nedenleri var. Bankacılık güvene dayanır ve düzenleyiciler firmaların kararların nasıl alındığını takip etmelerini gerektirir. AI modelleri genellikle "kara kutular" gibi davranır, yani bir sonuca nasıl vardıklarını açıklamak zor olabilir. Bu, kredi kararları veya dolandırıcılık kontrolleri gibi alanlarda sorun yaratabilir. Birçok bölgedeki düzenleyiciler bu risklere odaklanmaya başladı. 2024'te kabul edilen Avrupa Birliği AI Yasası, finans gibi yüksek riskli sektörlerde kullanılan AI sistemlerine sert kurallar getiriyor. Yasa, firmaların riskleri değerlendirmesini ve eğitim verilerini belgelemelisini gerektiriyor. Ayrıca AI modellerinin devreye alındıktan sonra nasıl davrandıklarını izlemelerini gerektiriyor. Küresel standartlar da şekilleniyor. 2023'te yayınlanan ISO/IEC 42001, kuruluşların AI için nasıl yönetim sistemleri kurabileceklerini belirler. Standart gözetim ve model izlemeye odaklanır. Ayrıca kuruluşların AI verilerini nasıl yönetmeleri gerektiğini ele alır. Amaç, firmalara her modeli ayrı olarak ele almak yerine AI'yı tüm şirket genelinde yönetmek için yapılandırılmış bir yol vermektir.