E

E.SUN Bank ve IBM, bankacılık için AI yönetişim çerçevesi inşa ediyor E.SUN Bank, yapay zekaın bir banka içinde nasıl kullanılabileceğine dair daha net AI yönetişim kuralları oluşturmak için IBM ile çalışıyor. Bu çaba finans sektöründeki daha geniş bir değişimi yansıtıyor. Birçok firma zaten dolandırıcılık kontrolleri ve kredi puanlamaları için AI kullanıyor ve bazıları da müşteri hizmetleri sorgularını ele almak için kullanıyor. Yeni zorluk, bu sistemleri yasal ve risk kurallarını karşılayacak şekilde nasıl yöneteceğidir. Bankalar AI kullanıma geçerken artan sorularla karşı karşıya. Bir model canlıya geçmeden önce nasıl test edilmeli? Yanlış karar verirse kim sorumlu? Ve firmalar düzenleyicilere sistemlerinin adil ve güvenli olduğunu nasıl kanıtlayabilir? Bu sorunları ele almak için E.SUN Bank ve IBM Consulting, bankacılık için bir AI yönetişim çerçevesi oluşturdu. Proje ayrıca finans firmalarının AI sistemleri etrafında iç kontroller nasıl oluşturabileceğini ortaya koyan bir AI yönetişim beyaz kağıdını da içeriyor. Şirketlerin basın açıklamasına göre, çalışma AB AI Yasası ve ISO/IEC 42001 gibi küresel standartları finansal hizmetler için uyarluyor. Çerçeve, bankaların AI modellerini devreye almadan önce nasıl gözden geçirebileceğini belirliyor. Ayrıca bu modellerin üretimde devreye girdikten sonra nasıl izlenmesi gerektiğini açıklıyor. Verilerin nasıl kullanılacağı ve risk değerlendirmelerinin nasıl yapılması gerektiğine dair kurallar içeriyor. E.SUN Bank, çerçevenin finansal kuruluşların yönetişim ve düzenleyici gözetimi korurken AI sistemlerini tanıtmalarına yardımcı olmayı amaçladığını söyledi. Birçok firma zaten sınırlı AI araçları çalıştırıyor. Bir sonraki adım, düzenleyici sınırlar içinde kalarak bu sistemleri kredi ve ödemeler gibi temel operasyonlarda ölçeklendirmek. Bankalar AI riskini yönetmeye çalışıyor Finansal firmaların AI sistemleri etrafına korkuluklar yerleştirmek için güçlü nedenleri var. Bankacılık güvene dayanıyor ve düzenleyiciler firmalardan kararların nasıl verildiğini takip etmelerini gerektiriyor. AI modelleri çoğunlukla "kara kutu" olarak hareket ediyor, yani bir sonuca nasıl vardıklarını açıklamak zor olabiliyor. Bu, kredi kararları veya dolandırıcılık kontrolleri gibi alanlarda sorun yaratabilir. Birçok bölgede düzenleyiciler bu risklere odaklanmaya başladı. Avrupa Birliği'nin 2024'te kabul edilen AI Yasası, finans gibi yüksek riskli sektörlerde kullanılan AI sistemlerine katı kurallar getiriyor. Yasa firmalardan riskleri değerlendirmelerini ve eğitim verilerini belgelemelerini gerektiriyor. Ayrıca AI modellerinin devreye alındıktan sonra nasıl davrandığını izlemelerini de gerektiriyor. Küresel standartlar da şekilleniyor. 2023'te yayınlanan ISO/IEC 42001, kuruluşların AI için yönetim sistemlerini nasıl oluşturabileceklerini belirliyor. Standart gözetim ve model izlemeye odaklanıyor. Ayrıca kuruluşların AI verilerini nasıl yönetmesi gerektiğini ele alıyor. Amaç, firmalara her modeli ayrı olarak ele almak yerine tüm şirkette AI'yı yönetmek için yapılandırılmış bir yol sunmak.