A

Agentic AI'nın AB Yapay Zeka Yasası altında 2026'daki yönetişim zorlukları Yapay zeka ajanları, sistemler arasında veriyi otomatik olarak taşıma ve kararları tetikleme vaadi taşıyor, ancak bazı durumlarda ne, ne zaman ve neden görevlerini üstlendiklerine dair net bir kayıt olmadan hareket edebilirler. Bu, BT liderlerinin nihai olarak sorumlu olduğu bir yönetişim problemi yaratma potansiyeli taşıyor. Bir organizasyon bir ajanın eylemlerini izleyemiyorsa ve otoritesi üzerinde uygun kontrole sahip değilse, liderler bir sistemin güvenli ve hatta yasal olarak çalıştığını düzenleyicilere kanıtlayamazlar. Bu, AB Yapay Zeka Yasası'nın uygulanmasının başlamasıyla bu yıl Ağustos ayından itibaren daha da önemli hale gelecek bir konu. Yasanın metnine göre, kişisel olarak tanımlanabilir bilgilerin işlendiği veya finansal operasyonların gerçekleştiği gibi yüksek riskli alanlarda kullanıldığında, yapay zeka ile ilgili yönetişim başarısızlıkları için önemli cezalar olacak. AB'de BT liderlerinin dikkate alması gerekenler Yüksek risk seviyelerini hafifletmek için birkaç adım atılabilir ve bunlar arasında ajan kimliği, kapsamlı kayıtlar, politika kontrolleri, insani gözetim, hızlı iptal, satıcılardan belgelerin mevcudiyeti ve düzenleyicilere sunulacak kanıtların formule edilmesi öne çıkanlar arasındadır. Karar vericilerin agentic sistemler tarafından üstlenilen faaliyetlerin kayıtlarını oluşturmaya yardımcı olacak birkaç seçenek vardır. Örneğin, Asqav adlı bir Python SDK (yazılım geliştirme kiti), her ajanın eylemini kriptografik olarak imzalayabilir ve tüm kayıtları değişmez bir hash zincirine bağlayabilir - bu, daha çok blockchain teknolojisiyle ilişkilendirilen bir teknik türü. Birisi veya bir şey bir kayıt değiştirirse veya kaldırırsa, zincirin doğrulaması başarısız olur. Yönetişim ekipleri için, tüm agentic yapay zekalar için açık sözlü, merkezi, muhtemelen şifrelenmiş bir kayıt sistemi kullanmak, bireysel yazılım platformları tarafından üretilen dağınık metin kayıtlarının çok ötesinde veri sağlayan bir önlemdir. Kayıtların nasıl yapıldığı ve saklandığının teknik ayrıntılarından bağımsız olarak, BT liderleri agentic örneklerin kuruluş genelinde tam olarak nerede, ne zaman ve nasıl hareket ettiğini görmeli. Birçok organizasyon, otomatik, yapay zeka tabanlı faaliyetlerin herhangi bir kaydında bu ilk adımda başarısız oluyor. İşlemde olan her ajanın bir kayıt defteri tutmak, her birini benzersiz şekilde tanımlamak, ayrıca yetenekleri ve verilen izinlerin kayıtlarını tutmak gerekli. Bu 'agentic varlık listesi', AB Yapay Zeka Yasası'nın 9. maddesinin gerekliliklerine güzel bir şekilde uyuyor: Madde 9: Yüksek riskli alanlar için, yapay zeka risk yönetimi devişimin her aşamasına (geliştirme, hazırlık, üretim) entegre edilmiş sürekli, kanıta dayalı bir süreç olmak zorunda ve kontrol altında olmalı