A

Yı ajanları daha fazla görev üstlendikçe, yönetişim öncelik haline geliyor YZ sistemleri basit yanıtların ötesine geçmeye başlıyor. Birçok kuruluşta, YZ ajanları artık sınırlı insan girdisiyle görevleri planlamak, kararlar vermek ve eylemler gerçekleştirmek için test ediliyor. Artık sadece bir modelin doğru cevabı verip vermediği meselesi değil. Mesele, o modelin eylem yapmasına izin verildiğinde ne olduğudur. Ozonom sistemler açık sınırlara ihtiyaç duyar. Neye erişebildiklerini, ne yapmalarına izin verildiğini ve eylemlerinin nasıl takip edildiğini tanımlayan kurallara ihtiyaç duyarlar. Bu kontroller olmadan, iyi eğitilmiş sistemler bile tespit edilmesi veya geri alınması zor problemler yaratabilir. Bu problem üzerinde çalışan şirketlerden biri Deloitte. Firma, kuruluşların YZ sistemlerini yönetmelerine yardımcı olmak için yönetişim çerçeveleri ve danışmanlık yaklaşımları geliştiriyor. Araçlardan YZ ajanlara Bugün kullanılan çoğu YZ sistemi hala insan yönlendirmelerine bağımlıdır. Metin üretir, veri analiz eder veya tahminler yaparlar, ancak genellikle bir kişi bundan sonra ne olacağına karar verir. Ajantik YZ bu kalıbı değiştirir. Bu sistemler bir hedefi adımlara bölebilir, eylemler seçebilir ve görevleri tamamlamak için diğer sistemlerle etkileşim kurabilir. Bu ek bağımsızlık yeni zorluklar getirir. Bir sistem kendi başına hareket ettiğinde, tam olarak beklenmeyen yollar izleyebilir veya veriyi amaçlanmayan şekillerde kullanabilir. Deloitte'un çalışması, kuruluşların bu risklere hazırlanmasına yardım etmeye odaklanır. YZ'yi bağımsız bir araç olarak görmek yerine, firma onun iş süreçlerine nasıl uyduğunu, kararların nasıl verildiğini ve verinin sistemler arasında nasıl aktığını inceler. Yaşam döngüsüne yönetişim inşa etmek Yönetişim devreye almadan sonra eklenmemelidir. YZ sisteminin tam yaşam döngüsüne inşa edilmesi gerekir. Bu, tasarım aşamasında başlar. Kuruluşların sistemin ne yapmaya yetkili olduğunu ve sınırlarının nerede olduğunu tanımlamaları gerekir. Bu, veri kullanımı etrafında kurallar koymayı ve sistemin belirsiz durumlarda nasıl yanıt vermesi gerektiğini belirtmeyi içerebilir. Sonraki aşama devreye almadır. Bu noktada yönetişim erişim ve kontrole odaklanır, kimin sistemi kullanabileceği ve neye bağlanabileceği de dahil olmak üzere. Sistem canlıya geçtikçe, izleme ana endişe haline gelir. Otonom sistemler yeni verilerle etkileşime girdikçe zamanla değişebilir. Düzeli kontroller olmadan, orijinal amaçlarından uzaklaşabilirler. Şeffaflık ve hesap verebilirliğin rolü YZ sistemleri daha fazla sorumluluk üstlendikçe, kararların nasıl verildiğini izlemek daha zor hale geliyor. Bu, daha güçlü Şeffaflık talebini yaratıyor. Deloitte'un çalışması sistemlerin nasıl çalıştığını takip etmenin önemini vurguluyor. Bu, eylemleri kaydetmeyi ve kararları belgelemeyi içerir. Bu kayıtlar kuruluşların ne olduğunu belirlemesine yardımcı olur