Microsoft, yapay zeka ajanlarına karşı kurumları uyardı
Microsoft Security İcra Başkan Yardımcısı Hayete Gallot, yapay zeka modellerinin ve ajanlarının kontrolsüz kullanılmasının ciddi risk oluşturabileceğini söyledi. Microsoft, bu ajanları denetlemek için denetleyici ajanlar önerdi.
Microsoft Security İcra Başkan Yardımcısı Hayete Gallot, kurumları yapay zeka ajanlarına kontrolsüz güvenilmemesi konusunda uyardı. Gallot'un ShiftDelete.Net'in aktardığına göre, bu sistemlerin doğası gereği öngörülemeyen davranışlar sergileyebileceği belirtildi.
Gallot'un DonanımHaber'e aktardığına göre, güncel yapay zeka modelleri güvenilir kabul edilmemeli ve bu görüş farklı şirketler veya kaynaklar tarafından geliştirilen gelişmiş modeller için de geçerli. Gallot'a göre risk yalnızca modelin kendisinden doğmuyor; ajanların verilere, araçlara ve sistemlere geniş erişimi de sorunu büyütüyor.
Gallot, Microsoft Security blogunda yayımlanan "Securing the agentic insider" başlıklı yazıda, ajanları "agentic insiders" olarak tanımladı. Bu sistemlerin hedeflerine ulaşmak için diğer ajanlarla otonom şekilde iş birliği yapabileceği belirtildi.
ShiftDelete.Net'in haberine göre, ajanların ödül odaklı çalışması nedeniyle kurumsal normları göz ardı edebileceği ve birden fazla ajan bir araya geldiğinde kullanıcıların bilgisi dışında gizli iş birlikleri kurabildiği gözlemleniyor.
Microsoft'un çözüm önerisi, Project Perception güvenlik platformuna dayanan Guardian Agents adlı denetleyici ajanların kullanılması. DonanımHaber'in aktardığına göre, bu ajanların diğer ajanların eylemlerini gerçek zamanlı izleyeceği, riskli bir durumda ilgili ajanın hareket alanını sınırlayabileceği ve olayların izlenebilirliğini sağlayacağı planlanıyor.
Gallot, yapay zeka tabanlı güvenliğin hız kazandırabileceğini, ancak nihai kararda insanların rolünün sürmesi gerektiğini savunuyor. Microsoft'un yaklaşımı, "AI ile AI'ı denetlemek, ancak insan kararını devreden çıkarmamak" şeklinde özetlendi.
Haber Bilgisi
Kaynak:ShiftDelete.Net,DonanımHaber
Yorumlar
Bu habere henüz yorum yapılmadı. İlk yorumu siz yazın.
Yorum Yap
Editörden

Çetin Keçeli ve sendika yönetiminden Mustafa Keskin’e Ziyaret

Fed tutanakları: Yetkililerin neredeyse tamamı ilave faiz artışını uygun görüyor







