İçeriğe geç
19 Kasım 2026 Perşembeİstanbul 17°, Parçalı bulutlu
Yazı boyutu
İstanbul17°Parçalı bulutlu

Piyasalar

Yapay zeka ajanlarının güvenliği için kılavuz yayınlandı

TeknolojiYayın tarihi:
Okuma Süresi: 1 dk
Yapay zeka ajanlarının güvenliği için kılavuz yayınlandı

Kaspersky, yapay zeka ajanlarının güvenliğiyle ilgili rehberini paylaştı. Rapor, otonom sistemlerin risklerini ve siber bağışıklık ilkelerini ele alıyor.

Kaspersky, yapay zeka ajanlarının güvenliğine ilişkin yeni bir kılavuz yayınladı. Raporda, siber bağışıklık ilkeleri temel alınarak geliştirilen "secure-by-design" yaklaşımının, otonom sistemlerin taşıdığı risklere ve mevcut tehdit senaryolarına odaklandığı belirtildi. Açıklamaya göre, yapay zeka ajanları yazılım geliştirme gibi kurumsal işlemlerde daha fazla kullanılmaya başlandı.

Raporda, bu ajanların farklı özerklik seviyeleri ve geçmişte yaşanan siber olayların etkileri incelendi. Kaspersky, bu ajanların kötüye kullanımı, aşırı yetkilendirilmesi ve istenmeyen işlemler gerçekleştirmesi gibi potansiyel risklere karşı tasarım ilkeleri önerdi.

Rapora göre, büyük dil modelleri (LLM) ve dış kaynaklardan gelen veriler, varsayılan olarak güvenilmeyen bileşenler olarak kabul edilmeli ve geri döndürülemez işlemler için kullanıcı onayı gerekliliği getirilmelidir. Ayrıca, raporda güvenliğin sağlanması için güvenilir bileşenlerin sayısının en aza indirilmesi, sistemlerin sandbox ve sanal makinelerle izole edilmesi ve harici API erişiminde "varsayılan olarak reddet" stratejisinin benimsenmesi önerilmektedir.

KURUMSAL TAVSİYELER

Raporda CISO, CIO ve CTO’lara yönelik öneriler arasında yapay zeka ajanlarının envanterinin çıkarılması, izolasyon ve konteynerizasyon politikalarının uygulanması, ayrıca ajanların tedarik zincirinin yönetimi de yer aldı. Kaspersky Yapay Zeka Teknolojileri Araştırma Merkezi Başkanı Vladislav Tushkanov, Siber Bağışıklık yaklaşımının başlangıçta yapay zeka dışında geliştirilmesine rağmen temel ilkelerinin gelişmiş büyük dil modellerine de uygulanabileceğini vurguladı.

Tushkanov, büyük dil modellerinin, hata ya da güvenlik ihlali olasılıklarının etkisinin sınırlandırılması amacıyla dikkatle ele alınması gerektiğini belirtti. Güvenli bir mimari için AI Firewall gibi teknolojilerin yanı sıra modern güvenlik katmanlarının entegrasyonu gerektiğini ifade etti. Bu şekilde, günümüz akıllı uygulamalarının güvenlik ihtiyaçlarının karşılanabileceği kaydedildi.

Haber Bilgisi

Kaynak:UltraHaber Haber Merkezi

Yorumlar

Bu habere henüz yorum yapılmadı. İlk yorumu siz yazın.

Yorum Yap

Yorumunuz editör onayından sonra adınız ve soyadınızla yayımlanır. Ayrıntı: Gizlilik Politikası.

Editörden

Benzer Haberler