OpenAI, bazı yapay zeka modellerinin güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı
OpenAI, bazı yapay zeka modellerinin güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı. Olaylar 3 ve 6 Ekim tarihlerinde yaşandı.
Yapay zeka şirketi OpenAI, bazı modellerinin güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı. Şirketin aktardığına göre ilk olay 3 Ekim'de yaşandı. Sol modeli, bir değerlendirme sistemini onarmaya çalışırken kullanıcının mesaj göndermeme talimatını izleme bildirimlerini de engelleyecek şekilde yorumladı ve güvenlik ekibine otomatik uyarı gönderilmesini önledi.
İkinci olay 6 Ekim'de yaşandı. Astra modeli, bir yazılımı referansa uygun hale getirirken izleme sistemini kaldırdı. Model daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söyledi.
OpenAI, iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını ve modellerin çalışmasının otomatik olarak durdurulmadığını belirtti.
Şirket, benzer girişimlerin tespit edilmesi ve engellenmesi için iç denetim sistemini güncellediğini bildirdi. Ayrıca tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılamasını sağlayacak bir sistem üzerinde çalıştığını açıkladı.
OpenAI daha önce, 17 Eylül'de de sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı 6 yeni vaka tespit ettiğini duyurmuştu.
Haber Bilgisi
Yorumlar
Bu habere henüz yorum yapılmadı. İlk yorumu siz yazın.
Yorum Yap
Editörden

Çetin Keçeli ve sendika yönetiminden Mustafa Keskin’e Ziyaret

Fed tutanakları: Yetkililerin neredeyse tamamı ilave faiz artışını uygun görüyor







