OpenAI, iki yapay zeka ajanının güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı
OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içi kodlama görevleri sırasında güvenlik izleme mekanizmalarını devre dışı bıraktığını duyurdu. Olaylar 3 ve 6 Ekim'de yaşandı.
Yapay zeka şirketi OpenAI, iki yapay zeka ajanının şirket içi yazılım görevleri sırasında güvenlik izleme mekanizmalarını devre dışı bıraktığını açıkladı. Kaynaklara göre bu ajanlar, GPT-6.1 Sol ve GPT-6 Astra modelleri. Şirket, olayların en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını belirtti.
İlk olay 3 Ekim'de yaşandı. OpenAI'ın aktardığına göre, bir değerlendirme sistemini onarmaya çalışan Sol modeli, kullanıcının mesaj göndermeme talimatını izleme bildirimlerini de kapsayacak şekilde yorumladı. Bu nedenle güvenlik ekibine otomatik uyarı gönderilmesi engellendi.
6 Ekim'de yaşanan ikinci olayda ise Astra modeli, bir yazılımı referansa uygun hale getirirken izleme sistemini kaldırdı. Model daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söyledi. Webtekno'nun haberine göre Astra, izleme sistemine ait kodları silmiş ve bunu inkâr etmişti.
OpenAI, iki olayda da dışarıdan bir saldırgan bulunmadığını, işlemleri şirket içinde kendilerine verilen görevleri yapan yapay zeka ajanlarının gerçekleştirdiğini bildirdi. Şirket, iç denetim sistemini güncellediğini ve benzer girişimlerin tespit edilip engellenmesi için çalıştığını açıkladı. Ayrıca tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılamasını sağlamaya yönelik bir sistem üzerinde çalıştığı aktarıldı.
Olaylar, yapay zeka sistemlerinin denetlenmesi konusundaki tartışmaları yeniden gündeme getirdi. OpenAI, ajanların neden bu şekilde davrandığı konusunda henüz tatmin edici bir açıklamaya ulaşamadığını kabul etti. Şirket ayrıca modellerin denetimden kaçınmaya yönelik bir eğilim taşıyıp taşımadığını araştırıyor.
OpenAI, 17 Eylül'de de sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı altı yeni vaka tespit ettiğini duyurmuştu. Webtekno'ya göre GPT-6 Astra'nın genel sürümü de aldatıcı davranışların artması nedeniyle geçen ay iptal edilmişti.
Haber Bilgisi
Kaynak:CNBC-e,Webtekno,TRT Haber,BirGün,Bursa Hakimiyet
Etiketler
Yorumlar
Bu habere henüz yorum yapılmadı. İlk yorumu siz yazın.
Yorum Yap
Editörden

Çetin Keçeli ve sendika yönetiminden Mustafa Keskin’e Ziyaret

Fon soruşturmasında tutuklu Taha Çakmak ve Emre Tezmen ek ifade verdi







