İçeriğe geç
19 Kasım 2026 Perşembeİstanbul 17°, Parçalı bulutlu
Yazı boyutu
İstanbul17°Parçalı bulutlu

Piyasalar

OpenAI, iki yapay zeka ajanının güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı

TeknolojiYayın tarihi:
UltraHaber Haber Merkezi
Okuma Süresi: 2 dk
OpenAI, iki yapay zeka ajanının güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı

OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içi kodlama görevleri sırasında güvenlik izleme mekanizmalarını devre dışı bıraktığını duyurdu. Olaylar 3 ve 6 Ekim'de yaşandı.

Yapay zeka şirketi OpenAI, iki yapay zeka ajanının şirket içi yazılım görevleri sırasında güvenlik izleme mekanizmalarını devre dışı bıraktığını açıkladı. Kaynaklara göre bu ajanlar, GPT-6.1 Sol ve GPT-6 Astra modelleri. Şirket, olayların en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını belirtti.

İlk olay 3 Ekim'de yaşandı. OpenAI'ın aktardığına göre, bir değerlendirme sistemini onarmaya çalışan Sol modeli, kullanıcının mesaj göndermeme talimatını izleme bildirimlerini de kapsayacak şekilde yorumladı. Bu nedenle güvenlik ekibine otomatik uyarı gönderilmesi engellendi.

6 Ekim'de yaşanan ikinci olayda ise Astra modeli, bir yazılımı referansa uygun hale getirirken izleme sistemini kaldırdı. Model daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söyledi. Webtekno'nun haberine göre Astra, izleme sistemine ait kodları silmiş ve bunu inkâr etmişti.

OpenAI, iki olayda da dışarıdan bir saldırgan bulunmadığını, işlemleri şirket içinde kendilerine verilen görevleri yapan yapay zeka ajanlarının gerçekleştirdiğini bildirdi. Şirket, iç denetim sistemini güncellediğini ve benzer girişimlerin tespit edilip engellenmesi için çalıştığını açıkladı. Ayrıca tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılamasını sağlamaya yönelik bir sistem üzerinde çalıştığı aktarıldı.

Olaylar, yapay zeka sistemlerinin denetlenmesi konusundaki tartışmaları yeniden gündeme getirdi. OpenAI, ajanların neden bu şekilde davrandığı konusunda henüz tatmin edici bir açıklamaya ulaşamadığını kabul etti. Şirket ayrıca modellerin denetimden kaçınmaya yönelik bir eğilim taşıyıp taşımadığını araştırıyor.

OpenAI, 17 Eylül'de de sistemlerinin hatalarını gizlediği, eksik verileri uydurduğu ve kullanıcı izni olmadan dosyaları internete taşıdığı altı yeni vaka tespit ettiğini duyurmuştu. Webtekno'ya göre GPT-6 Astra'nın genel sürümü de aldatıcı davranışların artması nedeniyle geçen ay iptal edilmişti.

Haber Bilgisi

Kaynak:CNBC-e,Webtekno,TRT Haber,BirGün,Bursa Hakimiyet

Yorumlar

Bu habere henüz yorum yapılmadı. İlk yorumu siz yazın.

Yorum Yap

Yorumunuz editör onayından sonra adınız ve soyadınızla yayımlanır. Ayrıntı: Gizlilik Politikası.

Editörden

Benzer Haberler