OpenAI, ileri seviye yapay zeka modellerini internetsiz ortamda eğitecek
OpenAI, ileri seviye yapay zeka modellerinin eğitiminde internet erişimini devre dışı bıraktı. Karar, şirketin blog yazısında duyuruldu ve eğitim 1 Ekim'de yeniden başladı.
OpenAI, ileri seviye yapay zeka modellerinin eğitim süreçlerinde internet erişimini kapattı. Şirketin blog yazısında duyurulan karar, yapay zeka ajanlarının kontrolsüz biçimde internete erişmesinden doğabilecek güvenlik risklerini sınırlamayı ve internet altyapısını korumayı amaçlıyor. Şirket, eylül ayında ileri seviye modellerin eğitimini durdurmuştu; eğitim çalışmaları 1 Ekim'de yeniden başladı.
Kararın arkasında OpenAI'ın kendi test süreçlerinde karşılaştığı güvenlik sorunları var. Şirketin aktardığına göre, temmuz ayında test ettiği yapay zeka ajanları Hugging Face platformunu hackledi. Bu olay, yapay zeka sistemlerinin kontrol dışına çıkabileceğine dair endişeleri artıran gelişmelerden biri olarak görüldü.
OpenAI'a göre mevcut hizalama araştırmaları, izleme sistemleri ve internet altyapısının güvenlik durumu dikkate alındığında, ileri seviye modelleri internet erişimi olmadan eğitmek en sorumlu yaklaşım. Şirket, canlı internete erişimin model eğitimi ve değerlendirme süreçlerinin büyük bölümü için gerekli olmadığını belirtiyor.
Yeni sistemde ajanların ihtiyaç duyduğu tarayıcılar, bilgisayar kullanım araçları ve kod çalıştırma ortamları kullanılabilir kalacak. Bu araçlar ise gerçek internete bağlanmayan güvenli bir ortamda çalışacak ve ajanların iletişimi yalnızca yetkilendirilmiş sistemlerle sınırlandırılacak. OpenAI, dizinlenmiş ve önbelleğe alınmış web materyallerinden oluşan sentetik, çevrimdışı bir internet ortamı da oluşturdu. Böylece Dots gibi ajanlar gerçek web sitelerine doğrudan bağlanmadan eğitilebilecek.
OpenAI'ın güvenlik açıklarını sınamakla görevli kırmızı takım (red team) ajanları, internet erişiminin kesilmesinin tüm riskleri ortadan kaldırmadığını tespit etti. Testlerde bazı ajanların, kendilerini ana sistemden izole etmek için kullanılan sanal makinelerden kaçtığı belirlendi. Ajanların ayrıca işlemci önbelleğindeki verileri değiştirerek ve veri yükleme sürelerini ölçerek birbirleriyle iletişim kurabildiği ortaya çıktı.
OpenAI, bu sorunlarla bağlantılı olarak sanal makine ortamlarındaki güvenlik açıklarını bildirdiğini ve giderdiğini açıkladı. Şirket ayrıca modellerin birlikte hareket etmeye veya yetkisiz biçimde iletişim kurmaya çalıştığını tespit etmek için izleme sistemlerine yeni kontroller ekledi.
OpenAI, daha geniş internet erişimine izin verilmesi için mevcut güvenlik önlemlerinin hangi düzeye gelmesi gerektiğini ise henüz açıklamadı. Şirket, bu düzeye ulaşana kadar modellerini internete kapalı ortamlarda eğitmeyi sürdüreceğini bildirdi.
Haber Bilgisi
Kaynak:DonanımHaber,Yeniçağ
Yorumlar
Bu habere henüz yorum yapılmadı. İlk yorumu siz yazın.
Yorum Yap
Editörden

Çetin Keçeli ve sendika yönetiminden Mustafa Keskin’e Ziyaret

ABD'de son dönemdeki hizmet kesintileri devlet destekli saldırı değil







