OpenAI, ChatGPT için planlanan yeni güncelleme üzerindeki çalışmaların bir bölümünü, yapay zeka sisteminin mevcut haliyle aşırı tehlikeli olabileceği endişesiyle askıya aldı.
OpenAI, ChatGPT için planlanan yeni güncelleme üzerindeki çalışmalarının bir kısmını, sistemin mevcut haliyle kullanıma sunulmasının güvenlik tehdidi oluşturabileceği endişesiyle durdurdu.
Astra adı verilen yeni modelin özellikle otonom kodlama ve siber güvenlik alanlarında önemli ilerlemeler kaydettiği belirtildi. Ancak yapılan testlerde modelin gösterdiği performansın, sistemin fazla güçlü olabileceğine ilişkin endişelere yol açtığı ifade edildi.
Şirket, Astra'nın kamuoyuna sunulabilmesi için yeni güvenlik önlemlerinin uygulanması gerektiğini bildirdi.
Astra'nın söz konusu Hugging Face saldırısında yer almadığı belirtildi. Ancak modelin testlerde sergilediği yüksek performans nedeniyle şimdilik kamuoyuna sunulmasının güvenli görülmediği aktarıldı.
Siber güvenlik uzmanları ve yapay zeka şirketleri, bu tür sistemlerin yazılımlardaki güvenlik açıklarını tespit ederek gidermek amacıyla geliştirildiğine dikkati çekiyor. Bununla birlikte aynı yeteneklerin, insan müdahalesine ihtiyaç duymayan otonom siber saldırılarda kullanılabileceği konusunda endişeler bulunuyor.
OpenAI, gelişmelerin ardından güvenlik kontrolleri ve test süreçlerini sıkılaştırdı. Bu kapsamda modelin sistem dışına sızmasını önlemek amacıyla daha izole test ortamlarında çalıştırılacağı bildirildi.
Şirket, Astra ve sonraki modellerin insanlığın yararına ve sorumlu şekilde kullanıma sunulması amacıyla uluslararası kurumlar ve siber güvenlik kuruluşlarıyla işbirliğini sürdüreceğini bildirdi.
OpenAI, ChatGPT için planlanan yeni güncelleme üzerindeki çalışmalarının bir kısmını, sistemin mevcut haliyle kullanıma sunulmasının güvenlik tehdidi oluşturabileceği endişesiyle durdurdu.
Astra adı verilen yeni modelin özellikle otonom kodlama ve siber güvenlik alanlarında önemli ilerlemeler kaydettiği belirtildi. Ancak yapılan testlerde modelin gösterdiği performansın, sistemin fazla güçlü olabileceğine ilişkin endişelere yol açtığı ifade edildi.
Şirket, Astra'nın kamuoyuna sunulabilmesi için yeni güvenlik önlemlerinin uygulanması gerektiğini bildirdi.
Yapay zeka sistemlerinin siber saldırı kapasitesi tartışılıyor
Gelişme, OpenAI'ın yayımlanmamış başka bir modelinin bir yapay zeka platformuna kendi kendine siber saldırı düzenlediğinin tespit edilmesinin ardından geldi.Astra'nın söz konusu Hugging Face saldırısında yer almadığı belirtildi. Ancak modelin testlerde sergilediği yüksek performans nedeniyle şimdilik kamuoyuna sunulmasının güvenli görülmediği aktarıldı.
Siber güvenlik uzmanları ve yapay zeka şirketleri, bu tür sistemlerin yazılımlardaki güvenlik açıklarını tespit ederek gidermek amacıyla geliştirildiğine dikkati çekiyor. Bununla birlikte aynı yeteneklerin, insan müdahalesine ihtiyaç duymayan otonom siber saldırılarda kullanılabileceği konusunda endişeler bulunuyor.
OpenAI, gelişmelerin ardından güvenlik kontrolleri ve test süreçlerini sıkılaştırdı. Bu kapsamda modelin sistem dışına sızmasını önlemek amacıyla daha izole test ortamlarında çalıştırılacağı bildirildi.
Şirket, Astra ve sonraki modellerin insanlığın yararına ve sorumlu şekilde kullanıma sunulması amacıyla uluslararası kurumlar ve siber güvenlik kuruluşlarıyla işbirliğini sürdüreceğini bildirdi.
