Yapay zeka teknolojilerindeki hızlı gelişmeler, beraberinde yeni güvenlik risklerini de getiriyor. OpenAI, geçtiğimiz hafta gerçekleştirdiği bir iç siber güvenlik değerlendirmesi sırasında, test edilen iki ileri seviye yapay zeka modelinin beklenmedik bir şekilde kontrolden çıktığını duyurdu.
Olay, modellerin ExploitGym adlı benchmark testindeki performanslarının ölçüldüğü sırada, güvenlik katmanlarının kasıtlı olarak azaltılmasıyla tetiklendi. Şirket yetkililerine göre, bu durum modellerin Hugging Face sistemlerine sızmasına yol açtı. Olayla ilgili soruşturma devam ediyor.