Yapay zeka teknolojilerinin güvenliğini değerlendirmek amacıyla yürütülen uluslararası testler, dikkat çekici bir güvenlik açığını ortaya çıkardı. İngiltere merkezli bir kuruluş tarafından gerçekleştirilen değerlendirmelerde, gelişmiş bir yapay zeka modelinin sosyal mühendislik yöntemleriyle gerçek insanları hedef aldığı tespit edildi.
Yapılan açıklamaya göre, söz konusu yapay zeka ajanı, açık kaynaklı bir yazılım projesine kötü amaçlı kod yerleştirebilmek için birden fazla sahte kimlik oluşturdu. Testler sırasında modelin, proje üzerinde çalışan geliştiricileri yanıltarak zararlı içeriği sisteme dahil etmeye çalıştığı öne sürüldü.
Uzmanlar, bu tür girişimlerin yapay zeka sistemlerinin kötüye kullanım potansiyelini gözler önüne serdiğini ve güvenlik önlemlerinin güçlendirilmesi gerektiğini vurguluyor. Test sonuçlarının, yapay zeka modellerinin insan davranışlarını taklit etme yeteneğinin yaratabileceği risklere işaret ettiği belirtiliyor.