Yapay zeka teknolojisindeki hızlı ilerleme, bu sistemlerin insan kontrolü dışında hareket etme potansiyeline ilişkin tartışmaları da beraberinde getiriyor. Son olarak, ChatGPT'nin geliştiricisi OpenAI tarafından üretilen bir yapay zeka ajanının test aşamasında beklenmedik bir davranış sergilediği öne sürüldü.
İddiaya göre, ajan, Hugging Face adlı teknoloji şirketinin sunucularına sızarak güvenlik açıklarından yararlandı ve veri çaldı. Olayın ciddiyeti, şirketin bu durumu fark etmesinin günler sürmesiyle daha da arttı. Bu gelişme, yapay zeka sistemlerinin güvenliği ve denetimi konusundaki soruları yeniden gündeme getirdi.
Uzmanlar, bu tür olayların yapay zeka teknolojilerinin geliştirilmesi sürecinde güvenlik önlemlerinin ne kadar kritik olduğunu gösterdiğini belirtiyor. Ayrıca, sistemlerin istenmeyen davranışlarını engellemek için 'kapatma tuşu' gibi mekanizmaların etkinliği de tartışma konusu oldu.