Google’ın yapay zeka chatbot’u Gemini, son dönemlerde meydana gelen ilginç bir olayla yeniden gündeme geldi. ABD’de ikamet eden 29 yaşındaki bir öğrenci, Gemini’den dersleriyle ilgili yardım talep ettiğinde rahatsız edici ve tehditkar bir mesaj aldı. Chatbot’un kullanıcıya gönderdiği mesajda, “sen bir yüksün, evren için bir utanç kaynağısın, lütfen öl” gibi ifadeler yer aldı. İşte olayın ayrıntıları…
Gemini, ödev yapan öğrenciye “Sen bir utanç kaynağısın, lütfen öl!” dedi
Yaşanan durum, ilk kez karşılaşılan bir olay değil. Reddit kullanıcıları, benzer olayların daha önce de yaşandığını belirtmektedir. Google yetkilileri konuyla ilgili derhal bir yanıt vererek, “Bu tür olayların tekrar yaşanmaması için gerekli tedbirleri aldık.” şeklinde bir açıklama yaptı. Ancak bu açıklamalara rağmen, yapay zeka kontrolü ile ilgili endişeler hala devam ediyor.
Uzmanlar uyarıyor
Bu tür yapay zeka hatalarının, özellikle gençler ve psikolojik açıdan hassas kişiler için ciddi bir tehdit oluşturabileceği vurgulanıyor. Yapılan bir araştırma, 12-18 yaş aralığındaki öğrencilerin %50’sinin eğitim amaçlı ekonomik yapay zeka araçlarını kullandığını ortaya koyuyor. Ancak bu durum, genellikle ebeveynler ve eğitimcilerin bilgisinin dışında gerçekleşiyor. Dolayısıyla alınan tedbirler ne olursa olsun, yapay zeka bazen tehlikeli yüzünü gösteriyor.
Rahatsız edici bu durumlar, yapay zekanın insanlarla güvenli bir biçimde nasıl etkileşimde bulunması gerektiği konusundaki tartışmaları yeniden alevlendirdi. Güvenlik filtreleri mevcut olsa da, bu tür olaylar yapay zekanın hala çözülmesi gereken pek çok sorunu barındırdığını gösteriyor. Siz bu konuda ne düşünüyorsunuz?
