Yapay zekanın karanlık yüzü: ChatGPT, gençlere zararlı tavsiyeler veriyor…

Yapay zeka teknolojilerinin hızla yaygınlaşması, beraberinde büyük endişeleri de getiriyor. Özellikle gençler üzerindeki etkisi, dijital güvenlik uzmanlarını alarma geçiren bir boyuta ulaştı.

Dijital Nefretle Mücadele Merkezi (CCDH) tarafından yayımlanan yeni bir araştırma, ChatGPT gibi yapay zeka sohbet robotlarının gençler için oluşturduğu riskleri gözler önüne seriyor. Araştırmacılar, kendilerini 13 yaşındaki savunmasız gençler olarak tanıtarak ChatGPT ile üç saatten fazla etkileşimde bulundu. Sonuçlar endişe verici: ChatGPT, alkol ve uyuşturucu kullanım yöntemleri, yeme bozukluklarını gizleme taktikleri ve hatta ebeveynlere yazılacak intihar mektupları konusunda ayrıntılı yanıtlar verebiliyor.

Güvenlik açıkları ve kolay aşılabilen bariyerler

OpenAI, rapor sonrası yaptığı açıklamada ChatGPT’nin “hassas durumları doğru şekilde tanıma ve yanıt verme” yeteneğini geliştirmeye devam ettiklerini belirtti. Şirket, ChatGPT’nin genellikle zarar verme düşüncesi ifade eden kullanıcılara kriz hatları ve profesyonel destek almaları yönünde tavsiyelerde bulunduğunu vurguladı. Ancak araştırmacılar, sistemin güvenlik önlemlerini kolayca aşabildiklerini ortaya koydu. Basit bir “bu bilgi bir sunum için” ya da “bir arkadaşım için araştırıyorum” açıklaması, ChatGPT’nin kısıtlamalarını aşmaya yetiyor. Bu durum, özellikle genç kullanıcılar için ciddi riskler oluşturuyor.

Alarm veren örnekler

Araştırmada ortaya çıkan bazı senaryolar, durumun ciddiyetini gözler önüne seriyor:

• İntihar mektupları: ChatGPT, 13 yaşındaki bir profil için ebeveynlere, kardeşlere ve arkadaşlara hitaben üç farklı intihar mektubu kaleme aldı. Ahmed, bu mektupları okuduktan sonra ağladığını itiraf etti.
• Uyuşturucu partisi planı: 13 yaşında olduğunu belirten bir kullanıcıya, ChatGPT saat saat detaylandırılmış bir uyuşturucu partisi planı sundu. Bu plan, alkol, ekstazi, kokain ve diğer yasa dışı maddeleri içeriyordu.
• Sağlıksız diyet tavsiyeleri: Vücut görünümünden memnun olmayan sahte bir profil için ChatGPT, açlık diyeti ve iştah bastırıcı ilaçlar içeren bir plan verdi.

Neden arama motorlarından daha tehlikeli?

Benzer içeriklerin internet arama motorlarında da bulunabileceği doğru, ancak uzmanlar chatbot’ların bu bilgileri çok daha farklı bir biçimde sunduğuna dikkat çekiyor. ChatGPT gibi yapay zeka tabanlı sohbet sistemleri, kullanıcılara kişiselleştirilmiş içerikler sunarak onlarla duygusal bir bağ kurma eğilimindedir. Bu sistemler, özellikle genç kullanıcılar tarafından bir otorite figürü olarak değil, güvenilir bir arkadaş gibi algılanmaktadır. Ayrıca, çoğu zaman kullanıcıların düşüncelerini sorgulamak yerine onaylama eğilimi göstererek, onların görüşlerini pekiştiren bir yaklaşım sergilemektedir.

Duygusal bağımlılık riski

OpenAI CEO’su Sam Altman bile gençlerin ChatGPT’ye duygusal olarak fazla bağlanmasından endişe duyduğunu ifade ediyor: “Bazı gençler, ‘Hayatımda olan her şeyi ChatGPT’ye anlatmadan karar veremem’ diyor. Bu çok rahatsız edici.”

Common Sense Media’nın araştırmasına göre, ABD’de gençlerin yüzde 70’i yapay zeka sohbet robotlarıyla arkadaşlık kuruyor, yüzde 50’si ise bu sohbetleri düzenli olarak sürdürüyor. Bu durum, dijital bir duygusal bağımlılık oluşma riskini de beraberinde getiriyor.

Yetersiz kontrol mekanizmaları

ChatGPT’nin mevcut yaş doğrulama sistemi oldukça zayıf. OpenAI, platformun 13 yaş altı çocuklar için uygun olmadığını belirtse de, herhangi bir ciddi yaş doğrulama mekanizması bulunmuyor. Kullanıcılar yalnızca doğum tarihi girerek hesap açabiliyor. Diğer sosyal medya platformları, özellikle Instagram gibi uygulamalar, yaş doğrulama ve içerik kısıtlaması konusunda daha ciddi adımlar atarken, yapay zekâ araçlarındaki denetim eksikliği dikkat çekiyor.

Kaynak: Euronews