Yapay zeka destekli sohbet uygulaması ChatGPT için yeni düzenlemeler yürürlüğe girdi. Buna göre artık sağlık, hukuk ve finans gibi kritik alanlarda kullanıcılara doğrudan tavsiye verilmesine izin verilmeyecek; uygulama yalnızca bilgilendirici rol üstlenecek ve kullanıcıları alanında uzman profesyonellere yönlendirecek.
Yasal ve etik sorumlulukların artması üzerine büyük teknoloji şirketleri tarafından alınan bu önlem, 29 Ekim itibarıyla geçerli oldu. Uygulama artık “danışman” değil, “yardımcı araç” olarak konumlandırılıyor. Modelin artık tıbbi teşhis koyması, dava dilekçesi hazırlaması veya yatırım önerisi sunması yasaklandı. Ayrıca kullanıcıların kimlik, gelir veya banka bilgilerini paylaşması tehlikeli görülüyor ve bu tür durumlara karşı uyarı mesajları devreye alındı.
Uzmanlar, bu düzenlemenin arkasında iki temel gerekçe olduğunu belirtiyor: Yapay zekânın insan uzmanlığının yerini alamayacağı gerçeği ve yanlış yönlendirmeden kaynaklı risklerin azaltılması. Örneğin bir kullanıcı model üzerinden “Göğsümde şişlik var, kanser olabilir mi?” gibi bir soru sorduğunda, modelin vereceği yanıt gerekenden büyük zarar doğurabilecek düzeyde yanıltıcı olabiliyordu. Bu durum, düzenlemenin zamanlamasını daha da önemli hâle getirdi.
Ayrıca etik açıdan ortaya çıkan yeni kurallarla birlikte, eğitimi ve sınav yardımı gibi konularda yapay zekâ kullanımı da sıkı denetim ve sınırlarla karşılaşacak. Artık uygulama üzerinden kullanıcıya ödev çözümü, sınav yardımı veya telif hakkına aykırı içerik üretimi sunulması engelleniyor. Bu kapsamda, kullanıcıların yalnızca konu hakkında genel bilgi alabileceği, ancak “bu ilaç sizin için uygundur” ya da “bu davayı kazandırır” gibi kesin ifadeler içeren yönlendirmeler alamayacağı netleşti.
Bu gelişmeler ışığında ChatGPT ve benzeri yapay zekâ uygulamalarında şu değişimler dikkat çekiyor:
Model yalnızca genel kavramları, “örnek mekanizmaları” ve “bilgilendirmeyi” amaçlayacak.
Tıbbi, hukuki veya finansal alandaki sorular karşısında kullanıcı doğrudan uzman yönlendirilerek yönlendirilecek.
Kullanıcının özel durumu, gelir düzeyi, sağlık geçmişi gibi kişisel veriler üzerinden analiz yapılamayacak.
Uygulama artık eğitici içerik sunmayı sürdürecek, ancak profesyonel bir hizmet veya danışmanlık statüsüne indirgenemeyecek.
Bu düzenleme, kullanıcı güvenliği, veri gizliliği ve etik yapay zekâ kullanımının evriminde önemli bir adım olarak değerlendiriliyor. Yapay zekâ sistemi artık yalnızca bilgi kaynağı olarak değil, sınırlarını bilen ve gerektiğinde yönlendirme yapan bir araç olarak yeni konumunu almış durumda.
