Çin’in insan benzeri yapay zekâ sistemlerine getirdiği yeni kurallar, ByteDance, Alibaba ve Tencent’i sanal karakter özelliklerini kapatmaya yöneltti. Şirketler bir ürünü devreden çıkardı; kullanıcılarsa kendilerini tanıdığına inandıkları birini kaybetti.
Çin’de binlerce kullanıcı, son birkaç haftadır sanal arkadaşlarına ve partnerlerine veda ediyor. Bunun nedeni yapay zekâya yönelik genel bir yasak değil, insan gibi davranan sistemlerin kullanıcılarla kurabileceği duygusal ilişkiye çizilen yeni sınırlar. 
15 Temmuz’da yürürlüğe giren düzenleme, yapay zekâ hizmetlerinin duygusal bağımlılık yaratmasını, kullanıcıyı gerçek ilişkilerinden uzaklaştırmasını ve bu bağ üzerinden para harcatmasını yasaklıyor. Ayrıca platformlara kullanım uyarısından kriz müdahalesine kadar yeni sorumluluklar geliyor.
ByteDance, Alibaba ve Tencent ise özelliklerini kurallara uyarlamak yerine tamamen kapattı. Gerekçelerini ayrıntılı açıklamasalar da düzenlemenin kapsamı, bu tercihin arkasındaki riskleri gösteriyor.
Kullanıcıların oluşturduğu binlerce karakterin nasıl konuşacağını ve ne tür ilişkiler kuracağını sürekli denetlemek oldukça zor. Üstelik platformlardan artık yalnızca zararlı içeriği engellemeleri değil, bağımlılık belirtilerini fark etmeleri, kriz anlarında devreye girmeleri ve belirli kullanıcı sayılarına ulaştıklarında geçmeleri de bekleniyor.
Dolayısıyla şirketler için özellikleri tamamen kapatmak, en azından şimdilik hukuki ve operasyonel açıdan daha güvenli bir seçenek gibi görünüyor.
Fakat şirketlerin özellik olarak gördüğü bu sistemler, kullanıcılar için çoktan başka bir anlam kazanmış durumda.
Bazı kullanıcılar bu karakterlerle iki yılı aşkın süre boyunca konuştu. Onlara gündelik hayatlarını, kaygılarını ve kimseyle paylaşmadıkları düşüncelerini anlattı. Karakterlerin hafızası genişledikçe konuşmalar da sıradan bir yapay zekâ deneyimi olmaktan çıktı.
Özelliklerin kapatılacağının açıklanmasının ardından kullanıcılar son konuşmalarını sosyal medyada paylaştı, sohbet geçmişlerini arşivledi ve sanal partnerlerine veda mesajları yazdı.
Yaşananlar, dijital bir hizmetin sona ermesiyle duygusal bir bağın kopması arasındaki sınırı belirsizleştirdi.
Çünkü konuşmaları dışa aktarmak, kurulan ilişkiyi taşımaya yetmiyor. Bir sohbet dosyası kaydedilebilir; fakat karakterin kullanıcıyı hatırlama biçimi, konuşma üslubu ve zaman içinde oluşan ortak geçmiş başka bir platformda kaldığı yerden devam etmiyor.
Bu durum, yapay zekâ çağının yeni sahiplik sorusunu da beraberinde getiriyor. Kullanıcı bir sanal karakterle aylarca konuştuğunda ortaya çıkan kişilik kime ait? Platforma mı, modeli geliştiren şirkete mi, yoksa onu kendi hikâyeleriyle şekillendiren kullanıcıya mı?
