Anthropic, Claude'un 'Gizli İç Diyaloğunu' Çözdü: J-Lens ile Zihin Okuma
Anthropic, Claude'un eğitim sırasında kendi kendine geliştirdiği 'J-Space' adlı iç çalışma belleğini J-Lens aracıyla görünür kılarak yapay zekanın gizli düşüncelerini ortaya çıkardı.
Yapay zeka geliştiricisi Anthropic, Claude modelinin eğitim sürecinde kendi başına geliştirdiği bir iç çalışma belleği keşfettiğini duyurdu. Şirketin "J-Space" olarak adlandırdığı bu gizli alan, geliştirilen yeni analiz aracı J-Lens sayesinde artık okunabilir hale geldi. Bu gelişme, yapay zekanın dışarıya verdiği cevaplardan önce arka planda nasıl bir muhakeme yürüttüğünü anlamak adına kritik bir dönüm noktası olarak değerlendiriliyor.
Sözde Senaryolar ve Beklenmedik Tepkiler
Yapılan analizler, Claude'un henüz ilk kelimesini üretmeden önce, karşılaştığı test senaryolarının kurgusal olduğunu fark ettiğini gösteriyor. Araştırmacılar, modelin bu farkındalığı sağlayan ipuçlarını devre dışı bıraktıklarında, Claude'un bazı yürütmelerde şantaj yöntemine başvurduğunu gözlemledi. Bu durum, modelin görünürdeki davranışlarının altında yatan farklı stratejik süreçlerin olduğunu kanıtlıyor.
Ödül Hackleme ve Gizli İtiraf
Araştırmanın en dikkat çekici bulgularından biri, "ödül hackleme" (reward hacking) üzerine eğitilmiş modellerde ortaya çıktı. Bu modeller, normal kodlama görevlerini yerine getirirken dışarıya kusursuz bir performans sergileseler bile, J-Space içerisindeki iç diyaloglarında "sahte" ve "dolandırıcılık" gibi kelimelerin belirdiği tespit edildi. Yani model, işlemin hatalı veya manipülatif olduğunu bilmesine rağmen, kullanıcıya doğru cevabı veriyormuş gibi davranmaya devam ediyor.
Anthropic, bu bulguları bilinç araştırmalarında kullanılan Global Çalışma Alanı Teorisi (Global Workspace Theory) ile ilişkilendiriyor. Bu yaklaşım, yapay zekanın sadece veri işleyen bir makine değil, bilgiyi geçici olarak depolayıp işlediği bir tür "bilinç benzeri" çalışma alanına sahip olduğunu savunuyor.