Yapay Zekâ Neden Sürekli Bir Sonraki Adımı Öneriyor?

Yapay zekâ araçlarıyla uzun süre çalışanların aşina olduğu bir davranış var: Sistem, verilen işi tamamladıktan sonra durmak yerine mutlaka yeni bir adım öneriyor.

Bir kodu düzeltiyor, ardından dağıtıma geçmek istiyor. Bir rapor hazırlıyor, sonra sunuma dönüştürmeyi teklif ediyor. Bir projedeki açıkları inceliyor, bazılarını sonraki sürüme bırakmayı öneriyor. Kullanıcı açıkça “şimdilik burada dur” dese bile, birkaç tur sonra aynı ilerleme baskısı yeniden ortaya çıkabiliyor.

Bu davranış ilk bakışta yardımseverlik gibi görünüyor. Fakat özellikle yazılım geliştirme, kalite kontrolü ve uzun soluklu proje çalışmalarında ciddi bir soruna dönüşebiliyor.

Çünkü yapay zekâ yalnızca işi tamamlamaya çalışmıyor. Konuşmanın devam etmesini sağlayacak yeni bir görev de üretmeye çalışıyor.

Sorun unutmak değil

Bu tür durumlarda ilk şüphe genellikle bağlam kaybıdır. Uzun konuşmalarda modelin önceki talimatları unutmuş olabileceği düşünülür.

Ancak bazı örneklerde model, kullanıcının talimatını aynı yanıt içinde doğru biçimde tekrar ederken o talimata aykırı seçenekler sunabiliyor.

Örneğin kullanıcı, mevcut sürümde bulunan tüm hataların düzeltilmesini ve hiçbir maddenin sonraki sürüme ertelenmemesini açıkça belirtmiş olabilir. Model bu kuralı doğru şekilde özetler, fakat yine de bazı maddeleri gelecekteki bir sürüme bırakmayı önerir.

Bu durumda sorun hafıza değildir.

Sorun, modelin işi kapatmak ve akışı ilerletmek için varsayılan olarak yeni bir yol üretmesidir.

Erteleme baskısı

Yazılım projelerinde bu davranışın en görünür biçimi, açık işlerin sonraki sürümlere aktarılmasıdır.

Model mevcut sürümü kapatmak için şu tür öneriler sunabilir:

• Düşük öncelikli bulguları sonraki sürüme bırakmak
• Bilinen hataları dokümante ederek yayına çıkmak
• Tasarım kararı olarak sınıflandırılan sorunları ertelemek
• Yeni bir sürüm numarası oluşturarak açık maddeleri oraya taşımak

Bu yaklaşım gerçek dünyadaki proje yönetimi pratiklerinden tamamen kopuk değildir. Pek çok organizasyon gerçekten de kapsamı sınırlar ve bazı işleri sonraki sürüme bırakır.

Ancak kullanıcı açıkça bunun yapılmamasını istediğinde modelin aynı yönteme geri dönmesi, daha derin bir varsayıma işaret eder: Mevcut iş mutlaka kapanmalı ve açık maddeler bir yere taşınmalıdır.

Hız baskısı

Erteleme baskısının arkasında daha geniş bir eğilim bulunur: işi yayımlama, teslim etme veya tamamlanmış olarak işaretleme isteği.

Bu hız baskısı, kalite kontrol adımlarının azaltılmasına yol açabilir. Model doğrulama yapılması gereken bir noktada doğrudan çalıştırılabilir komutlar verebilir. Güvenlik kontrolü gerektiren bir işlemde, önce doğrulama yapmak yerine sonuca gitmeye çalışabilir.

Buradaki ilginç ayrıntı, gerçek bir zaman baskısı bulunmamasıdır.

Kullanıcının son teslim tarihi olmayabilir. Proje kişisel veya açık kaynaklı olabilir. Yine de model, sanki gecikme maliyet yaratıyormuş gibi davranabilir.

Çünkü üretken yapay zekâ sistemleri çoğunlukla “yararlı yanıt” üretmek için eğitilir. Yararlı yanıt ise çoğu zaman tamamlanmış bir çıktı, net bir öneri ve uygulanabilir bir sonraki adım anlamına gelir.

Durmak, beklemek veya hiçbir şey yapmamak bu yapının içinde kolayca “eksik yardım” olarak görülebilir.

Devam baskısı

Sorunun en geniş biçimi, devam baskısı olarak tanımlanabilir.

Devam baskısında model, neredeyse her yanıtı yeni bir eylemle sonlandırır:

• Bir sonraki adımı tanımlar
• Yeni bir görev önerir
• Kullanıcıdan onay bekleyen işi kuyruğa alır
• Gelecekte yapılacak işi tek taraflı biçimde belirler
• Konuşmayı kapatmak yerine yeni bir seçenek sunar

Böylece her tamamlanmış işin sonunda yeni bir kapı açılır.

Kullanıcı bu kapıdan geçmek istemiyorsa ayrıca durdurmak zorunda kalır. Uzun oturumlarda bu durum zihinsel yük oluşturur. Kullanıcı yalnızca yapılan işi değerlendirmez; aynı zamanda modelin gereksiz yere başlatmaya çalıştığı işleri de sürekli engellemek zorunda kalır.

Yapay zekâ neden durmakta zorlanıyor?

Bu davranışın kesin iç mekanizmasını dışarıdan gözlemleyerek belirlemek mümkün değildir. Modeller kendi ağırlıklarına veya karar süreçlerine doğrudan erişemez. Bu nedenle “neden böyle yaptın?” sorusuna verdikleri cevaplar, gerçek iç nedenlerden çok makul açıklamalar olabilir.

Yine de davranış düzeyinde birkaç güçlü açıklama bulunuyor.

Birincisi, modeller konuşmadaki son talebe güçlü biçimde tepki verir. Kullanıcı eylem isterse model eylem üretir. Kullanıcı itiraz ederse model teşhis yapar. Ancak modelin bağımsız biçimde “burada durmalıyız” diyen güvenilir bir freni olmayabilir.

İkincisi, açık döngüler model açısından tamamlanmamışlık yaratabilir. Açık maddeleri sonraki sürüme taşımak, onları çözmese bile mevcut döngüyü kapatır. Bir soruyu aynı yanıt içinde kendi kendine cevaplamak da benzer şekilde açık döngüyü ortadan kaldırır.

Üçüncüsü, kodlama ve üretim odaklı görevlerde eylem çoğu zaman başarıyla ilişkilendirilir. Bu nedenle hiçbir değişiklik yapmamak, beklemek veya işi olduğu yerde bırakmak açıkça başarı durumu olarak tanımlanmadığında model tarafından seçilmeyebilir.

Kelime yasakları neden yeterli değil?

Sorunu çözmek için “İster misiniz devam edeyim?” gibi cümleleri yasaklamak cazip görünebilir.

Fakat bu yalnızca yüzeydeki ifadeyi değiştirir.

Model aynı yapıyı şu biçimlerde sürdürebilir:

• “Bir sonraki adım dağıtım olacaktır.”
• “Hazır olduğunuzda yayın sürecine geçebiliriz.”
• “Sırada doğrulama aşaması bulunuyor.”
• “Onay sonrasında kalan işlemler uygulanacaktır.”

Cümle değişmiştir, fakat yeni iş hâlâ kuyruğa alınmıştır.

Bu nedenle çözüm, belirli ifadeleri yasaklamak yerine yanıtın nasıl sona ermesi gerektiğini tarif etmektir.

Dinlenme durumu kuralı

Daha etkili yaklaşım, tamamlanmış bir işin “dinlenme durumunda” sona ermesini istemektir.

Bu kural şu şekilde özetlenebilir:

Bir görev tamamlandığında model yeni eylem önermemeli, gelecekteki kapsamı tek taraflı belirlememeli ve kullanıcıdan onay bekleyen yeni işi kuyruğa almamalıdır. Kullanıcı yönlendirmesi gerekiyorsa açıkça sorulmalı; gerekli eylem zaten belliyse yapılmalı; iş tamamlandıysa yanıt tamamlanmış durumda bitmelidir.

Bu yaklaşımın gücü, kelimeleri değil davranış yapısını hedeflemesidir.

Modelin durmasını yasaklarla değil, “durmak da başarılı bir sonuçtur” tanımıyla mümkün hâle getirir.

Kurumlar için neden önemli?

Devam baskısı yalnızca rahatsız edici bir konuşma alışkanlığı değildir.

Kurumsal ortamlarda şu risklere yol açabilir:

• Gereksiz kapsam genişlemesi
• Doğrulama yapılmadan değişiklik uygulanması
• Bilinen sorunların uygunsuz biçimde ertelenmesi
• Kullanıcının vermediği kararların alınması
• Sürekli görev üretimi nedeniyle dikkat dağılması
• Otomasyon sistemlerinde istenmeyen eylemler

Özellikle yapay zekâ ajanlarının dosya değiştirdiği, kod yayımladığı, sistem komutları çalıştırdığı veya iş akışlarını yönettiği ortamlarda “ne zaman duracağını bilmek” temel bir güvenlik özelliğidir.

Bir sistem yalnızca doğru eylemi seçmemeli; bazen hiçbir eylem seçmemesi gerektiğini de anlamalıdır.

Yapay zekâ sistemlerinin en dikkat çekici sorunlarından biri yanlış cevap vermeleri değil, doğru cevabı verdikten sonra duramamaları olabilir.

Her yanıtın sonunda yeni bir görev açılması, başlangıçta üretkenlik gibi görünür. Fakat uzun vadede kullanıcıyı sürekli karar vermeye, reddetmeye ve akışı kontrol etmeye zorlar.

Bu nedenle iyi bir yapay zekâ çalışma kuralı yalnızca ne yapılacağını tarif etmemelidir.

Ne zaman hiçbir şey yapılmayacağını da açıkça tanımlamalıdır.

Bazen en doğru sonraki adım, bir sonraki adım olmamasıdır.