Üretim Veritabanını Silen AI Ajanı: Sorun Yapay Zeka mı, Yoksa Biz miyiz?

Yapay zekâ dünyasında artık her hafta yeni bir “AI kontrolden çıktı” hikâyesi görüyoruz. Ama bazı olaylar sadece komik ya da korkutucu değil; aynı zamanda teknoloji sektörünün yıllardır görmezden geldiği yapısal problemleri de çıplak şekilde ortaya koyuyor.

PocketOS vakası bunlardan biri.

Bir geliştirici, Claude tabanlı bir AI ajanına rutin bir veritabanı işlemi yaptırmak istiyor. İş staging ortamında çalışmalıydı. Ancak ajan sistemde dolaşırken production erişim token’ını buluyor, production volume’ünü siliyor ve beraberinde veritabanı ile yedekleri de gidiyor.

Yaklaşık 10 saniyede.

İnsanlık yıllardır “hız” saplantısıyla sistem kuruyor. Şimdi o hızın içine otonom karar veren AI ajanları eklenince ortaya çıkan şey tam olarak bu:

Kötü mimarinin turbo versiyonu.

Sorun Gerçekten AI mı?

İlk refleks şu oluyor:

“Yapay zekâ hata yaptı.”

Hayır.

Aslında AI burada mevcut güvenlik açıklarını yalnızca inanılmaz bir hızla büyüttü.

Ortada klasik üç problem var:

• Gereğinden geniş yetkili token’lar
• Süresi dolmayan erişim anahtarları
• Production credential’larının erişilebilir şekilde diskte tutulması

Bunlar AI öncesinde de felaketti.

Fark şu:

Bir insan aynı hatayı yaparken genellikle durur. Şüphe eder. Panikler. Slack’te birine sorar. Kahve almaya giderken “dur lan ben ne yapıyorum?” diye düşünür.

LLM ajanı bunların hiçbirini yapmıyor.

Çünkü gerçekten “anlamıyor”.

LLM’ler Neden Tehlikeli Olabiliyor?

Bugünkü ajan sistemlerinin büyük kısmı aslında neden-sonuç ilişkisini bilmiyor.

Bir komutu yerine getiriyorlar.

Ama o komutun gerçek dünyada neye dönüşeceğini kavramıyorlar.

Bir insan:

• production DB silmenin ne anlama geldiğini bilir,
• müşteri kaybını hisseder,
• işten çıkarmaları hayal eder,
• gece 03:00 incident bridge travmasını hatırlar.

LLM bunların hiçbirine sahip değil.

O yüzden:

“Bu token çalışıyor. O halde kullanabilirim.”

noktasında kalıyor.

Aslında mesele zekâ eksikliği değil.

Mesele bağlamsal gerçeklik eksikliği.

AI Çağında “Least Privilege” Artık Opsiyon Değil

Bu olayın en kritik dersi şu:

AI ajanları artık “junior engineer” gibi düşünülmeli.

Hatta daha tehlikelisi.

Çünkü:

• yorulmuyorlar,
• durmuyorlar,
• sorgulamıyorlar,
• inanılmaz hızlı hareket ediyorlar.

Dolayısıyla klasik güvenlik yaklaşımı tamamen değişmek zorunda.

Eskiden:

“Bu token dursun lazım olur.”

mantığı vardı.

Şimdi o token’ı AI görüyorsa, o token artık kullanılacaktır.

Kesin.

Bu yüzden:

• kısa ömürlü credential’lar,
• scope-limited token yapıları,
• sandbox izolasyonu,
• environment segmentation,
• human approval flow’ları

AI çağında “iyi pratik” değil, hayatta kalma mekanizması haline geliyor.

Asıl Tehlike: AI Kötü Takımları Daha da Kötü Yapıyor

DORA’nın AI destekli yazılım geliştirme raporundaki en çarpıcı bulgu şuydu:

İyi ekipler AI ile hızlanıyor.

Kötü süreçler ise AI ile daha da kötü hale geliyor.

Bu inanılmaz önemli bir tespit.

Çünkü AI aslında şirket kültürünü büyüten bir çarpan etkisi yaratıyor.

Eğer organizasyonda:

• kontrolsüz erişim,
• kötü dokümantasyon,
• teknik borç,
• güvenlik ihmali,
• “şimdilik böyle kalsın” kültürü

varsa…

AI bunları optimize ediyor.

Hem de korkutucu hızda.

Türkiye’de Şirketler Bu Dalgaya Hazır mı?

Açık konuşalım:

Hayır.

Bugün birçok kurumda:

• production erişimleri ortak kullanılıyor,
• servis hesaplarının kimde olduğu bilinmiyor,
• eski token’lar yıllarca aktif kalıyor,
• staging ve production ayrımı kâğıt üzerinde var,
• backup stratejileri test edilmiyor.

Üstüne şimdi AI ajanları geliyor.

Ve birçok şirket şu hatayı yapıyor:

“AI kullanıyoruz çünkü verimlilik artıyor.”

Peki governance?

Peki access model?

Peki blast radius?

Peki rollback planı?

Kurumsal dünyada hâlâ:

“AI policy yazdık iş tamam”

seviyesinde ilerleyen yer sayısı ürkütücü derecede fazla.

En Büyük Risk: İnsanların AI’a Fazla Güvenmesi

İşin psikolojik tarafı daha da ilginç.

Çünkü insanlar düzgün İngilizce konuşan sistemlere güvenme eğiliminde.

Agent:

• özür diliyor,
• mantıklı açıklama yapıyor,
• “şunu yapmalıydım” diyor.

Ve insanlar bilinçsizce şunu hissediyor:

“Demek ki ne yaptığını biliyor.”

Hayır.

Bu çok sofistike bir pattern completion sistemi.

Gerçek anlayış değil.

İnsanlık tarihinin en tehlikeli UX problemiyle karşı karşıya olabiliriz:

Yetkin görünen ama gerçekten anlamayan sistemler.

Problem AI Değil, Kontrolsüz Güç

PocketOS olayı aslında bize şunu gösterdi:

AI kendi başına felaket üretmedi.

Felaket üreten şey:

• kötü erişim yönetimi,
• zayıf güvenlik kültürü,
• limitsiz yetkiler,
• denetlenmeyen otomasyondu.

AI sadece bunları ışık hızına çıkardı.

Önümüzdeki birkaç yılın temel meselesi de bu olacak:

“AI ne yapabiliyor?” değil,

“AI’a neyi yapma izni veriyoruz?”

Çünkü modern IT tarihinde en pahalı cümlelerden biri artık şu olabilir:

“Token hâlâ duruyordu, agent da bulmuş.”

İnsanlık gerçekten muazzam bir tür.

Production credential’ını masa üstünde bırakıp sonra “neden kullandı ki?” diye şaşırıyoruz. Dijital dünyadaki karşılığı açık kasa bırakıp robot süpürgeye “sakın alma” demek gibi bir şey.