İnsan + AI: Sınırları Belirlenmiş Yapay Zekâ İlkesi

Yapay zekâyı sihirli bir düğme olarak görmüyorum.

Bu cümleyi bir AI ürünleri geliştiricisi olarak yazıyorum. Yani "AI karşıtı" pozisyonundan değil, tam içinden.

AI olağanüstü güçlü olabilir. Ama kontrolsüz kullanıldığında yanlış, tutarsız ve işe yaramaz sonuçlar da üretir. İkisinin arasındaki fark modelde değil, üründe gizli: sınırlar kimde?

Her projemde aynı cümlenin farklı hâli

Zamanla fark ettim ki geliştirdiğim her AI ürününde aynı ilke, farklı bir cümleye dönüşüyor:

Sanal denemede: "Kişi aynı kalacak, yalnızca kıyafet değişecek." AI yüzü güzelleştirmeyecek, vücudu yeniden yorumlamayacak. Çünkü kullanıcı kendini tanıyamazsa güven biter.

Mimari görselleştirmede: "AI atmosferi geliştirebilir, geometriyi değiştiremez." Pencere oranı, cephe kararı, malzeme seçimi tasarımcınındır. Çünkü görsel, tasarımın sözcüsüdür.

Eğitim tarafında: "AI yalnızca yüklenen kaynağa bağlı kalacak." Öğrencinin PDF'inde olmayan bilgiyi quiz'e sokmayacak. Çünkü kaynağına güvenilmeyen özet, hiç olmamasından kötüdür.

Üç farklı sektör, tek ilke: AI güçlü olmalı, ama sınırları belirlenmiş olmalı.

İnsanda kalması gerekenler

AI'ın süreçte yapabildiği çok şey var: hızlandırmak, seçenek üretmek, tekrar eden işi devralmak, büyük veriyi anlamlandırmak, başlangıç noktasını kolaylaştırmak.

Ama şunlar bence pazarlık konusu değil ve insanda kalmalı:

• Vizyon: ürünün neden var olduğu
• Bağlam: hangi çıktının bu duruma uygun olduğu
• Etik karar: yapılabilir olanla yapılması gereken arasındaki çizgi
• Kalite kontrolü: "yeterince iyi"nin tanımı
• Nihai sorumluluk: çıktının arkasında duran imza

AI'a bırakılan her sınır kararında şu soruyu sorarım: "Bu yanlış giderse bedelini kim öder?" Bedeli insan ödüyorsa, kararı da insan vermeli.

Ürün geliştirenlere pratik çeviri

Bir AI özelliği tasarlarken üç soruluk kontrol listem:

1. AI burada gerçekten değer üretiyor mu, yoksa pazarlama kelimesi mi? (AI olmadan ürünün temel değeri kalıyor mu?)
2. AI hata yaptığında sistem ne yapıyor? (Hata senaryosu tasarlanmadıysa özellik bitmemiştir.)
3. Kullanıcı son kararı verebiliyor mu? (Geri alma, düzeltme, reddetme yoksa kullanıcı değil, izleyicidir.)

Yapay zekâ elimizdeki kalemin yeni versiyonu. Doğru soruları sorarsak sınırları zorlayan cevaplar alırız, ama kalemi tutan el bizim kalmalı.

---

Sizin ürününüzde AI'ın "yapamayacağı" şeyler tanımlı mı? Bence bir AI ürününü ciddiye almanın ilk işareti bu listenin varlığı.