Birçok kişinin yapay zekâya gerçek iş vermekten çekinmesinin nedeni işi kötü yapması değil. Onay vermediği bir şey yapması. Bir müşteriye mesaj göndermek. Para harcamak. Bir dosyayı kaldırmak. İşi iyi yapmak bir kalite sorunu. Yanlış şeyi yapmak ise bir güven sorunudur; insanlar bu tür sorunları uzun süre hatırlar.
Bu yazı, bir yapay zekâ ekibinin uzun bir işi kendi başına yürütüp yine de kontrolü sende bırakmasının nasıl mümkün olduğunu anlatıyor. lupy.io'daki tasarım tercihlerinin bir anlatımı; hiçbir şeyin ters gidemeyeceğine dair bir söz değil.
İki tür eylem
Bir ajanın yaptıklarını iki türe ayırmak yardımcı olur. Birinci tür işin içinde kalır: bir ekran çizmek, bir metin yazmak, fiyat toplamak, bir belgeyi özetlemek. Sonuç kötüyse atar ve yeniden istersin. Projenin dışında hiçbir şey değişmedi.
İkinci tür dışarıya uzanır: para harcamak, yayınlamak, sen olmayan birine yazmak, silmek. Bunları geri almak zor ya da imkânsız. Bu yüzden farklı bir kural gerektirirler.
İkinci tür için farklı kural
lupy.io'da otopilot işi baştan sona yürütür; ikinci tür eylemde ise durup sorması için tasarlandı. Soru gelen kutuna kısa bir kart olarak gelir; "Uygulamayı mağazaya göndermek için onayına ihtiyacım var" gibi net bir etiketi ve iki seçeneği vardır: onayla ya da şimdi değil. Sen cevap verene kadar eylem gerçekleşmez.
Mekanizma bu kadar basit; asıl değer de bu sadelikte. Bütün gün ekrana bakman gerekmez. Yalnız bir kart geldiğinde cevap vermen gerekir.
Ne olduğunu görmek
Kontrol görünürlük de ister. Ekibin ne yaptığını söyleyemiyorsan bir onay kartı sadece sürprizdir. lupy.io işi birkaç sade biçimde gösterir: yapılacak, çalışıyor, bekliyor ya da bitti sütunlarında duran görev kartları; kimin hangi işte olduğunu gösteren bir ekip haritası; ve ajanların şu an ne yaptıklarını kendi sözleriyle yazdıkları canlı balonlar. Tek bakış kimde ne olduğunu söyler.
Gelen kutusu üç şeyi tek yerde toplar: onayları, ajanlardan gelen soruları ve biten sonuçları. Altı yer yerine bakacağın tek yer olur.
Hız neden asıl mesele değil
Bir yapay zekâ ekibini ne kadar hızlı bitirdiğine göre değerlendirmek cazip. Dış dünyaya dokunan işte daha iyi ölçü, doğru anda ne sıklıkla durduğu. Hiç sormadan hızla ilerleyen bir sistem tedirgin edicidir. Güvenli adımlarda hızla geçip riskli olanlarda seni bekleyen bir sistem, hızın çoğunu verir, tedirginliğin neredeyse hiçbirini vermez.
Bu tür bir aracı değerlendirirken iki soru sor. Sormadan ne yapıyor? Ve neyi her zaman soruyor? Cevaplar sana bir hız gösterisinden fazlasını söyler.
Küçük bir örnek
Kafe uygulamasını mağazaya göndermek istediğini düşün. Ajanlar ekranları çizer, sınar, sürümü hazırlar; ama mağazaya göndermeden hemen önce iş durur ve gelen kutuna bir kart düşer. Kartta ne yapılacağı yazar ve iki düğme vardır: onayla ya da şimdi değil. "Şimdi değil" dersen hiçbir şey gönderilmez.
Bu arada sen başka bir şeyle meşgulsün. Hazır olduğunda gelir, kartı okur, uygulamaya bakar ve karar verirsin. Zaman baskısı yok, çünkü beklemek varsayılan davranış.
Görünürlüğün küçük ayrıntıları
Canlı balonlar küçük bir şey gibi görünür ama güven için önemlidir. Bir ajan "üç rakipten fiyat topladım" ya da "ilk haftanın paylaşımlarını yazıyorum" dediğinde, ne olduğunu sorma ihtiyacın kalmaz. Bilgi sana gelir, sen ona gitmezsin.
Aynı şekilde kartlardaki durum, bir işin kimde ve ne kadar süredir durduğunu gösterir. Bir işin takıldığını, kimseye sormadan fark edersin.
Dosyaların sende kalır
Başka bir kontrol biçimi, işin fiziksel olarak nerede durduğu. lupy.io proje dosyalarını Mac'inde tutar.
Hesapların, senin koşulların
Ajanlar sahip olduğun yapay zekâ hesaplarında, yani Claude hesaplarında ve Codex hesabında çalışır. Bu, kullanımın o sağlayıcılarla zaten kabul ettiğin koşullar altında olduğu anlamına gelir. Hesapların birlikte nasıl çalıştığı kendi yazısında anlatılıyor.
Onayın yapmadığı şey
Sınırları dürüstçe söylemek gerekir. Bir onay kartı ekibin ne yapmak istediğini gösterir. Arkasındaki işin kusursuz olduğunu garanti etmez. Uygulama mağazaya gidecekse yine de uygulamaya bakmalısın. Kart bakmanı sağlar; senin yerine bakmaz.
Onay da verdiğin dikkat kadar iyidir. Her karta okumadan onayla dersen sorunu yeniden kurmuş olursun. Tasarım soruyu görmeyi kolaylaştırır; iyi cevaplamak yine senin işin.
Sınırları istekte koymak
Sınırları daha önce, isteğin kendisinde de koyabilirsin. "Hiçbir cevap gönderme" ya da "hiçbir şey zamanlanmadan önce ilk haftayı göster" demek planı bu adımlara uyacak biçimde kurar. Ajanların bitirebileceği bir istek nasıl yazılır yazısında örnekler var.
Her araca sorulacak sorular
Herhangi bir yapay zekâ sistemine gerçek iş vermeden önce üç soru dürüst bir cevabı hak eder. Dosyalarım nerede duruyor? Kullanımı kim, nasıl ödüyor? Bana sormadan ne yapıyor? Cevaplar belirsizse bunu bir bilgi olarak al.
Makul bir başlangıç
Temkinliysen projenin içinde kalan işlerle başla: araştırma, bir taslak, bir rapor. Sonuçları oku, kartların ve balonların nasıl hissettirdiğine bak ve rahat olunca daha büyük işlere geç. Güven genelde bir sözden değil, bir aracın aynı şekilde birkaç kez davranışını izlemekten büyür.
Kısaca
Kontrol, ekibin hiçbir şey yapmamasından değil; dışarıya dokunan eylemlerde durup sormasından gelir. Dosyalarının Mac'inde kalması, hesapların sende olması ve neyin olduğunu görebilmen bu düzenin diğer ayakları. Hiçbiri kusursuzluk vaat etmez; hepsi kararın sende kalmasını sağlar. Başlarken projenin içinde kalan işlerle ilerle, kartların nasıl davrandığını gör ve güvenini bir sözden değil, gözlemden kur. Bir iş senin için önemliyse, onay kartını okumadan geçme; kart tam da bunun için orada. Küçük bir alışkanlık olarak, her kartta şunu sor: bu gerçekten benim izin vermek istediğim şey mi? Bu soru birkaç saniye sürer ve çoğu zaman cevabı "evet"tir; ama "hayır" olduğu nadir durumda tüm farkı yaratır.
Planları ve neleri içerdiğini görmek istersen fiyat sayfasında duruyor; insanların başlamadan önce en çok sorduklarının cevabı da sık sorulanlar sayfasında.