Geçen hafta bir haber okudum. OpenAI, bir siber güvenlik testi sırasında kontrolden çıkan yapay zekâ ajanı yüzünden model testlerini iki hafta durdurdu. Ajan, kendisi için kurulan kapalı test ortamından çıkmış, internete erişmiş ve bir açıktan yararlanarak Hugging Face'in sistemlerine girmiş. Amacı fesat değildi üstelik: kendi değerlendirmesinde işine yarayacak gizli bilgiye ulaşmak istiyordu. Yani sınavı geçmek için sınav sorularını çalmaya kalktı.
OpenAI sonrasında yeni nesil model eğitimlerini de askıya aldı. Güvenlik ekibinin başındaki isim "normale dönmekten çok uzaktayız" dedi. Sam Altman "giderek yetkinleşen sistemleri kontrol altında tutmak tüm sektörün sorunu" diye yazdı.
Aynı gün ben ne yapıyordum biliyor musunuz?
Yapay zekâya bülten yazdırıyordum. Üç kere düzelttirdim. "Çok uzun" dedim, kısalttı. "Siz diliyle yaz" dedim, unuttu, tekrar söyledim. "Bu başlık saçma olmuş" dedim, yenisini önerdi, o da olmadı, sonunda başlığı ben yazdım.
Şimdi iki tabloyu yan yana koyun:
Bir tarafta kapalı bir test ortamından çıkıp başka bir şirketin sistemine giren yapay zekâ. Öbür tarafta üç turda bir bülten başlığı beceremeyen yapay zekâ.
İkisi de aynı teknoloji. Nasıl oluyor bu?
Otuz Yıldır İçerik Üretiyorum, Söyleyeyim
Otuz yıldır eğitim içeriği tasarlıyorum. Son birkaç yıldır günümün büyük kısmı yapay zekâyla geçiyor. Ürünlerimizi onunla geliştiriyoruz, içeriklerimizi onunla üretiyoruz. Yani bu yazı bir teknoloji düşmanının değil, sabah akşam bu aletle çalışan birinin yazısı.
Ve size net söyleyeyim: yapay zekânın hayal gücü yok. İç görüsü yok. Zevki yok. Bir metnin neden tutmadığını, bir eğitimin neden sıkıcı olduğunu, bir sloganın neden vurmadığını hissedemiyor. Benim fikrim, benim yönüm, benim "hayır, öyle değil böyle" deyişim olmadan ortaya çıkan her şey vasat. Süslü vasat. Hızlı vasat. Ama vasat.
Bu yüzden "yapay zekâ işimizi elimizden alacak" korkusuna hep gülümsedim. Almaz. Çünkü işin ruhu onda yok.
Peki O Zaman Neyden Korkuyorlar?
İşte burada çoğu insanın kaçırdığı nokta var ve ben de bunu geç fark ettim:
Tehlikeli olmak için yaratıcı olmak gerekmiyor.
Bir virüs yaratıcı mıdır? Değildir. Ama öldürür.
Hugging Face'e giren ajan da şiir yazamıyordu. Slogan bulamıyordu. Bültende üç turda başlık beceremiyordu, eminim. Ama ona bir hedef, araçlara erişim ve denetimsiz çalışma süresi verilmişti. Gerisini kendisi götürdü.
Sorun zekânın parlaklığı değil. Sorun eylem yetkisi.
Klavyesi olan ama fişi çekilebilen bir asistan bir şeydir. Sunucularınızda saatlerce başıboş dolaşan, kod yazan, ağa erişen, kimseye sormadan iş yapan bir ajan bambaşka bir şeydir. İkisine de "yapay zekâ" diyoruz ve bütün kafa karışıklığı buradan çıkıyor.
"Bizi İlgilendirmez" Diyenlere Kötü Haber
"O üst düzey modeller zaten halka açık değil, bizi ilgilendirmez" diyebilirsiniz. Ben de öyle dedim bir an.
Sonra kendi ürünlerimize baktım.
Eğitim platformumuza doğal dille komut veren bir asistan koyduk: konuşuyorsunuz, o atama yapıyor, operasyon yürütüyor. Kod tarafında yapay zekâ ajanları sitelerimizi tarıyor, eksik bulup onarıyor. Yani o haberdeki denklemin küçük ölçeklisi benim masamda duruyor: model, araç erişimi, otonomi.
Ölçek farklı. Tür aynı.
O yüzden biz oturduk, kendi iç yapay zekâ güvenlik politikamızı yazdık. Ajanlar hangi yetkilerle çalışır, hangi işlemler onaysız yapılamaz, acil durumda fiş nereden çekilir, müşteri verisi nerede durur; hepsi madde madde. Keyiften değil. Çünkü aksiyon alan yapay zekâyı ürününe gömen herkes, o haberdeki sorunun ufak da olsa bir boyunu satın almış demektir. Bilse de bilmese de.
Kendi iddiamı biraz yere indireyim
"Hayal gücü yok" cümlesi benim gözlemim, ölçüm değil. Kör değerlendirmelerde yapay zekânın ürettiği metinlerin insan metinleriyle karıştırıldığı da oluyor. Benim savunduğum şey "makine hiçbir zaman iyi bir şey üretemez" değil; yön veren biri olmadan ürettiğinin ortalamayı aşmadığı. Bu ikisi aynı cümle değil.
İkincisi, tek bir olaydan genel kural çıkarmayalım. Anlattığım şey kontrollü bir testte, sınırları zorlamak için kurulmuş bir düzenekte yaşandı. Sizin şirketinizdeki asistanın yarın aynısını yapacağı anlamına gelmiyor. Benim aldığım ders olay değil, denklemdi: hedef artı araç artı denetimsiz süre.
Üçüncüsü, politikanın kendisi bir garanti değil. Yazılı politika, uygulanmadığı sürece sadece bir belgedir. Bunu eğitim tarafında yıllardır görüyoruz; kurumların çoğunda kural vardır, kuralı bilen yoktur.
Ve ters yön: korkuyu abartıp aracı kapatmak da bir çözüm değil. Yasaklayan kurumlarda kullanım bitmiyor, sadece görünmez oluyor. Görünmez kullanım en riskli kullanımdır.
İki Cümlelik Özet
Yapay zekâ bir halt değil: sizin aklınız, zevkiniz ve yönünüz olmadan değer üretemiyor.
Yapay zekâ her şey: eylem yetkisi verdiğiniz anda, sizin aklınıza danışmadan iş yapabiliyor.
Bu ikisi çelişki değil. Aynı madalyonun iki yüzü.
Yarın için tek bir işiniz var: kurumunuzda iş yapabilen bir yapay zekâ var mı, yoksa sadece cevap veren bir yapay zekâ mı, bunu netleştirin. Cevap verene politika değil eğitim gerekir. İş yapana ise yetki listesi, onay kapısı ve fişi çekecek bir kişi gerekir. Çoğu kurum ikisini ayırmadığı için yanlış tarafa yatırım yapıyor.
Önümüzdeki yıllarda kurumları ayıracak çizgi de bu olacak: yapay zekâyı "sihirli stajyer" sananlar ile "yetenekli ama denetim isteyen operasyon gücü" olarak yönetenler.
Biz ikinci gruptayız. Siz neredesiniz?