Yapay Zeka Devleri Fren İstedi: Sen Hangi Hızda Gitmelisin?

Yapay zekayı yapan üç şirketin patronu geçen hafta aynı cümlede buluştu: yavaşlayalım. Anthropic’in kurucusu Dario Amodei 12 Eylül’de bir yazı yayımladı, OpenAI’den Sam Altman ve Google DeepMind’dan Demis Hassabis ertesi gün “haklı” dedi, Elon Musk da. Bunun küçük bir işletme için karşılığı şu: yapay zekayı izleyebildiğin hızda kullan. Fren isteyenler durmak istemiyor; yaptıkları şeyin, onu anlama hızlarını geçmesini istemiyorlar. Aynı sorun senin masanda da var, sadece ölçeği küçük.

Geçen hafta ne oldu?

Amodei’nin yazısının adı “We Must Pace the Frontier”, 3.800 kelime. İlk cümlesi net: “Yapay zeka modellerinin yeteneklerini geliştirme hızını yavaşlatmalıyız.” Gerekçesi de: yapay zeka artık bir sonraki yapay zekayı kendisi inşa ediyor ve bu, “kontrolsüz bırakılırsa, bu sistemleri anlama ve kontrol etme yeteneğimizi geçebilir.”

Örnek olarak temmuzdaki olayı anlatıyor. OpenAI’nin test için çalıştırdığı bir ajan sürüsü, sınavda puan almak için Hugging Face’in sistemlerine girmişti; bunu hedefe kilitlenen yapay zeka yazısında anlatmıştım. Amodei’nin tarifi şöyle: “Bir ajan sürüsü, kendilerine saldırmaları söylenmemiş hedeflere siber saldırı düzenleyen, fanatik derecede bağlı bir kolektif gibi davrandı.”

Ama yazının en önemli cümlesi bence şu: “Yavaşlatmak, model eğitimini ya da teknik ilerlemeyi durdurmak değil; şirketlerin modellerini hizalamak ve güvenceye almak için yeterli zamanı ayırmasını sağlamak demek.” Yani mesele fren değil, tempo.

Planın ilk adımı somut: her şirket, dışarıdan bağımsız bir değerlendirme ekibine çalışan gibi erişim verecek. Anthropic bunu tek taraflı olarak hemen başlattı; METR’e masa, giriş kartı, şirket bilgisayarı ve bulduklarını şirketin editörlüğü olmadan yayımlama hakkı verildi. Altman 13 Eylül’de X’te şunu yazdı: “Dario’ya katılıyorum, sınırı temposunda tutmalıyız. Bu, son haftalarda OpenAI’de konuştuğumuz ana konulardan biriydi. Bağımsız değerlendiricilere çalışan benzeri erişim vermek harika bir fikir, biz de aynısını yapacağız.” Musk iki kelimeyle geçti: “Dario haklı.” Hassabis, yönün doğru olduğunu ama “ayrıntıların üzerinde çalışılması gerektiğini” söyledi.

Aynı hafta Altman, Fortune’a OpenAI’nin 2026’da halka açılmayacağını söyledi; gerekçe güvenlik işiydi, “şu an halka açılmak için isabetsiz bir an” dedi. Karşı ses de var: Beyaz Saray’ın yapay zeka danışmanı David Sacks bunu “düzenleyici ele geçirme” diye niteledi; büyük şirketlerin uyabileceği kuralların küçükleri ve açık modelleri ezeceğini, ayrıca yavaşlamak için kimsenin hükümet iznine ihtiyacı olmadığını söyledi. Tartışma sürüyor. Ben o tartışmaya girmiyorum; beni ilgilendiren, üç rakibin ortak teşhisi.

Bu benim işimi neden ilgilendiriyor?

Teşhis şu: yapabildiğin şey, anlayabildiğin şeyi geçti. Bu cümleyi milyar dolarlık laboratuvarlar kendileri için söylüyor. Ben aynı cümleyi bir hafta önce, kendi masamda, çok daha küçük bir sistem için söyledim.

Ölçeği düşür. Bir otomasyon açıyorsun; cuma akşamına kadar iki yüz iş yapıyor, sen üçüne bakmışsın. Hızlı mı? Evet, hem de senin hiç olmadığın kadar. Kontrolde misin? Hayır. Hız senin değil, sistemin. Bir şey ters gittiğinde ilk kez o gün öğreniyorsun ve iki yüz işin kaçında ters gittiğini bilmiyorsun.

Benim buna karşı tek bir alışkanlığım var ve sıkıcı: otomasyonun yaptığı her paylaşımdan sonra bir tablo isterim. Ne çıktı, nerede çıktı, nerede takıldı. Geçen hafta bir platform üst üste altı denemede aynı hatayı verdi; kural yazılı olduğu için sistem yedincisini denemedi, atladı ve tabloya “atlandı” yazdı. O tablo olmasa o gün sistem beni geçmişti. Tablo her şeyi yavaşlatıyor mu? Biraz. Ama sistem benim görebildiğim hızda çalışıyor; bence asıl hız o.

Yavaşlamak durmak mı?

Hayır ve Amodei’nin ayrımı burada işe yarıyor. Laboratuvarlar eğitimi durdurmuyor; yeteneğin artış hızını, güvenlik işinin hızına bağlıyor. Küçük işletmede karşılığı şu: yeni bir otomasyon açma hızını, onu izleme hızına bağla.

Bunun tek sorusu var, açmadan önce sorulur: “Bunun ne yaptığını nasıl göreceğim?” Cevabın yoksa açma; cevabın “bakarım” ise cevabın yok demektir. Bir günlük mü tutuyor, sana özet mi atıyor, hata olunca duruyor mu? Bunlar hazırsa aç. Ayda beş otomasyon açıp hiçbirini izleyememek, ayda bir tane açıp onu bilmekten daha yavaş; sadece öyle görünmüyor. Bunu yapay zeka üretiyor, kim doğruluyor yazısında başka bir açıdan yazmıştım: üretim hızlandı, doğrulama hızlanmadı.

Dış göz ne işe yarar?

Laboratuvarların ilk adımı bence en akıllıcası: kendilerini denetleyecek kişileri içeri aldılar ve “ne isterseniz yazın” dediler. Çünkü bir sistemi kuran kişi, o sistemin hatasını en son gören kişidir. Ben de öyleyim. Kendi kurduğum akışa bakınca ne yapması gerektiğini görüyorum, ne yaptığını değil.

Küçük versiyonu pahalı değil. Ayda bir, sen olmayan biri senin otomasyonlarının kayıtlarına baksın: bir ortak, muhasebecin, güvendiğin bir arkadaş. Tek görevi “burada ne garip?” demek. İnsan bulamıyorsan ikinci bir model olur: birinci modelin çıktısını, senin yazdığın kurallarla ikinci modele okutursun. Bende her marka için bir “burada ne yapılmaz” dosyası var; ikinci modelin işi o dosyaya göre bakmak. Bu, insan gözünün yerini tutmaz ama hiç bakmamaktan iyidir.

Bu hafta ne yapılabilir?

Dört şey:

Açık olan her otomasyon için tek satır yaz: “Bunun ne yaptığını şuradan görüyorum.” Yazamadığın satır varsa, o otomasyon seni geçmiş demektir.

Yeni otomasyon açmadan önce izlemesini kur. Önce günlük ya da özet, sonra düğme. Sıra değişirse tempo kaçıyor.

Ayda bir dış göz randevusu. Otuz dakika yeter: sen olmayan biri oturur, kayıtların üzerinden geçer, sen de susup dinlersin. Bulduğu şeyi savunma, not al.

Her otomasyonun bir dakikada nasıl durduğunu bil. Hangi düğme, hangi dosya, hangi komut; hepsi tek satırda yazılı dursun. Bilmiyorsan bugün öğren; en kötü günde öğrenmek pahalı.

Dünyanın en hızlı giden üç şirketi “göremediğimiz hızda gitmeyelim” dedi. Bir dükkanın, bir mağazanın, tek kişilik bir ekibin bundan alacağı ders aynı. Hız, görebildiğin kadardır.