Risk-Proportional Determinism Nedir? Sınırlı Özerklik İçin Bir Tasarım İlkesi

Zekâyı deterministik yapmaya çalışmıyoruz. Onun operasyonel sonuçlarını deterministik, sınırlı ve denetlenebilir yapıyoruz.

Yazan Dr. Damla Sivrioğlu Aslan · 4 Ekim 2026 · 9 dk okuma · Read in English

Neden “daha fazla determinizm” yanlış hedef?

Bir yapay zeka ajanı gerçek sistemlere bağlandığında — bir ticket platformuna, bir ERP’ye, bir üretim hattına, bir robota — ilk refleks onu kilitlemektir: daha çok kural, daha çok kontrol, daha az sürpriz. Bu refleks yeterince ileri götürülürse kendini yener. Her hareketi önceden yazılmış bir ajan artık ajan değildir; yanına dil modeli eklenmiş bir iş akışı motorudur. Uyum sağlamayı bırakır — oysa onu kullanmanın nedeni tam da buydu.

Öbür uç başka türlü başarısız olur. Her durumda serbest bırakılan bir ajan, öngörülemezliğin kabul edilemediği yerde öngörülemez olur: bir finansal işlemde, bir üretim durdurmada, güvenlik-kritik bir harekette. İki uç da başarısızlıktır. Doğru soru sistemin ne kadar deterministik olacağı değil, nerede deterministik olacağıdır.

Olasılıksal zekâ içeride, deterministik sınırlar dışarıda

Risk-Proportional Determinism iki alanı ayırır. Akıl yürütme alanı geniş kalır: ajan kök neden arar, alternatif üretir, senaryoları kıyaslar, plan kurar. Eylem alanı — ajanın dünyaya dokunduğu nokta — açık, doğrulanabilir ve öngörülebilir kurallarla sınırlanır:

• hangi komutları ya da API’leri, hangi parametre aralığında çağırabileceği;
• hangi koşulda insan onayı gerektiği ve hangi aksiyonların tamamen yasak olduğu;
• hangi risk seviyesinde otomatik yürütmenin durduğu;
• hangi aksiyonların aksiyon sonrası doğrulamadan geçmesi gerektiği ve geri almanın ne zaman tetiklendiği;
• zaman sınırının ne olduğu ve hangi veri kaynağının doğruluk kaynağı sayıldığı.

Akıl yürütme alanı geniş. Eylem alanı kontrollü. Güvenlik zarfı dar ve kesin.

Dört özerklik kademesi

Determinizm ikili bir özellik değil, bir ayar düğmesi gibidir. İlke düğmeyi ajanın türüne göre değil, aksiyonun sonucuna göre ayarlar:

Tek cümleyle: sonuç ağırlaştıkça özerklik daralır. Hedef azami kontrol değil; kabul edilebilir en düşük belirsizlikte, işe yarayan en yüksek özerkliktir.

Yürütme yığını: ajan sisteme doğrudan dokunmaz

İlke beş katmanlı bir yığında mimariye dönüşür. Ajan ne bir kayıt sistemine ne de bir aktüatöre doğrudan yazar; her aksiyon güvenli yürütme katmanından geçer, kaydedilir ve geri alınabilir.

Üst katmanlar ne olması gerektiğine karar verir. Alt katmanlar fiziksel ya da işlemsel bir aksiyonun güvenli sınırlar ve zaman limitleri içinde nasıl gerçekleşeceğini yönetir.

Her sistemde RTOS yoktur — sınır bir roldür

Gerçek zamanlı işletim sistemi (RTOS), zaman-kritik uçta çok değerlidir — “bu motor komutu 5 ms içinde gitmeli”, “bu acil durdurma gecikmemeli” — ama yalnızca RTOS üzerine kurulu sistemlerde vardır. Birçok robot üst seviye yazılımını genel amaçlı bir işletim sisteminde çalıştırır; yalnızca yazılımdan oluşan ajanlarda ise gerçek zamanlı bir katman hiç yoktur. Bu yüzden deterministik yürütme sınırı bir teknoloji değil, bir roldür:

Bu, ilkenin en pratik sonucunu doğurur: sınırın gücü, izin verilen özerkliğin tavanını belirler. Gerçek zamanlı deterministik kontrolcüsü olmayan bir sistem güvenlik-kritik bir aksiyonu kendi başına yürütmez; o aksiyon onay kapısında kalır. Özerklik seviyesini iki şey birlikte belirler: sonucun ne kadar ağır olduğu ve yürütme sınırında gerçekte ne kadar determinizm bulunduğu. RTOS; politika, yetkilendirme, açıklanabilirlik ve denetlenebilirlik sorunlarını çözmez — en uçtaki zamanlamayı güvenceye alır.

Bedenden bağımsız: yazılım ajanından iç işleyişi okunamayan kontrolcülere

İlke ajanın bedeniyle ilgilenmez. Bir yazılım ajanı, bir cobot, bir insansı robot, bir AMR ya da bir dron aynı beş maddelik özerklik zarfıyla bağlanır: ne algılayabilir, ne yapabilir, neyi kendi başına yapar, kim ve nasıl durdurur, sonuç nasıl doğrulanır.

Bir kontrolcü incelenebilir koddan uzaklaştıkça — öğrenilmiş politikalara, bir gün belki de iç işleyişi okunamayan biyolojik ya da nöromorfik kontrolcülere doğru — onu kendini açıklamaya zorlayarak yönetmek imkânsızlaşır. Yönetişim kararı açıklatmaktan, eylemi sınırlamaya ve sonucu doğrulamaya kayar. Risk-Proportional Determinism’in sınıra verdiği iş tam olarak budur: böyle bir zekâyı deterministik yapamazsınız, ama sonuçlarını deterministik yapabilirsiniz.

Yapay zeka yönetişimiyle ilişkisi

EU AI Act (yüksek riskli sistemler için insan gözetimi) ve ISO/IEC 42001 (yapay zeka yaşam döngüsü boyunca risk işleme ve kontroller) gibi çerçeveler, gözetimin ve kontrollerin riskle orantılı olmasını bekler. Risk-Proportional Determinism bu beklentiye mühendislik tarafından nasıl sorusunun cevabını verir: “orantılı gözetimi” tasarlanabilen, test edilebilen ve denetlenebilen somut kademelere, onay kapılarına, yürütme sınırlarına ve özerklik tavanlarına çevirir.

İlke nereden geliyor?

Risk-Proportional Determinism, Indigonix kurucusu Dr. Damla Aslan tarafından tanımlandı. İlk kitabındaki yönetişim modelinin — zekâyı sanat, bilim, etik ve irade; yönetişimi politika, izleme ve uygulama olarak ele alan çerçevenin — üzerine kurulur ve onu kavramsal bir çerçeveden ölçülebilir bir mühendislik ilkesine taşır: özerkliğin sınır gerektirdiğini söylemekle kalmaz, otonom bir sistemin her risk seviyesinde ne kadar serbestliğe sahip olması gerektiğini ve hangi kısımların deterministik olması gerektiğini tanımlar.

Indigonix bunu nasıl uyguluyor?

Agenticos her ajan için özerklik zarfını — risk kademelerini, onay kapılarını ve özerklik tavanını — tasarlar ve her ajanı harekete geçmeden önce gölge modda başlatır. CompanyBrain bunu işletimde uygular: kayıt oluşturan ve güncelleyen ajan her yazmayı insan onayına sunar, her karar dayandığı kanıtla birlikte kayda alınır. İlke, iki ürünün de gerçek kurumlarda ajan çalıştırırken uyum yeteneğini güvenlikle takas etmemesinin nedenidir.

Sıkça Sorulan Sorular