AI ajanları giderek daha yetkin hâle geldikçe, bunları farklı uygulamalara, iş akışlarına ve ürünlere entegre etmeye çalışan işletmeler yeni bir sorunla karşı karşıya: bir ajanın farklı ortamlar içinde dağıtıldığında beklendiği gibi davranmasını sağlamak. Microsoft, bu sorunu çözmek için açık kaynaklı bir standart olan Agent Control Specification (ACS) adıyla bir çerçeve geliştirdi. ACS, geliştiricilere AI ajanlarının neler yapabileceğini, neler yapmaması gerektiğini, bir eylemin insan onayına ihtiyaç duyup duymadığını ve hangi kanıtların kaydedileceğini tanımlayan politikalar oluşturma imkânı tanıyor.
Bu politika dosyaları, ajanın bir görev yürüttüğü esnada çeşitli “interception point” (durdurma noktası)’larda kontrol edilerek ajanın sınırları aşmamaması sağlanıyor. Geliştiriciler, mevcut durumda ajanın ne gördüğünü ve ne yaptığını kontrol etmek için sistem prompt’ları, uygulama koduna ek kontroller veya sınıflandırıcılar gibi yöntemler kullanıyor. Bu yöntemler işe yarasa da, farklı framework’ler, arayüzler ve sistemler arasında tutarlı bir denetim mekanizması oluşturmak zor ve izlenebilirliği düşük bir yapı bırakıyor.
ACS, bu kontrolleri ortak bir yönetişim katmanına entegre etmeyi hedefliyor. Microsoft, bu standardın ajanın iş akışı boyunca birden fazla noktada (girdi almadan önce, bir araç çağırmadan önce, araç sonucunu aldıktan sonra ve son yanıt kullanıcıya gönderilmeden önce) guardrail’lere uyup uymadığını denetleyebileceğini belirtiyor. Bir politika eylemi izin verebilir, engelleyebilir, hassas bilgileri sansürleyebilir veya bir kişinin onayını isteyebilir.
Geliştiriciler ayrıca girdileri ve çıktıları sınıflandırmak, sonuçları tahmin etmek ya da ajanın nasıl yanıt vermesi gerektiğini belirlemek için sınıflandırıcılar ekleyebilir; politikaları değerlendirecek bir “judge” görevi görecek şekilde LLM’lere prompt verebilir; araç çağrılarını, araç seçimlerini, girdi doğruluğunu, çıktı kullanımını ve yanıtları kontrol eden mantığı tanımlayabilir. Politika dosyalarının tek bir dosya olarak yazılması, bu dosyaların ajanlarla birlikte paketlenebilmesini sağlıyor; böylece güvenlik politikası, ajan farklı framework’ler ve ortamlar arasında hareket ettiğinde de yanınızdaki bir rehber oluyor.
ACS, LangChain, OpenAI Agents SDK, Anthropic Agents SDK, AutoGen, CrewAI, Semantic Kernel, Microsoft.Extensions.AI, MCP tools ve daha fazlası için eklentiler sunan bir SDK olarak dağıtılıyor.
Yorum Yap