AURA: LLM'leri SRE Üretim İş Akışlarına Bağlayan Ajans Platformu
AURA by Mezmo, büyük dil modellerini Site Reliability Engineering iş akışlarına bağlayan, üretime hazır bir ajans platformudur ve model çıktıları kontrol edilen operasyonel eylemlere dönüştürür. Araç, olayları teşhis etmek, günlükleri analiz etmek ve düzeltme önermekte, kimlik doğrulama ve onay kapaklarını uygulamak için ajanlar çalıştırır. Özel belgeler için telemetri kancaları, çoklu model orkestrasyonu ve vektör temellendirmesi içerir. Platform mühendisleri ve SRE ekipleri, operatör gözetimini ve izlenebilir etkinliği korurken rutin operasyonel işleri otomatikleştirme imkanı kazanır.
Gerçekten hangi görevler için kullanabilirsiniz?
AURA, yalnızca konuşma testleri değil, canlı gözlemlenebilirlik sistemlerine karşı model odaklı iş akışlarını yürüten bir ajan harness'ı olarak işlev görür. Platform, API sunucuları, durum yönetimi ve akış desteği içerir, böylece ajanlar olay teşhisi, günlük analizi ve korumalı düzeltme gibi somut SRE görevlerini yerine getirebilir. Çağrılabilir araç örnekleri, telemetreden eyleme geçirilebilir bulgular ortaya çıkarmasına olanak tanıyan, boru hattına entegre edilmiş gözlemlenebilirlik kaynakları ve uyarı platformlarını içerir.
Ajanların operasyonel iş için çıktıları ne kadar güvenilir?
AURA, hassas eylemler için üretim testinden geçmiş koruma rayları ve yapılandırılabilir insan onay kapıları aracılığıyla operasyonel güvenliğe vurgu yapar. Sistem, bağlam penceresi taşmasını önlemek için büyük araç çıktısını diskte park edebilir ve yanıtları özel belgelere bağlamak için Qdrant veya bir AWS Bedrock bilgi tabanı gibi depolarla vektör arama temellendirmesi kullanır. Bu kontroller, doğrulanmamış otomatik değişikliklerin insan onayı olmadan üretime ulaşma riskini azaltır.
Hangi girişleri ve bağlantıları kabul eder ve sınırlar nelerdir?
Platform, dinamik araç keşfi için Model Bağlam Protokolünü kullanır ve HTTP, SSE veya STDIO üzerinden herhangi bir MCP uyumlu sunucuyu arayabilir. Sonuçları kalıcı hale getirerek ve ajanların yalnızca gerekli dilimleri almasına izin vererek büyük araç çıktısını destekler. Orkestratör, OpenAI uç noktaları, Anthropic, AWS Bedrock, Google model uç noktaları ve Ollama aracılığıyla yerel modeller dahil olmak üzere bulut ve yerel çalışma zamanları arasında model arka uçlarını kabul eder, karma model iş akışlarını mümkün kılar.
Tipik SRE iş akışlarına ve dağıtım desenlerine uyuyor mu?
AURA, geliştirme için CLI tabanlı yerel bir ortam olarak ve üretim için bir sunucu bileşeni olarak dağıtılan Rust tabanlı bir uygulamadır; ayrıca yerinde veya hava boşluğu olan kurulumları da destekler. Yapılandırma, uzman işçileri ve model yönlendirmesini tanımlamak için TOML kullanır ve yerel OpenTelemetry entegrasyonu, ajan performansını izlemek için izleri dışa aktarır. Açık kaynak dağıtımı, tam sistemi dahili olarak çalıştırmak isteyen ekipler için yığınların genişletilebilir olmasını sağlar.
AURA, platform kapasitesine sahip mühendislik ekipleri için üretim odaklı bir seçimdir
AURA, kontrol edilen ajans otomasyonuna ihtiyaç duyan ve bir orkestrasyon yığını işletmeye hazır olan SRE ve platform mühendisliği ekiplerine uygundur. Proje, müşteri altyapısında çalışacak şekilde tasarlandığı için sunucu dağıtımı ve model yönlendirme yapılandırması gerektirir; platform mühendisliği kaynaklarına sahip olmayan ekiplerin önemli bir kurulum ve bakım yükü beklemeleri gerekir. Yığını barındırıp yapılandırabilen ekipler için AURA, insan gözetimi altında otomatik operasyonel görevler için izlenebilir bir yol sunar.
