ChatGPT gibi modellerin kendileri için düşünmeyi öğrenmesine izin verin! Çığır açan teknoloji "özerk biliş" çerçevesi

Orijinal kaynak: AIGC Açık Topluluğu

Görüntü kaynağı: Sınırsız AI tarafından oluşturuldu

ChatGPT, Baidu, Wenxin, Yiyan, Bard ve diğer büyük dil modelleri, süper yaratıcı yetenek sergiledi ve üretken yapay zekanın uygulama sürecini hızlandırdı. Bununla birlikte, yapay zeka modelleri yalnızca eğitim verilerine dayalı olarak çeşitli görevleri yerine getirebilir ve yaşam bilgisini ve geçmiş deneyimleri insanlar gibi karmaşık akıl yürütme ve karar verme için kullanamaz.

Örneğin, bir oyun oynarken, insanlar en iyi kararları vermek için çeşitli ipuçlarını, sağduyuyu, deneyimi ve oyunun kurallarını anlamayı kullanabilirler. AI, oyunun modunu yalnızca çok sayıda eğitim yoluyla öğrenebilir ve insancıllaştırılmış bir anlama işlevine sahip değildir. Oyunun veya ortamın kuralları değiştiğinde, yapay zekanın doğru seçimi yapması zordur.

Bu sorunları çözmek için, Clemson Üniversitesi'ndeki AI Laboratuvarı, Özerk Bilişsel Varlığı (ACE) önerdi. Etik, küresel strateji, ajans modeli, yürütme, bilişsel kontrol ve görev yürütmeden oluşan altı hiyerarşik tasarım aracılığıyla yapay zeka modelleri, "özerk karar verme" ve ahlaki akıl yürütmenin bilişsel mimarisini gerçekleştirebilir**.

Uzun bir süredir, yapay zeka modellerinin "sağduyulu akıl yürütmeye" sahip olmasını sağlama yeteneği, bilimsel araştırma topluluğunda en önemli öncelik olmuştur. **ACE çerçevesi, bu sorunu çözmek için yenilikçi bir atılım çalışması olarak görülmektedir.

Aslında, ACE kavramı, Çin Bilimler Akademisi ve Yale Üniversitesi Otomasyon Enstitüsü tarafından kısa bir süre önce önerilen ve büyük modellerin yeni problemlerle başa çıkmak için karmaşık akıl yürütme yeteneklerini geliştirmek için geçmiş deneyimleri kullanmayı öğrenmesine izin veren "düşünme iletişimi" teknik çerçevesine benzer, ancak akıl yürütme katmanı daha spesifiktir ve çıktı içeriğinin güvenliğini sağlamak için etik kısıtlamalar eklenir.

Bildiri Adresi:

ACE teknoloji çerçevesi, sektördeki birçok teknoloji lideri tarafından kabul edilmiştir. Stanford Üniversitesi Bilgisayar Bilimleri Bölümü'nde profesör olan John Etchemendy, ACE çerçevesinin yapay zeka araştırmaları için yeni bir paradigmaya işaret ettiğini ve hiyerarşik soyutlama ve bilgi geri bildirim tasarımının yapay sağduyu akıl yürütmesine ulaşmada çok yardımcı olduğunu söyledi.

MIT'nin Yapay Zeka Laboratuvarı direktörü Daniela Rus, ACE çerçevesinin etik, bilişsel ve hesaplama ilkelerini bütünleştiren eksiksiz bir yapı oluşturduğuna ve yapay sağduyu akıl yürütme için yeni bir araştırma yönü sağladığına inanıyor.

ACE çerçevesinin genel amacı, hem son derece enerjik hem de etik bir AI sistemi elde etmektir. Temel yeniliği, en üst düzeyde soyut etik akıl yürütmenin entegrasyonunda ve kapalı döngü ve eksiksiz bir bilişsel sistem oluşturmak için altta belirli görevlerin gerçekleştirilmesinde yatmaktadır.

ACE temel olarak 6 katmandan oluşur: etik, küresel strateji, ajans modeli, yürütme, bilişsel kontrol ve görev yürütme, her katman farklı işlevlere odaklanır, üst katman soyut akıl yürütme ile ilgilenir ve alt katman belirli görev yürütmeden sorumludur.

Ahlaki Katman

En yüksek etik seviye, tüm sistemin yönünü ve ilkelerini belirler ve işlevi, 3 bölümden oluşan özerk bir ajanın temel değerlerini ve etik ilkelerini tanımlamaktır.

(1) Temel etik ilkeler: Bu, sistem için temel uyumu sağlayan sezgisel bir ahlaki koddur.

(2) İkincil ilkeler: İnsan hakları yükümlülükleri gibi özel rehberlik sağlayın.

(3) Misyon Beyanı: Temsilcinin temel hedeflerini ve niyetlerini tanımlayın.

Küresel Strateji Katmanı

Ahlaki katmandan soyut görevler aldıktan sonra, küresel strateji katmanı, iki bölümden oluşan özel durumla birlikte bu görevleri gerçekleştirmek için uzun vadeli bir plan oluşturacaktır.

(1) Bağlam füzyonu: çevresel bilgileri özümsemek ve ajanın karşılaştığı özel durumu anlamak.

(2) Strateji Belgesi: Daha düşük seviyeler için eylem rehberliği sağlamak için çıktı kılavuz belgesi.

Aracı Modeli Katmanı

Belirli bir ortamdaki bir ajanın yetenek parametrelerini, sistem yapısını, kısıtlamalarını vb. anlamaya ve 4 bölümden oluşan karar verme için bir temel sağlamak için bir "öz model" oluşturmaya kendini adamıştır.

(1) Çalışma parametreleri: izleme yoluyla elde edilen telemetri verileri.

(2) Yapılandırma bilgileri: yazılım ve donanım mimarisi, sürüm vb.

(3) Yetkinliğin kapsamı: Tamamlanabilecek ve tamamlanamayacak şeyler.

(4) Sınırlamalar: Yalnızca belirli koşullar altında çalışabilen kısıtlamalar.

Yönetici İşlevsel Katman

Yürütücü işlevsel katman, stratejik görevleri yukarıdan net bir plan yol haritasına dönüştüren bir "proje yöneticisi" olarak hareket eder. Yol haritası, dört bölümden oluşan stratejiyi gerçeğe dönüştürmek için kaynak tahsisi ve risk yönetimini dikkate alarak tüm özel uygulama adımlarını sağlar.

(1) Görev adımlarını tanımlayın: Stratejik görevleri ayrıntılı operasyonlara ayırın.

(2) Kontrol noktaları belirleyin: İlerlemeyi kabul etmek için önemli ara sonuçları tanımlayın.

(3) Kaynakları tahsis edin: Planın sorunsuz bir şekilde yürütülmesini sağlamak için kaynakların kullanımını optimize edin.

(4) Riskleri değerlendirin: Olası sorunları tahmin edin ve karşı önlemleri önceden planlayın.

Bilişsel Kontrol Katmanı**

Bilişsel kontrol katmanı, dört bölümden oluşan mevcut ortama ve geri bildirime göre uygun görevleri dinamik olarak seçen ve planlayan "görev yönetimi" rolünü oynar.

(1) Görev seçimi: Önceliğe, ortama vb. göre bir sonraki görevi seçin.

(2) Görev değiştirme: Siparişleri optimize etmek için görevler arasında sorunsuz geçiş yapın.

(3) Hayal kırıklığı algısı: Görev tekrarlanır ve başarısız olursa, proaktif değişiklikler üretecektir.

(4) Dahili ayarlama: farklı seçeneklerin artılarını ve eksilerini düşünün.

Görev Yürütme Katmanı

Son görev yürütme katmanı, bilişsel kontrol katmanı tarafından atanan belirli görevleri gerçekleştirmek için doğrudan ortamla etkileşime girer. Görevin türüne bağlı olarak, API arayüzünü çağırabilir, mekanizmayı kontrol edebilir ve üç bölümden oluşan bir diyalog yürütebilirsiniz.

(1) Dijital iletişim: dijital görevleri uygulamak için programlama dillerini ve arayüz çağrılarını kullanın

(2) Fiziksel işbirliği: fiziksel görevleri tamamlamak için robotları ve sensörleri kontrol edin

(3) Sonuç izleme: sonuçları beklentilerle karşılaştırın ve başarı veya başarısızlık geri bildirimi gönderin

Net bir iş bölümüne sahip bu çok katmanlı tasarımın birçok faydası vardır: birincisi, farklı seviyeler aynı anda paralel olarak çalışabilir, bu da verimliliği artırır; İkincisi, katmanlı kapsülleme ve bilgi gizleme, sistemin güvenliğini ve yorumlanabilirliğini artırır;

Üçüncüsü, katmanlama, sistemin tam yeniden düzenlemeye gerek kalmadan modüler olarak yinelemeli olarak yükseltilmesini sağlar; Dördüncüsü, üst seviye, sistemin kontrol edilebilirliğini sağlamak için alt katmanın çalışmasını ve Einmal sapmalarının ne zaman düzeltilebileceğini izleyebilir.

Ek olarak, ACE çerçevesinin bir başka yeniliği de ChatGPT, Bard vb. gibi mevcut popüler büyük dil modellerinin akıllıca kullanılmasıdır.

Bu modeller, büyük miktarda metin verisi öğrenerek, insanlara yakın dil anlama ve dil oluşturma yeteneklerini göstermiştir. ACE çerçevesi, dil katmanını her katmana entegre eder, böylece dil modeli artık tek başına çalışmaz, tüm bilişsel mimariyi destekleyen önemli bir bileşen haline gelir**.

Ahlaki katmandan görev katmanına kadar, dil modelleri soyut kavramları anlamaya, stratejik akıl yürütmeye, kendi kendine modeller oluşturmaya ve hatta nihayetinde robotların görevleri yerine getirme şeklini kontrol etmeye yardımcı olur.

Bu birleştirme, dil modeline net bir bağlam ve rehberlik sağlayarak ürettiği çıktıyı daha doğru hale getirir ve "kendi kendine konuşma" sorununu önler.

Bu aynı zamanda büyük dil modellerinin yalnızca tek tek dil görevlerini tamamlamak yerine sistem düzeyinde de önemli bir rol oynayabileceğini göstermektedir. ACE çerçevesi, bilişsel gelişim ve güç yapay sağduyu akıl yürütme için temel bir motor olarak büyük dil modellerinin potansiyelinden nasıl daha iyi yararlanılacağını gösterir.