Пусть такие модели, как ChatGPT, научатся думать самостоятельно! Революционная технология «автономного познания»

Первоисточник: AIGC Open Community

Источник изображения: Generated by Unbounded AI

ChatGPT, Baidu, Wenxin, Yiyan, Bard и другие крупные языковые модели продемонстрировали супертворческие способности и ускорили процесс применения генеративного ИИ. Однако модели ИИ могут выполнять только различные задачи на основе обучающих данных и не могут использовать жизненные знания и прошлый опыт для сложных рассуждений и принятия решений, как люди.

Например, играя в игру, люди могут использовать различные подсказки, здравый смысл, опыт и понимание правил игры для принятия наилучших решений. ИИ может обучаться режиму игры только через большое количество тренировок, и не имеет функции гуманизированного понимания. Как только меняются правила игры или окружающая среда, ИИ сложно сделать правильный выбор.

Для решения этих проблем лаборатория искусственного интеллекта Университета Клемсона предложила автономную когнитивную сущность (ACE). Благодаря шести иерархическим структурам: этика, глобальная стратегия, агентская модель, исполнение, когнитивный контроль и выполнение задач, модели ИИ могут реализовать когнитивную архитектуру «автономного принятия решений» и моральных рассуждений**.

В течение долгого времени способность придать моделям ИИ «здравый смысл» была главным приоритетом в научно-исследовательском сообществе. ** Концепция ACE рассматривается как инновационное прорывное исследование для решения этой проблемы.

По сути, концепция ACE похожа на техническую структуру «мыслящей коммуникации», предложенную не так давно Институтом автоматизации Китайской академии наук и Йельским университетом, которая позволяет большим моделям научиться использовать прошлый опыт для расширения возможностей сложных рассуждений для решения новых проблем, но слои рассуждений более специфичны, а ограничения этики добавлены для обеспечения безопасности выходного контента.

Адрес доклада:

Технологическая структура ACE была признана многими технологическими лидерами в отрасли. Джон Этчеменди, профессор кафедры компьютерных наук Стэнфордского университета, сказал, что фреймворк ACE знаменует собой новую парадигму для исследований ИИ, а его иерархическая абстракция и дизайн с обратной связью по информации очень полезны для достижения искусственного здравого смысла.

Даниэла Рус, директор лаборатории искусственного интеллекта Массачусетского технологического института, считает, что фреймворк ACE строит целостную структуру, которая объединяет этические, когнитивные и вычислительные принципы, обеспечивая новое направление исследований для искусственного рассуждения на основе здравого смысла.

Общая цель концепции ACE заключается в том, чтобы создать систему ИИ, которая будет одновременно энергичной и этичной. Его основная инновация заключается в интеграции абстрактных этических рассуждений на верхнем уровне и реализации конкретных задач на нижнем для построения замкнутой и целостной когнитивной системы.

ACE в основном состоит из 6 уровней: этика, глобальная стратегия, агентская модель, исполнение, когнитивный контроль и выполнение задач, каждый уровень фокусируется на различных функциях, верхний уровень связан с абстрактными рассуждениями, а нижний уровень отвечает за выполнение конкретных задач.

Моральный слой

Высший этический уровень определяет направление и принципы всей системы, а его функция заключается в определении основных ценностей и этических принципов автономного агента, который состоит из 3 частей.

(1) Основные этические принципы: Это интуитивно понятный моральный кодекс, который обеспечивает базовое соответствие системе.

(2) Второстепенные принципы: Предоставление конкретных указаний, таких как обязательства в области прав человека.

(3) Формулировка миссии: Определите основные цели и намерения агента.

Уровень глобальной стратегии

После получения абстрактных миссий от морального слоя, уровень глобальной стратегии сформулирует долгосрочный план достижения этих миссий в сочетании с конкретной ситуацией, который состоит из двух частей.

(1) Слияние контекста: впитывание информации об окружающей среде и понимание конкретной ситуации, с которой столкнулся агент.

(2) Стратегический документ: Выходной руководящий документ, содержащий руководство к действию для более низких уровней.

Уровень модели агента

Он стремится понять параметры способностей, структуру системы, ограничения и т.д. агента в данной среде и построить «я-модель», обеспечивающую основу для принятия решений, включающую 4 части.

(1) Рабочие параметры: данные телеметрии, полученные в результате мониторинга.

(2) Информация о конфигурации: программная и аппаратная архитектура, версия и т. д.

(3) Сфера компетенции: то, что может быть завершено, и то, что не может быть завершено.

(4) Ограничения: Ограничения, которые могут работать только при определенных условиях.

Исполнительный функциональный уровень

Исполнительный функциональный уровень выступает в роли «менеджера проекта», переводя стратегические миссии сверху в четкую дорожную карту плана. Дорожная карта, состоящая из четырех частей, предусматривает все конкретные шаги реализации с учетом распределения ресурсов и управления рисками для воплощения стратегии в жизнь.

(1) Определите шаги задач: Разложите стратегические задачи на детальные операции.

(2) Установите контрольные точки: определите важные промежуточные результаты, чтобы принять прогресс.

(3) Распределение ресурсов: оптимизация использования ресурсов для обеспечения бесперебойного выполнения плана.

(4) Оценка рисков: прогнозирование возможных проблем и планирование контрмер заранее.

Уровень когнитивного контроля**

Когнитивный уровень управления играет роль «управления задачами», который динамически выбирает и планирует соответствующие задачи в соответствии с текущей средой и обратной связью, которая состоит из четырех частей.

(1) Выбор задачи: выберите следующую задачу в зависимости от приоритета, среды и т. д.

(2) Переключение между задачами: плавное переключение между задачами для оптимизации заказов.

(3) Фрустрация: если задача повторяется и терпит неудачу, это приведет к проактивным изменениям.

(4) Внутренняя адаптация: подумайте о плюсах и минусах различных вариантов.

Уровень выполнения задач

Последний уровень выполнения задач напрямую взаимодействует со средой для выполнения конкретных задач, назначенных уровнем когнитивного управления. В зависимости от типа задачи можно вызывать API-интерфейс, управлять механизмом и вести диалог, который состоит из трех частей.

(1) Цифровая коммуникация: использование языков программирования и интерфейсных вызовов для реализации цифровых задач

(2) Физическое сотрудничество: управление роботами и датчиками для выполнения физических задач

(3) Мониторинг результатов: сравнение результатов с ожиданиями и отправка отзывов об успехе или неудаче

Такая многоуровневая конструкция с четким разделением труда имеет множество преимуществ: во-первых, разные уровни могут работать параллельно одновременно, что повышает эффективность; Во-вторых, многоуровневая инкапсуляция и сокрытие информации повышают безопасность и интерпретируемость системы;

В-третьих, многоуровневое разделение позволяет модульно итеративно модернизировать систему без необходимости полного рефакторинга; В-четвертых, верхний уровень может контролировать работу нижнего уровня, а при отклонениях Einmal может быть скорректирован, чтобы обеспечить управляемость системы.

Кроме того, еще одним нововведением фреймворка ACE является грамотное использование популярных в настоящее время больших языковых моделей, таких как ChatGPT, Bard и т.д.

Изучая огромные объемы текстовых данных, эти модели продемонстрировали способность к пониманию языка и генерации языка, близкую к человеческой. Фреймворк ACE интегрирует языковой уровень в каждый уровень, так что языковая модель больше не работает в одиночку, а становится ключевым компонентом, лежащим в основе всей когнитивной архитектуры**.

От морального уровня до уровня задач, языковые модели помогают понимать абстрактные понятия, строить стратегические рассуждения, строить модели себя и даже, в конечном счете, контролировать то, как роботы выполняют лингвистические задачи.

Такое слияние обеспечивает четкий контекст и руководство для языковой модели, делая вывод, который она выдает, более точным и избегая проблемы «разговора с самим собой».

Это также показывает, что большие языковые модели также могут играть важную роль на системном уровне, а не просто выполнять отдельные языковые задачи. Фреймворк ACE показывает, как лучше использовать потенциал больших языковых моделей в качестве основного двигателя когнитивного развития и поддерживать искусственные рассуждения, основанные на здравом смысле.