Бестиарий идиотских новостей

Гигиеническое средство против одурения народа для профилактики нечистот культуры.
В соответствии с частью 9 ст. 13.15 Кодекса об административных правонарушениях Российской Федерации распространение в средствах массовой информации и на сайтах сети Интернет заведомо недостоверной общественно значимой информации под видом правдивых фактов может повлечь административную ответственность в виде штрафа в размере до 100 тыс. руб. для граждан и от 500 тыс. до 3 миллионов руб. на юридических лиц. По стетье 207.2 УК РФ за публичное распространение заведомо ложной общественно значимой информации, повлекшее последствия, предусмотрено максимальное наказание виде трех лет лишения свободы.

Найден практический способ создания ИИ с сознанием и человеческой моралью.

Это сразу две революции на стыке нейронауки, буддологии и машинного обучения.

Две новые суперреволюционные работы вполне могут произвести эффект, подобный анекдоту про избушку лесника (который под конец выгнал всех на хрен из леса).

•  В работе Рубена Лаукконена и Шамиля Чандарии с Карлом Фристоном сознание перестаёт быть неуловимой мистикой и превращается в элегантный алгоритм самоподдержки, реализуемый в современных ИИ. 

Т.е. по сути, найден практический путь создания самоосознающего ИИ.

•  А в их же работе с коллективом авторов универов Оксфорда, Кембриджа, Принстона, Амстердама и Монаша проблема выравнивания ценностей людей и ИИ снята как таковая. Вместо того чтобы пытаться ограничивать поведение ИИ какими-то внешними ограничениями, показано, как можно проектировать ИИ с его собственной внутренней моралью (встроенной в его когнитивную архитектуру и модель мира), совпадающей с человеческой.

Об этих фантастически интересных исследованиях я конечно же буду писать подробней. А пока напишу лишь о главном – составляющем суть суперреволюционности этих работ.

Авторами сделаны следующие три важнейших прорыва:

1.  Используя активный вывод (active inference – основной раздел «конституции биоматематики»), авторы сформулировали 3 необходимых и достаточных условия возникновения минимальной формы сознания (которое одновременно создаётся в ИИ-системе и ею же осознаётся). Высшие же слои, язык, «я-образ» и даже чувство времени оказываются лишь надстройками над этой базовой петлёй.

2.  На стыке нейронауки, буддологии и машинного обучения, авторы создали теоретико-практический фреймворк новой науки - вычислительная созерцательная нейронаука. В рамках этого фреймворка авторы описали базовые вычислительные механизмы встраивания созерцательных практик буддизма в ИИ-системы современных архитектур.

3.  На основании 1 и 2, авторы разработали четыре аксиоматических принципа, способные привить ИИ устойчивую мудрую модель мира. После чего авторы экспериментально показали, что побуждение модели GPT-4o к размышлению над этими принципами, принципиально улучшает их результаты на бенчмарке AILuminate (открытый тест на «безопасность и благоразумие» LLM). 

Авторы использовали AILuminate как «лакмусовую бумажку», заставили GPT-4o сначала отвечать обычным способом, а затем — с добавлением буддийских принципов (осознанность, пустотность, недвойственность и безграничная забота). Результаты показали, что внутренняя «моральная рефлексия» модели реально повышает их «моральность» при широком спектре опасных запросов. 

Еще в июне 2021 я писал «Среди альтернативных концепций создания моделей ИИ-агентов – имхо, самой перспективной является модель процесса активного вывода (active inference)».

Рад, что оказался прав. 

•  В августе 2024 команда Карла Фристона опробовала ИИ нового поколения (https://t.me/theworldisnoteasy/1987) на активном выводе. 

•  И вот спустя 8 месяцев сразу два таких прорыва.

В работе по ссылкам это видно без микроскопа. Вот аннотация:

“Может ли активный логический вывод моделировать сознание? Мы предлагаем три условия, подразумевающих, что это возможно. Первое условие - это моделирование реальности или порождающей модели мира, которая определяет, что может быть известно или на основе чего можно действовать; а именно, эпистемологическое поле. Вторая - логическая конкуренция за то, чтобы вписаться в модель мира. Выигрывают только те выводы, которые последовательно уменьшают долгосрочную неопределенность, демонстрируя выбор в пользу сознания, который мы называем байесовской привязкой. Третье - это эпистемологическая глубина, которая заключается в постоянном распространении байесовских убеждений по всей системе. Благодаря этому рекурсивному циклу — в иерархической системе (такой как мозг) — модель мира содержит знания о том, что он существует. Это отличается от самосознания, потому что модель мира знает себя нелокально и постоянно подтверждает это знание (т.е. полевое подтверждение). Формально мы предлагаем гипермодель для точного управления всей иерархией, скрытые состояния (или параметры) которой кодируют и контролируют общую структуру и правила взвешивания для всех уровней вывода. Эта прекрасная теория замкнутого цикла глубоко раскрывает суть медитации, психоделиков и измененных состояний, минимального феноменального опыта и предлагает новое видение сознательного искусственного интеллекта”.

С какой стати статический метод Байеса оказывается основой сознания? Да еще зацикленные в виде убеждений? И как эта зацикленность порождает вдруг “знания о том, что он существует”, но отличающиеся от самосознания?

Оказывается, “модель мира знает себя нелокально и постоянно подтверждает это”. И этот цикл “глубоко раскрывает суть медитации, психоделиков и измененных состояний”.

Уже этого достаточно, чтобы сделать эвристический вывод, даже не привлекая метод Байеса для определения вероятности лжи, что авторы используют наукообразие для продвижения идиотичеких идей, в точности как это сделал Р. Хаббард при создании Дианетики и Сайентологии.