Инфуры. Методы достижения AGI

Введение

Мы не замечаем что-то великое в фундаменте нашей вселенной.

Вы не ослышались, мы кое-что упускаем в нашем мироздании, кое-что важное, что ощущаем каждый день. Однако всё никак не можем оформить эту идею в подходящую обёртку, и может быть потому, что объекты этой идеи не видны ни одному датчику. Эти объекты не существуют в материальном мире так же, как существуют в нём элементарные чатицы. Объекты этой идеи существуют не в пространстве, а во времени. И в этой статье я хочу рассказать вам об этой невидимой, но очень влиятельной сущности.

Дисклеймер:
Я думаю, что вся ИИ сфера крутиться вокруг недостаточности научного материала и работ, и только некоторые компании вносят свой значимый вклад в исследования разума, а не просто занимаются прогревом инвесторов вокруг "1%" прироста по бенчмаркам. Нам явно недостаёт научного аппарата, и я этой статьей хочу ввести новый термин, и с его помощью обосновать один из методов обучения, который в итоге может привести нас к AGI. Это не перевод какой-либо научной работы, и я не учёный, а всего лишь программист игр с вузовским познанием математического анализа, и некоторой начитанностью в области физики, нейронных сетях и биологии. В моей голове давно возникла одна идея, объединяющая многие мои наблюдения в различных областях науки и техники, и я думаю, я собрал достаточно кореляций, чтобы ей поделится с публикой. Я не претендую на научную ценность или истинность сказанного, многое из этого будет лишь догадками, подкрепленными максимум матиматическими формулами и тестами (а зачастую просто размышлениями). Моя цель - показать свою модель научно-техническому сообществу и обсудить её.

Итак, начнём... Довольно абстрактные размышления были в первом абзаце, но всё же о чём я говорил конкретно? Хочу поднять тему эволюции нашей вселенной, но не что-то о большом взрыве или космологической инфляции, а о той её части, что мы, возможно, осознали только недавно. Как по мне, это довольно базовая и обширная концепция, которая кое-что сможет сказать о будущем нашей вселенной, а так же затронуть энтропию, жизнь и разум.

Предыстрория: Эволюция вселенной

Я буду рассматривать этот процесс с точки зрения теории вычислимой вселенной. Так как данная тема напрямую связана с информацией, от этого моё объеснение выйдет в разы проще.

С периода большого взрыва и до наших времён было созданно множество физических структур, которые каким-либо образом оказывали своё влияние на эволцию нашей вселенной. Например, когда сформировались первые протоны и нейтроны, из них начали синтезироваться составные элементы такие как гелий и литий. Давайте обратим еще наше внимание на энтропию и показатель сложности начальной конфигуряции незадолго после большого взрыва: мы имеем ограниченное пространство, более-менее равномерно нагретую материю, с некоторыми асиметриями, а так же несколько различных более высокоабстрактных комбинаций частиц, нежели элементарные (тот самый гелий и литий).

Энтропия вселенной небольшая, а её информационная сложность так же является небольшой, т.к. количество состояний частиц в пространстве и их вариаций относительно невелико. Кстати заметьте, что составные частицы, как и различные формы ассиметрии могут рассматриваться как информационные абстракции, группы комбинаций, являющиеся эквивалентные друг-другу, и даже поэтому поддающиеся определенному информационному сжатию (к этому мы еще вернёмся когда будем рассматривать нейросети, главное что существуют эти группы).

Эти абстракции могут существовать досаточно долгое время, и появлятся вновь спустя время из схожих локальных сред. Ключевое слово тут - время. Да, именно время, или в теории вычислимой вселенной - тик обработки информации по законам вселенной. Оно двигает вперед эволюцию, причём в сторону возрастания информационной сложности всех этих абстракций.

Информационные атракторы

Раз мы встречаем эти структурные абстракции не единоразово, а из раза в раз в различных локальных средах, а далее они существуют продолжительное время, значит, они являются какими-то стабильными информационными структурами - локальными атракторами. Только вот что представляют из себя эти самые атракторы? Вопрос интересный, но пока нам рано на него отвечать, ведь у нас осталось еще кое-что, о чём мы забыли. Тут мы резко перескочим к нейросетям (биологическим и математическим).

Вселенная довольно долго увеличивала свою сложность только лишь при помощи материальных компонентов, и только недавно (правда тут мы не уверены недавно ли) она начала развивать свою сложность при помощи создания абстракций более высшего порядка: жизни и разума. Если с жизнью нам многое более-менее известно: репликаторы в виде прото-РНК, как они возникли и эволюционировали, и что они имеют такое же материальное представление в виде генов, то с разумом всё намного интереснее.

Я не хочу сейчас вдаваться в подробности особенностей стабильности жизни и разума, просто примем, что факт их возникновения - неизбежность в нашей вселенной, т.к. мы их наблюдаем (это явно не единоразовое событие). Тут стоит упомянуть, что сначала возникла жизнь, а уже потом разум, который вследствии меметической эволюции (по Ричарду Докинзу) начал подталкивать эволюцию генов в угоду эволюции мемов, увеличивая наш мозг в объёмах. Если вы не понимаете о чём это я, то обо всём этом можно почитать в книге Эгоистичный Ген или её обзоре. Я буду придерживаться трактовки Докинза, ибо с её точки зрения так же будет просто кое-что объяснить в дальнейшем.

Я считаю, что мы недооцениваем возможное влияние разума на эволюцию вселенной в космических масштабах, и не потому, что мы потенциально можем захватить всю галаклитику... нет, не только. Главное тут то, что разум, видимо, является такой же фундаментальной абстракцией (информационным атрактором), как и жизнь, как и звезды, как и атомы. И не только сам разум, а все его составляющие и продукты (если его разбивать на элементы).

Составляющие разума

Исходя из теории мемов Докинза, человек является самым универсальным и вместительным биологическим контейнером мемов. Человеком мы становимся тогда, когда впитываем мемы той культуры, в которой вырастаем. Если человек вырастет в джунглях с волками, он станет Маугли, а не человеком: он не будет уметь разговаривать, не будет уметь вести себя как человек, мыслить как человек, и даже возможно, у него не будет такого же человеческого сознания (вопрос открытый, но интересный). То есть как единица цивилизации мы не равны единице биологического вида. Человека определяют мемы, что он впитывал в процессе своего становления, и меметическая эволюция привела нас к такому большому мозгу.

Хорошо, контекст задан. Что такое мемы в физическом смысле и как они получаются? Это связи в мозгу, которые кодируют определенную информацию. Так же стоит ответить, что они поддаются такой же эволюции, как и гены, но способы у них немного другие. Жить они могут только в нейронных сетях, и возникать они могут независимо друг от друга, если начальные условия и среды схожи. Мы знаем много исторических моментов, когда люди независимо друг от друга делали какие-либо научные открытия, а так же придумывали различные языки для общения (язык это тоже какой-то определенный мем). Еще мемы могут существовать на различных уровнях вложенности/абстракции, состоять из других мемов или в их контексте. Например, метод решения двоичного уравнения при помощи дискременанта строится поверх мема математики. Бывают даже мемы которые создают другие мемы и отвечают за их распространение.

Так как мемы имеют своё физическое представление, многоуровневую абстракцию, поддаются эволюции и могут возникать независимо в схожих локальных средах, они тоже являются информационными атракторами нашей вселенной. Но есть одна загвоздочка: мем нельзя достать из мозга физически, в буквальном плане. Если ген можно отрезать, у него есть определенные границы, определенное соединение молекул, то если мы вырежим кластер нейронов из мозга, мы обязательно заденем и другие мемы, которые с ним были связаны (в генах на уровне фенотипа может быть так же, но вы поняли аналогию).

Однако в искуственных нейросетях мы можем это сделать: нам нужно провести границу той или иной функции, выделить какие веса и на сколько влияют на нейроны этой функции, и вырезать эти связи частично, не полностью, введя коэфициенты поправки на задетые веса, чтобы не сломать все остальные функции (как это сделать практически - вопрос не простой, но реальный, тык исследование от антропик). Это математическая операция, поэтому мы можем рассмотреть мем как математический объект.

Математическая природа разума

Тут мы плавно переходим к нейросетям искуственным. Прошлый пример я вам давал с предположением того, что фундаментально структура мозговых нейронов эквивалентна структуре искуственных нейросетей (в самой базовой своей задумке, но не более!). И то и другое применяет полученый опыт для апроксимации математической модели внутри себя. Наш мозг намного более сложный и учитывает всю историю эволюции, нейросети лишь моделируют его основную концепцию.

И так, эта самая концепция - моделирование внешнего мира, апроксимация сложного-сложного многомерного (трилионы измерений!) уравнения под модель внешней среды. Но что представляет из себя это уравнение?

Если мы возьмем любую эмерджентную симуляцию, то её можно задать начальным состоянием s₀, а так же функцией эволюции F.

Внутренний наблюдатель (агент) будет воспринимать пространство состояний S через проекцию π с ограниченым набором информации, он будет воспринимать пространство наблюдений O. Тогда как наблюдаемая функция эволюции F_π тоже будет ограничена этой самой проекцией π.

Последняя формула на первый взгляд это тафтология, но если присмотреться на функцию π^-1... Из-за того, что наблюдаемое пространство ограничено, на практике мы НЕ можем получить истинный π^-1, потому что верных на наш взгляд скрытых состояний может быть множество. Поэтому f_π(s_n) выдаёт сразу множество предсказаний возможных будущих наблюдаемых состояний. Если много раз проводить предсказания на предсказаных данных, мы практически всегда будем ошибаться в своих предсказаниях. Не схоже ли это с LLM, которые имеют свойство накапливать ошибку?

Это было бы очень грустно, если бы это был наш конечный вывод в подобной ситуации, но это еще не всё. При условии, что процесс эволюции пораждает инвариативные регулярности и сама функция эволюции неизменяема, у нас есть достаточно широкое пространство наблюдения, а так же n -> бессконечности, мы имеем возможность изучать и обобщать паттерны динамики на этих регулярностях. Из раза в раз на различных примерах пытаться предсказать будущее, корректируя свою ошибку каким-либо из методов обучения. В этом случае мы откинем множество вариаций будущих состояний, оставиви "истинную" вариацию будущего (если нам повезло со вселенной).

Делая это из раза в раз на различных атракторах, мы, возможно, сможем свести апроксимированную F_π к достаточно определенной функции, которая эффективно предсказывает будущее любого входящего состояния. Если мы будем это делать на различных областях наблюдения (соседних окрестностях), то мы сможем апроксимировать даже ту самую F

Очень похоже на теорию всего, и тут нужно математическое доказательство сходимости подобной апроксимации в нашей вселенной, но т.к. я не математик, я решил попробовать сделать прогу на питоне, которая при помощи сверточной нейросети апроксимирует правило перехода в простом клеточном автомате на основации динамики состояний на атракторах, и она смогла это сделать. Ссылка на гитхаб, если интересно.

Резюмируя:
Если разум и наблюдатель это определенная пространственно-временная структура внутри симуляции, то она способна воспринимать только ограниченное пространство наблюдения, а так же конечный отрезок времени (от начала до конца наблюдения). Функция преобразования пространства наблюдения при помощи функции эволюции будет являться той локальной функцией, которую разум будет апроксимировать. Однако для апроксимации этих локальных преобразований нам требуется статическая опора в виде элементов, которые не меняются или циклически повторяются, воспроизводятся, является стабильными. Это и есть локальный структурные атракторы. Именно опираясь на них мы и познаём законы вселенной.

Разум - механизм саморефлексии вселенной. Вселенная, по-видимому, пытается себя смоделировать, пораждая атракторы всё более и более высокого порядка. Это приводит нас к некоторым интересным утверждениям и концепциям. Давайте их разберем далее.

Инфуры. Что такое человек?

Перейдём к чему-то более практичному, поразмышляем над различными классами локальных атракторов и особенностях их поведения. Сначала я хочу систематизировать всё выше сказанное при помощи терминов и определений.

Самый базовый логический элемент вселенной это энергия. Всё материальное и информационное произростает из неё. Разница энергий в различных областях вселенной - простейшая информация, это фундоментальная сущность теории вычислимой вселенной.

Для удобства дальнейшего оперирования введу новое понятие. Это довольно широкое понятие, поэтому я подумал как сделать так, чтобы его достаточно локализировать.
Инфур (от "информационная функция") - структура из простейших информационных единиц внутри информационного пространства, имеющее определенное влияние на обработку входящей и генерацию исходящей информации.

Входящая и исходящая информация именно в/из выделенного информационного пространства. Как говорилось выше - мы можем делить общее информационное пространство вселенной на локальные фрагменты, которые тоже будут иметь такие же свойства (или часть свойств), но множество содержащихся внутри инфуров может различатся.

Ограничения и размерность этого информационного пространства определяется его материальным представлением. Например, это может быть мозгом, компьютером, социумом, аналоговым устройством, кучкой атомов определенной структуры и т.д. Любая вычислительная система де-факто имеет своё информационное пространство и свой набор инфуров внутри него.

Информационное пространство отличается от инфурного тем, что является контейнером с фактически присутствующим внутри него набором инфуров. Пространство инфуров это же все возможные инфуры, которые могут существовать в определенном информационном пространстве.

Фундоментально инфур является локальным структурным атрактором в динамической системе (по теории вычислимой вселенной), т.к. он способен воспроизводится в схожих условиях. Отличается он от мемов областью применения. Инфур не обязательно должен реплицироваться, конкурировать и эволюционировать, он просто существует и имеет определенное влияние на локальную динамику системы в которой находится (мемы - частный случай инфуров). Само это влияение зависит сугубо от варианта и класса этого инфура. Инфуры могут быть атомарными, т.е. являться простейшей инфорамацией.

У инфуров существует определенная математика, которая очень плохо изучена. Очевидно лишь то, что у инфуров существует операция "синтеза": складывая множество инфуров в едином информационном пространстве, мы можем получить инфур более высшего порядка, т.е. новый инфур. Бессконечно ли множество инфуров в информационном пространстве нашей вселенной - неизвестно, и пока никак не доказано, однако мы можем создать такие вселенные, где их количество ограничено.

Т.к. инфур это атрактор, он является производной частью от функции эволюции вселенной. Он напрямую отображает часть её динамики на основе которой возможно (или невозможно, есть такие вселенные) воспроизвести саму функцию эволюции.

Инфур можно спроецировать в материальный мир, закодировав его при помощи энергии. За подобный обратный процесс отвечает определенный класс инфуров - как раз таки мемы. Часто кодирование получается не точным или не полным, что сподвигает их к мутации и синтезу кардинально новых инфуров в других информационных пространствах.

Помещение наборов простейших инфуров в информационное пространство называется измерением. Измеряя различные области вселенной, мы получаем новую информацию. Такое название я выбрал неспроста, ибо ни разу не измеренные области вселенной квантово запутаны, и являются вероятностями (исходя из квантовой механики).

Прикладная информация (не фундоментальная) - продукт инфуров, отвечающих за передачу самих себя иным информационным носителям. Для интерпретации информации требуется реализация и/или наличие определенного набора инфуров, который зависит от самой передаваемой информации: будет ли она понятна для интерпретатора, или сложна, возможно ли её принять или расшифровать, это определяется инфурами на принимающей стороне. Часто для принятия простой информации не требуется сложного набора инфуров как у нас в мозгу, мы можем воспроизвести музыку или видео из зашифрованной записи при помощи определенного алгоритма на компьютере, и этот алгоритм и будет являться этим самым набором инфуров требуемых для воспроизведения. Однако как и создающий информацию, так и принимающий, должны уже иметь эти инфуры у себя в информационном пространстве, чтобы правильно её интерпретировать.

Если говорить просто, когда мы пишем текст, то весь текст представляеся нами в голове как изолированное инфорамционное пространство, а процесс его написания - попыткой применения тех инфуров, которые мы хотим передать (и конечно же это делается через призму инфура о передачи текстовой инфорамции). Мы строим в голове идею, а именно локальную функцию эволюции, составленную из требуемых инфуров, и применяем её последовательно к фрагментам нашего текста. Таким образом мы "выжигаем" инфуры на информационном носителе, который не способен интерпретировать/выполнять их. Тоже самое мы делаем когда мы мысленно моделируем ситуации внутри нашей головы: мы создаём определенное информационное пространство и пытаемся к нему применять апроксимированные нами правила. Причём не все, а набор выбранных (зависит от целей нашей симуляции). Таким образом человек исследует инфурнре пространство и пытается синтезировать новые инфуры. Этот процесс как я считаю нас и отличает от LLM - мы умеем придумывать новые идеи, что никогда не появлялись в нашем опыте. Но это достаточно редкий процесс, т.к. вычислительно затратен. Я считаю, что этот же процесс мы способны повторить искуственно... И за него отвечает определенный инфур.

Человек - сборник множества различных инфуров, но по большей части они у нас схожие, т.к. мы носители одной мировой культуры, а наше взросление, даже если оно как-то различалось, было связано со взаимодействием с реальностью. Все эти наблюдения мозг проводил в автоматическом режме и выстраивал одни и те же инфуры, что и делают из нас самостоятельного осознанного агента. С постижением языка этот набор становится еще более приближен к тому, кем мы являемся. И только небольшой процент (один или может меньше, кто знает) проводит различия между нашими мыслями и мировосприятием. Мы - продукт нашей среды.

Встаёт очевидный актуальный вопрос из сферы ИИ: если весь текст написанный людьми это представление человеческих инфуров, то почему LLM еще не стало человеком?

Ответ таков: не все инфуры можно записать текстом. Не все инфуры можно представить визуально. Не все инфуры можно воспринять на слух... и так далее. Могут существовать такие инфуры, которые человек НИКОГДА не проецировал на материальное пространство, но они заметно влияют на наше поведение. Самое инетресное, что человек может впринципе не содержать тех инфуров, что содержат все современные LLM, и это их может портить. Думаю, самая важная составляющая здесь это время и социум, текст не содержит опыта о многих важных концепциях, а даёт только примерную картинку. Представьте: вы можете сколько угодно читать про красный цвет - как он устроен, где встречается, какие предметы бывают красными. Но если вы видите мир только в чёрно-белом, вы всё равно не сможешь узнать красный ли на картинке и уж тем более понять, что это такое на самом деле. Одного знания недостаточно - нужен личный опыт. Поэтому мы не сможем достичь AGI при помощи одного лишь текста, ибо этого текста будет всегда недостаточно, чтобы покрыть то многообразие инфуров, что предоставляет нам инфурное пространство вселенной.

Создание искусственного человека

Итак, чтобы создать искуственного человека нам достаточно повторить набор его инфуров.
Какие у нас есть варианты?

1. Запрограмировать все AGI инфуры

2. Отцифровать мозг чеговека, скопировав весь набор инфуров в цифровое информационное пространство

3. Вручную собрать AGI инфуры в виде прикладной информации и обучить на них модель

4. Создать безопасную реальную среду: "детский сад и школу" для роботов для формирования внутри них AGI инфуров

5. Как предыдущий пункт, но среду виртуальную: матрицу для нейронок. Просимулировать её и вытащить получившийся AGI вместе с его инфурами

Первый вариант это то, что люди пытались делать на протяжении всего времени до ИИ-бума. В целом, написанные програмы это тоже инфуры, но, как мы видим, это не очень эффективно, ведь инфуров настолько много, что это слишком трудоёмкий процесс.

Отцифровка мозга звучит как самый лёгкий вариант в реализации, но наш прогресс с нейроинтерфейсами говорит о том, что это вопрос не одного десятилетия. Одно дело создать саму технологию, другое - масштабировать её на весь мозг человека.

Ручная декомпозиция человеческого интеллекта и проецирование нужных инфуров путём дистиляции с человека, а потом обучение на них модели - один из методов. Сейчас именно его активнее всего используют для достижения каких-либо значимых результатов, но зачастую эти результаты относятся только к одному из инфуров (те самые бенчмарки), и как бы мы не набивали наш LLM этими разнообразными навыками, в AGI она не превращается. Держим, конечно, кулачки, но я бы не останавливался на этом методе.

Я критически отношусь к методу ручного сбора инфуров, т.к. он очень не точный (инфуры могут получатся недостаточно проработанными), а главное - мы не знаем какие и сколько инфуров нам требуется, чтобы эта модель стала AGI. У нас нет классификации инфурного пространства, а так же каких-либо наработок в эту сторону, мы буквально не знаем с чем имеем дело.

Одно мы знаем точно - как получить весь требуемый набор: нужно воспроизвести инфурную эволюцию на искуственном разуме. Столкнуть его не с теми крупинками данных, что мы подаём порционно каждой моделе по отдельности, а с реальным миром, источником истинной и полной информации с обратной связью, однако это небезопасно. Только представьте себе: вы дадите необученному сильному и потенциально сверх-умному роботу всю широту действий в реальном мире, они так могут кого-нибудь убить или вообще устроить революцию или войну, как уже это делали люди в процессе инфурной эволюции. Только в этот раз человечество может не выжить.

Пока что я верю, что AGI возможно достичь внутри виртуальной среды, которая была бы схожа с тем как функционирует реальность. Это не значит, что нам придется моделировать саму реальность, думаю, мы можем опустить некоторые детали её реализации, и проходится по высокоуровневым абстракциям таким как: время, пространство, социум, выживание, обучение и экономика. Нам достаточно просимулировать самые главные составляющие реального мира, и через эмерджентность они уже смогут образовать достаточно сложную среду, которая сможет предоставить тот набор инфуров, что не встречается в человеческом тексте, изображениях и повседневных задачах (если говорить об RL и бытовых роботах).

Обратите внимание какой набор элементов для симуляции я выделил, пройдёмся по каждому из них и я расскажу их важность.

Время. Текущим моделям не хватает временного опыта. Они понимают что это такое и почему это важно, но они совсем не умеют с ним обращаться. Они не понимают когда им лучше потратить время и задать быстрый, но полезный вопрос, чтобы увеличить эффективность выполняемой цели, они не понимают насколько долго они делают ту или иную задачу, они не могут оценить свои будущие действия по отношению к затраченному времени на них. Это важный инфур для AGI, так как он сильно влияет на планирование и работу в реальном мире, но текст не предоставляет подобного опыта.

Пространство. Базовый инфур, доступный человечеству, но который невозможно в полной мере описать текстом (ну и никто и не пытался этого делать). Однако, существующие action-language-visual модели достаточно эффективно обучились этому инфуру (при помощи RL кстати), и его работу мы можем видеть на современных роботах, которые выполняют любые действия которые попросишь. Этот инфур тоже должен сформироваться внутри нашей симуляции если мы построим среду соответствующим образом.

Социум. У текущих моделей нет достаточного понимания своего места по отношению к нашему миру. Они лишь одна разумная единица вокруг миллиарда других, но при том же планировании они не учитывают других агентов. Они не строют их модель внутри себя, не оценивают их компетентность при общении, не имеют понимания функционала социума на собственном личном опыте. Это в свою очередь вредит долгосрочному планированию внутри социума при его наличии. Под социумом я могу подразумевать не только людей, но еще и социум из агентов, работающих над единой задачей, но каждый имеющий свою роль.

Выживание. Эволюцией, даже меметической, движет отбор среды. Среда должна определять и отсеивать тех, кто к ней не адаптировался, фильтруя лучших. Это должно быть реализовано посредством давления на модель различными условиями, чтобы сподвигать её на то или иное разумное поведение, заставляющее её планировать ближайшее будущее, а не просто стоять на месте. Текущие модели этого не умеют, т.к. никогда не ощущали опыта выживания и давления среды, им просто не приходилось простраивать подобные инфуры. Текст как-то косвенно это объясняет, но опять же недостаточно, чтобы сформировать полный инфурный набор для требуемого поведения.

Экономика. Если выживание способствует планированию краткосрочному, то экономика помогает планированию долгосрочному (в угоду выживанию конечно же, для снижения рисков). Под экономикой я имею ввиду систему, позволяющую при помощи долгосрочного планирования получить кусок общего пирога в свои запасы или же увеличит общее кол-во ресурсов в системе. Думаю это достаточно редкое поведение, но если появяться агенты, которые его будует придерживаться из-за тех или иных причин, этот мем будет достаточно сильно распространяться через социум и заставит всех умных моделей долгосрочно планировать. Этот инфур кстати один из самых описанных в текстах человечества, но опять же для успешного экономического планирвания нейронке так же придется открывать новые способы и механики среды (которые нужно будет реализовать кстати), чтобы обратить их в свою пользу, что сможет простимулировать формирования инфура интереса и исследования.

Обучение. Одна из ключевых фич симулятивной среды. Под этим подразумевается не сам процесс обучения нейронки, а предоставление внутри самой среды аспектов тех или иных механик и особенностей работы среды, которая нейросеть не знает в самом начале. Этих механик должно быть достаточное количество, чтобы агенты могли исследовать их инфурное пространство и производить синтез. Синтез это очень важный инфур, отсутствующий у текущих моделей. Если у одного агента произойдёт инфурный синтез, он быстро продвинится экономически, и его инфур сможет легко заразить других агентов. Инфур синтеза способствует дивергентному поведению, а так же догадливости, что недостаёт текущим LLM.

Основная сложность симуляции мира для AGI заключается в том, что для неё требуется разработать сложную среду, а так же запустить её с тысячами одновременно играющих моделей. Так же каждая из них должна обучаться в реальном времени во время инференса (при помощи RL), чтобы инфуры формировались в их весах посредством эволюции. Так же каждой из них потребуется память и дополнительные структурные элементы, похожие на те, что делают в современных роботах с ИИ.

Начальные веса можно дистельнуть с уже существующих моделей, но я бы добавил некоторые коэфициент дивергенции, чтобы не застревать в локальных экстремумах, иначе некотоыре полезные инфуры могут долгое время оказаться неисследоваными в силу существования альтернативных и более эффективных вариантов достижения целей. Я думаю, что в симуляцию не нужно добавлять меметические мутации, ибо эволюция будет двигаться посредством существования локального хаоса: для каждого агента его среда будет уникальной, она будет формироваться в зависимости от поведения других агентов (а их полностью предсказать будет невозможно), так же передача информации посредством текста будет явно не точной, что уже является алгоримом меметической мутации.

Заключение

Сейчас AI индустрия стоит перед риском несостоятельности классического метода обучения с учителем в контексте достижения AGI. В силу того, что могут существовать "скрытые" инфуры, которые сложно обнаружить и передать моделям привычным и безопасным для человечества методом. Так же из-за недостаточности данных о структуре и классификации инфурного пространства, мы не можем достоверно сказать насколько такое точечное обучение оптимально в вопросах затрат времени и ресурсов относительно нашей долгосрочной цели.

Перед нами так же стоит инженерный вопрос, который я не рассматривал в статье, а именно - физически-структурное воплощение AGI. Архитектура модели сильно влияет на форму инфурного пространства внутри неё, поэтому это отдельный момент для проработкию.

Рассмотренные альтернативы тоже кажутся не совсем радужными. Даже если мы берём нам мой взгляд самый реалистичный вариант в ближайшей перспективе - создание матрицы для нейронок, это потребует отдельного суперкомпьютера, а так же несколько лет большой команды на создание виртуальной среды. Сколько она будет эволюционировать по времени - тоже неизвестно. Возможно, эту эволюцию можно будет ускорить, если внедрять внутрь готовые инфуры более высокого порядка, или уже начинать симуляцию вместе с ними.

Исходя их всего этого, мне не кажется, что мы сможем достичь настоящего AGI в ближайшие 10 лет, как бы грустно это не звучало. Однако даже текущие достижения AI индустрии впечатляют, и в ближайшем будущем смогут достаточно помочь человечеству в его странствиях в этой вселенной.