Парадокс значимости аги

Опубликовано: 10/01/2021 Время на прочтение: 4 минут

Фото Джереми Бишопа на Unsplash

По мере того как прогресс ускоряется в направлении AGI, число людей, осознающих значимость каждого нового прорыва, уменьшается. Это парадокс значимости аги.

Почему вы можете варить лягушку в воде, не выпрыгивая при постепенном повышении температуры? Проблема лягушки заключается в том, что у нее нет внутренних моделей, позволяющих распознать изменение температуры воды. У таких хладнокровных существ, как лягушка, температура регулируется внешней средой. У них нет собственных механизмов регулирования температуры.

Чтобы распознать изменение, агент должен иметь внутреннюю модель реальности, способную распознать это изменение. К сожалению, большинство населения не имеет хороших моделей человеческого общего интеллекта. На самом деле даже упрощенная двухпроцессная модель системы 1 и системы 2 не очень хорошо известна. Потребовались годы, чтобы исследователи начали использовать терминологию, что глубокое обучение — это процесс Системы 1 (То есть интуитивный). Причина, по которой вы видите сегодня Даниэля Канемана во многих панелях ИИ, заключается в этом признании.

Недавними крупными разработками были muZero, AlphaFold2, GPT-3 и Dall-E. GPT-3 действительно получил много внимания, но другие 3, скорее всего, нет. Чтобы понять muZero и AlphaFold2, требуется высокий уровень знаний. Dall-E на самом деле похож на GPT-3, но его труднее понять.

Мы будем продолжать получать эти постепенные разработки в течение нескольких лет. Но аудитория, которая признает его важность, будет продолжать сокращаться. И вдруг-БУМ!… мы доберемся до аги, и большинство людей будут в шоке. Шокированы, потому что думали, что никакого прогресса в развитии событий нет.

Квантовые скачки (прерывистые) в эволюции являются следствием многих нарастающих изменений. Это только тогда, когда последняя часть головоломки найдена, когда революция выражена. Но есть так много частей, которые должны быть заполнены, как показывает эта диаграмма:

Современный искусственный интеллект находится только внутри пурпурной области (то есть автономного «я»), изображенной выше. На самом деле, обычная медоносная пчела обладает большим автономным интеллектом, чем любой синтетический интеллект, когда-либо изобретенный. В лучшем случае мы имеем имитацию автономного «я», всего лишь фасад реальной вещи, которую мы находим в биологических организмах.

Но требуется необычный опыт, чтобы понять, что мы ускоряемся в направлении AGI. Проблема в том, что не очевидно, как на самом деле работает человеческий интеллект. Мы просто не знаем, что значит «понимать». Спросите у большинства исследователей, философов и психологов, что значит «понимать». Они будут в тупике, чтобы дать вам хороший ответ.

Джон Кракауэр, профессор неврологии в Университете Джона Хопкинса, — один из немногих известных мне людей, которые могут хорошо выразить степень нашего незнания. Выразить степень своего невежества-само по себе подвиг. Большинство исследователей AGI не могут даже идентифицировать известное неизвестное. Возможно, именно это и ставит Гэри Маркуса в затруднительное положение. Он знает то, что неизвестно, однако я не согласен с его исследовательской доктриной.

Исследовательская доктрина-это личностная вещь. Существует много гипотез на вычислительном уровне объяснения (см.: 3 уровня Марра). Это вопрос подготовки и личной склонности к предпочтительному объяснению. Как ловко объяснил Кракауэр, будучи учеными-исследователями, мы инстинктивно защищаем насыпь, с которой привыкли падать. Кракауэр предпочитает плюралистический подход, потому что, возможно, любая другая гипотеза, скорее всего, будет преждевременной оптимизацией (мои слова).

Итак, если мы не знаем этого ответа, то как мы можем распознать, что температура воды постепенно повышается? Число людей, которые могли бы знать, продолжает уменьшаться. Все вместе это означает, что мы знаем все меньше и меньше. Когда произойдет аги, это будет шоком. Это как если бы, никто не ожидал его.



прокрутка вверх