Языковые модели – генераторы мультивселенных (перевод статьи generative.ink)
Представляю вашему вниманию перевод интересной на мой взгляд статьи «Language models are multiverse generators», размещённой на сайте generative.ink 25 января 2021 г. Это упрощённое изложение научной публикации Ларии Рейнолдс и Кайла Макдонелла «Multiversal views on language models», в которой проводятся параллели между ветвящейся структурой мультивселенной Эверетта, генеративными языковыми моделями наподобие GPT и работой мозга как генератора виртуальной реальности. Авторка сайта, называющая себя Мойрой, разработала программу Loom Space, использующую нейросеть GPT-3 для моделирования мультивселенной естественного языка. Её интерфейс может быть полезен для совместного написания с языковой моделью, а также для научно-популярных задач, таких как мозговой штурм и разработка промптов. Статья сложная, поэтому я рекомендую для лучшего понимания основной мысли прочитать небольшой рассказ Хорхе Луиса Борхеса «Сад расходящихся тропок» (1941). Это одно из первых литературных изложений идеи мультивселенной. «Сад расходящихся тропок» - вымышленный роман Цюй Пэна, в котором, как в лабиринте, ветвятся и переплетаются реальности, когда герой выбирает одновременно все находящиеся перед ним возможности. Цюй Пэн не верил в единую временную линию, а представлял себе сеть бесчисленных временных рядов. Поэтому он ни разу не употребил в романе слово «время», которое является ответом на загаданную автором загадку. Таймкоды: 00:15 – Вступление 03:03 – Языковые модели – операторы временной эволюции 11:20 – Виртуальная реальность 12:20 – Мультивселенные 13:39 – Динамические системы 14:10 – Фазовые пространства 17:22 – Расхождение 18:28 – Аттракторы 20:24 – Импульсная реакция 22:24 – Динамические ограничения 24:34 – Множественность прошлого/настоящего/будущего 27:37 – Разумы – генераторы мультивселенных 28:16 – Чтение и письмо 30:18 – Взаимодействие с мультивселенными естественного языка 33:34 – Адаптивная генерация мультивселенных Статья: Перевод: Хорхе Луис Борхес, «Сад расходящихся тропок»:
