Что такое LaMDA AI от Google и почему инженер Google подумал что в LaMDA AI зародился разум?

Старший инженер Google заявил, что искусственный интеллект компании LaMDA стал разумным. Находите ли вы это тревожным или захватывающим, это очень смелое утверждение, и, возможно, его трудно доказать, даже если оно было полностью правдой.

Что такое LaMDA?

LaMDA — это сокращение от Language Model for Dialog Application. Другими словами, это языковая модель машинного обучения, специально разработанная для создания естественного диалога. Методы машинного обучения позволяют компьютерам обнаруживать закономерности и взаимосвязи в данных. Так, например, вы можете «обучить» алгоритм машинного обучения, такой как GPT-3 (ещё одна передовая система), на всех произведениях Шекспира, а затем заставить его генерировать новые оригинальные тексты, которые написаны будто бы Шекспиром.

Как объясняет Сундар Пичаи (генеральный директор Google) в интервью Yahoo Finance, LaMDA — это система, которая отличается тем, что специально обучена диалогу. Цель состоит в том, чтобы дать системам Google возможность участвовать в человеческом открытом диалоге с пользователями.

Смотрите также:

• Что такое машинное обучение?
• Проблема искусственного интеллекта: машина может учиться, но не может понимать
• Как пересекаются искусственный интеллект, машинное обучение и безопасность конечных точек

Другими словами, люди, запрашивающие у продуктов Google конкретные вещи, не должны менять то, как они думают или говорят. Они могут взаимодействовать с компьютерной системой так же, как с другим человеком.

Под капотом все современные модели машинного обучения представляют собой сложные математические и статистические модели. Они генерируют алгоритмы на основе базовых шаблонов, которые они обнаруживают в данных. Предоставьте им достаточно высококачественных данных, и эти алгоритмы станут поразительно эффективными в выполнении вещей, на которые до сих пор были способны только люди или другие разумные существа.

Почему инженер Google посчитал, что LaMDA разумен?

Инженером, о котором идёт речь, является Блейк Лемуан, который опубликовал интервью между собой и LaMDA в рамках своего довода о том, почему LaMDA может быть разумным. Лемуан месяцами разговаривал с программным обеспечением, допрашивая его, задавая ему сложные вопросы и обнаруживая, что ему трудно поверить, что его сложные и адекватные ответы могут быть продуктом чего-либо, кроме разумного существа.

Будет лучше, если каждый, кто хочет понять, почему Лемуан так думает, прочитает ответы LaMDA, чтобы понять, почему это такая убедительная позиция. Реакции LaMDA настолько человечны, что напоминают вымышленный ИИ личного помощника из «Она» Спайка Джонза, истории, в которой у человека развиваются серьёзные отношения с разговорным ИИ.

Независимо от того, имеют ли утверждения Лемуана о LaMDA какой-либо вес, стоит отметить, что вся цель дизайна LaMDA состоит в том, чтобы создать естественный, правдоподобный открытый диалог. Таким образом, в этом смысле его убеждение указывает на то, что Google добился выдающихся успехов в создании правдоподобных диалогов. Если какая-то система ИИ и собиралась убедить человека в том, что она разумна, скорее всего, это будет система, специально разработанная для этого.

Проблема в том, что утверждения о разумности на самом деле не поддаются проверке (или, по крайней мере, осуществимой или этической проверке) по ряду научных и философских причин. Чтобы понять почему, мы должны кратко рассмотреть, что означает «чувство».

Что такое чувствительность?

Слово «чувство» по сути означает, что что-то (кошка, человек или ковёр-самолет) обладает способностью чувствовать. оно имеет тот же корень слова, что и «сентиментальный» или «сентимент». Чувствовать означает не только то, что что-то имеет способность ощущать. Ваш термостат почти наверняка не является разумным, несмотря на его способность измерять (ощущать) температуру. Наоборот, чувствительность — это субъективное переживание чувств, что подразумевает наличие «субъекта» на первом месте.

Здесь опасно увязнуть в семантике, потому что вполне вероятно, что Лемуан использует слово «чувство» взаимозаменяемо с отдельными понятиями, такими как «разум», «интеллект» и «сознание». Итак, в качестве аргумента, самая снисходительная интерпретация здесь заключается в том, что Лемуан считает Ламду самосознательным существом, способным чувствовать вещи, придерживаться убеждений и иным образом испытывать вещи так, как мы обычно приписываем живым существам.

В дополнительной части Лемуан обсуждает, что, по его мнению, LaMDA «хочет» и «во что верит», что подтверждает идею о том, что «чувство» в его представлении означает больше, чем его строгое словарное определение.

Нужно начать с того, что нет общепризнанного согласия по поводу «чувства» и «сознания»

Вот в чём дело: мы относительно мало знаем о разуме, сознании, разуме и о том, что значит быть существом, обладающим этими атрибутами. По иронии судьбы, технология машинного обучения может в конечном итоге помочь нам раскрыть некоторые тайны нашего разума и мозга, в котором он существует.

Пока философы и учёные разбирают «чёрный ящик» сознания, но он все ещё кажется результатом чего-то большего, чем сумма его частей. Сознание кажется «эмерджентной» вещью. Это «призрак», порождённый взаимодействием множества различных нейронных подсистем, ни одна из которых сама по себе не кажется разумной.

Точно так же сложный ИИ, такой как система генерации изображений DALL-E 2, состоит из более простых моделей машинного обучения, которые взаимодействуют друг с другом для создания конечного продукта. Тема сложности, возникающая в результате взаимодействия более простых систем, часто встречается в мире ИИ, и хотя мы можем очень хорошо понимать, как работает каждый подкомпонент, конечные результаты обычно совершенно непредсказуемы.

Смотрите также: DALL-E 2 AI от OpenAI — плохая новость для некоторых художников

Сможем ли мы вообще распознать разум в ИИ?

Если бы, ради аргумента, ИИ действительно был разумным в прямом смысле этого слова, смогли бы мы вообще определить это? LaMDA был разработан, чтобы имитировать и предсказывать модели человеческого диалога, то есть фактически эта программа специально создавалась чтобы притворяться человеческим интеллектом, это с одной стороны. Однако нам потребовалось много времени, чтобы считать нечеловеческих приматов и животных, таких как дельфины, осьминоги и слоны, разумными, хотя по большому счёту они практически наши братья и сестры.

Разумный ИИ может быть настолько инопланетным, что мы даже не догадываемся, что смотрим на него прямо перед собой. Это особенно вероятно, поскольку мы не знаем, каковы пороговые условия для возникновения разума. Нетрудно представить, что правильная комбинация данных и подсистем ИИ, смешанных вместе правильным образом, может внезапно породить нечто, что можно было бы назвать разумным, но это может остаться незамеченным, потому что это не похоже на что-то, что мы можем понять.

Если это похоже на утку…

Последняя большая проблема с заявлениями о разумности машин — это та же проблема с заявлениями о разумности чего-либо ещё, включая людей. С философской точки зрения вы не знаете, действительно ли кто-то из людей, с которыми вы общаетесь, разумен или нет. Это классическая философская проблема зомби, представляющая собой мысленный эксперимент с гипотетическими существами, которые совершенно неотличимы от человека, за исключением того, что им не хватает разума или какого-либо сознательного опыта.

Однако, как утверждал знаменитый тест Алана Тьюринга, не имеет значения, действительно ли ИИ думает и чувствует. Важно то, что он может имитировать внешний вид мышления и чувств настолько хорошо, что мы не можем отличить их друг от друга. А, LaMDA, между прочем уже прошла тест Тьюринга, поэтому непроверяемые утверждения Лемуана, нельзя назвать однозначно неверными.