Проблема искусственного интеллекта: машина может учиться, но не может понимать

В наши дни все говорят об «ИИ». Но независимо от того, смотрите ли вы на Siri, Alexa или просто на функции автозамены на клавиатуре смартфона, мы не создаём искусственный интеллект общего назначения. Мы создаём программы, которые могут выполнять конкретные узкие задачи.

Компьютеры не могут «думать»

Всякий раз, когда компания сообщает о выпуске новой функции «ИИ», это обычно означает, что компания использует машинное обучение для создания нейронной сети. «Машинное обучение» – это метод, который позволяет машине «научиться» лучше выполнять конкретную задачу.

В этой заметке мы не пытаемся критиковать машинное обучение! Машинное обучение — фантастическая технология, имеющая множество эффективных применений. Но это не универсальный искусственный интеллект, и понимание ограничений машинного обучения поможет вам понять, почему наша нынешняя технология искусственного интеллекта настолько ограничена.

«Искусственный интеллект» научно-фантастических снов — это компьютеризированный или роботизированный мозг, который думает о вещах и понимает их, как это делают люди. Такой искусственный интеллект был бы универсальным искусственным интеллектом (artificial general intelligence, AGI), что означает, что он может думать о нескольких разных вещах и применять этот интеллект в нескольких различных областях. Связанное с этим понятие — «сильный ИИ», то есть машина, способная работать как человеческое сознание.

У нас пока нет такого ИИ. Мы даже близко к этому не подошли. Такие компьютерные сущности, как Siri, Alexa или Cortana, не понимают и не думают так, как мы, люди. Они вообще ничего не «понимают».

Искусственный интеллект, который у нас есть, обучен очень хорошо выполнять конкретную задачу, если предположить, что люди могут предоставить данные, которые помогут им в обучении. Они учатся что-то делать, но все ещё не понимают этого.

Компьютеры не понимают

В Gmail есть новая функция «Умный ответ», которая предлагает ответы на электронные письма. Функция интеллектуального ответа определила подпись «Отправлено с моего iPhone» как обычный ответ. Она также хотела предложить «Я люблю тебя» в ответ на разные типы писем, включая рабочие.

Это потому, что компьютер не понимает, что означают эти ответы. Единственное, что знает компьютер, так это то, что многие люди присылают эти фразы по электронной почте. Он не знает, хотите ли вы сказать своему боссу: «Я люблю тебя» или нет.

Другой пример: Google Фото собрал коллаж из случайных фотографий ковра в одном из наших домов. Затем на Google Home Hub программа идентифицировал этот коллаж как нечто важное. Google Фото знал, что фотографии похожи, но не понимал, насколько они неважны.

Машины часто учатся играть в игры

Суть машинного обучения заключается в том, чтобы назначить задачу и позволить компьютеру выбрать наиболее эффективный способ её выполнения. Из-за того, что они не понимают, всё может закончится тем, что компьютер «научится» решать проблему, отличную от того, что вы хотели.

Вот список забавных примеров, когда «искусственный интеллект», созданный для игры, находил совершенно неожиданные, непригодные решения. Все эти примеры взяты из этой превосходной таблицы:

• «Существа, выращенные для скорости, вырастают очень высокими и генерируют высокие скорости, падая».
• «Агент убивает себя в конце уровня 1, чтобы не проиграть на уровне 2».
• «Агент ставит игру на паузу на бесконечное время, чтобы не проиграть».
• «В искусственной симуляции жизни, где для выживания требовалась энергия, но рождение ребёнка не требовало затрат энергии, один вид развил сидячий образ жизни, который состоял в основном из спаривания, чтобы произвести на свет новых детей, которых можно было есть (или использовать в качестве помощников, чтобы произвести больше съедобных детей)»
• «Поскольку ИИ с большей вероятностью были «убиты» в случае проигрыша игры, возможность аварийного завершения игры была преимуществом для процесса генетического отбора. Поэтому несколько ИИ разработали способы вызывать вылет самой игры».
• «Нейронные сети, разработанные для классификации съедобных и ядовитых грибов, пришли к выводы, что съедобные и несъедобные грибы чередуются (поскольку именно так предоставлялись данные для обучения), при этом ИИ фактически не изучил какие-либо особенности входных изображений».

Некоторые из этих решений могут показаться умными, но ни одна из этих нейронных сетей не понимала, что они делали. Им была поставлена цель, и они узнали, как её достичь. Если цель — избежать проигрыша в компьютерной игре, нажатие кнопки паузы — самое простое и быстрое решение, которое они могут найти. Но дело здесь скорее в неправильной постановке задачи — «не проиграть» не может быть главной задачей, поскольку «не проиграть» можно просто не начиная игру. Что касается симуляции жизни, то дело здесь в неправильных исходный данных (мусор на входе — мусор на выходе), рождение детей не может быть энерго незатратным.

Машинное обучение и нейронные сети

При машинном обучении компьютер не запрограммирован для выполнения определённой задачи. Вместо этого он поглощает данные и оценивает свою эффективность при выполнении задачи.

Простейший пример машинного обучения — распознавание изображений. Допустим, мы хотим обучить компьютерную программу распознавать фотографии, на которых изображена собака. Мы можем передать компьютеру миллионы изображений, на некоторых из которых изображены собаки, а на некоторых нет. Изображения помечаются независимо от того, есть ли на них собака или нет. Компьютерная программа «обучается» распознавать, как выглядят собаки, на основе этого набора данных.

Процесс машинного обучения используется для обучения нейронной сети, которая представляет собой компьютерную программу с несколькими уровнями, через которые проходит каждый ввод данных, и каждый уровень присваивает им разные веса и вероятности, прежде чем в конечном итоге сделать определение. Он основан на том, как, по нашему мнению, может работать мозг, с различными слоями нейронов, участвующих в обдумывании задачи. «Глубокое обучение» обычно относится к нейронным сетям с множеством слоёв, расположенных между входом и выходом.

Поскольку мы знаем, какие фотографии в наборе данных содержат собак, а какие нет, мы можем пропустить фотографии через нейронную сеть и посмотреть, дают ли они правильный ответ. Например, если сеть решает, что на определённой фотографии нет собаки, тогда есть механизм, который сообщает сети, что это неверно, корректирует некоторые вещи и делает вторую попытку. Компьютер всё лучше распознает, есть ли на фотографиях собака.

Все это происходит автоматически. С правильным программным обеспечением и большим количеством структурированных данных для обучения компьютер может настроить свою нейронную сеть для идентификации собак на фотографиях. Мы называем это «ИИ».

Но, в конце концов, у ни у кого нет интеллектуальной компьютерной программы, которая понимала бы, что такое собака. Есть компьютер, который научился определять, есть ли на фотографии собака. Это впечатляет, но это всё, что он может.

И, в зависимости от введённых вами данных, эта нейронная сеть может быть не такой умной, как кажется. Например, если в вашем наборе данных не было фотографий кошек, нейронная сеть могла бы не видеть разницы между кошками и собаками и пометить всех кошек как собак, работая с реальными фотографиями.

Для чего используется машинное обучение?

Машинное обучение используется для решения всех видов задач, включая распознавание речи. Голосовые помощники, такие как Google, Alexa и Siri, настолько хорошо понимают человеческие голоса благодаря методам машинного обучения, которые научили их понимать человеческую речь. Они обучены огромному количеству образцов человеческой речи и всё лучше понимают, какие звуки соответствуют каким словам.

В беспилотных автомобилях используются методы машинного обучения, которые обучают компьютер распознавать объекты на дороге и правильно на них реагировать. В Google Фото есть множество функций, таких как Живые альбомы, которые автоматически идентифицируют людей и животных на фотографиях с помощью машинного обучения.

DeepMind от Alphabet использовал машинное обучение для создания AlphaGo, компьютерной программы, которая могла играть в сложную настольную игру Го и побеждать лучших людей в мире. Машинное обучение также использовалось для создания компьютеров, которые хорошо умеют играть в другие игры, от шахмат до DOTA 2.

Машинное обучение используется даже для Face ID на последних iPhone. Ваш iPhone создаёт нейронную сеть, которая учится определять ваше лицо, а Apple включает в себя специальный чип «нейронного движка», который выполняет всю обработку чисел для этой и других задач машинного обучения.

Машинное обучение можно использовать для множества других целей, от выявления мошенничества с кредитными картами до персонализированных рекомендаций по продуктам на веб-сайтах покупок.

Но нейронные сети, созданные с помощью машинного обучения, на самом деле ничего не понимают. Это полезные программы, которые могут выполнять узкие задачи, для которых они были обучены, и всё.