Искусственный интеллект может не оправдать ожиданий человека

Аналитика >> 23.01.2018, 12:00

В настоящее время человечество находится на пике своих ожиданий от возможностей искусственного интеллекта (ИИ). Однако они слишком завышены: настоящий ИИ может так и не появиться, считает профессор Гари Маркус.

Экс-руководитель ИИ-направления в компании Uber скептически настроен к перспективам нейронных сетей. Разработчики обещали представить ИИ, способный самостоятельно адаптироваться и обучаться, однако пока имеются лишь алгоритмы, сообщающие о включенных приборах и оставшихся в холодильнике продуктах. Но даже в бытовых областях развитие ИИ ограничено.

Ученый не считает глубокое обучение для совершенствования ИИ решением всех проблем. Под понятием «глубокое» подразумевается архитектура нейронных сетей, но не глубина мышления алгоритмов.

Искусственному интеллекту сложно делать обобщения: даже дорожный знак он может распознать как мяч, поскольку тот тоже круглый. И точно не может быть речи о том, что натренированный ИИ когда-нибудь сможет оперировать абстрактными понятиями. Ему не дано понять, что означает справедливость, честность и пр.

Успехи в играх Маркус объясняет тем, что алгоритмы хорошо работают на статистических данных, но когда их пытаются применять в медицине, экономике и финансах – возникает ряд проблем из-за непрозрачности. При глубоком обучении алгоритмов применяются миллионы и миллиарды параметров. Человеку невозможно идентифицировать их традиционным способом, что в конечном итоге может обернуться неверным диагнозом больному либо ложным финансовым прогнозом.

Непрозрачность приводит к тому, что искусственный интеллект сложно корректировать, отсутствует готовый язык программирования. Настроить или залезть внутрь алгоритма также нет возможности, зато его не сложно обмануть. Зачастую ИИ просто неверно истолковывает информацию реального мира.

Маркус считает подход глубокого обучения довольно ограниченным. По этой причине вероятность появления общего ИИ мала. Вряд ли удастся добиться того, чтобы алгоритм мог имитировать работу сознания человека.

Профессор говорит, что своим пояснением хочет умерить растущие ожидания человечества от ИИ. Сейчас во всем относящемся к инновации определенно больше ажиотажа, чем действительных свершений, заключает Маркус.