Искусственный интеллект
Предо мной объемный труд из 15 глав – «Искусственный интеллект. Этапы. Угрозы. Стратегии» Ника Бострома (Москва, издательство «Манн, Иванов и Фербер», 2016, 496 стр.). В эпоху коротких текстов, публикуемых в Интернете, взяться за чтение книги, в которой, как сейчас говорят, «много букв», можно лишь при большом интересе к обсуждаемому предмету. И, полагаю, такой интерес у меня есть, да, считаю, что и не только у меня. Искусственный интеллект (ИИ) в последние годы стал притчей во языцех. Связано это и с бурно развивающейся робототехникой, искусственными нейронными сетями (ИНН), и с программами, в которых элементы этого самого ИИ реализуются. Свою роль, конечно же, сыграли и многочисленные прогнозы и страшилки именитых футурологов. Посмотрим, что же обсуждает автор предлагаемой вашему вниманию книги.
Основная страшилка, связанная с ИИ, состоит в том, что если создать искусственный разум, превосходящий человеческий, то как управлять его замыслами и действиями, и не приведёт ли это в конце концов к гибели человечества. Логика рассуждений такова: если создать некий ИИ, то обладая способностью обучаться, он будет развиваться экспоненциальными темпами (взрывное развитие ИИ) и очень быстро превзойдёт своих создателей. Понять куда идет его развитие будет невозможно. Такой сценарий в общем случае назван технологической сингулярностью. А что будет дальше, вопрос.
Как пишет автор, он «делает попытку осознать проблему, встающую перед людьми в связи с появлением сверхразума, и проанализировать их ответную реакцию». В конце книги приводятся некоторые рекомендации, следуя которым, можно будет избежать катастрофы, угрожающей существованию человечества.
Книга предназначена большей частью для вдумчивого читателя. Стоит отметить, что далеко не со всеми ее утверждениями можно легко согласиться, некоторые цифровые данные устарели (например, оценка объема оперативной памяти мозга). Мне далеко не так очевидно, например, почему при сравнении цифрового и биологического ИИ автор отдает предпочтение цифровому, но то, что он призывает к размышлению, несомненно.
Интересно, что некоторые события в мире ИИ происходят в несколько раз быстрее, чем предсказывается в книге. Так, предполагалось, что компьютер обыграет чемпиона мира по го (игра специальными фишками-камнями, напоминающая шашки) в 2022 году, а это случилось нынешней зимой. Но многие оценки, к счастью, слишком оптимистичны. Так, число лет, необходимое для полной эмуляции мозга, на мой взгляд, нужно умножить минимум на два. Сам Ник Бостром явно не программист, и это местами очень чувствуется. Но, как говорится, ему с этим жить.
Мне понравилось, что автор старался написать книгу, которая была бы интересна ему самому. Очень правильный подход, поскольку хорошую вещь можно сделать только так, а не за деньги. Мой любимый основной закон системотехники гласит: система создаваемая наследует все основные черты системы создающей.
Книга начинается с описания истории развития исследований по ИИ, затем описывается текущая состояние этих исследований, при этом делается акцент на то, что крайне трудно прогнозировать дальнейшее развитие в этой области. С последним можно только согласиться.
В третьей главе анализируются всевозможные сценарии появления сверхразума и его типы.
Далее рассматривается вопрос, будет ли создан единственный сверхразум и получит ли он стратегическое преимущество перед другими проектами или же их появится по крайней мере несколько? Наблюдая развитие проекта IBM Watson, создаётся впечатление, что правилен первый вариант. Более того, такой проект, который очевидно будет поддержан правительством, безусловно будет лоббироваться. Эта ситуация уже не из области фантастики – необходимо осознание проблемы на госуровне и осуществление конкурирующих проектов (возможно, в рамках БРИКС).
Впрочем, в книге 15 глав, и каждая рассматривает проблемы с качественно новой стороны, а потому не стоит, предваряя прочтение, их перечислять. Отмечу, автор проделал громадную работу, собрав и классифицировав объемнейший материал. В конце книги петитом приведены почти сто страниц примечаний и ссылок на источники.
Честно скажу, давно не видел столь качественного (здесь следует отдать должное также переводчику и команде научных редакторов) и интересного текста, а потому со спокойной совестью рекомендую эту книгу читателям.