IT ExpertМир технологийНаука и техника

Котлеты без мух не бывают

Игорь Гонтов | 17.11.2017

ВКонтакт Facebook Google Plus Одноклассники Twitter Livejournal Liveinternet Mail.Ru

Котлеты без мух не бывают

Статью на тему об искусственном интеллекте хочется начать в духе Венички Ерофеева: «Все кричат: искусственный интеллект, искусственный интеллект! И никто его показать не может. Даже толком объяснить, что это такое, не желают».
Действительно, проблема ИИ заболтана примерно так же, как проблема исламизма или политической корректности. Каждый вкладывает в это понятие свое и поэтому принципиально не соглашается с собеседником. 
Кстати, а почему в прессе укрепилось это дурацкое сокращение – ИИ? Почти как иа-иа. Да, калька с английского, но там AI выглядит как-то изящней, что ли... А у нас – будто запись пьяной икоты. Предлагал же такой мастер перевода, как Н. А. Науменко, более солидный термин ИскИн. Но нет, удержалось, как всегда, самое неудачное. Искусственный интеллект они задумали создавать! Сначала сами думать научитесь!
Ладно, минутка мизантропии закончилась и вернемся к коренной проблеме любой дискуссии об искусственном интеллекте – невнятности самого термина и явления. Да, вековечная мудрость человечества (это я о «Википедии», разумеется) говорит, что это: 1) наука и технология создания интеллектуальных машин, особенно интеллектуальных компьютерных программ; 2) свойство интеллектуальных систем выполнять творческие функции, которые традиционно считаются прерогативой человека». Но все ли с этим согласны?
img
Я, кончено, не инженер, не робототехник и не робопсихолог, а потому стараюсь доверять профильным специалистам. А они либо участвуют в бесконечных и бесплодных диспутах о самой сути понятия «искусственный разум», либо вообще уходят в интеллектуальные кусты. В интересной книге «Эта идея должна умереть. Научные теории, которые блокируют прогресс» Роджер Шенк, исполнительный директор компании Engines for Education, вообще утверждает: «Ужасное название, но ведь и сама идея не лучше… Почти каждый год на экраны выходит новое кино с новым роботом, который “совсем как человек”». 
Но в реальной жизни такой робот не появится никогда. И дело не в том, что искусственный разум сам по себе не работает. Просто никто толком и не пытался пока его создать. Оксфордский физик Дэвид Дойч сказал: «Ни один мозг на Земле и близко не подошел к тому, чтобы понять, как работает мозг. Попытка добиться этого искусственным путем – в области искусственного интеллекта ¬– за все шестьдесят лет существования данного научного направления не добилась абсолютно никакого прогресса»… Я объявляю, что искусственный интеллект мертв. Научную область “создания искусственного интеллекта” следует переименовать в “попытки заставить компьютеры делать реально крутые вещи”. Впрочем, коллеги-ученые этого скептика идут еще дальше и предлагают отказаться от понятий «энтропия», «бесконечность», «раса» и даже «Вселенная».
И все же подчеркнем некоторые вещи. Наука в тупике (это ее обычное состояние), а специалисты по ИИ работают, применяя самый современный метод – тыка. И не надо писать возмущенные письма о том, что «мы, специалисты, точно знаем, куда идем». Ведь нет никакого единства в том, что пытаются вывести создатели искусственного интеллекта. Что должен делать стопроцентный ИИ? Пройти тест Тьюринга? Обыграть в шахматы Каспарова? Выполнять массу скучных и рутинных операций, от которых повесился бы самый тупой и терпеливый «человек разумный»? Все это сделано давным-давно, давным-давно...
Чего же тогда желают от искусственного якобы интеллекта его творцы? И ответ напрашивается лишь один: он должен стать полным аналогом интеллекта человеческого.
Об этом, конечно же, много лет пишут авторы научной фантастики, которые прекрасно умеют аккумулировать любые страхи и надежды общества, чтобы потом выбросить их на страницы собственных сочинений. Создатели НФ десятилетиями изображают ИИ только так – как человеческий разум со всеми его плюсами и минусами. Здесь, правда, тоже притаилась своя волчья яма, так как вся мировая философия за века существования так и не сумела договориться даже о том, что такое человек. Не говоря уже о понятиях «сознание», «интеллект» или «разум». Каждый философ пляшет, как он хочет, дует в свою философскую трубу и выдувает собственную мелодию – ну, то есть трактаты и сочинения.
Однако на уровне совсем обывательском, на уровне читательском и писательском господствует почти инстинктивное массовое понимание: ИИ – существа, такие же, как и мы, но только не рожденные, а сотворенные (из железа или с помощью биоинженерии – кому из фантастов что нравится). 
И вот здесь на поверхность сознания начинают вылезать комплексы... Нет, не искусственных интеллектов, а писателей, которые в массе своей являются также не физиками, не робототехниками, а, как выражался товарищ Сталин, «инженерами человеческих душ». (Будучи сами при этом нередко душами не лучшими. Кто сомневается, тот может прочитать настоящую, а не заиконенную биографию какого-нибудь классика. Многие шоры с глаз упадут, а заодно приобретется стойкое разочарование в самом роде человеческом).
img
Вот и первая история об искусственном интеллекте (и одновременно  об искусственном человеке) началась со страха и клеветы. Речь идет, кончено же, о романе Мэри Шелли «Франкенштейн, или современный Прометей». Именно оттуда тянутся корни современных представлений о неизбежности мятежа создания против своего создателя, именно со времени публикации этого текста по страницам прессы и фантастоведческих трудов загулял хлесткий термин «комплекс Франкенштейна». Под ним обычно понимают неконтролируемую ненависть искусственных интеллектов к своему творцу. 
Хотя, если внимательно вчитаться в текст М. Шелли, то становится ясно, что комплексы-то были прежде всего у Виктора Франкенштейна, а не у его чудовища. Этот создатель искусственного человека с ходу возненавидел собственное создание, причем по каким-то странным эстетическим причинам: «Как описать мои чувства при этом ужасном зрелище, как изобразить несчастного, созданного мною с таким неимоверным трудом? А между тем члены его были соразмерны, и я подобрал для него красивые черты… Нет в жизни ничего переменчивее наших чувств. Почти два года я трудился с единственной целью – вдохнуть жизнь в бездыханное тело… Я желал этого с исступленной страстью; а теперь, когда я окончил свой труд, вся прелесть мечты исчезла, и сердце мое наполнилось несказанным ужасом и отвращением».
Неприкаянное чудовище уже потом озлобилось. А вначале оно честно пыталось встроиться в человеческое общество. Только его гоняли и не принимали. Но на эти детали никто не обратил внимания. Читатели ухватились за главное (как им показалось) – монстр убил Франкенштейна, а значит, он – зло. И мятеж любого искусственного создания неизбежен, бунт творения против творца наступит с закономерностью восхода Солнца.
Что за психологические проблемы выплеснула в свой текст госпожа Шелли – в этом пусть ее биографы разбираются. Важно другое – с этого времени из книги в книгу аналогичного содержания стал кочевать один-единственный сюжетный ход: едва обретя самосознание, машины тут же покушаются на жизнь несчастных и мягкотелых людишек. В этом направлении НФ отметились не только сонмы ремесленников-борзописцев, но и вполне талантливые авторы, классики своих литератур – К. Чапек («R.U.R»), В. Брюсов («Мятеж машин»), А. Толстой («Бунт машин»).
Вроде бы традиционный «страх чужого», примитивная ксенофобия всего лишь были перенесены на еще несуществующих «механических разумных». Но страх оказался слишком стоек. И, несмотря на все попытки американского фантаста Айзека Азимова гуманизировать роботов, изображая, как в саму конфигурацию их сознания будет встроен моральный ограничитель (пресловутые «Три закона робототехники»), ему мало кто поверил. Все подсознательно понимали, что в случае появления действительно полного аналога человеческого интеллекта развитие событий пойдет по сценарию, нарисованному братьями Стругацкими в истории о массачусетской разумной машине: «Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и все такое... И проработала эта машина ровно четыре минуты. Ее выключили, зацементировали все входы и выходы, отвели от нее энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой – хотите верьте, хотите нет». 
И, как ни странно, параноики, видимо, оказались правы. Ведь если ИИ будет не просто супербыстродействующим компьютером, а полновесной копией мозга хомо сапиенса, то нас ждут весьма неприятные последствия. Ибо котлет без мух не бывает. Сложность человеческого мышления, с его возможностью свободного выбора, творческими потенциями, интуицией и фантазией, неизбежно влечет за собой угрозу неврозов, алогичного поведения, антисоциальных наклонностей и безумия.
Свободный ИИ должен быть полным аналогом ЧИ, а тогда его творцам стоит заранее заняться проектированием тюрем для взбесившихся девайсов. А также психиатрических диспансеров и стационаров.
Увы, человеческое мышление не существует вне потенциальной тени безумия. Платой за свободу мысли является свобода сойти с ума. И сколько бы конструкторы искусственных интеллектов ни закладывали положительных основ в фундамент мышления своих созданий, но если те будут свободны, часть из них неизбежно свихнется. А вам нужен сумасшедший холодильник? Или взбесившаяся мясорубка?
И об этой перспективе, кстати, писатели-фантасты тоже последовательно размышляли. Например, в ранних романах британского фантаста Нила Эшера о так называемой Политии (особом объединении людей будущего) человечеством правят высокоморальные ИИ, которые не берут взяток и не строят втихаря многоэтажных вилл на альфе Центавре. Казалось бы, идеал управленческих технологий достигнут. Но далее Эшер принялся раздумывать о том, что его искусственные интеллекты хоть и невероятно добродетельны и совестливы, но по сути все те же люди. А потому безумие способно поджидать каждого из них в ментальном закоулке с топором паранойи. Или шизофрении. Или чего похуже. И так в более поздних романах Эшера появились «темные ИИ» – свихнувшиеся и одержимые различными маниями, настоящая угроза для всего человечества.
Поэтому испуг от идеи искусственного разума вовсе не настолько бессмыслен и беспочвен. Это не дурацкое ожидание приступа бешенства от бульдозера или экскаватора. Это ожидание возможного психоза у человека, перегруженного тяжелой и слишком ответственной работой.
И здесь возникает главная проблема споров об ИИ, потенциально равном во всем человеку. Извечный вопрос: а зачем? Ведь еще профессор Ф. Ф. Преображенский говорил: «…но на какого дьявола, спрашивается? Объясните мне, пожалуйста, зачем нужно искусственно фабриковать Спиноз, когда любая баба может его родить когда угодно». Зачем нам искусственные люди, если мы не знаем, куда девать миллиарды обычных?
Вроде бы ИИ должны быстрее и лучше выполнять конкретные задачи. Так и создавайте конструкции, которые запрограммированно будут успешно выполнять четкие задачи. А не занимайтесь бесплодными прожектами о создании реплики человеческого интеллекта, которые пугают даже Илона Маска. Люди нуждаются в инструментах, а не в конкурентах.
Нам необходимы полезные механизмы, а не озлобленные рабы, одержимые тягой к человекоубийству. Пределы абсолютно самостоятельного сознания скрываются во тьме безумия. И что такой «идеальный» ИИ может натворить – об этом вся последняя серия первого сезона «Мира дикого Запада».
К счастью, пока бредовые идеи сценаристов остаются (и, скорее всего, останутся) только их идеями. Ведь мы вновь возвращаемся к сказке про белого бычка, то есть про искусственный интеллект: никто не знает, что такое мышление, и не понимает – как его смоделировать.
Но все-таки: творцы-робототехники, соблюдайте осторожность в проектах космического масштаба. Поймите, как вы сами думаете, прежде чем учить думать других. А то эти другие такого навоображают – жизнь на Земле станет невозможной...

Журнал IT-Expert № 10/2017    [ PDF ]    [ Подписка на журнал ]

Об авторах

Игорь Гонтов

Мероприятия

15.11.2018
Teradata Форум 2018

Москва, Отель «Ритц-Карлтон»

15.11.2018
Docsvision User Day 2018

Москва, ул. Поклонная, д.3 (м. Кутузовская), конференц-центр Newsroom

20.11.2018
Intel® Innovation Day – Осень 2018

Москва, Россия, г.Москва, Новинский бульвар, 8, стр.2 Лотте Отель Москва

22.11.2018
Передача Audio, Video и KVM по IP: решения, опыт, истории успеха

Казань, пр. Фатыха Амирхана, 1A, комплекс «Казанская Ривьера».