Почему голосовые помощники такие тупые, или Ослепительное сияние – 2

Логотип компании
Почему голосовые помощники такие тупые, или Ослепительное сияние – 2
Мне странно слышать продолжающиеся дискуссии о том, может ли человеческий мозг быть повторен компьютером. Ответ известен давно.

На чем мы остановились в нашей прошлой статье? Ах да, нам до зарезу нужен квантовый компьютер!

В последнее время становится все труднее отделять хайп вокруг какой-нибудь новой идеи или технологии от ее сути. С этим приходится мириться – иначе, подозреваю, невозможно поднять ни одного раунда финансирования. Но случаи, когда, кроме этого самого хайпа, внутри нет вообще ничего, пустышка, увы, нередки. Вспомните разорившийся медицинский стартап Theranos, обещавший любые анализы по одной капле крови. Я, честно говоря, сильно подозреваю, что доля хайпа изрядно перевешивает даже в такой замечательной штуке, как автомобиль Tesla.

Но сегодня мы не об этом. Чтобы понять, каковы теоретические пределы и возможности такой перспективной вещи, как искусственный интеллект, нужно заглянуть в самую ее сердцевину – идейную основу, на которой все построено. До какой степени совершенства можно довести компьютерный мозг, применяя самые современные способы машинного обучения (хотя нам, конечно, говорят, что до любой степени).

Что, по сути, делают все до единого методы машинного обучения? Они выводят формулу! Формулу, которая связывает между собой очень разнородные явления. Например, профиль поведения человека в соцсетях со склонностью к террористической деятельности. Или оцифрованную обстановку на автодороге с необходимостью повернуть руль или нажать на газ/ тормоз. По сути, любая реакция человека на внешние факторы и есть подобный алгоритм (помните кнопку «Начальник идет!» в древних компьютерных играх? На экране тут же появлялась картинка файлового менеджера).

Но говорить, что к набору таких алгоритмов можно свести сознание и мышление, – огромный перебор. Мне странно слышать продолжающиеся дискуссии о том, может ли человеческий мозг быть повторен компьютером. Ответ известен давно, мы даже в финале статьи приведем доказательство. Удивительно, что умнейшие люди современности продолжают гнуть линию, что да, возможно. Стивен Вольфрам (создатель пакета Mathematica) так и говорит: «Весь мир – это формула». Впрочем, ему надо продавать свой программный продукт. Хайп, как уже и было сказано.

Хотя сам факт существования подобных формул не может не вызывать удивления. Помните шутку про «нейрон бабушки»? Это нейрон в вашей голове, который возбуждается, только когда в поле вашего зрения появляется ваша бабушка. Так вот, то не шутка. Действительно существует формула, на вход которой можно подать, к примеру, оцифрованное изображение, чтобы получить на выходе 0 или 1 в зависимости от того, присутствует ли на картинке котик! Причем вне зависимости от цветности, ракурса, котиковой породы и т. д. Каждый из 85 млрд нейронов в нашем мозгу и есть такой вычислитель.

Процесс выведения такой формулы – сам по себе чудо, ведь она может содержать десятки и сотни миллионов коэффициентов (и это не журналистское преувеличение – так устроены, к примеру, полносвязные нейронные сети). Эти коэффициенты могут динамически подстраиваться для повышения точности, анализируя новые данные в режиме реального времени, но факт остается фактом – формула.

Что плохого в формуле? Она конечна. То есть является результатом выполнения вполне обозримого и законченного алгоритма. В противоположность этому человеческий мозг каким-то непостижимым образом умеет оперировать бесконечностями. Это умение пришло не сразу – со времен формулировки парадоксов Зенона до создания математического анализа Ньютоном и Лейбницем прошло более 2000 лет. По сути, все то, что мы называем «высшей математикой», – про это. Оперирование бесконечностями.

Здесь меня обуревают смешанные чувства. Нельзя сказать, что 2000 лет прошли даром, – создавались и рушились империи, возникло большинство мировых религий, однако свет на столь важную в идейном плане область знания был пролит только в конце XVII века. Тему, которую теперь изучают на первых курсах любого технического вуза и даже в старших классах продвинутых школ. Воистину, как говорил Эйнштейн, мы смотрим так далеко, потому что стоим на плечах гигантов.

И вот это – краеугольный камень. Возможность оперировать бесконечностями принципиально недостижима для компьютеров, которые мы сегодня используем. И это влечет за собой очень серьезные последствия.

Любой файл на вашем компьютере – число. Длинное, но конечное натуральное число. Может показаться банальным – не в том ли смысл перевода в цифровую форму всего вокруг: текстов, изображений, звуков? Но давайте продолжим эту линию рассуждений.

Весь жесткий диск – тоже число. Все книги, аудиозаписи, кинофильмы и т. д. в любой цифровой библиотеке, вместе взятые, – тоже очень большое натуральное число. Все знания человечества в цифровой форме – число! Невообразимо гигантское, постоянно растущее, но всего лишь число.

Поехали дальше. Любая программа, как вы, наверно, уже догадались, тоже число. Числом, что очень важно, является и сам компьютер – как вариант так называемой «универсальной машины Тьюринга», или программы, способной выполнить любую другую программу, тоже, понятное дело, представленную в виде числа. И вот это последнее число – УМТ – на удивление вполне себе обозримо: оно приведено в великолепной книге Роджера Пенроуза «Новый ум короля» на страницах 80-81, занимая всего несколько десятков строчек… (Если незнакомы с этим замечательным современным ученым, запомните фамилию.)

Серьезнейший водораздел проходит в математике между конечным и бесконечным. С возникновением компьютеров (даже не воплощенных в «железе», а как теоретической концепции) сразу встал вопрос: до какой степени универсальные вычислители такого рода могут подменить человека в цепи рассуждений, которые люди используют каждый момент времени и вовсе не обязательно для оперирования какими-нибудь абстрактными сущностями или высшими материями? Оказалось, что отбрасывание тех видов рассуждений, которые включают оперирование бесконечностями, колоссально обедняет аппарат математики и возможности применять его к окружающей действительности. В ней Ахиллес никогда не догонит черепаху и т. д. Миллионы, миллиарды, зиллионы и т. д. операций, которые компьютеры могут выполнить, не играют никакой роли – неспособность подступиться к бесконечности фатальна.

Почему голосовые помощники такие тупые, или Ослепительное сияние – 2. Рис. 1

Известны и многочисленные задачи, которые не являются алгоритмически разрешимыми, то есть недоступными для любого современного и будущего компьютера, построенного на тех же принципах. Скажем, задача тестирования любого программного обеспечения на предмет отсутствия ошибок, так как число вариантов исполнения программы теоретически бесконечно. Это на самом деле хорошая новость – хотя и не новость вообще. Тестировщикам ПО не грозит замена машинным интеллектом, во всяком случае таким, какой мы сейчас имеем.

Поговорим об одной интересной математической задаче. Называется она «замощение плоскости» и формулируется очень просто: нужно фигурами определенной формы (одной или нескольких видов) выложить предлагаемую поверхность без дырок и наложений. «Что тут такого, – удивитесь вы, – это вполне по силам средней квалификации плиточнику». Но математики не были бы математиками, если б не придумали некую закавыку. Во-первых, нужно замостить бесконечную плоскость. А во-вторых, сделать это «нерегулярным образом», то есть чтобы нельзя было сдвинуть рисунок в любую сторону и совместить его с самим собой. И вот, собственно говоря, обещанное доказательство, что человеческий мозг – не компьютер. Всего два шага:

1.    Задача нерегулярного замощения плоскости алгоритмически неразрешима.

2.    Рождер Пенроуз решил задачу нерегулярного замощения плоскости.

Результат называется «Плитка Пенроуза», и он красив:

 

Почему голосовые помощники такие тупые, или Ослепительное сияние – 2. Рис. 2

 

Вы можете возразить: мол, это у гениального Пенроуза мозг не компьютер, недаром он занимает кафедру в «Кембридже», некогда возглавляемую самим Исааком Ньютоном! Однако нейрофизиологи утверждают, что мозги разных людей не слишком-то отличаются и, конечно же, построены на одних и тех же физических принципах. То есть любой человек, сколь бы гениальным ни был, не способен одновременно оперировать более чем семью сущностями, причем любой степени сложности. Помните того клинического идиота, который украл мозг Эйнштейна в надежде понять источник его гениальности, ну или хотя бы пристроить его за какие-нибудь деньги? Так вот не оказалось в том мозгу никаких видимых особенностей.

И последний аргумент. Если вы продолжаете утверждать, что задача создания искусственного интеллекта под силу современным компьютерам, – вы тем самым признаете себя тоже числом! Воля ваша, некоторые вообще считают себя пудингом, но я не намерен стать в этот натуральный ряд. Ведь будь так, пресловутый IQ можно было бы вывести, просто поделив ваше число на какой-нибудь большой калибровочный множитель. И отранжировать всех в порядке убывания.

Теперь вы поняли, кстати, почему голосовые помощники и всякие автосекретари такие тупые?

Только квантовые компьютеры. Только хардкор. Эту перспективу приглашаю обсудить всех, кто имеет свою точку зрения.

Опубликовано 14.12.2017