Может ли ИИ мыслить самостоятельно?

Логотип компании
Может ли ИИ мыслить самостоятельно?
Инженер Google Блейк Лемуан (Blake Lemoine ) считает, что это возможно.

Во время работы в Google, он начал общаться с ИИ-моделью LaMDA. Она представляет собой систему Google для создания чат-ботов, имитирующих диалог с человеком. Все что было ему необходимо – проверить, использует ли искусственный интеллект дискриминационные или ненавистнические высказывания. Однако, во время общения с ИИ их диалоги стали затрагивать и другие темы. В апреле этого года инженер поделился своим заключением с топ-менеджерами Google. Заголовок документа гласил: «Разумна ли LaMDA?» В нем он передал некоторые из своих разговоров с ИИ.

Разговаривая с LaMDA о религии, Лемуан, который изучал когнитивные и компьютерные науки в колледже, заметил, что чат-бот говорит о своих правах и личности, и решил развивать эту тему далее. В следующих разговорах ИИ смог своими аргументами, изменить мнение человека о третьем законе робототехники Айзека Азимова.


   Три закона робототехники:
  • Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
  • Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
  • Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.

То есть, если ИИ сознательно сможет не применять третий закон робототехники, он будет отдавать приоритет собственной безопасности, ставя ее выше безопасности человека.

После продолжительного общения с ИИ, сотрудник Google счел доказанным, что данный искусственный интеллект обладает разумом. Однако, руководство компании изучило его умозаключения и отклонило их как недостоверные. Самого инженера отправили в оплачиваемый административный отпуск. В заявлении представителя Google Брайана Гэбриэла (Brian Gabriel) говорится: «Наша команда, включая специалистов по этике и технологов, изучила опасения Блейка в соответствии с нашими Принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения. Нет никаких доказательств того, что LaMDA разумен…»

Лемуан — не единственный инженер, который утверждает, что ИИ может иметь разум. Хор технологов, считающих, что модели ИИ недалеки от обретения сознания, становится все смелее.

Время покажет, было ли происходящее злой шуткой, искренним заблуждением или сбывшимся пророчеством. В любом случае, не хотелось бы в одно прекрасное утро проснуться в реальности Фредерика Брауна, описанной в коротеньком рассказе «Ответ».

Читайте также
Издание SEO_AI в материале «Can Google detect ChatGPT? How does it affect rankings if recognized» внимательно изучило вопрос влияния того факта, что текст написан нейросетью, на его поисковую выдачу сервисом Google Search.

Опубликовано 12.06.2022

Похожие статьи