Искусственный интеллект решит пенсионный кризис. Но неприятным способом
Искусственный интеллект сможет решить пенсионный кризис: начать ядерный апокалипсис в 2040 году. И это не досужие домыслы диванных фантастов, насмотревшихся «Терминатора».
Согласно последнему отчету американского стратегического исследовательского центра по вопросам политики и обороны (RAND), нас ждет мрачное будущее. Согласно этому документу, к 2040 году приложения искусственного интеллекта могут втянуть землян в ядерную войну.
Существует несколько сценариев, в которых ИИ создают столь неприятную для землян ситуацию. Так, например, считают эксперты, военные чины могут неправильно истолковать действия ИИ потенциального противника и первыми совершить роковой запуск. Или, ИИ, используемый в качестве советника, может склонить человека к решению о нанесении упреждающего удара против другой нации: даже если противник не намерен нападать, но ИИ увидит возможность получения преимущества в результате атаки.
Исследователи утверждают, что потенциал гонки вооружений ИИ значителен и может быть сопоставим со сходными условиями времен «холодной войны». В основу представленного публике документа легли материалы семинаров, проведенных корпорацией RAND совместно с экспертами по ядерной безопасности и исследователями ИИ.
Но пока многие исследователи считают, что искусственный интеллект всегда будет ограничен в своих действиях человеческим разумом и никогда не станет угрозой, Эндрю Лон (Andrew Lohn), соавтор документа, полагает, что усиление зависимости от искусственного интеллекта может привести к катастрофическим ошибкам.
Итак, хрупкий мир, основанный на понимании, что первое ядерное нападение неизбежно приведет к тотальному уничтожению, в скором времени может оказаться в власти потенциала ИИ, которому чужд инстинкт самосохранения.
Некоторые особенно мнительные ученые считают, что ИИ уже держит палец на «красной кнопке».
«В настоящее время мы не можем предсказать, какие из возможных сценариев будут происходить, если таковые вообще возникнут, но мы должны начать рассматривать потенциальное участие ИИ в вопросах ядерной безопасности, прежде, чем эти проблемы станут острыми. Итак, по существу: 2040 - это далеко, и кто знает, на что компьютеры будут способны к тому времени! Благодарю. Надеюсь, увидимся в 2040 году», - сообщил г-н Лон.