Умножение ИИ-ошибки
Эксперты убеждены, что уже через несколько лет нейросети научатся программировать не хуже людей — джуны не понадобятся как класс. И подобных задач для ИИ множество: мы в каждом номере пишем о конкретных «умных» инструментах. Но любая нейросеть — инструмент неточный. И я даже не о случае, когда Алиса «Яндекса» рассказала ребенку страшилки (или документальные свидетельства?) о Маше и Медведе. Искусственный интеллект учится на массивах данных, и от качества этих данных зависит результат. Если базы будут включать неверные данные, то не нужно удивляться, что голосовой помощник ответит «5» на вопрос «сколько будет 2 умножить на 2?».
Сейчас мы стоим у истоков нового мира, в котором ИИ будет решать огромное количество задач. Несмотря на то что нейросети проектируются людьми, что алгоритмы работы проектируются людьми, полностью понять, что происходит внутри конкретной системы, не может никто.
К чему я все это? К тому, что придет время, когда специалисты по разработке кода уйдут в прошлое, а за его создание будет отвечать ИИ. А как мы все знаем, ИИ — инструмент неточный. Что будет, если в исходных данных появится критический набор ошибок, который окажет, мягко скажем, значительно большее влияние на получение конечных данных, чем того ожидали? И поправить это будет уже некому, потому что для удешевления разработки все станут пользоваться тем же самым ИИ? И ошибки эти с каждым поколением будут копиться и умножаться. Какое будущее нас ждет при таком раскладе? Как минимум — интересное.
Опубликовано 04.06.2024