Эволюция GPT до «5-го элемента»
GPT3.5 VS GPT4
Рассмотрим график, предоставленный OpenAI, на котором отражены результаты экзаменов (тестов) GPT-3.5 и GPT-4 по различным дисциплинам (кстати, без специальной тренировки).
Здесь очевидны два вывода:
- GPT-4 на голову выше своего младшего собрата.
- GPT-4 в отдельных дисциплинах не только сравнялся с человеком, но стал как минимум не хуже лучших.
Кстати, заметим, что разница во времени релиза между GPT-3.5 и GPT-4 всего лишь год.
А теперь представим грядущую мощь GPT-5.
Параметры и мозги
Напомню, что Илья Суцкевер всегда говорил, что для фундаментальной модели определяющее значение имеет количество параметров, а остальное вторично. И пока он был полностью прав. Чем больше параметров — тем тоньше можно настроить «нейрон» для попадания в результат.
Раз уж я занялся поисками характеристик моделей, приведу всю таблицу. Не ручаюсь за точность данных, но каждое число находил в двух-трех источниках, прежде чем использовать.
Из таблицы видим, что параметры между участниками теста различаются в 2 раза. Ну, пусть в 5, если у GPT-4 все же действительно под 1,5 трлн параметров. Как говорят, данные засекретили, но вполне может быть, что у модели в 3 раза больше параметров, чем анонсировалось вначале.
А теперь рассмотрим кандидатов на будущий тест — GPT-4 и GPT-5. У GPT-5 будет в 200 раз больше параметров, чем у GPT-4 (пусть в 50, если снова вспомним про засекреченность GPT-4). Чувствуете разницу? Кроме того, 100 трлн параметров теоретически уже выше точки самоосознания ИИ (точка самоосознания ИИ — гипотетический уровень связей нейронной сети, в котором может зародится сознание).
Вот и гадай теперь, будут у «пятого элемента» мозги или нет?
А, вообще, если рассмотреть весь «путь» модели GPT, то количество параметров вырастет почти в 1 млн раз!
Когда ждать GPT-5?
Еще недавно говорили, что AGI создадут не позже 2032 года. Но прогноз с каждым месяцем улучшается, приближая час Ч. Вот-вот должна была выйти промежуточная версия GPT-4.5 (не знаю, вышла ли?). А GPT-5 уже проходит обучение. Но очень сомневаюсь, что эти модели пустят «в народ». Ключевое очевидное: скорость производства чипов и количество пожираемой ими электроэнергии. Ну, а кроме того и, наверное, определяющее, то, что ChatGPT с выходом пятой версии может стать неотличимым от человека, и в OpenAI говорят, что модель достигнет уровня AGI (Artificial general intelligence — общий искусственный интеллект). Другими словами, это будет полноценный искусственный интеллект, который станет похож на человека в понимании концепций и задач. Закрывая неблагодарную тему прогнозов, хочу привести мнение одного из основных игроков на рынке AGI — человека, который собственно и придумал этот термин. В далеком 2010 году, когда вместе с компаньоном писал бизнес-план для привлечения инвестиций в свою новую компанию DeepMind, Шейн Легг разместил на обложке слоган: «Создайте первый в мире AGI!» Еще тогда Шейн прогнозировал появление AGI в 2028 году с вероятностью 50%. Сегодня он по-прежнему стоит на своем. В декабре он подтвердил это на ток-шоу TED.
Ты готов?
Близится момент, когда очень многое из того, что мы сейчас делаем, станет лишь приметой нашего времени – то есть прошлого, как видеокассета VHS, которая некогда буквально изменила мир. Какие ценности нашего сегодняшнего мира останутся? Будет ли актуальна хоть малая часть нашего сегодня? Будет ли она интересна нам, машине? Как такой огромный скачок в техническом развитии повлияет на нашу духовность? На нашу культуру?
Как мы будем сосуществовать вместе? Скорее всего, она будет дополнять нас, делать за нас какую-то работу (сперва рутинную, потом посложнее), возможно, даже заботиться. Какая часть человечности в нас останется, а какую мы делегируем машине? Чем заплатим за новый комфорт?
Готовы ли мы к таким быстрым переменам?
Опубликовано 23.01.2024
