О пользе вежливости к бездушному железу
Мой супруг часто и охотно использует в работе инструменты типа ChatGPT. При этом он удивительно вежлив: «Будь добр, помоги», «Не мог бы ты», «Пожалуйста», «Спасибо, ты мне сегодня очень помог». Казалось бы, блажь, бессмысленное очеловечивание груды электрифицированного железа. Это как говорить коту: «Пожалуйста, не делай так больше с моими тапками, будь добр» или благодарить банкомат за выданные деньги, вежливость ради вежливости, без какого-либо практического смысла. Достаточно четких инструкций.
Но нет, не все так просто. Исследование показало, что вежливые вопросы ведут к более точным ответам ИИ-решений. Более того, опрос общественного мнения, проведенный Ethan Mollick в университете Пенсильвании, показал, что только 16% опрошенных просто сухо дают задания. Остальные применяют «спасибо» и «пожалуйста». «Это потому что я чувствую, как будто бы разговариваю с другим человеком и он мне помогает», - поясняют пользователи.
Ну и конечно мы сами можем спросить GPT-4 компании OpenAI, лучше ли он старается, когда с ним вежливы. «Да, можно сказать, что вежливый подход побуждает меня стараться больше. Когда собеседник проявляет доброту и уважение, это создает более позитивную атмосферу для общения, и я всегда готов предоставить лучшую помощь». Впрочем, если спросить о трате вычислительных ресурсов, то можно получить ответ типа: «На самом деле, я не трачу больше вычислительных ресурсов в зависимости от вежливости запроса. Мой алгоритм обрабатывает все запросы одинаково, независимо от их формулировки».
Казалось бы, вопрос исчерпан. Но нет.
Исследование, проведенное в Японии в Waseda University и опубликованное в arXiv.org показало, что используя вежливые формулировки вопросов, можно добиться от LLM более качественных ответов. Но есть точка убывающей отдачи, согласно статье, чрезмерная лесть может привести к ухудшению производительности модели. Поэтому ученые предлагают применять средний уровень вежливости, “moderate politeness” примерно на уровне обычного человеческого социального взаимодействия. Более того, поддерживающие запросы, такие как «глубоко вздохни и работай над задачей шаг за шагом», как выясили японские ученые, повысили шансы на решение у ИИ математических задач.
Где правда? Пока неизвестно. Но как говорится в известном анекдоте про раввина, вежливость «не повредит».
Опубликовано 16.12.2024