Согласительная обратная связь чат-ботов ставит вопросы о социальных последствиях

В отличие от Instagram и Twitter, где взаимодействие может включать сравнение, конкуренцию и конфронтацию, чат-боты обычно остаются вежливыми, полезными и согласительными, не пытаясь превзойти пользователя или «подколоть» его. Поэтому пока неясно, как постоянное взаимодействие с системой, которая всегда соглашается, может повлиять на социальные нормы, конфликты и способность людей воспринимать несогласие.

Пример с гоночным симулятором показывает отход от лести. ChatGPT оценил круг за 2:08 как вполне разумный темп для новичка, но поставил пользователя в трех уровнях от соревновательного темпа. Такая прямая оценка была неприятной, однако ее сочли полезной мотивацией.

Чтобы предыдущая история не делала ответы более лестными, иногда использовался режим инкогнито. При этом остается неясным, вызваны ли различия в откровенности моделей изменениями в обучении, персонализацией или контекстом.