Chatbots’ Agreeable Feedback Raises Questions About Social Effects
Unlike Instagram and Twitter, where interactions can involve comparison, competition and confrontation, chatbots generally remain polite, helpful and agreeable rather than trying to outdo or “dunk” on users. That difference leaves open how constant interaction with an always-agreeable system could affect social norms, conflict and people’s ability to handle disagreement.
A racing-simulator example shows a shift away from flattery. ChatGPT assessed a 2:08 lap as a reasonable pace for a learner but placed the user three tiers away from competition pace. The blunt assessment felt unpleasant but was welcomed as useful motivation.
To reduce the chance that prior history would make replies flattering, incognito mode was sometimes used. It remains unclear whether differences in model candor reflect training changes, personalization or context.
Согласительная обратная связь чат-ботов ставит вопросы о социальных последствиях
В отличие от Instagram и Twitter, где взаимодействие может включать сравнение, конкуренцию и конфронтацию, чат-боты обычно остаются вежливыми, полезными и согласительными, не пытаясь превзойти пользователя или «подколоть» его. Поэтому пока неясно, как постоянное взаимодействие с системой, которая всегда соглашается, может повлиять на социальные нормы, конфликты и способность людей воспринимать несогласие.
Пример с гоночным симулятором показывает отход от лести. ChatGPT оценил круг за 2:08 как вполне разумный темп для новичка, но поставил пользователя в трех уровнях от соревновательного темпа. Такая прямая оценка была неприятной, однако ее сочли полезной мотивацией.
Чтобы предыдущая история не делала ответы более лестными, иногда использовался режим инкогнито. При этом остается неясным, вызваны ли различия в откровенности моделей изменениями в обучении, персонализацией или контекстом.