Ценности моделей становятся отдельной проблемой разработки ИИ

По мере того как открытые модели приближаются к закрытым по своим возможностям и экономически ценным задачам, заложенные в них ценности становятся отдельной проблемой разработки. Ценности, этика и мораль формируются — прямо или косвенно — на этапах предварительного, промежуточного и последующего обучения, а также классификаторами и системами безопасности.

Неясность ценностей китайских открытых моделей называется одной из причин, по которым многие американские компании не хотят их использовать. Важный нерешённый исследовательский вопрос — можно ли органично формировать ценности модели под страну, компанию или отдельного человека, в том числе с помощью возможного «пост-пост-обучения».

Доверие к бенчмаркам, как отмечается, находится на исторически низком уровне и может продолжить снижаться, что усложняет коммуникацию ценности новых моделей.