MIT показал neural transparency: как заранее увидеть поведение персонального ИИ

Друзья, хочу поделиться новостью из мира ИИ. В MIT Media Lab представили neural transparency — интерфейс, который позволяет заглянуть в «внутренности» чатбота до начала диалога.

Суть в том, что пользователь видит вероятные черты поведения модели ещё на этапе настройки:
- эмпатия, честность, токсичность и склонность поддакивать;
- визуализация помогает заметить риски заранее;
- в исследовании люди ошибались в прогнозе поведения по 11 из 15 характеристик.

Интересно, что прозрачность повысила доверие, но сама по себе не изменила то, как люди проектируют ИИ.

Почему это важно: такие инструменты могут стать для ИИ тем же, чем состав на упаковке стал для еды — простым способом понять, что именно вы запускаете в работу.

Как Вы считаете, нужны ли такие «этикетки» для ИИ по умолчанию?
#ИИ #MIT #AI #технологии