Мэр Нью-Йорка запретил ИИ в школах и призвал регулировать рынок
Мэр Нью-Йорка Зохран Мамдани запретил применение искусственного интеллекта в начальных и средних школах города и призвал власти активнее контролировать отрасль. На мероприятии The People’s AI Assembly, организованном AI Now Institute, он заявил, что федеральное правительство США фактически уклонилось от создания правил для ИИ.
Беседу с мэром в Webster Hall в Манхэттене провела актриса и активистка Илана Глейзер. Она сказала, что как родителя её тревожит быстрое появление технологии в классах: ещё два года назад ИИ не был обязательной частью школьной среды, а теперь его внедрение воспринимается как нечто предрешённое.
Городские ограничения вместо федеральных правил
Мамдани оспорил представление о том, что общество должно безусловно принимать ИИ в школах, на рабочих местах и в повседневных сервисах. По его словам, стремительное распространение технологии сопровождается ощущением неизбежности, которое лишает людей возможности обсуждать условия её использования и требовать ответственности от разработчиков.
Летом мэрия также представила правило для рынка жилья. Оно предполагает, что арендодатели, брокеры и платформы недвижимости должны ясно обозначать объявления, в которых фотографии или видео объекта были созданы с применением ИИ. Инициатива направлена на защиту жителей от вводящих в заблуждение предложений, когда визуальные материалы формируют неверное представление о недвижимости.
Критика саморегулирования
Выступая на ассамблее, Мамдани назвал безрассудным внедрение технологий без оценки их ограничений. В качестве примера он упомянул февральский удар США по школе в Иране, при котором погибли более 150 человек, включая как минимум 123 ребёнка. Bloomberg сообщал со ссылкой на участников внутреннего расследования Пентагона, что одним из факторов стала чрезмерная опора на ИИ при выборе целей.
Мэр отметил, что разработчики нередко говорят об ИИ как о системе, которую нельзя ставить под сомнение и должны регулировать только её создатели. Он сравнил этот подход с аргументами Facebook в 2008 году и связал его с попыткой избежать ответственности без ущерба для возможной рыночной оценки компаний перед выходом на биржу.
Что это означает для компаний
Мамдани раскритиковал федеральную политику, где дискуссия об ИИ часто строится вокруг технологического соперничества с Китаем, а общественные последствия уходят на второй план. Объявленная администрацией Дональда Трампа Superintelligence Task Force, по его оценке, делает акцент на саморегулировании крупных ИИ-компаний, а не на новых ограничениях.
Для бизнеса позиция Нью-Йорка показывает, что требования к прозрачности могут формироваться на уровне городов и отдельных отраслей. Компаниям, использующим генеративный ИИ в услугах, контенте и клиентских процессах, стоит заранее фиксировать сценарии применения технологии, раскрывать её использование там, где оно влияет на выбор клиента, и учитывать ограничения, вводимые локальными властями.