Привет, это рассылка «Мир в огне», и сегодня мы смотрим, как пересекаются технологии, соцсети и социальная справедливость
Специалисты в области ИИ выступили против предсказания преступлений с помощью нейросетей
Microsoft планирует увеличить количество чернокожих среди своих сотрудников
Пользователи призывают бойкотировать Twitch из-за слишком медленной реакции на скандал с домогательствами
США
Исследователи призвали отозвать статью о профилировании преступников с помощью ИИ
Более чем 1000 исследователей, учёных и экспертов в области искусственного интеллекта опубликовали коллективное письмо против готовящегося к публикации исследования об использовании нейронных сетей для «предсказания преступности». Среди подписантов — сотрудники Facebook, Google и Microsoft. Письмо обращено к издательству Springer, выпускающему один из старейших и самых авторитетных научных журналов Nature.
Предметом обеспокоенности сообщества стала будущая статья A Deep Neural Network Model to Predict Criminality Using Image Processing («Модель глубокой нейросети для предсказания преступности с помощью обработки изображений»). В ней речь пойдёт о системе автоматического распознавания лиц, которая будет предсказывать, станет ли человек преступником, а пользоваться этой системой будут правоохранительные органы.
«Автоматизируя выявление потенциальных угроз без предвзятости, мы стремимся создавать инструменты для предупреждения преступности, обеспечения правопорядка и применения в военных целях, меньше всего на них будут влиять скрытые предрассудки и эмоциональные реакции», — сказал профессор Гаррисбергского университета в Пенсильвании и соавтор исследования Натаниэль Дж. С. Эшби.
В открытом письме эксперты в области ИИ выразили «серьёзную обеспокоенность» по поводу исследования и призвали ревизионную комиссию Springer отозвать статью. В письме также содержится призыв к другим издателям отказаться от публикации аналогичных исследований в будущем, со ссылками на целый ряд причин, по которым к распознаванию лиц и технологиям прогнозирования преступлений следует подходить с особой осторожностью, а не использовать их против и без того уязвимых сообществ.
Противники публикации не просто беспокоятся о том, что исследователи, с точки зрения этики, открыли «банку со змеями», но и ставят под сомнение само исследование, критикуя «неверные научные предпосылки, исследования и методы, которые многочисленные исследования в соответствующих дисциплинах опровергали годами».
Алгоритмы распознавания лиц долгое время подвергались критике, помимо прочего, за низкую производительность при идентификации лиц небелых людей. «Алгоритмы машинного обучения не являются нейтральными; наборы данных, с которыми они работают, часто наследуют доминирующие культурные представления о мире… Некритическое принятие допущений по умолчанию неизбежно ведёт к дискриминационному проектированию в алгоритмических системах, воспроизводя идеи, которые нормализуют социальные иерархии и узаконивают насилие в отношении маргинализированных групп», — предупреждают авторы письма, опасаясь, что применение таких нейросетей может привести к расовой дискриминации.
Эксперты подчёркивают, что алгоритмы лишь ищут корреляции между разными явлениями, но интерпретируют и делают из них выводы сами люди.
Глобальная макросила
Нужно больше афроамериканцев в Microsoft
Тем временем компания Microsoft уже пытается восстанавливать социальную справедливость административными рычагами и денежными вливаниями. Генеральный директор компании Сатья Наделла объявил о серии инвестиций на сумму 150 миллионов долларов, направленных на борьбу с расовой несправедливостью внутри компании и за её пределами.
Microsoft заявила, что планирует удвоить число «чернокожих и афроамериканских менеджеров, старших сотрудников и руководителей» в США к 2025 году. При этом журналистам TechCrunch компания отказалась отвечать на вопрос о том, сколько чернокожих менеджеров работают в компании в настоящее время.
Однако в своём ноябрьском «отчёте о разнообразии» компания сообщила, что 2,7 % её руководителей и 4,5 % сотрудников — афроамериканцы. Эту цифру Microsoft и планирует увеличить. Также компания заявила, что удвоит количество компаний-поставщиков, принадлежащих чернокожим и афроамериканцам, с которыми работает. Произойдёт это в течение следующих трёх лет, и потратить на это планируется 500 миллионов долларов. Кроме того, Microsoft объявила о серии инвестиций в поддержку сообществ чернокожих. Например, 100 миллионов долларов планируется выделить в пользу банков, принадлежащих чернокожим и афроамериканцам.
Это объявление было сделано после того, как сотрудники Microsoft обратились к компании с призывом бороться с системным расизмом на волне продолжающихся в США протестов против жестокости полиции.
Весь мир
Пользователей призвали к бойкоту Twitch из-за медленной реакции на обвинения стримеров в сексуальных домогательствах
Группа стримеров и зрителей популярного стримингового сервиса Twitch призвала к его однодневному бойкоту. Поводом послужил «слишком медленный и прохладный ответ на широко распространившиеся обвинения нескольких известных стримеров в злоупотреблениях».
Речь идёт о публичном обвинении популярных стримеров SayNoToRage Тома «ProSyndicate» Кассела и Генри «HenryG» Грира в сексуальном насилии и домогательствах в отношении нескольких женщин. Все трое подключены к программе Twitch Partners, дающей доступ к специальным функциям платформы для монетизации и кастомизации их видео.
SayNoToRage принёс публичные извинения за свои действия, заявив, что «его поведению нет оправдания», а Касселл категорически отверг обвинения против него.
Twitch 21 июня выступили с кратким заявлением, в котором говорилось, что компания «очень серьёзно относится к обвинениям в сексуальных домогательствах и ненадлежащем поведении» и примет меры.
Последовала внутрикорпоративная перепалка, после которой генеральный директор Twitch Эммет Шир отправил сотрудникам длинное электронное письмо, в котором пообещал, что платформа будет рассматривать «запрет, прекращение партнёрских отношений или лишение пользователей рекламных возможностей и активаций, если у нас есть опасения, основанные на заслуживающих доверия обвинениях и историческом поведении [этих пользователей] в отношении Twitch».
«Игровая индустрия мало чем отличается от других, где приходилось считаться с системным сексизмом, расизмом и злоупотреблениями, которые идут на пользу одним людям, а другим приносят неудобства и даже могут навредить, — продолжил Шир в электронном письме. — Хотя это проблема всей отрасли, мы признаём, что многие люди, знакомые с Twitch и даже считающие его домом, особенно женщины, представители сообщества ЛГБТК, чернокожие и другие недопредставленные группы, получили не тот опыт, к которому мы стремимся».
Недовольные пользователи Twitch собрались под лозунгом Twitch Blackout, пользуясь в Twitter хэштегом #TwitchBlackout и попросили стримеров и зрителей избегать платформы в среду, 24 июня. Цель однодневного бойкота, по мнению участника ThirdArtifact, состоит в том, чтобы заставить Шира и Twitch в целом «принять к сведению злоупотребления, расизм, сексуальные домогательства, нападения и изнасилования».
Соответствующая онлайн-петиция, подписанная более чем 1200 людьми, призывает Шира подтвердить свои заявления и «наконец принять меры против тех, кто использует свою власть, чтобы использовать других».
С вами была Женя Щербина, спасибо, и помните: мир в огне.
