Привет, это рассылка «Мир в огне», и сегодня мы смотрим, как пересекаются технологии, соцсети и социальная справедливость
Специалисты в области ИИ выступили против предсказания преступлений с помощью нейросетей
Microsoft планирует увеличить количество чернокожих среди своих сотрудников
Пользователи призывают бойкотировать Twitch из-за слишком медленной реакции на скандал с домогательствами
США
Исследователи призвали отозвать статью о профилировании преступников с помощью ИИ
Более чем 1000 исследователей, учёных и экспертов в области искусственного интеллекта опубликовали коллективное письмо против готовящегося к публикации исследования об использовании нейронных сетей для «предсказания преступности». Среди подписантов — сотрудники Facebook, Google и Microsoft. Письмо обращено к издательству Springer, выпускающему один из старейших и самых авторитетных научных журналов Nature.
Предметом обеспокоенности сообщества стала будущая статья A Deep Neural Network Model to Predict Criminality Using Image Processing («Модель глубокой нейросети для предсказания преступности с помощью обработки изображений»). В ней речь пойдёт о системе автоматического распознавания лиц, которая будет предсказывать, станет ли человек преступником, а пользоваться этой системой будут правоохранительные органы.
«Автоматизируя выявление потенциальных угроз без предвзятости, мы стремимся создавать инструменты для предупреждения преступности, обеспечения правопорядка и применения в военных целях, меньше всего на них будут влиять скрытые предрассудки и эмоциональные реакции», — сказал профессор Гаррисбергского университета в Пенсильвании и соавтор исследования Натаниэль Дж. С. Эшби.
В открытом письме эксперты в области ИИ выразили «серьёзную обеспокоенность» по поводу исследования и призвали ревизионную комиссию Springer отозвать статью. В письме также содержится призыв к другим издателям отказаться от публикации аналогичных исследований в будущем, со ссылками на целый ряд причин, по которым к распознаванию лиц и технологиям прогнозирования преступлений следует подходить с особой осторожностью, а не использовать их против и без того уязвимых сообществ.
Противники публикации не просто беспокоятся о том, что исследователи, с точки зрения этики, открыли «банку со змеями», но и ставят под сомнение само исследование, критикуя «неверные научные предпосылки, исследования и методы, которые многочисленные исследования в соответствующих дисциплинах опровергали годами».
Алгоритмы распознавания лиц долгое время подвергались критике, помимо прочего, за низкую производительность при идентификации лиц небелых людей. «Алгоритмы машинного обучения не являются нейтральными; наборы данных, с которыми они работают, часто наследуют доминирующие культурные представления о мире… Некритическое принятие допущений по умолчанию неизбежно ведёт к дискриминационному проектированию в алгоритмических системах, воспроизводя идеи, которые нормализуют социальные иерархии и узаконивают насилие в отношении маргинализированных групп», — предупреждают авторы письма, опасаясь, что применение таких нейросетей может привести к расовой дискриминации.
Эксперты подчёркивают, что алгоритмы лишь ищут корреляции между разными явлениями, но интерпретируют и делают из них выводы сами люди.
Глобальная макросила
Нужно больше афроамериканцев в Microsoft
Тем временем компания Microsoft уже пытается восстанавливать социальную справедливость административными рычагами и денежными вливаниями. Генеральный директор компании Сатья Наделла объявил о серии инвестиций на сумму 150 миллионов долларов, направленных на борьбу с расовой несправедливостью внутри компании и за её пределами.
Microsoft заявила, что планирует удвоить число «чернокожих и афроамериканских менеджеров, старших сотрудников и руководителей» в США к 2025 году. При этом журналистам TechCrunch компания отказалась отвечать на вопрос о том, сколько чернокожих менеджеров работают в компании в настоящее время.
Однако в своём ноябрьском «отчёте о разнообразии» компания сообщила, что 2,7 % её руководителей и 4,5 % сотрудников — афроамериканцы. Эту цифру Microsoft и планирует увеличить. Также компания заявила, что удвоит количество компаний-поставщиков, принадлежащих чернокожим и афроамериканцам, с которыми работает. Произойдёт это в течение следующих трёх лет, и потратить на это планируется 500 миллионов долларов. Кроме того, Microsoft объявила о серии инвестиций в поддержку сообществ чернокожих. Например, 100 миллионов долларов планируется выделить в пользу банков, принадлежащих чернокожим и афроамериканцам.
Это объявление было сделано после того, как сотрудники Microsoft обратились к компании с призывом бороться с системным расизмом на волне продолжающихся в США протестов против жестокости полиции.