Для тех, кто не любит слушать, а любит читать, самиздат продолжает публиковать расшифровки лучших подкастов радио «Глаголев FM». На этот раз вместе с автором самого жуткого из них — «Социология стрёма» — Костей Филоненко размышляем о том, унаследует ли искусственный интеллект наши пороки и изъяны, зачем соцсети заставляют нас постить фотографии юных себя и почему мы так боимся нейросетей.
Какое-то время назад в Facebook стартовал челлендж: очередной массовый психоз (по-другому это назвать нельзя), когда люди внезапно начали постить свои фотографии десятилетней давности и сравнивать их с фотографиями нынешними. И многие задавались вопросом: для чего это нужно? С какой целью люди это делают? И в этот момент всплыла информация, что вроде как это калибровка некой системы распознавания лиц, которая должна сравнить одного и того же человека в разном возрасте для того, чтобы распознавать его на всех фотографиях и распознавать его в будущем. И, таким образом, этот искусственный разум становится умнее, приближая момент нашего порабощения. Для того чтобы выяснить, так оно или нет, мы позвали Ивана Пузырёва, специалиста в области VR, искусственного интеллекта и digital-стратегий в архитектуре.
— Иван, действительно ли 10-Year Challenge приближает порабощение естественного разума искусственным?
— Лично я считаю, что да. Это слишком просто, чтобы так не сделать, имея мощность Facebook. Я был на довольно крупной конференции в Мюнхене, и высокопоставленный спикер из Facebook с прекрасно анимированной презентацией и хорошо поставленной речью в середине своего доклада использовал слайд, на котором на синем фоне белыми буквами написано «more content, more power, more people».
— Слово «power» больше всего пугает.
— Да. И в этот момент люди хлопают, бейджики трясутся, лента скроллится, а понимающие люди переглядываются, потому что компания с такой мощностью, с таким количеством данных, которая на большой важной конференции, которая публикуется, вставляет в свою презентацию такой слайд, меня пугает.
— Пугает именно то, что у них есть «power» в целях? То, что им нужно больше людей для того, чтобы больше знать? Что в этом пугающего?
— Здесь стоит рассказать про платформенный капитализм. Компания Facebook имеет такой значительный масштаб, такой размер, что, в принципе, гражданство Facebook можно соотнести с гражданством некой страны. Объединённое между собой гражданство платформ точно может выдать вам результат, аналогичный гражданству страны. То есть мы можем перемещаться, можем обмениваться информацией, только скомбинировав наше гражданство внутри платформ. То, как я это вижу. Компания Facebook строго ориентирована и существует в мире капитализма. Это значит, что ей необходимо зарабатывать деньги. И когда в основе компании идет маркетинг, реклама, мы очень легко можем увидеть, как, например, на той самой конференции они показывают один из вариантов продажи рекламы, при котором мы скроллим ленту, и когда видим очки, рекламу очков, я задержался чуть дольше на этой картинке, у меня врубается фронтальная камера — и очки примеряются в дополненной реальности на меня. Да, в принципе, безобидно, но если это моя жизнь? Если я в этот момент не хочу, чтобы на меня очки примеряли? Конечно, сначала они будут спрашивать, а потом не будут спрашивать, как мы это много раз видели у компании Google. Если вы посмотрите их первую загрузочную страницу, она звучала как «Мы безобидные ребята, мы будем только искать».
— Основное отличие государства от любого другого объединения — наличие собственной армии. Что выполняет роль насилия в корпорациях?
— Это достойный вопрос. Когда мы говорим об армии, всегда в голове возникает вопрос границ. То есть они должны охраняться. И вообще, в транслирующиеся сейчас в экономике, в геополитике границы теряют такую значимость. Потому что — что есть граница? Наличие информации — то есть там, где информация, и как она пересекает какую-либо черту — вот это может быть границей. Возможно, вы видели недавно: самая большая база данных, утечка произошла — 700 миллионов аккаунтов, и каждый может проверить, утекли ли его данные. Я посмотрел: мои утекли. Все мои почты теперь в открытом доступе. Нужно будет менять пароли. Это довольно подходит под фразу «О дивный новый мир».
— То есть вместо солдат и погранпостов у нас стена из паролей и защищающего кода?
— Да, китайская стена — не физическая, строящаяся стена кибербезопасности, которая не работает. Я в очередной раз подчёркиваю, что, даже используя ресурсы одной из крупнейших экономик, невозможно ограничить поток digital-информации из страны или в страну. То есть пребывая там, я всё равно мог пользоваться теми ресурсами, которые были заблокированы. Да, это танцы с бубном, но это по-прежнему возможно. Я не вижу способа остановить это, кроме как по примеру Северной Кореи, где просто физически страна отрезана.
Когда мы говорим о нейросетях и искусственном интеллекте, есть вещи, которые нас пугают, а именно: непонимание того, как это работает. В частности, есть очень жуткая новость про то, что Facebook сделал чат-ботов, которые были поставлены друг напротив друга. Они вели диалог, и через какое-то время они стали говорить на английском, но это был их собственный язык. Они использовали английские слова, чтобы как-то общаться друг с другом. Для людей это было непонятно, но при этом они друг другу что-то сообщали. Как говорится в этих новостях, их отключили, и для меня как для человека, который читает статьи на эту тему, стало очевидно, что их отключили, потому что стало слишком страшно. О чём они там договорятся? Никто не знает, кроме них. На самом деле язык, который они создали, способ передачи данных был намного сложнее, чем нужно, чтобы испугаться.
— Намного сложнее, чем нужно, чтобы испугаться?
— Да, он был крайне неэффективный. Примерно как полчаса петь песню, чтобы донести одну фразу. Но вещи, касающиеся искусственного интеллекта, всё самое специфическое и жутковатое идёт из Китая. Если разработки, которые мы видим в США, так или иначе стараются контролировать другие капиталисты — как Илон Маск, — то в Китае мы видим вообще беспредел. Я могу рассказать историю. Мы попали в штаб-квартиру компании Tencent в Шеньчжене. Это колоссального размера компания.
— А чем они занимаются?
— Они владеют WeChat’ом. Это из основных активов. Это колоссального размера небоскрёб, и в одной из аудиторий нам рассказывали про их опыт работы с искусственным интеллектом. Есть несколько особенностей, которые нужно знать. Во-первых, они учат свой искусственный интеллект на играх. Геймификация играет невероятную роль в процессе образования, становления человека.
Советую посмотреть фильм «Синофутуризм», раскрывающий всё, что происходит в Китае, с точки зрения геймификации. Искусственный интеллект, взращённый на играх, обучен стратегии обыгрывать человека либо другой искусственный интеллект, — зачем он выпускается в город либо в пространство соцсети/мессенджера для решения местных проблем, но с навыками, полученными в игре? Так не делает никто. Это уникальный эксперимент. Одна женщина в аудитории рассказывала нам, что недавно они проводили соревнование среди своих искусственных интеллектов. Они выпускали их «на свободу» — скрывая, что это искусственный интеллект, выдавая их за людей. Челлендж был в том, что человек, с которым ведётся диалог, должен был сказать искусственному интеллекту «я тебя люблю». Но он должен был сказать это натурально. Он должен был действительно влюбиться. В этом челлендж — чей искусственный интеллект первым влюбит в себя. Это произносится с улыбкой под весьма странно свёрстанную презентацию в небоскрёбе в центре страны, и я эту презентацию вообще не понимаю.
— Это как в фильме «EX MACHINA»: испытуемый не просто верит в то, что робот что-то чувствует, но и чувствует что-то к нему, и помогает ему избежать этого. Это тест Тьюринга, да?
— Можно так сказать. Я не представляю, что происходит в подкорке, что происходит там глубже — как много алгоритмов сейчас присутствует в процессе коммуникации между людьми. Стоит вспомнить процесс рекрутинга и ответы AliBaba — весь их сбор аппаратных связей, работа с клиентами; колоссальную роль играет алгоритм, который понимает, что ты написал/спросил. Даже в России вполне неплохо анализируют вопрос, который ты задал, и отвечает уже робот.
