Рэй Курцвейл: Слиться с искусственным неокортексом в облаке

Рэймонд Курцвейл — американский писатель, исследователь компьютерных технологий, изобретатель и один из главных футурологов нашего времени. Курцвейл работает в Google и курирует инновационные проекты, связанные с машинным обучением и обработкой языка. В своих футуристических книгах учёный демонстрирует оптимистичный взгляд на технологии, обещая, что в ближайшем будущем искусственный интеллект догонит и перегонит человеческий, а к середине XXI века люди станут почти бессмертными и войдут в эру технологической сингулярности. Тринадцатого октября на Совете по международным отношениям Рэй Курцвейл рассказал о последних новостях и проблемах ИИ, а мы — перевели.

Нас ждут большие перемены: скоро мы будем печатать нашу одежду на 3D-принтерах. Не сегодня — пока что мы находимся на ранних стадиях 3D-печати. Но уже в начале 2020-х в открытом доступе будет много крутых моделей одежды, которые мы сможем скачать бесплатно. Индустрия моды продолжит существовать, так же как продолжают существование музыкальная, и кино-, и книжная индустрии — рядом с частными и бесплатными продуктами, сделанными на открытом программном обеспечении.

Мы сможем создавать очень дешёвую еду с помощью вертикального сельского хозяйства: используя гидропонные заводы для выращивания фруктов и овощей, клонируя в пробирках мышечную ткань для производства мяса. Первый гамбургер, произведённый подобным образом, уже съели. Он был дорогим, стоил несколько сот тысяч долларов (эта цена образуется из стоимости исследований) — и оказался вкусным! Все проблемы природных ресурсов решатся информационными технологиями.

Недавно в качестве эксперимента было построено здание из маленьких модулей, соединённых между собой, как конструктор Лего, и напечатанных на 3D-принтере в Азии. В результате трёхэтажное здание построили за пару дней. Такой будет стройка в 2020-х. 3D-принтеры будут печатать все вещи, которые нам нужны.

У нас есть технологии, которые могут поддерживать беседу. Моя команда в Google разработала систему автоматизированных «умных ответов». Мы пишем миллионы электронных писем, эта система должна понимать значение писем, на которые она отвечает, даже при очень кратких вводных данных. Тест Тьюринга — вполне адекватный тест, но чтобы пройти его успешно, нужна вся гибкость человеческого мышления. Невозможно придумать какой-то простой трюк из сферы обработки естественного языка, чтобы этот тест прошла машина. Но если мы придумаем, как сделать так, чтобы человек не смог найти различия, — тогда будем считать, что искусственный интеллект достиг уровня человеческого. Мой главный прогноз — у нас получится.

Я утверждаю, что это произойдёт в 2029 году. В 1989-м в книге The Age of Intelligent Machines я написал, что открытие случится между началом 2020-х и концом 2030-х. В 1999-м в книге In The Age of Spiritual Machines указал точную дату — 2029 год. В Стэнфордском отделении искусственного интеллекта посчитали эту цифру пугающей и провели конференцию, на которой эксперты по ИИ пришли к мнению, что это произойдёт через сотни лет. С тех пор моя оценка и средняя оценка специалистов по ИИ приближались друг к другу — но не потому, что я менял свой прогноз.

В 2006-м в Дартмуте прошла конференция под название AI@50 — на ней учёные сошлись во мнении, что это произойдёт через пятьдесят лет. Я настаивал, что через двадцать три года. В этом году на Асиломарской конференции по вопросам этики искусственного интеллекта сошлись на сроке в двадцать-тридцать лет, а я утверждал, что это произойдет через тринадцать лет. Я всё ещё более оптимистичен, но уже не настолько. Сейчас даже растёт количество людей, считающих меня слишком консервативным и сдержанным в своих прогнозах.

Я не упомянул ключевой момент закона ускорения отдачи: экспоненциально прогрессируют не только аппаратные средства, но и программное обеспечение.

Мы буквально сольёмся с этой технологией — ИИ, чтобы она сделала нас умнее. И она сделает. Такие приспособления по своей сути — расширители мозга, и люди действительно начинают так к ним относиться, хотя никто не думал так о своих смартфонах ещё пару лет назад. Искусственный интеллект буквально проникнет в наши тела и мозги — но пока что это спорное утверждение.

Дискуссия о том, как сделать технологии ИИ безопасными для человека, крайне поляризована. Я уже много лет говорю и о надеждах, и об опасностях. Технология всегда будет палкой о двух концах. Огонь согревал нас, помогал нам готовить пищу, но и сжигал наши дома. Новые технологии — гораздо более могущественные.

Я думаю, нам надо пройти через три фазы — по крайней мере, я их прошёл в осознании этого вопроса. Сначала — радость от возможности преодолеть древние как мир проблемы: бедность, болезни и так далее. Затем возникает тревога, что эти технологии могут быть разрушительными и вызвать экзистенциальные риски. В итоге, я считаю, мы должны прийти к пониманию своего морального обязательства прогрессировать в этих технологиях, потому что, несмотря на все успехи, которых мы добились, — всё ещё есть очень много человеческих страданий, которые нам нужно преодолеть. Только технологический прогресс, в особенности в вопросах ИИ, позволит нам побеждать бедность, заболевания и деградацию окружающей среды, прежде чем мы столкнемся с опасностями этих технологий.

У нас есть отличная база для продолжения прогресса. Сорок лет назад уже жили визионеры, которые видели и надежды, и угрозы биотехнологий — в основном в вопросах перепрограммирования биологии для противостояния болезням и старению. На Асиломарской конференции были выработаны этические гайдлайны и стратегии защиты человечества от опасности технологий. С тех пор прошло сорок лет, мы стали получать клинические результаты биотехнологий. Пока что это тонкий ручеёк, но он станет бурным потоком в последующие десять лет. Число людей, которым биотехнологии нанесли вред случайно или преднамеренно, равно нулю. Это убедительный довод для того, чтобы продолжать.

Мы только что провели первую Асиломарскую конференцию по вопросам этики ИИ. Множество этических гайдлайнов, особенно из биотехнологий, перекочевали в законодательство; думаю, то же случится и в сфере ИИ. Радикальные мнения по этому вопросу сводятся к тому, чтобы запретить эту технологию вообще или искусственно замедлить её развитие. Это неправильный подход. Давайте лучше направлять технологию в конструктивное русло. Существуют определённые стратегии, но это уже другой, сложный разговор.

Я думаю, что данные с открытым исходным кодом и алгоритмами — в целом хорошая идея. Google выложил все свои алгоритмы ИИ в общественный доступ через TensorFlow с открытым исходным кодом. Я считаю, что именно сочетание открытого исходного кода и закона ускорения отдачи приблизит нас к идеальным результатам. Есть много проблем, таких как приватность, которую исключительно важно соблюдать: работающие в этой сфере люди всерьёз озабочены. Пока неясно, какие из ответов на эти вопросы верны. Я думаю, что мы хотим продолжать прогрессировать. Но когда у тебя так много власти, то даже при добрых намерениях ею можно злоупотребить.

Меня обвиняют в том, что я слишком оптимистичен. Но и предпринимателю приходится быть оптимистом: если бы он знал, с какими проблемами столкнётся по ходу дела, то не начал бы ни одного проекта.

Как я уже говорил, я давно озабочен отрицательными сторонами прогресса, которые имеют экзистенциальное значение. Технологии — это большая мощь, так что, конечно, я обеспокоен, даже при том, что я оптимист. Но я верю, что мы справимся со всеми проблемами, хоть и не считаю, что сумеем избежать множества трудностей. Во Второй мировой войне погибло 50 миллионов человек, и, безусловно, серьёзную роль в этом сыграло развитие технологий того времени.

Но всё же я считаю важным признать, что мы совершенствуемся. Недавно в двадцати шести странах провели исследование, опросив 24 000 человек. Им предложили ответить на вопрос: «Бедность по всему миру увеличилась или сократилась?» Девяносто процентов ответили неверно, сказав, что бедность возросла. И только один процент ответил правильно: что бедность снизилась на 50 и более процентов.

Молодым людям я хочу дать старый как мир совет: следуйте своей страсти, потому что нет такой области человеческой деятельности, на которую бы не повлияло в будущем развитие ИИ. Мы сольёмся с искусственным неокортексом в облаке. Мы станем умнее. Я не считаю, что ИИ нас заменит, — он нас усилит. И это уже происходит. Кто может выполнять свою работу без расширителей мозга, которые у нас есть сегодня? Так будет и в дальнейшем. Люди говорят: «Ну, только у богатых будут такие инструменты», а я отвечаю: «Ну да, прямо как смартфоны, которых сейчас три миллиарда». Раньше я оперировал цифрой в два миллиарда, но по свежим данным выходит, что их уже почти три. Через несколько лет их число достигнет шести миллиардов — благодаря фантастическому буму соотношения цены и качества. Так что ищите, к чему у вас лежит сердце, постарайтесь выложиться в той сфере, в которой, как вам кажется, вы можете что-то изменить. Используйте доступные инструменты.

Я придумал закон ускоренной отдачи, чтобы правильно рассчитывать время в моих собственных технологических проектах: чтобы я мог начинать их за несколько лет до того, как они станут осуществимыми, чтобы попытаться предвидеть, в какую сторону будет двигаться технология. Люди забывают, откуда они пришли. Всего пару лет назад у нас были небольшие девайсы, похожие на ваш смартфон сегодня, но они даже приблизительно не могли работать так же хорошо. Никакой революции, например, в мобильных приложениях ещё пять лет назад не было и в помине. Через пять лет мир снова значительно изменится — попробуйте рассчитать свои проекты так, чтобы застать поезд на станции.

Мы много изучаем, как ИИ можно использовать для усиления разных человеческих наклонностей и как ими можно управлять. ИИ учится на примерах. Девиз в нашей сфере гласит: жизнь начинается с миллиарда примеров, а лучший способ получить примеры — учиться у людей, так что ИИ очень часто у них учится. Но не всегда. Например, AlphaGo Zero недавно учился у самого себя, играя в Го против себя же, но такой подход не всегда осуществим, особенно если речь идет о более сложных проблемах из реальной жизни.

Крупные компании и независимые исследователи прикладывают много усилий к тому, чтобы сделать ИИ непредвзятым. Ведь машины учатся у людей в том числе и предрассудкам, а цель заключается в том, чтобы ИИ не имел ни расовых, ни гендерных предубеждений. Это серьёзная цель. Будучи людьми, мы обрастаем предубеждениями, часто бессознательно. Затем, будучи образованными людьми, учимся распознавать предрассудки и преодолевать их, и в наших собственных умах часто возникают конфликты. Есть целое направление исследований, занимающееся конкретно избавлением ИИ от предвзятых суждений. Это одно из направлений исследований, которое поможет преодолеть проблемы машинного интеллекта: благодаря ему машины смогут стать более беспристрастными, чем люди, у которых они учатся.

Первым экзистенциальным риском, с которым столкнулось человечество в связи с технологиями, было распространение ядерного оружия. Мы уже несколько раз стояли на грани того, чтобы было уничтожено всё живое на земле.

С новыми технологиями нетрудно представить сценарии, при которых они могут стать крайне деструктивными и привести к массовому уничтожению. Например, биотехнологии: у нас есть возможность перепрограммировать биологию так, чтобы заболевания исчезли. Иммунотерапия, которая стала серьёзным прорывом в борьбе с раком и скоро произведёт революцию, перепрограммирует иммунную систему так, что она начнет уничтожать раковые клетки, чего обычно не делает. Но, например, биотеррористы могут научиться перепрограммировать вирус так, чтобы он стал ещё смертоноснее, ещё заразнее, ещё более скрытым, — и в итоге получат супероружие.

Именно такие вероятности дали повод провести первую Асиломарскую конференцию сорок лет назад. Постоянно проходят конференции по выработке гайдлайнов, протоколов безопасности и более подробных стратегий, которые пока что стабильно работают. Но мы производим всё более утончённые технологии, так что нам постоянно нужно обновлять и протоколы безопасности. Сейчас мы провели первую Асиломарскую конференцию по этике ИИ и выработали набор правил, одобренный нами всеми. Многие из этих правил пока весьма расплывчаты. Я считаю, что это очень важный вопрос и ему нужно уделять максимальное внимание.

Например, безусловное преимущество беспилотных автомобилей в том, что они устранят 99 процентов из двух миллионов смертей в машинах с водителями. Но беспилотники обязательно попадут в ситуацию, где им придется принимать этическое решение: въехать в коляску с младенцем или в пожилую пару — либо в стену и, возможно, убить пассажира, находящегося в салоне. Есть ли у машины этическая установка любой ценой сохранить жизнь своего пассажира-владельца? Невозможно в таких обстоятельствах послать письмо своим разработчикам и спросить: «Чёрт, что мне делать?» — ответ должен быть встроен в систему изначально. Так что есть целый ряд практических вопросов и целая сфера этики ИИ, которая должна давать ответы на эти вопросы.

Но как нам справиться с гораздо большим риском: вооружение ИИ, которое уже стало реальностью? Министерства обороны разных стран применяют ИИ. Недавно по миру ходил документ, предлагавший людям запретить автономное оружие, это казалось хорошей идеей, в пример приводился такой аргумент: «Мы же запретили химическое оружие, почему бы не запретить вооружение автономного ИИ»?

Это немного сложнее, чем запретить сибирскую язву или оспу. Автономное оружие запретить сложнее, так как оно может использоваться двояко. Дрон компании Amazon может доставлять вам мороженое или лекарство в африканскую больницу, но точно так же он может доставлять оружие. Одна и та же технология, и она уже вырвалась на свободу. Этот вопрос уже совсем сложный — совершенно непонятно, как его решать. Но цель всё же ясна: пожинать позитивные плоды и контролировать опасности. Тут не существует простых алгоритмов. Нет никаких программ, которые можно установить в ИИ и сказать, что с ними ИИ будет полностью безопасным. Интеллект по природе своей не поддаётся контролю.

Моя стратегия — конечно, не безупречная — заключается в том, чтобы практиковать в нашем обществе такие этику, мораль и ценности, которые мы хотели бы видеть во всём мире. Потому что общество будущего не будет похоже на историю внезапного вторжения умных машин с Марса. Это общество произрастает из нашей сегодняшней цивилизации. Наше будущее просто усилит то, чем мы являемся на сегодняшний день. Так что следование тем ценностям, которые мы ставим выше всего сегодня, — и есть лучшая стратегия для создания мира будущего, воплощающего эти ценности.