Почему роботы необходимы. Скорость будущего: почему роботы не выгонят людей на улицу. Какая работа точно будет

"Роботы" - почему мы их так называем, откуда появилось данное слово, кто положил начало робототехнике? Первый пост в нашем блоге мы решили посвятить раскрытию именно этих базовых вопросов. Какие ассоциации у вас вызывает слово "робот"? Скорее всего у большинства из вас это будет связано с терминатором/трансформером. Так когда и откуда все началось, давайте разберемся вместе.

Известный чешский писатель Карел Чапек помимо других своих произведений написал несколько работ в научно-фантастическом стиле. Следует отметить, что в то время научная фантастика еще не являлась отдельным жанром. В своих работах он часто использовал фантастику как призму, позволяющую анализировать различные проблемы.

С точки зрения робототехники наиболее важной из его работ, безусловно, является пьеса Rossum"s Universal Robots или сокращенно R.U.R., опубликованная в 1921 году. Прежде всего, именно с этой пьесой связано появление слова «робот». Кроме того, в ней рассматриваются проблемы этического характера, которые могут возникнуть при создании искусственного интеллекта.

Следует отметить, что роботы в пьесе Карела Чапека существенно отличаются от используемых сегодня роботов. В этой пьесе ученому по имени Россум удается синтезировать материю, которая может быть использована для создания искусственных, но функционально идентичных и похожих на человеческие, органов и тканей. Одним словом, нечто подобное искусственным стволовым клеткам.

Хотя, по первоначальному происхождению роботы были биологическими существами, а сегодня это "механические" устройства в любом смысле слова, может быть налажен серийный выпуск таких устройств. Они, в конечном счете, выходят из строя из-за износа и поломок. По мере необходимости, могут разрабатываться новые модели. Стандартные роботы вообще не имеют никаких индивидуальных особенностей и считаются просто автоматами.

И все-таки, давайте рассмотрим, как увлекательно все начиналось.

Роботы – почему мы их так называем

История появления слова «роботы» такова. Однажды у Карела Чапека возникла идея – написать пьесу об искусственных человекоподобных существах, которые создаются для того, чтобы работать на людей, и о проблемах, которые могут возникнуть в такой ситуации. Однако, в процессе работы писатель никак не мог подобрать подходящее название для этих существ.

Поэтому он обратился за советом к своему брату Йозефу Чапеку, художник и хорошему советчику. Йозеф и предложил назвать эти искусственные существа "роботами". Это слово происходит от чешского слова "Робота" и означает подневольный труд, трудолюбие. Если бы Юзеф не предложил это слово, мы, вероятно, называли бы их теперь не «роботами», а «лабори». Именно такой первоначальный вариант был у Карела Чапека для будущих, наделенных элементами разума помощников людей.

Как видите, в контексте истории робототехники, основное значение пьесы R.U.R. заключается, вероятно, в появлении самого термина. Впрочем, важно не только это. Хотя роботы чешского писателя и довольно серьезно отличаются от современных, Чапек в своей пьесе анализирует серьезные проблемы, которые появились или могут в один прекрасный день стать актуальными в процессе развития робототехники.Прежде всего, необходимо отметить разные мотивы, движущие людьми при создания роботов. Сегодня многие из самых сложных и удивительных роботов создаются просто для того, чтобы что-то доказать. Доказать, что это – возможно, доказать, что это – достижимо. Также и в пьесе Чапека такой мотив был главным при создании «роботов», в первую очередь, это можно видеть из следующих цитат:

Helena: Что же именно он пытался сделать?

Domin: Подражание природе. Сначала он попробовал сделать искусственную собаку. Для этого потребовалось несколько лет, а результатом стало что-то вроде уродливого оленя, который погиб через несколько дней. Я могу показать вам его в музее. После этого он приступил к созданию человекоподобного существа.

Domin: Да, что-то вроде этого, но старина Россум понимал это совершенно буквально. Он хотел, используя достижения науки, заменить Бога. Он был убежденным материалистом, и именно поэтому хотел доказать, что Бог не нужен. Вот такой у него был замысел воспроизводства человеческих существ, таких же, как вы или я, до кончиков волос. Знакомы ли вы с анатомией, мисс Глория?

Таков был лейтмотив у старого Россума при создании "роботов". Другим мотивом, в конечном счете, была обычная выгода. При этом возникает важная проблема «прав человека» для человекоподобных машин. Подобные проблемы могут возникнуть, если роботы начнут повсеместно использоваться в производстве, в армии, в быту и т.д.

Помимо выявления связанных с роботами проблем, пьеса заставляет вас задуматься и о других сопутствующих проблемах, таких как ответственность человечества, важность труда в жизни человека, с одной стороны и зло рабства, с другой. А также, каковы возможные последствия чрезмерного корыстолюбия, власти корпораций и так далее.

Как вы можете понять, пьеса достаточно интересная, ее стоит прочитать.

Как видите, можно считать, что пьеса Карела Чапека является предшественником таких научно-фантастических хитов, как Терминатор и Матрица, но выгодно отчается от них философским подтекстом. И это неудивительно, ведь Карел Чапек получил университетский диплом по философии. В любом случае, эта пьеса важный элемент в истории робототехники, потому что именно с нее фактически и началась робототехника. По крайней мере, она дала ей название.

Фантасты придумали роботов десятки лет назад, но умные металлические люди так и не появились на наших улицах. Воплощению мечты в реальность мешает многое. В том числе и сам человек

Неуниверсальные помощники

Симпатичные создания из новейших пластиков и сплавов, по мнению людей, должны выполнять тяжелую или скучную работу: ходить в магазин, мыть посуду, пылесосить, делать с детьми уроки и разговаривать с бабушкой о погоде. Если понадобится, они отнесут квитанции в банк и довезут хозяина до работы.

Каждое из этих действий само по себе не требует особых усилий, но вместе они отнимают массу времени, поэтому бытовые роботы должны быть универсальными.

«Сегодня в лабораториях есть роботы, которые умеют решать несколько задач параллельно, но, во-первых, в каждый момент они заняты только одной из них, а во-вторых, они самостоятельно не могут выбрать, какой из задач отдать предпочтение. Более того, роботы совсем не понимают, чего не нужно делать в конкретной ситуации» , — объясняет старший лектор Школы компьютерных наук в Бирмингеме, специалист в области искусственного интеллекта Ник Хоз .

Чтобы пропылесосить квартиру, роботу нужен один алгоритм, для похода в магазин — другой, и оба они должны быть прописаны в электронных «мозгах». Небольшое изменение параметров, если оно не задано изначально, например продуктовые секции в магазине поменяли местами, делает задачу неосуществимой. Машина выполняет только предустановленные команды и не может «сообразить», что в магазине, по сути, все осталось прежним. «Одно из решений проблемы — создать подобие социальной сети для роботов, куда они будут загружать данные, полученные в новых ситуациях, а остальные роботы смогут их скачать» , — говорит Ник.

Ограниченный ум

Другая черта, которую сценаристы будущего приписывают роботам наряду с универсальностью, — фантастический ум. С тех пор как созданный IBM компьютер Deep Blue обыграл одного из величайших шахматистов планеты Гарри Каспарова, многим кажется, что по части интеллекта машины превзошли людей. Суперкомпьютеры и процессоры в мобильных телефонах, выполняющие тысячи операций в секунду, подкрепляют эту уверенность. Но в действительности людям нечего бояться.

Ум роботов ограничен так называемой проблемой значения. «Это колоссальная проблема робототехники , — говорит Хоз. — Роботы не понимают, что значит «цветок», или «небо», или что угодно. Хуже того, люди и сами не знают, что такое значение — они просто понимают его, и все» . Машина может выучить, что объект на четырех ножках с сиденьем и спинкой — это стул, но смысл понятия «стул» ей недоступен. Поэтому дизайнерский стул без ножек и с раздвоенной спинкой робот вряд ли опознает, притом что у человека никаких проблем с этим не возникнет.

«Люди создают огромные базы, куда записывают все возможные значения слов. Но это лишь частичное решение: если то, о чем вы говорите, есть в базе, робот вас поймет. А если слова там нет? Существует и другой подход, когда роботов обучают значению через опыт. Но опять-таки они выучат только значение тех понятий, с которыми столкнулись лично» , — рассказывает Ник Хоз.

Отсутствие желаний

Пожалуй, больше всего люди боятся, что однажды роботам надоест подчиняться человеку и они захватят мир. Перспектива маловероятна не только потому, что роботы не понимают смысла слов «захватить» и «мир». Намного более веская причина в том, что пока инженерам не удалось наделить роботов сознанием. Это трудноопределимое понятие дает людям свободу выбора и желания, в том числе и мирового господства.

«Пока мы не понимаем, как формируется сознание у людей, а значит, не можем воспроизвести его у роботов. На мой взгляд, дело в том, как именно связаны между собой различные отделы мозга. Если мы когда-нибудь разберемся в этом, то, возможно, сумеем повторить структуру мозга и снабдить роботов сознанием» , — полагает Хоз.

Машины, не понимающие значений слов и не имеющие сознания, не смогут заменить людей там, где нужно действовать не по шаблону, пусть даже и сложному. Например, хотя роботам неведом страх, они не боятся боли, могут существовать без кислорода и воды, выдерживать экстремальные температуры, — из них очень плохие космонавты. «Ту информацию, которую марсоход собирает три месяца, человек получил бы за три часа , — поясняет Ник. — Люди с Земли отсматривают телеметрию и посылают аппарату задание, сколько сантиметров проехать, к какому камню приблизиться, какой инструмент использовать. Человек принял бы все эти решения за доли секунды» . В среднем сигнал идет от Марса до Земли около 15 минут (и столько же обратно), но коммуникация не всегда возможна из-за помех. Поэтому «выхлоп» даже от короткого путешествия человека на Марс оказался бы в сотни раз больше нескольких роботизированных миссий, каждая из которых длилась годы. Рекордсмен среди марсианских долгожителей, ровер «Оппортьюнити», за более чем 10 лет на Красной планете проехал всего 40 километров.

Да, роботы хорошо считают, они сильны, выносливы и работают без перерывов на сон и еду. Но, как это ни парадоксально, из машин не выйдет универсальных помощников до тех пор, пока они не станут более человечными и не обзаведутся сознанием (или, возможно, душой).

Фото: Diomedia (x6), PAL Robotics SL (x2), DARPA

Периодически появляются статьи о том, как скоро роботы заменят людей и оставят их без работы. На фоне этого все чаще публикуются материалы, авторы которых перечисляют профессии, которые «не вымрут», и зовут на курсы составления «правильного резюме». Действительно ли технологии смогли настолько изменить доступность работы для людей?

Ничего нового уже полтора века

Полагаю, что на деле роботизация - просто очередной виток технологической революции. Это исторический процесс, у которого нет начала или конца.

Самый большой страх роботы вызывают у граждан экономически развитых стран: высокий технологический уровень позволяет им максимально автоматизировать производство. Но глобальная статистика показывает, что пока замещения людей не происходит. В противном случае уровень безработицы должен был бы расти, но все ровно наоборот. По данным Международной организации труда, уровень безработицы в экономически развитых странах опустится в 2018 году до небывалых 5,5% впервые с 2007 года (при этом в отчете отмечается, что общий уровень безработицы в мире остается относительно высоким).

В начале XIX века машинист и малочисленная поездная бригада заменили сотни кучеров, работавших в междугородном дилижансе. На первый взгляд - трагедия для кучеров. Но занятость населения в транспортной сфере в те времена была лишь 2%, а на данный момент она выросла до 5%. Так происходит всегда, когда отрасль становится эффективнее, начинает быстрее и качественнее выполнять свое основное предназначение. Повышение качества услуг всегда формирует более высокий спрос, и это в конечном счете лишь увеличивает занятость в этой сфере, а не уменьшает ее.

Роботизацией пугают, как чем-то новым и опасным. Но она началась в 70-х годах прошлого века (если не раньше): первый микропроцессор, первый персональный компьютер, первая сотовая телефонная сеть. Расскажи вы тогда кассиру в банке, что можно подойти к коробке, вставить в нее пластиковую карту и получить наличные деньги, он, скорее всего, тоже подумал бы, что его работе угрожает робот. Но на деле кардинальная перемена произошла с самим кассиром: теперь он занимается сервисом, а вся механическая работа перешла машинам. Возросло ли от этого качество услуг? Безусловно.

Банкомат - это автоматизация механической работы, а вот нейросети - это уже некая интеллектуальная система. Допустим, нейросети, например, смогут полностью автономно составлять акты и платежные документы, на каком-то уровне контролировать финансовые потоки внутри компании. Тогда, по сути, профессия бухгалтера вымрет. Возможно, полностью, а возможно, останется специализация некого ревизора, который будет контролировать роботов.

Но когда одни рабочие места исчезают, на их месте появляются новые. Перетекание занятости из одной сферы в другую за последние 50 лет стало быстрее. И все, что, по сути, сделают нейросети - лишь ускорят этот процесс. Профессия бухгалтера может исчезнуть, но сотрудники клиентской поддержки для условной автоматизированной бухгалтерии с опытом ведения корпоративных финансов будут востребованы еще как минимум 10-15 лет, а затем для них появится какая-то другая работа.

Смена профессии

Роботизация не влечет повышения уровня безработицы. Работа для людей не исчезает, просто она перетекает в сферы, где от человека зависит принятие решений.

Это основной тренд 2018 года. Занятость будет перераспределяться между секторами производства. В частности, сохраняется тенденция перераспределения занятости в сельском хозяйстве в пользу рабочих мест в сфере услуг. Количество мест на производстве медленно падает: человек все меньше нужен там, где требуется механический труд, он либо обучает автоматику, либо контролирует ее.

Робот не заменит человека там, где необходимо выстраивать систему и принимать взвешенные управленческие решения. Процесс построения систем полностью интеллектуален - компьютер не может создать себе подобного. Банкомат может выдать вам денег, но не он решает, сколько: скоринг по социальным сетям и предыдущим тратам проводит искусственный интеллект, но финальное оценочное управленческое решение остается за банковским аналитиком.

Именно поэтому машины никогда полностью не захватят сферу HR, а уж тем более сектор продаж. Всегда остается набор критериев, которые пока не загружены в машину. Большие данные - это система, построенная и собранная человеком, которая ищет взаимосвязи в данных, чтобы человеку было легче дальше ею управлять.

Какая работа точно будет

Происходящее с миром - это просто ускорение транзакций. 200 лет назад письмо по почте шло три недели, а сейчас в мессенджерах можно обменяться информацией за две минуты.

Если нас не ждет массовая безработица, то откуда информационный шум? Вспомните социальные сети: с большей вероятностью будет расшарена статья об изменившемся мире и новой реальности, чем о том, что по сути вокруг нас ничего не изменилось.

Пока мир меняется закономерно. Занятость перетекает из одной сферы в другую, и даже в этих условиях всегда найдется место обычной, не высокоинтеллектуальной работе.

Бизнесы, которые занимаются разработкой беспилотных систем управления, создали сотни тысяч рабочих мест в Индии . Это огромные дата-центры, где сотрудники каждый день помогают обучать системы и получают за это 200$ в день. На монитор выводят изображение с камер тестовых автомобилей, которое сотрудник должен назвать: пожарный гидрант, ребенок, дерево: фактически эти люди принимают решения, занимаются построением автоматизированной системы. Хотя это и не самый интеллектуальный труд.

Даже в век, когда происходят, как нам кажется, турбулентные изменения, безработица не поглотит человечество. Мир действительно развивается, автоматизация приходит на производства. Но человек останется, чтобы обучать или контролировать машину. Действия автоматики, роботов и всевозможных интеллектуальных систем всегда будут нуждаться в нашем одобрении.

Модели андроидов на выставке Tokyo Game Show. 2017 год. Фото: Kim Kyung Hoon/Reuters

Власти Калифорнии подписали закон, который запрещает роботам, ботам и нейросетям притворяться людьми. Он вступит в силу 1 июля 2019 года.

Как пояснил губернатор штата Джерри Браун, прежде всего закон коснется автоматических ботов в соцсетях, которых компании используют в коммерческих целях, например, продавая товары или услуги. Теперь создатели ботов должны настроить их так, чтобы они сразу заявляли о своем искусственном происхождении и не вводили людей в заблуждение. Это также касается голосовых помощников, которые разговаривают по телефону от имени владельца.

О важности такого закона говорит руководитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта Андрей Незнамов:

Андрей Незнамов руководитель Исследовательского центра проблем регулирования робототехники и искусственного интеллекта «Необходимость такая есть. Может быть, США сейчас идут немножко впереди реальной насущной необходимости, но понятно, что мы к этому рано или поздно придем. Когда компания Google анонсировала своего голосового помощника пару месяцев назад, она на демонстрации делала звонок в ресторан, в парикмахерскую. Этот звонок делал голосовой помощник, и никто на той стороне не понял, что с ним разговаривает робот. Поэтому, скорее всего, это был формальный повод, почему такой закон появился. Всех действительно это поразило. Сначала люди порадовались, а потом испугались. Ведь если система на той стороне, например, осуществляет автоматическую обработку информации, то, общаясь с ней, ты доверяешь ей, например, свои персональные данные. Во-вторых, человек может быть введен в заблуждение относительно того, что ему сказал робот или искусственный интеллект и, основываясь на этом, принять какое-то решение или сделать какое-то действие, которое, если бы он знал, что это робот или искусственный интеллект, он делать бы не стал. Например, биржа: возможно, что человек по каким-то причинам не стал бы доверять роботу, а предпочел бы финансовый совет от биржевого человека».

Почему ученые и исследователи ИИ спорят о том, нужны ли нам роботы? Насколько реален сценарий, по которому искусственный интеллект захочет (и сможет) уничтожить человечество? Когда робот займет мое рабочее место?

Приводим отрывок из книги писателя и журналиста The New York Times Джона Маркоффа «Homo Roboticus? Люди и машины в поисках взаимопонимания» , который поможет во всем разобраться.

Конец эры печатников

Поздним весенним вечером в 1992 г. на Центральном вокзале пожилой человек в синей ветровке с надписью New York Times ожидал на платформе поезд в округ Вестчестер. Я работал в Times некоторое время, и меня заинтересовала призрачная фигура. «Вы сотрудник газеты?» - спросил я.

Как оказалось, много лет назад он был наборщиком в Times. В 1973 г. его профсоюз подписал соглашение о постепенном сокращении рабочих мест по мере внедрения компанией компьютеризированных систем печати в обмен на гарантию занятости до выхода на пенсию. Хотя этот человек не работал уже больше десятилетия, он по-прежнему приезжал в типографию на Таймс-сквер и проводил вечера с оставшимися печатниками.

Печатники и полиграфисты были высококвалифицированными работниками, которые особенно пострадали от появления в 1970-е мини-компьютеров и резкого падения их стоимости по мере перехода с транзисторов на интегральные схемы. Сегодня судьба печатника служит ярким примером того, что происходит с живым трудом под влиянием новой волны автоматизации.

Куда пойдет ИИ?

Сегодня в равной мере можно как включить людей в компьютерные системы, так и исключить их. Дальнейшее развитие и искусственного интеллекта, и средств усиления интеллекта заставит робототехников и ученых-компьютерщиков выбирать, как будут выглядеть системы на рабочих местах и в окружающем нас мире. Хотим мы этого или нет, но скоро нам придется сосуществовать с автономными машинами.

Разработчик программного обеспечения и консультант автомобильного проекта Google Брэд Темплтон как-то заметил: «Робот станет действительно автономным, когда вы прикажете ему идти на работу, а он решит отправиться на пляж». Это замечательная фраза, в которой самосознание соединяется с автономностью. Сегодня машины начинают действовать без значимого вмешательства людей или на уровне независимости, которую можно считать автономностью. Это ставит трудные вопросы перед разработчиками интеллектуальных машин. Однако по большей части инженеры игнорируют этические проблемы, возникающие при использовании компьютерных технологий. Лишь изредка сообщество исследователей искусственного интеллекта поддается дурным предчувствиям.

Роботы на войне

На проходившей в Атланте в 2013 г. конференции Humanoids, посвященной разработке и применению антропоморфных роботов, робототехник из Технологического института Джорджии Рональд Аркин обратился к аудитории со страстной речью под названием «Как НЕ создать Терминатора». Он напомнил собравшимся, что к своим трем знаменитым законам Азимов позднее добавил фундаментальный «нулевой» закон робототехники, который гласит: «Робот не может причинить вред человечеству или, бездействуя, допустить, чтобы человечеству был причинен вред».

Обращаясь более чем к 200 робототехникам и специалистам по искусственному интеллекту из университетов и компаний, Аркин призвал более глубоко задуматься о последствиях автоматизации. «Все мы знаем, что соревнования проходят с прицелом на чрезвычайные ситуации под девизом “найти и уничтожить”, - сказал он сардонически, добавив: Простите, я имел в виду девиз “найти и спасти”».

Граница между роботами, действующими как спасатели и как надзиратели, уже сейчас нечеткая, если вообще существует. Аркин показал отрывки из научно-фантастических фильмов, включая «Терминатор» 1984 г. Джеймса Кэмерона. В каждом из них фигурировали злобные роботы, выполнявшие задачи, которые DARPA ставило в своих соревнованиях: расчистка завалов, вскрытие дверей, проламывание стен, подъем по лестницам и вождение автомобилей. Разработчики могут использовать эти возможности как конструктивно, так и деструктивно в зависимости от своих намерений. Аудитория нервно смеялась, но Аркин не давал ей расслабиться. «Я шучу, - сказал он, - но мне хочется показать, что технологии, которые вы разрабатываете, могут использоваться в таких целях, о которых вы даже не задумывались».

В сфере вооружений потенциал неожиданных последствий долгое время был особенностью так называемых технологий двойного назначения, например ядерной энергии, которая может использоваться и как источник электричества, и как оружие. Теперь это все более справедливо для робототехники и .

Это технологии двойного назначения не только с точки зрения возможности использования в качестве оружия, но и с точки зрения их потенциала расширять возможности людей или заменять их.

Сегодня мы все еще «в контуре управления» - машины, заменяющие людей или расширяющие их возможности, разрабатываются людьми, которые не могут сбросить с себя ответственность за последствия своих изобретений. «Если вы хотите создать Терминатора, то продолжайте делать свое дело не задумываясь и вы получите именно такое устройство, - сказал Аркин. - Но миру вокруг нас не все равно, какие будут последствия у того, что мы создаем».

Вопросы и проблемы автоматизации вышли за пределы технического сообщества. В оставшемся незамеченным открытом отчете Пентагона «Роль автономности в оборонных системах» авторы обратили внимание на этические проблемы автоматизации боевых систем. Военные уже напрямую сталкиваются с противоречиями, связанными с автономными системами вроде дронов и приближением к грани, за которой вопросы жизни и смерти уже будут решать не люди. В одном из своих выступлений Аркин утверждал, что, в отличие от людей, автономные боевые роботы не будут чувствовать угрозы личной безопасности, а это потенциально может уменьшить сопутствующий ущерб и избежать военных преступлений.

Аркин, кроме того, сформулировал новый набор этических вопросов. Что, если у нас будут роботы, обладающие моралью, а у противника - нет? На этот вопрос нет простого ответа. Действительно, технологии все более интеллектуального и автоматизированного оружия спровоцировали новую гонку вооружений. Добавление недорогого интеллекта к системам вооружений угрожает изменить баланс сил между странами.

Когда Аркин завершил выступление в величественном здании Медицинской академии в Атланте, одним из первых ему ответил директор DARPA Robotics Challenge Гилл Пратт. Он не стал опровергать точку зрения Аркина, а подтвердил, что роботы - технология двойного назначения: «Очень легко критиковать роботов, которых финансирует Министерство обороны, - сказал он. - Очень легко нарисовать робота, который похож на Терминатора, но, поскольку все вокруг нас имеет двойное назначение, это ничего не меняет. Если вы создаете робота для здравоохранения, то вам придется сделать его более автономным, чем робота-спасателя для работы в чрезвычайных ситуациях».

Передовые технологии всегда вызывали вопросы относительно двойного назначения. В наши дни искусственный интеллект и автономность машин привели к переосмыслению этой проблемы. До сих пор технологии двойного назначения прямо требовали от людей принятия этических решений относительно их использования. Автономность машин или отдаляет принятие этических решений человеком, или полностью исключает его.

Автономны ли современные роботы?

У нас уже есть примеры, когда ученые и инженеры в других областях задумывались о потенциальных последствиях того, что они делают, и многие из них вставали на защиту человечества. В феврале 1975 г., например, нобелевский лауреат Пол Берг призвал элиту новой тогда биотехнологии встретиться в конференц-центре Асиломар в Пасифик-Гроув, Калифорния. В то время рекомбинантная ДНК, полученная добавлением новых генов в ДНК живых организмов, была последним достижением. Оно одновременно сулило глобальный прогресс в , и новых материалах и открывало страшную возможность ненамеренного уничтожения человечества в результате появления новых микроорганизмов. Встреча ученых привела к экстраординарному решению.

Группа рекомендовала молекулярным биологам воздерживаться от определенных видов исследований и приостанавливать исследования для поиска путей обеспечения безопасности. Для мониторинга отрасли биотехнологи создали независимый комитет в Национальном институте здравоохранения. За десятилетие удалось собрать достаточно данных, чтобы снять ограничения на исследования. Это был яркий пример разумного подхода общества к оценке последствий научного прогресса.

По примеру биологов в феврале 2009 г. группа исследователей искусственного интеллекта и робототехников также встретилась в Асиломаре, чтобы обсудить развитие отрасли. Встречу созвал исследователь из Microsoft Эрик Хорвиц, президент Ассоциации развития искусственного интеллекта. В предыдущие пять лет предметом обсуждения у исследователей в этой области были два тревожных сигнала. Один поступил от , объявившего об относительно скором появлении компьютерного сверхинтеллекта. Основатель Sun Microsystems Билл Джой также рисовал мрачную картину развития искусственного интеллекта. Он опубликовал статью в журнале Wired, где детально описывал трио технологических угроз: робототехнику, генную инженерию и нанотехнологию. Джой полагал, что эти области исследований создают тройную угрозу выживанию человечества, и не видел очевидного решения.

Встретившиеся в Асиломаре исследователи искусственного интеллекта предпочли действовать менее осторожно, чем их предшественники биотехнологи. Группа светил в области компьютерной науки и робототехники, включая Себастьяна Труна, Эндрю Ына, Мануэлу Велосо и Орена Этциони, нынешнего директора Института исследований искусственного интеллекта Пола Аллена, в целом отвергла возможность появления сверхинтеллекта, который превзойдет людей, а также предположение, что искусственный интеллект может спонтанно возникнуть в интернете. Они согласились, что уже разрабатываются способные убивать автономные роботы, но их отчет, появившийся к концу 2009 г., оказался довольно спокойным. Искусственный интеллект еще не достиг того момента, когда он превращается в непосредственную угрозу.

«На встрече 1975 г. речь шла о моратории на исследования рекомбинантной ДНК. Контекст совещания американской Ассоциации развития искусственного интеллекта был совершенно иным. Эта область демонстрирует довольно успешное, устойчивое развитие, однако исследователи искусственного интеллекта открыто выражают разочарование прогрессом, недостаточно быстрым с учетом существующих надежд и ожиданий», - написали авторы итогового отчета о встрече.

Так или иначе пять лет спустя вопрос автономности машин возник снова. В 2013 г., когда Google приобрела специализировавшуюся на британскую фирму DeepMind, считалось, что робототехники очень близки к созданию полностью автономных роботов. Крошечный стартап продемонстрировал программу, которая играла в видеоигры порою лучше людей. Отчеты о приобретении сопровождались заявлением, что Google создает «совет по этике» из-за опасений по поводу потенциального использования технологии и возможных злоупотреблений.

Один из соучредителей - Шейн Легг - признал, что технология в конечном итоге может иметь негативные последствия для человечества. «Думаю, что человечество исчезнет, и технология, скорее всего, сыграет в этом определенную роль». Для исследователя искусственного интеллекта, который только что получил сотни миллионов долларов, это была странная позиция. Если кто-то полагает, что технология может уничтожить человечество, то с какой целью он продолжает разрабатывать ее?

В конце 2014 г. встреча по искусственному интеллекту повторилась - новая группа исследователей, финансируемая одним из основателей Skype, собралась в Пуэрто-Рико, чтобы обсудить безопасность исследований. Несмотря на новую волну тревожных сигналов от таких светил, как Илон Маск и Стивен Хокинг, в открытом письме участников не было того призыва к действию, который прозвучал на встрече биотехнологов в Асиломаре в 1975 г.

Учитывая, что DeepMind была куплена Google, публичное философствование Легга приобретает особое значение. Сегодня Google - самый яркий пример потенциальных последствий развития ИИ и усиления интеллекта. Построенная на алгоритме, эффективно собирающем знания, а затем возвращающем их людям в процессе поиска информации, Google теперь занята созданием империи роботов. Компания может создать машины, которые заменят людей: водителей, работников служб доставки и сборщиков электроники. Пока неясно, останется ли она компанией «усиления интеллекта» или будет ориентироваться на ИИ.

И снова этические вопросы

Новую волну беспокойства по поводу потенциальной угрозы со стороны искусственного интеллекта и робототехники рождают этические проблемы, показанные в научно-фантастическом фильме «Бегущий по лезвию». В начале фильма детектив Декард встречается с Рэйчел, сотрудницей компании, производящей роботов (или репликантов), и спрашивает ее, дорого ли стоит «ночная бабочка». Она высказывает предположение, что он не понимает ценности работы компании. «Репликанты подобны любой другой машине, - отвечает Декард. - Они или благо, или опасность. Если они благо, это не моя забота».

Сколько пройдет времени, прежде чем интеллектуальные машины Google, основанные на технологиях от DeepMind и робототехнического подразделения Google, будут вызывать такие же вопросы? Мало какие фильмы оказали такой же культурный эффект, как «Бегущий по лезвию». Всего вышло семь его версий, одна из которых режиссерская, сейчас снимается сиквел. В нем рассказывается история отставного детектива из Лос-Анджелеса, которого в 2019 г. вызвали, чтобы выследить и уничтожить группу искусственно созданных существ, известных как репликанты. Репликанты предназначались для работы за пределами планеты, но незаконно вернулись на Землю, чтобы заставить своего создателя увеличить ограниченную продолжительность их жизни. Ставший современным «Волшебником Страны Оз», этот фильм отражает надежды и страхи технологически грамотного поколения.

От Железного Дровосека, который получает сердце и, таким образом, в определенной мере становится человеком, до репликантов, настолько превосходящих людей, что Декард получает приказ уничтожить их, отношение человечества к роботам превращается в определяющий вопрос эпохи.

Эти «интеллектуальные» машины никогда, возможно, не станут интеллектуальными в человеческом смысле или обладающими самосознанием. Дело не в этом. Искусственный интеллект быстро совершенствуется и приближается к уровню, когда он все в большей степени будет казаться интеллектом.

Вышедший в декабре 2013 г. фильм «Она» нашел широкий отклик в обществе, скорее всего, потому, что миллионы людей уже взаимодействуют с персональными помощниками, такими как Siri компании Apple. Взаимодействие, подобное показанному в фильме, стало обычным. По мере того как компьютеры уменьшаются в размерах и встраиваются в предметы повседневного пользования, мы ожидаем, что взаимодействие с ними будет разумным. Работая над Siri, пока проект был еще скрыт от общественного внимания, Том Грубер называл систему «интеллект в интерфейсе». Ему казалось, что он сумел соединить конкурирующие миры искусственного интеллекта и усиления интеллекта.

И в самом деле, появление программных интеллектуальных помощников вроде бы намекает на сближение таких несовместимых сообществ, как разработчики систем человекомашинного взаимодействия и исследователи искусственного интеллекта. Стоявший у истоков индустрии современных персональных компьютеров Алан Кей сказал, что, занимаясь компьютерными интерфейсами, он работал на будущее, которое наступит через 10–15 лет. Николас Негропонте, один из первых исследователей встроенных медиа, и речевых интерфейсов, работал на 25–30-летнюю перспективу. Как и Негропонте, Кей утверждает, что лучшие компьютерные интерфейсы - те, которые больше похожи на театр, а лучший театр настолько вовлекает публику в свой мир, что люди ощущают себя его частью. Этот подход напрямую ведет к интерактивным системам, которые будут функционировать скорее как интеллектуальные «коллеги», а не как компьютеризированные инструменты.

Как эти компьютерные аватары преобразуют общество? Люди уже сейчас тратят существенную часть времени бодрствования на взаимодействие через компьютеры друг с другом или с подобными человеку машинами в видеоиграх или в виртуальных системах от FAQbots до Siri. Мы используем поисковые системы даже в каждодневных разговорах друг с другом.

Машины уже выстраивают нашу повседневность

Станут ли эти интеллектуальные аватары нашими слугами, помощниками и коллегами или одновременно одним, другим и третьим? Или нас ждет более мрачный сценарий, при котором они превратятся в наших хозяев? Подход к роботам и искусственному интеллекту с точки зрения социальных взаимоотношений может в первый момент показаться абсурдным. Тем не менее, с учетом нашей склонности к очеловечиванию машин, мы наверняка будем вступать с ними в социальные отношения по мере повышения их автономности.

Это подводит нас к еще одной большой проблеме: риску уступить контроль над принятием повседневных решений все более сложным алгоритмам. Не так давно ветеран венчурного бизнеса Кремниевой долины Рэнди Комисар был на конференции и слушал выступление, описывавшее конкурента Siri - сервис Google Now. «Похоже, людям до смерти хочется, чтобы какой-то интеллект подсказывал им, что надо делать, - сказал он. - Что они должны есть, с кем должны встречаться, на какие вечеринки должны ходить».

На его взгляд, для сегодняшнего молодого поколения мир перевернулся вверх ногами. Вместо того чтобы использовать компьютеры для получения свободы и возможности мыслить масштабно, для установления близких отношений, для реализации своей индивидуальности и творческого потенциала, молодые люди настолько жаждут указаний, что готовы передать эту ответственность искусственному интеллекту в облаке.

Противоречие, присущее идеологиям искусственного интеллекта и усиления интеллекта, впервые поразило меня, когда я понял, что Энгельбарт и Маккарти занимались созданием компьютерных технологий с совершенно разными целями. В их подходах была и двойственность, и парадоксальность. И это понятно - если вы расширяете возможности человека с помощью компьютерной технологии, то неизбежно вытесняете людей. В то же время выбор той или иной стороны в споре - это вопрос этики, хотя его и нельзя рассматривать как выбор между черным и белым.

Конечно, у этих технологий есть пределы. Американский исследователь ИИ Терри Виноград говорит, что цели применения компьютерных технологий - расширение возможностей людей или их замена - зависят в большей мере от характера экономической системы, а не от свойств самих технологий. В капиталистической экономике, если технологии искусственного интеллекта смогут заменять белые воротнички и работников интеллектуального труда, то они неизбежно будут использоваться именно таким образом. Именно в этом состоит урок для так по-разному подходящих к системам будущего исследователей искусственного интеллекта, робототехников и программистов. Понятно, что предупреждение Билла Джоя («будущее не нуждается в нас») - это только один из возможных исходов. Не менее очевидно, что преобразованный этими технологиями мир не должен обернуться катастрофой.

На то, что началось для меня как парадокс, есть простой ответ. Устранение противоречия между искусственным интеллектом и усилением интеллекта зависит от решений людей - инженеров и ученых, которые осознанно выбрали антропоцентрический подход.

Это проблема нас как людей и мира, который мы создаем. Это не проблема машин.