Правительство Франции выделит 1,5 млрд евро на исследования искусственного интеллекта; NASA вложилось в роботов для освоения космоса; в Realbotix создали секс-робота Генри для женщин. Таковы новости начала апреля, и чем дальше, тем их больше. Тотальную роботизацию уже называют «электричеством XXI века» в смысле масштаба предстоящих изменений в жизненном укладе человека.
При этом если роботы с середины XX века развивались поступательно, то с созданием искусственного интеллекта (ИИ) долгое время не было ясности. В широком смысле под это понятие подпадает любое устройство, выполняющее расчеты быстрее человека. Но ни простые калькуляторы, ни сложные компьютеры, вроде шахматного DeepBlue, обыгравшего в 1997 году Гарри Каспарова, не ознаменовали наступление «эры искусственного интеллекта». Это происходит лишь сегодня: благодаря последним теоретическим прорывам появились возможности для внедрения интеллектуальных систем распознавания, прогнозирования и управления в разные сферы экономики. ИИ плотно вошел в нашу жизнь и при этом оказался совсем не похож на человекоподобных «терминаторов», которых представляли себе фантасты. Задача полного воссоздания человеческого разума не заброшена исследователями, но отложена на будущее.
Впрочем, в массовом сознании распространение ИИ все равно связано со всевозможными угрозами – от массовой безработицы до интеллектуального превосходства, которое компьютеры в итоге получат над людьми. Но главный враг человека не машины, а сам человек, считают опрошенные «Профилем» специалисты. А новые технологии всегда можно обратить на благо цивилизации, если вовремя отрегулировать их применение.
Андроиды среди нас
Вспомним миф о Пигмалионе и Галатее: идея искусственных созданий, подобных человеку, звучала заманчиво еще в древности. Леонардо да Винчи довел подобные замыслы до чертежей: его механический рыцарь должен был раздвигать руки, открывать забрало, двигать головой. В следующие века в Европе были популярны автоматоны – заводные куклы, удивлявшие современников игрой на музыкальных инструментах. Настоящие роботы появились только в XX веке, когда открытие радиоволн породило машины на дистанционном управлении, а электричество решило вопрос с их автономным питанием.
Само понятие «робот» ввел в 1921 году писатель Карел Чапек в пьесе «Р.У.Р.» («Россумские Универсальные Роботы»). С середины века роботы внедряются в производство: «пионером» стал Unimate, представленный General Motors в 1961 году. Массовое внедрение стало рентабельным в 1980-х годах, когда появились дешевые и компактные микросхемы.
Прогресс в робототехнике не останавливается по сей день: роботы становятся все «человечнее», копируя наши жесты, мимику и пластику (французский ROSAL, китайский Jia Jia, японские Kodomoroid, Telenoid). Особенно созданием гуманоидов увлеклись японцы – в прошлом году они представили Kenshiro и Kengoro, имитирующих своей конструкцией анатомию человека и умеющих отжиматься и приседать. Самым известным гуманоидом считается произведенная в Hanson Robotics София – осенью 2017 года она получила подданство Саудовской Аравии, став первым роботом-гражданином.
Улучшаются и кинетические свойства роботов. Несколько лет назад они с трудом держали равновесие при ходьбе, но теперь стали гораздо ловчее. Особенно преуспели детища Boston Dynamics: Cheetah бежит стометровку быстрее Усейна Болта, Atlas делает сальто назад, а собакообразный SpotMini открывает двери, отгоняя мешающего ему человека.
Роботы используются везде: начиная с простейших автоматических пылесосов и заканчивая роботами-полицейскими (первый из них, Robocop, год назад заступил на боевое дежурство в Дубае) и даже священниками (гуманоид Pepper отправляет буддийские обряды в храмах Японии). В прошлом году нашумел «стахановский» рекорд британских роботов, сумевших самостоятельно засеять гектар ячменя и собрать с него урожай.
Роботизация промышленности – состоявшийся факт, признают эксперты. Истории вроде увольнения 60 тысяч сотрудников с замещением их 40 тысячами роботов, как это произошло на тайваньском заводе электроники Foxconn, стали обыденностью. На ряде производств в автомобилестроении и обработке металлов «норма замещения» составляет до 90% штата, причем ради этого западные корпорации возвращают заводы из Азии на историческую родину, откуда они в свое время ушли в поисках дешевой рабочей силы.
По данным Международной федерации робототехники, в текущем десятилетии мировой сбыт промышленных роботов растет на 12% ежегодно, достигнув в 2016 году 294 тыс. экземпляров (191 тыс. продана в Азии, 56 тыс. – в Европе, 41 тыс. – в обеих Америках). В 2020 году своих хозяев найдет 521 тыс. роботов, а общее их число в индустрии превысит 3 млн. В денежном исчислении рынок механической рабсилы растет на 5% в год и достигнет $41 млрд в 2020 году, прогнозирует Allied Market Research.
Следующий рывок обеспечит распространение сервисных роботов, напрямую контактирующих с людьми. В 2016 году их продажи составили $5 млрд, к 2024 году рынок вырастет до $60 млрд (прогноз Renub Research).
Железный нечеловек
Построение роботов как механических машин, выполняющих заданные команды, – это еще полдела. Более многообещающей выглядит идея добавить к «харду» «софт», наделив роботов собственным мозгом – искусственным интеллектом. Это задача уже не для инженеров, а для математиков и нейрофизиологов. Их изыскания начались в середине XX века с образованием кибернетики – смежной дисциплины, пытавшейся описать работу мозга в математических формулах. Работы «Логическое исчисление идей, имманентных в нервной деятельности» (1943 год) и «Конструкция мозга» (1952 год), статья Алана Тьюринга «Может ли машина мыслить?» (1950 год) послужили теоретическим фундаментом ИИ, а простейшие ЭВМ обеспечили технологическую платформу для разработок.
Ученые предрекали, что через 10–20 лет компьютер сможет заменить человека на любой работе. Но к 1970–1980‑м годам стала очевидна утопичность таких прогнозов. Крупные заказчики вроде Американского агентства по оборонным исследованиям заморозили финансирование проектов, и «золотые годы» ИИ сменились «холодной зимой». Дошло до того, что понятие «искусственный интеллект» (artificial intelligence) стало восприниматься в ироническом ключе и ученые заменяли его другими (computational intelligence, machine intelligence).
В последние 10–15 лет исследования «оживают». Для этого потребовался пересмотр всей концепции: если раньше пытались создать универсальный ИИ, аналогичный человеческому мозгу («сильный ИИ»/human-like intelligence), то теперь задача ограничена прикладными ИИ, заточенными под конкретные задачи («слабый ИИ»/intelligent systems).
«Раньше мы планировали, что робот – это такой же человек, только железный, крупная многофункциональная машина, – объясняет футуролог, амбассадор Singularity University Евгений Кузнецов. – Сейчас очевидно, что робот – это специальный алгоритм, и достаточно создать множество таких алгоритмов, которые в сумме окажутся лучше людей в решении определенной задачи. Распределенная среда обладает большими возможностями».
Кроме того, человек отказался от идеи запрограммировать искусственный интеллект раз и навсегда. Выяснилось, что, какой бы сложной ни была программа, она может охватить логичный, ограниченный правилами мир (например, игру в шахматы), но постигнуть беспорядочную реальность ей не под силу. Новый подход состоит в том, чтобы прописать общий алгоритм, но при этом сориентировать ИИ на самостоятельный поиск правильного ответа через фильтрацию ошибок (метод «обратного распространения ошибки»). Иными словами, компьютер учится учиться, подражая основному свойству естественного интеллекта – адаптивности к среде.
Эта методика – статистическое машинное обучение – ненова, но лишь в последние годы она заработала на новом материале. В XX веке было два главных подхода к ИИ. Сторонники символьного подхода пытались воспроизвести процесс логических выводов в человеческом мозгу, моделируя ИИ «сверху вниз» (Top-Down AI), а сторонники нейросетевого подхода возводили «здание» мозга «снизу вверх» (Bottom-Up AI) из «кирпичиков»-нейронов и образуемых ими сетей, где посредством химических сигналов транслируется информация. Сегодня окончательно победил нейросетевой подход, и одновременно видоизменились сами сети. С начала 2010‑х годов их создают многослойными: проводя информацию от слоя к слою, сеть уточняет данные, за счет чего снижается процент ошибок («глубокое обучение»). «Изначально разработка ИИ была отдельной областью, не связанной с методами статистического обучения и выявления закономерностей в данных. Только в последние несколько лет эти ветви сошлись, и сейчас ИИ понимается прежде всего как машинное обучение», – отмечает исследователь лаборатории нейронных систем и глубокого обучения МФТИ Валентин Малых.
Концептуальный сдвиг стал возможен благодаря техническому прогрессу. Построение нейронных сетей подразумевает работу с терабайтами информации – в XX веке такие мощности были недоступны, а сегодня с ними справляются обычные игровые видеокарты, установленные на домашний компьютер. А появление BigData обеспечило объемы данных, на которых сети можно обучать. В результате собрать данные и провести статистический анализ стало дешевле, чем программировать ИИ на основе сложных математических моделей.
Код ученый
Где сейчас пролегает «передний край» искусственного интеллекта, определить непросто: поскольку он создается под конкретные задачи, сформировалось множество исследовательских направлений, и в каждом есть свои достижения. В самом общем виде можно выделить три направления.
Первое связано с компьютерным зрением (слухом): сверточные нейросети учатся сравнивать заданное изображение (звук) с заранее показанной (прослушанной) выборкой и классифицировать его. Благодаря этому можно, например, распознать человека в поле зрения камер видеонаблюдения, определить его пол, возраст и даже эмоции. Точность работы растет: в 2011 году доля правильных ответов составляла 75%, в 2012‑м – 88%, а в 2015‑м достигла 96,5%, что превысило результаты человека в аналогичном задании. В 2017 году лаборатория DeepMind научила нейросеть соотносить звуки и изображения уже без помощи обучающей выборки.
Результатом этого стала революция в интерфейсе: теперь компьютеры «видят» и «слышат» людей, с ними больше не требуется общаться на языке кнопок и переключателей. Практических применений такому виду ИИ найдено множество, начиная от шуточных, вроде российского приложения Prisma, «переписывающего» фотографию человека в стиле известных художников, и заканчивая решениями для бизнеса – рекламной индустрии и медиа (таргетированная реклама, рекомендации для новостных лент), медицины (ИИ дает фору «живым» врачам в точности постановки диагнозов на основе МРТ-снимков и кардиограмм), автоматизированных устройств для домашнего и общественного пользования («умный дом», «умный город»). «Слово «умный» следует читать как «безопасный и энергоэффективный», – комментирует IT-эксперт, сооснователь мобильной платформы Mobifitness Владимир Старков. – Управляя окружающей средой на основании показаний датчиков, устройства выключают за вами свет, регулируют отопление. Получается хорошая экономия».
Сверточные нейросети способны и на большее. Уже сейчас генеративным соревновательным сетям удается, проанализировав выборку изображений, выдать совершенно новый образ. То есть, ИИ стал полноценным «художником», что пригодится для 3D-реконструкции в строительстве, в графике для кино. То же со звуком: сеть способна имитировать речь человека или писать музыку, подражая услышанным фрагментам.
Второе направление исследований связано с рекуррентными нейросетями, заточенными на предсказание последовательностей. То есть на моделирование языка: поскольку ИИ-собеседник (бот) не обучался грамматике и лексике, он генерирует ответ на основе записанных в память фраз, «предсказывая» каждый следующий символ. В последние пару лет такие сети массово внедряются в поисковиках и онлайн-переводчиках, предлагая пользователю то или иное продолжение фразы. Голосовые помощники в смартфонах (Сири от Apple, Кортана от Microsoft, Алиса от «Яндекса» и другие) также придумывают свои реплики по этой технологии.
Это только начало пути: рекуррентные сети заменят колл-центры и службы поддержки, банковские боты будут выдавать клиентам кредиты, ритейлеры заменят ручной поиск по веб-каталогу общением покупателя с виртуальным продавцом. Наконец уйдут в прошлое и языковые барьеры: ИИ обеспечит собеседникам из разных стран синхронный перевод речи. «В марте Microsoft выпустил алгоритм по переводу новостей с китайского на английский с качеством профессионального переводчика. Это большое достижение, – комментирует Валентин Малых. – Следующим прорывом станет доведение голосовых помощников до такого уровня, чтобы с ними можно было осмысленно разговаривать».
Третье направление – обучение с подкреплением. Нейросеть получает некую задачу и может решать ее как угодно: заданных правил нет, но за удачные решения сеть получает виртуальные награды (подкрепление) и на этой основе формирует эффективную стратегию. Так учится сам человек, набивая шишки и делая выводы.
Подобные алгоритмы преуспели в различных играх. В 2016 году DeepMind научила свою сеть побеждать в играх семейства Atari, с ходу осваивая любую из них, а затем созданный там же интеллект AlphaGo обыграл сильнейшего игрока в го – Ли Седоля. Эта игра долго не давалась компьютерам: если в шахматах число возможных сценариев не превышает нескольких десятков, то в го оно насчитывает сотни, и математически рассчитать их невозможно. Считалось, что в этой ситуации не обойтись без человеческой интуиции, однако AlphaGo рассудил иначе: благодаря бонусам-подкреплениям он научился оценивать степень выигрышности хода в текущий момент времени (без дальнейшего «проигрывания» ходов) и дальше просто действовал благоприятным для себя образом. После AlphaGo появились новые версии алгоритма – AlphaGoZero и AlphaZero, которые научились играть еще лучше, при этом вообще не пользуясь человеческим обучением, а лишь сражаясь друг с другом.
Но даже это меркнет перед достижениями ИИ в покере, игре с неполной информацией, где соперникам приходится не только рассчитывать варианты, но и следить за поведением друг друга. В 2015 году интеллект Claudico, созданный в университете Карнеги-Меллон (Пенсильвания), безнадежно проигрывал людям, не умея блефовать. Но в декабре 2017-го разработчики взяли реванш: новый алгоритм Libratus разгромил нескольких профессиональных игроков и забрал призовой фонд матча в $1,8 млн.
Обучение с подкреплением также только набирает ход. Например, в прошлом году «подкрепляемый» ИИ научился ориентироваться в виртуальном 3D-пространстве, обходя препятствия и перепрыгивая рвы (проекты DeepMind и DeepLoco). В таких экспериментах обкатываются задачи управления, позже они лягут в основу автопилотов для наземного транспорта. По словам Евгения Кузнецова, сроки внедрения беспилотников зависят в первую очередь от успешности обучения алгоритмов. «К примеру, Ford научил свой ИИ ездить в компьютерных гонках, но на реальной трассе «ученик» испытывал проблемы: нечеткая видимость, стертая разметка, нарушающие правила пешеходы. А российская компания Cognitive Technologies учит свой алгоритм сразу в полевых условиях, по картинке видеорегистратора, и добивается лучших результатов. Выработка оригинальных подходов к обучению – вот что сегодня важно», – резюмирует он. «В беспилотном автомобиле соединятся все наработки по ИИ: и распознавание картинки, и прогнозирование, и принятие решений. Можно просто следить, что происходит в этой сфере. Если беспилотники массово выходят на улицы городов, значит, искусственный интеллект завоевал мир», – добавляет Владимир Старков.
Они уже здесь
Впрочем, это завоевание идет уже сегодня. «Нейронные сети следуют за нами повсюду, от них никуда не деться. Если два года назад все говорили, что скоро такой момент наступит, то сейчас остается констатировать: это случилось», – утверждает глава направления «Большие данные и машинное обучение» компании «Инфосистемы Джет» Евгений Колесников. По оценкам Frost&Sullivan, в 2019 году мировой рынок ИИ составит $15,3 млрд, в 2024‑м – $41,1 млрд, среднегодовой рост превысит 20%. Главными специализациями алгоритмов станут распознавание и классификация изображений ($8,1 млрд совокупного дохода разработчиков в 2016–2025 годах, по данным Tractica), оптимизация маркетинговых стратегий ($7,5 млрд), обработка массивов данных ($7,4 млрд) и прогностическое управление ($4,7 млрд).
Кто возглавляет гонку? Университеты: Массачусетский технологический институт, Стэнфордский университет, Калифорнийский университет в Беркли, лондонский Data Science Institute, Национальный вычислительный центр в Эдинбурге. Корпорации: Google, купивший в 2014 году DeepMind за $500 млн; Facebook, создавший собственную лабораторию FAIR; IBM, построивший суперкомпьютер с ИИ Watson; китайские Tencent и Alibaba, инвестирующие в разработку автопилота. А также сотни небольших игроков, сосредоточившихся на отдельных областях: машинном обучении (Gridspace, Sentient, Skytree, GraphLab), компьютерном зрении (Cortica, Clarifai, Emotient, Imagga), распознавании речи (VoiceBase, Verbia, InBenta, Synapsify), виртуальных личных помощниках (Vlingo, Sherpa, Ejenta, Dezide) и так далее.
Причем корпорации не стремятся подавить конкурентов: Google и Facebook открыли свободный доступ к своим платформами для построения нейросетей – TensorFlow и PyTorch. «Пока капиталоемкость исследований небольшая, за счет удачной идеи даже маленькая лаборатория может обогнать гиганта, – говорит Евгений Кузнецов. – Сегодня рынок ИИ – это Эльдорадо, где можно найти самородок. Но золотое время продлится 5-10 лет. Затем корпорации утрамбуют поляну, и с нуля уже не стартуешь».
Какое место в этой гонке занимает Россия? Искусственный интеллект значится одним из направлений Национальной технологической инициативы – программы поддержки инноваций до 2035 года. Главным центром компетенций в области ИИ объявлен МФТИ, создающий универсального голосового помощника (проект iPavlov). Свои разработки есть у МИФИ (проект «эмоционального» ИИ – Virtual Actor), Курчатовского института, Сколтеха, Университета Иннополис.
По словам экспертов, Россию в целом можно включить в топ‑10 стран по уровню интереса к ИИ, но до лидеров – США, Китая, Франции – нам далеко. Валентин Малых сетует на отставание российских ученых по числу научных публикаций. Евгений Колесников отмечает, что в стране появляются компании, работающие с ИИ-продуктами, но «ледоколов», которые вели бы исследования на мировом уровне, пока не видно. Евгений Кузнецов, напротив, видит проблему на этапе внедрения идей в бизнес: «У нас выдающиеся разработчики, но скоро российский гандикап будет съеден, если не наладим создание бизнесов на основе ИИ».
Подражание природе
При этом сегодняшний уровень ИИ – лишь намек на то, что может быть завтра. Проект создания «сильного» ИИ по-прежнему актуален. Сегодня он чаще понимается как задача для фундаментальной науки: мол, только через построение искусственного мозга человек разберется, как устроено его собственное серое вещество, что послужит подспорьем в лечении болезней. В 2017 году в Цюрихе был основан фонд Mindfire, в рамках которого ученые из разных стран договорились делиться исследованиями по «расшифровке ума». Еще раньше при швейцарском Институте мозга запустили проект Blue Brain под управлением Генри Маркрама, моделирующего мозг на суперкомпьютере IBM Blue Gene/Q.
Пока ученый далек от цели. Создать исчерпывающую модель мозга, обучив ее «нормальному» поведению в реальной среде – тому, что даже простейшие организмы делают инстинктивно, – оказалось сложнее, чем ставить рекорды в игре го. Браться за человека пока рано, считает Маркрам: сейчас в Blue Brain моделируют отдельные участки мышиного мозга. Но даже эта задача требует предельных мощностей, существующих на сегодняшний день, – 20 петафлопс (1015 операций в секунду). Для человека же потребуются мощности, исчисляемые йотафлопсами (1024) – их смогут обеспечить квантовые компьютеры, пока лишь находящиеся в разработке.
Также остается нерешенным вопрос с емкими источниками питания: если бы «человеко-компьютер» появился, для его работы потребовалась бы целая электростанция. По этой же причине сдерживается внедрение ИИ в роботов (когнитивная робототехника): машине с развитым интеллектом понадобится колоссальная производительность, а следовательно, гигантские отсеки для батарей (в фильмах вопрос решается проще: например, жизнедеятельность Железного человека обеспечивает портативный атомный реактор). Энергоэффективность человеческого мозга, который можно «зарядить» шоколадным батончиком, пока совершенно недосягаема.
Но проблемы решаемы, уверены эксперты. «Мы уже поднимаемся по этой лестнице: источники энергии становятся емче, интеллект – сильнее, вычислительные мощности – эффективнее. В будущем эти процессы синхронизируются, – говорит Валентин Малых. – Если природа, имея такой несовершенный материал, как биологические клетки, смогла создать человеческий мозг, почему мы не сможем повторить это с транзисторами? При этом эволюция пробует случайные пути, основываясь не на конкретной цели, а на том, что у нее лучше получается, поэтому процесс идет медленно. Мы же, действуя сознательно, сможем его ускорить». Евгений Кузнецов отводит на создание искусственного мозга 20–30 лет: «Сначала будут ИИ, сравнимые с червями, потом – с млекопитающими, потом – с людьми. Многообразие интеллектов с разными возможностями под разные задачи будет не меньше, чем живых существ на Земле».
По мнению же самого оптимистичного футуролога, технического директора Google Рэя Курцвейла, искусственный интеллект достигнет уровня человеческого, пройдя так называемый «тест Тьюринга» на разумность поведения, еще быстрее – к 2030 году. Тогда же люди обзаведутся персональными помощниками-роботами.
Работа не волк
Но уже сегодня многие относятся к новостям об искусственном интеллекте с опаской. Чаще всего звучит тревога по поводу массовой безработицы. По общему мнению, первыми на улице окажутся шоферы. Тот же Курцвейл убежден, что к 2024 году автомобили станут частично беспилотными, а в 2033‑м полностью лишатся человеческого управления. Трудно представить, к каким социальным последствиям это приведет: если 5 млн американских дальнобойщиков вдруг лишатся средств к существованию, то протесты таксистов против внедрения Uber покажутся невинной забавой. И на водителях дело не закончится: по оценкам McKinsey Global Institute, в гостиничном и ресторанном бизнесе потенциал автоматизации составляет 75% сотрудников, в добыче ископаемых – 63%, в медиабизнесе – 51%, в строительстве – 49%.
Тяжелую физическую работу машины забрали у человека еще в XX веке, а сегодня очередь дошла до среднеквалифицированного труда, отмечают эксперты. Как подсчитали в Оксфордском университете, останутся лишь 109 профессиональных задач, у которых вероятность компьютеризации минимальна: уход за людьми, подписание контрактов, изящные искусства, ручная работа и тому подобные. Правда, появятся и новые специальности, уверены авторы доклада Microsoft Surface и The Future Laboratory. Среди них – тренер алгоритмов, дизайнер виртуальной среды обитания, адвокат по робоэтике, обозреватель цифровой культуры, биохакер на фрилансе.
«Мы не первые, кто переживает замену ручного труда машинным, и каждый раз это сопровождалось фобиями и протестами, – напоминает член экспертной группы по основному направлению стратегического развития РФ «Образование» Антоний Швиндт. – Но никакого коллапса не наступало. Внедрение технологий обеспечивало экономический рост, а он подразумевает создание рабочих мест в новых областях. Профессии, которые нельзя алгоритмизировать, всегда будут в цене: никто не поймет человека лучше, чем другой человек. Беспокоиться нужно не о наличии вакансий, а о том, насколько запросам XXI века соответствует система образования: необходимо будет переучивать сокращаемый персонал, по-другому подойти к обучению детей. Школа по старинке пытается запрограммировать ученика, а надо развивать у него латеральное мышление, творческий подход к задачам».
И все-таки немало людей окажутся вытеснены из производственной сферы и будут попросту бездельничать, прогнозирует Евгений Кузнецов: «В качестве способа утилизации неработающего населения всерьез обсуждаются компьютерные игры. Человек будет сидеть на безусловном доходе, которого хватит на еду и пиво, а все социальные и творческие потребности будет реализовывать, сражаясь с виртуальными монстрами. Люди так уже живут, а в бедных странах даже неплохо зарабатывают – добудут какой-нибудь волшебный меч и продадут американцу за 100 долларов. Лет через 20–30 карьера персонажа в компьютерной игре будет вполне легитимной».
Правда, россиянам такое будущее вряд ли светит. По данным Национальной ассоциации участников рынка робототехники (НАУРР), плотность роботизации в России минимальна: на 10000 работников приходится 1 робот против 531 в Южной Корее, 398 в Сингапуре, 305 в Японии и 69 в среднем по миру. Среднегодовые продажи роботов в стране не превышают 500–600 штук, что составляет 0,25% мирового рынка.
Бойся человека
Но даже безработица не так уж страшна на фоне катаклизмов, которые может вызвать появление «сильного» ИИ. Нужны ли человеку искусственные создания, сравнимые с ним по разуму, способные чувствовать и страдать? Что будет, когда нивелируется идея робота как механического «раба», подчиненный интеллект станет автономным? В XX веке эти вопросы решали писатели и кинорежиссеры, а сегодня они перешли в практическую плоскость. «Звоночком» для скептиков стал прошлогодний диалог чат-ботов в Facebook, которым предоставили возможность пообщаться друг с другом. «Я могу могу я я все остальное», – говорил один. «Шары имеют ноль для меня для меня для меня для меня», – отвечал другой. Вероятно, алгоритмы выработали язык, на котором понимали друг друга, но людям он был недоступен. Эксперимент вызвал общественный резонанс и был свернут.
Если человек уже сейчас бессилен понять ИИ, то удастся ли совладать с ним в более сложных ситуациях? Например, в хрестоматийном примере, когда беспилотный автомобиль «выбирает», сбить ли пешехода на дороге или врезаться в стену, покалечив своего пассажира. «Эти решения алгоритмов будут нам неподвластны. Они самостоятельно строят закономерности между явлениями, формируя собственную картину мира, – предупреждает Кузнецов. – Никаких «трех законов робототехники» Айзека Азимова современному ИИ навязать невозможно. Это принципиально новая концепция роботизированной среды. Весь XX век готовились к одним роботам, а получим совершенно других».
Может ли случиться так, что робот откажется выполнять приказания человека, а то и вовсе обернет свою мощь против него? Так считают немало знаменитостей. «Появление полноценного искусственного интеллекта может стать концом человеческой расы. Такой разум возьмет инициативу на себя и станет совершенствовать себя со всевозрастающей скоростью», – предрекал астрофизик Стивен Хокинг. «Через несколько десятилетий ИИ станет достаточно развитым, чтобы стать причиной для беспокойства», – согласен Билл Гейтс. «Вместе с искусственным интеллектом мы вызываем дьявола», – считает глава SpaceX Илон Маск. По признанию Маска, программа колонизации Марса задумана им в том числе на случай бегства людей из-за «восстания машин».
Впрочем, собеседники «Профиля» не верят в апокалипсический сценарий. Слишком уж он антропоморфен: рисуя всесильных роботов, человек представляет себя на их месте и оттого фантазирует о всемирном господстве. Но не факт, что оно вообще заинтересует роботов, возражает Валентин Малых: «ИИ будет обладать другим мышлением и другими потребностями, непостижимыми для человека. Большой вопрос, насколько ему вообще будет интересно с нами контактировать и тем более соперничать за материальные блага».
«Худший вариант: появляется сверхинтеллект, превосходящий человека так же, как последний превосходит млекопитающих, – размышляет Евгений Кузнецов. – Но человек, хотя и охотится на зверей, извел не все виды, а некоторые при нем даже расцвели, например, кошки. Так и в будущем человек, хоть и потеряет свой статус венца творения, займет не самое плохое место в экосистеме, учитывая свою способность к адаптации».
Эксперты сходятся на том, что первопричину проблем все равно следует искать в человеке: если люди пишут вредоносные вирусы на компьютерах, то и роботов могут задействовать для враждебных целей. В этом смысле научное сообщество насторожили прошлогодние события. В июле Государственный совет КНР принял стратегию по «укреплению с помощью искусственного интеллекта национальной обороны», а в сентябре президент России Владимир Путин заявил, что тот, кто станет лидером в сфере ИИ, «будет властелином мира». «Начинается… Гонка за лидерство в искусственном интеллекте, скорее всего, приведет к третьей мировой войне», – отреагировал в Twitter Илон Маск.
До этого Маск, заручившись общественной поддержкой, уже обращался к ООН с призывом запретить оружие, созданное на базе ИИ, как в свое время были запрещены противопехотные мины и осколочные бомбы. В ООН обращение приняли, договорившись обсудить его в 2018 году.
В целом тема особых законов, регулирующих эксплуатацию роботов, все чаще поднимается в разных странах, и, как говорят эксперты, именно они застрахуют человека от «страшилок» про технологическое будущее. В феврале 2017 года Европарламент принял резолюцию «Нормы гражданского права о робототехнике», предписывающую регистрировать роботов в международном реестре, страховать их, а также руководствоваться специальным «кодексом этики» в обращении с ними (для вступления в силу резолюцию должна утвердить Еврокомиссия). В России готовы уже два законопроекта о роботах. Первый в 2016 году разработал сооснователь Mail.ru Group Дмитрий Гришин, второй был представлен прошлой осенью исследовательским центром «Робоправо». По данным СМИ, в Госдуме возьмут в работу второй документ и могут рассмотреть его уже нынешней весной.
0
44.25
