Искусственный интеллект: выгодный бизнес или угроза человечеству. Искусственный интеллект - угроза или помощник для человечества
Советник президента по вопросам развития интернета Герман Клименко специально для НСН подготовил топ главных, на его взгляд, новостей.
Топ-1: Названы самые лучшие для жизни регионы России
Знаете, с рейтингами регионов всегда возникает такая же коллизия, как с рейтингами банков. Очевидно, что на первом месте у нас всегда «Сбербанк», на втором «Газпромбанк» и так далее. При такой неравномерности в стране, конечно же, все рейтинги грешат абсолютизмом. Наверное, важнее, все-таки, методология составления этого рейтинга и то, что в среднем повышается или понижается уровень жизни в том или ином регионе.
Топ-2: Сообщившие о фактах коррупции сотрудники попадут под защиту
Тут меня смущает только одна история: как вообще человек сможет остаться в коллективе, если из-за него кого-то уволят, накажут, а компания, возможно, пострадает. Конечно, человек по-своему прав, наверное его можно стимулировать, но, возможно, правильней было бы предусмотреть выплату какого-то бонуса или премии. Но, все-таки, выбор, оставаться на прежнем месте работы или уходить, должен оставаться за таким сотрудником. А принуждать компанию оставлять таких людей, наверное, не очень корректно. Хотя, надо обратиться к международной практике в странах, где более развита борьба с коррупцией. Но лично я о подобных методах не слышал.
Топ-3: Двух российских атлетов не пригласили на Олимпиаду по ошибке
Искренне сочувствую атлетам, понимаю, насколько для них важны Олимпийские игры, Но, вы знаете, учитывая тотальное увлечение блокчейном, просто напрашивается шутка: вот если бы МОК внедрил блокчейн, то, наверное, все были бы приглашены. Хотя, вся эта ситуация с Олимпиадой выглядит крайне отвратительно со стороны наших коллег.
Топ-4: В существование внеземных цивилизаций поверили 68% жителей США
На самом деле, сейчас есть масса людей, которые искренне верят в то, что мир захватил искусственный интеллект. Сейчас началась настоящая лихорадка блокчейна и скупка совершенно бессмысленных видеоплат огромной мощности, благодаря которым уже давно получился мировой компьютер, который перекрывает все потребности всех спецслужб одновременно. В связи с этим напрашивается один вопрос: Кто, как ни искусственный интеллект, нас захватил? Получается, что выбор-то у нас с вами невелик: либо инопланетяне, либо искусственный интеллект. Я бы, на самом деле, предпочел инопланетян, потому, что у них, возможно, есть душа, а у искусственного интеллекта точно нет.
Топ-5: Кинотеатр «Пионер» оштрафован за показ фильма «Диван Сталина»
Мне не нравится, когда происходит показное нарушение правил. Ну это примерно как если бы медицинское учреждение получило бы от Минздрава лицензию на проведение операций по удалению аппендицита, а на самом деле занималось удалением гланд. Мне кажется, что это несолидно, такая вот PR-акция, и пиариться на таких историях (учитывая, что темы культуры и истории всегда очень тонки для населения) мне представляется не очень этичным. Поэтому, мне кажется, что руководство кинотеатра «Пионер» в лучшем случае – хулиганы, в худшем – вредители, а в 37 году, наверное, их вообще бы «догнали».
О проекте:
«Авторские новости от НСН» - радиопрограмма НСН, которая выходит одновременно в эфире сразу четырёх радиостанций (НАШЕ Радио, Rock FM, Best FM, Радио JAZZ) с ежедневной аудиторией в 1,5 миллиона человек в Москве и четыре миллиона - в России. Ведущими «Авторских новостей от НСН» , имена которых хорошо знакомы радиослушателям. В настоящий момент в проекте участвуют 200 человек.
Роботы смогут заменить нас абсолютно в любой профессии
В ближайшие 40 лет роботы займут наши рабочие места. Неважно, кем вы работаете. Копаете траншеи? Робот будет копать их лучше. Пишете статьи для журнала? Робот будет писать лучше вас. Если вы врач, Watson от IBM больше не будет помогать вам с поиском правильного диагноза в его базе данных с миллионами описаний клинических случаев и журнальных статей. Он просто будет лечить лучше, чем вы. Люди творческих профессий? Роботы будут рисовать, писать и лепить лучше вас. В течение 20 лет примерно половина из вас лишится работы. Ещё через пару десятилетий та же участь ждёт большинство оставшихся.
В каком-то смысле звучит здорово. Мы сможем спокойно читать, писать стихи, играть в видеоигры и вообще делать что угодно. И через столетие, скорее всего, так и будет. Человечество вступит в золотой век. Но в ближайшие 20-30 это значит, что многие потеряют работу и пока мы не выясним, как справедливо распределить плоды труда роботов, нас ожидает эпоха массовой безработицы и нищеты. Наряду с глобальным потеплением, будущее без работы – главная проблема, которая стоит перед прогрессивными политиками, не говоря уже про человечество в целом.
Искусственный интеллект развивается в геометрической прогрессии
Важно смотреть не на подвижки в робототехнике, а на скорость, с которой мы движемся навстречу искусственному интеллекту. Пусть мы пока и близко не подошли к ИИ на уровне человеческого интеллекта, прогресс последней пары десятилетий поражает, он опережает самые смелые мечты преданных фанатов ИИ. Через десять лет мы достигнем примерно десятой части мощи человеческого мозга, а ещё через десять лет получим полноценный ИИ уровня человека.
Много лет технологии стояли на месте, и вдруг роботы играют в шахматы лучше гроссмейстеров. Они уже сегодня могут водить автомобили по Сан-Франциско и становятся в этом лучше год от года. Они так хорошо распознают лица, что полиция Уэльса недавно совершила первый в Великобритании арест , используя программу распознавания лиц. После нескольких лет медленного прогресса в распознавании речи Google объявил , что снизил уровень ошибок в распознавании с 8,5% до 4,9% за десять месяцев.
Всё это говорит о том, что ИИ развивается экспоненциально благодаря улучшению как компьютерного оборудования, так и алгоритмов.
В первую очередь заменят водителей и землекопов, потом придет очередь писателей и учителей
«Массовая безработица коснётся не только низкоквалифицированных работников. С ней нельзя бороться, вкладываясь в лучшее образование. ИИ погубит каждую работу, которую можно «спрогнозировать», – то есть практически любую. Очень немногим платят именно для того, чтобы они занимались по-настоящему творческой работой, требующей полёта мысли», - пишет Мартин Форд, автор книги «Восстание роботов»
Экономисты обычно выделяют труд умственный и физический, а также рутинный и не рутинный. Это делит работу на четыре основные категории:
- рутинная физическая: землекоп, водитель грузовика;
- рутинная умственная: помощник бухгалтера, телемаркетолог;
- не рутинная физическая: повар, младшая медсестра;
- не рутинная умственная: учитель, врач, директор.
Первыми на очереди будут рутинные задачи. Благодаря прогрессу в робототехнике, это затронет как физический, так и умственный труд.
Исследователи из Оксфорда и Йеля спросили 352 экспертов в области ИИ, когда машины превзойдут людей в выполнении определённых задач. Вот что ответили эксперты.
ИИ сможет лучше человека:
- 2022 – сложить бельё из стирки.
- 2024 – сделать перевод с иностранного языка.
- 2026 – написать эссе для учащегося средней школы.
- 2027 – водить грузовик.
- 2049 – написать бестселлер.
- 2053 – работать хирургом.
- 2059 – выполнить математическое исследование.
- 2060 – решить любую другую задачу.
Мы столкнёмся с апокалипсисом безработицы куда раньше: все рутинные профессии исчезнут к середине 2030 годов. А это примерно половина рабочей силы только в США. PricewaterhouseCoopers недавно опубликовала исследование , в котором говорится почти то же самое: 38% всех рабочих мест в США «угрожает автоматизация» к началу 2030 годов, в основном это касается рутинных профессий. 40% из 500 крупнейших компаний исчезнут в течение десяти лет.
Социальной катастрофы можно избежать, изменив социальные порядки
«Приход ИИ ждёт нас раньше, чем мы думаем, поэтому мы должны обеспечить работой всех на переходное время. Целью государства должна стать полная постоянная занятость во что бы то ни стало », - уверен Эрик Шмидт, председатель совета директоров Google
ИИ-революция может навсегда освободить человечество от тяжёлой работы. Комбинация «умных» машин и возобновляемой энергии обеспечит человечество всем необходимым. Богатые будут богатеть (ведь они владеют роботами), а остальные будут беднеть и если мы не разберёмся, что с этим делать, проблемы рабочих в течение следующих нескольких десятков лет окажутся куда серьёзнее, чем последствия промышленной революции.
Базовый материальный комфорт будет почти ничего не стоить. Но он всё ещё не будет бесплатным. А капиталисты могут делать деньги, только если им есть кому продавать товар. Ответ на массовую безработицу в результате ИИ-революции должен включать некое масштабное перераспределение доходов, которое отделит их от работы. Или кардинальное переосмысление понятия «работа». Или кардинальное переосмысление понятия «доходы».
Расширенная версия социального государства
В целом, это то, что мы имеем сейчас, но шире. Пособие по безработице будет более щедрым и неограниченным по времени. Национальное здравоохранение станет бесплатным для всех. Каждому безработному гарантировано обеспечение базовых потребностей в пище и жилье. Это не сможет длиться долго, и миллионы людей будут страдать годами, пока мы продолжим обманывать себя. Но на какое-то время это защитит богатых.
Безусловный базовый доход. Первый вариант
Государство гарантирует каждому определённый скромный уровень дохода – мы всё ещё хотим, чтобы люди работали. Безработица не будет настолько стигматизирована, как в современном социальном государстве, но в то же время повсеместная незанятость не будет восприниматься как норма жизни. Некоторые европейские страны движутся в сторону социального государства с базовым доходом для всех.
Безусловный базовый доход. Второй вариант
Базовый доход доступен каждому, и размер дохода способен обеспечить удовлетворительный уровень жизни. Это мы получим, если признаем, что массовая безработица – не признак лени работников и социального упадка, а неизбежный результат развития технологий. Незанятость не будет клеймом для человека и не будет особых причин позволять богачам единолично пожинать плоды искусственного интеллекта, нет смысла и держать безусловный доход на низком уровне. В конце концов, мы не пытаемся вернуть людей к работе.
Налог на роботов
Такое предложение содержалось в проекте доклада Европейскому парламенту. Его поддержал Билл Гейтс, который предлагает заставить роботов платить налог на прибыль и налог с зарплаты, как людей. Это сделает людей более конкурентоспособными. К сожалению, у этой идеи есть недостаток. Если каждая страна не введёт одинаковый налог, то роботы будут просто трудиться в других странах.
Национализация роботов
Частное владение роботами с искусственным интеллектом будет запрещено. Рыночная экономика продолжит существовать в её современном виде с одним исключением: правительство будет владеть всеми ИИ-роботами и продавать с молотка их услуги частному сектору. Вырученные средства будут разделены между всеми. Этот сценарий потребует радикальных изменений в политическом климате страны.
Крупномасштабное прогрессивное налогообложение
Пусть роботы берут на себя работу, но прибыль облагается налогом в 90%. У богатых всё равно будет стимул управлять бизнесом и зарабатывать больше денег, но труд будет считаться общественным благом, как инфраструктура, а не продуктом индивидуальной инициативы.
Налог на богатство
Интеллектуальные роботы смогут производить материальные блага и услуги дёшево, но дефицит останется. Неважно, сколько у вас роботов, – важно количество недвижимости на берегу океана в Южной Калифорнии, подлинников Рембрандта, пентхаусов. Только такие вещи останутся настоящей роскошью, и богачи всё ещё будут их хотеть. Если роботы сделают богатых ещё богаче, стоимость этих предметов роскоши возрастёт соразмерно, останется только обложить их высокими налогами. Богатые получат свои игрушки, а остальные – всё что угодно. Ну, кроме вида на закат над Тихим океаном.
Вся надежда только на левых
Когда автоматизация человеческого труда начнётся по-настоящему, от этого сначала выиграют корпорации и богачи. Попытка разобраться с ИИ-революцией потребует новых способов распределения дохода. Капиталисты будут изо всех сил бороться с этим, поэтому задача разбираться с ИИ-революцией почти полностью ляжет на плечи «левых».
Почему именно левые? Консерваторы, как обычно, не придают технологической революции необходимого значения. Военные думают об автоматизации преимущественно как о способе убивать людей более эффективно, а не как об угрозе экономике. Бизнес-сообщество занято квартальными отчётами, оно слишком разобщено, чтобы быть полезным. У профсоюзов есть причины для активных действий, но они сегодня слишком слабы, чтобы оказать необходимое влияние на политиков.
Когда «синие воротнички» начнут массово терять работу, мы станем свидетелями недовольства, по сравнению с которым события 2016 года – «брекзит» и итоги выборов в США – покажутся лёгким дуновением ветра. Или либералы начнут искать решение прямо сейчас, или избиратели будут поддерживать опасных демагогов у власти.
Немного о двойных стандартах: когда Сергей Стиллавин требует от учёных остановить запуск Большого адронного коллайдера, потому что слышал, что существует риск возникновения чёрной дыры, над ним все смеются . Когда Стивен Хокинг предупреждает, что искусственный интеллект может поработить человечество - все напрягаются. Результат, впрочем, в обоих случаях одинаковый - БАК запускается, нейронные сети развиваются наперегонки с квантовыми компьютерами. Вы можете меня упрекнуть в том, что сравнивать суеверный ужас средней руки радиоведущего с осторожным предупреждением мирового учёного не совсем корректно - но в обоих случаях это как минимум повод задуматься, что нам прогресс готовит.
Можно понять, почему предупреждение Хокинга не оказало существенного воздействия на заинтересованных в разработке АИ. Дело не только в обычной инерции процессов - когда цели намечены, планы составлены и бюджеты выделены, нужно что-то большее, чем глас обеспокоенной общественности, чтобы остановить разгоняющийся состав. На стороне исследователей и программистов здравый смысл и весь человеческий опыт: предсказания алармистов ещё ни разу не сбылись, а страхи луддитов сделали их в исторической перспективе посмешищем. Города Европы не были покрыты конским навозом, паровозный дым не убил посевы и не отравил лошадей, трудовые мигранты не уничтожили ещё ни одну экономику, 7 миллиардов человек не умерли с голоду и даже не погрязли в грязи и тотальной войне за ресурсы, ядерное оружие не привело к апокалипсису, 2000 год не уничтожил компьютерные системы, а БАК не привёл к созданию чёрной дыры.
Нас продолжают пугать: ГМО заразят всех раком, качественная медицина приведёт к вырождению человечество, однополые браки тоже приведут к вырождению человечества, а искусственный интеллект поработит всех, кто переживёт ГМО, качественную медицину и однополые браки. Впрочем, нарисованная алармистами картина настолько безрадостна, что не исключаю, что ИИ при таких исходных данных просто откажется нас порабощать - мол, ну вас вообще. Это если алармисты правы. А алармисты всегда ошибаются.
Люди могут до конца не понимать, как именно происходят те или иные процессы, даже если непосредственно к ним причастным - но понимают закономерности: самолёты летают и крыльями не машут, а прогресс делает жизнь людей лучше. И чем быстрее разгоняется прогресс, тем быстрее растёт качество жизни.
Главным образом потому, что всегда видят одну сторону вещей, недооценивая тот факт, что любое движение приводит к последствиям не только напрямую, но и от обратного, охлаждая пыл любителей экстраполяции.
Допустим, более или менее очевидно, что, выйдя замуж, невеста на какое-то время успокаивается - наличие одного мужа отменяет потребность в новых. По крайней мере, в один и тот же момент времени. Система сама себя уравновесила. Менее очевидный, но тем не менее широко признанный факт - повышение уровня жизни не ведёт к бесконечному размножению. Всплеск прироста населения наблюдается на сравнительно коротком историческом промежутке - 2-3 десятилетия, жизнь одного поколения, после чего увеличившаяся продолжительность жизни и падение смертности уравновешиваются падением рождаемости. Проще говоря, оценивая последствия того или иного события, надо задавать не только вопрос «что будет, когда», но и «чего не будет, когда». Как та невеста, люди понимают, что им не нужно много детей, если они уверены в выживании уже имеющегося.
Оценивая последствия того или иного события, надо задавать не только вопрос «что будет, когда», но и «чего не будет, когда».
Свойством любой системы является стремление к равновесию. Без этого система не может быть системой. Какие бы сюрпризы не преподносил прогресс, на том или ином уровне баланс и гармония всегда восстанавливаются - на уровне человека, общества, цивилизации или человечества Целиком. Впрочем, для любой системы есть вызов, может быть погашен только уровнем выше. Допустим, считается, что глобальное потепление - процесс, который не может быть уравновешен самим человечеством, и поэтому нас ждёт балансировка на планетарном уровне - скажем, таяние арктических льдов и затопление промышленных районов и мегаполисов, которые как раз обычно расположены в низовых прибрежных районах - как удобно, да? - сильно умерит пыл и возможности человечества подогревать наш шарик в дальнейшем. Бац, и баланс вновь восстановлен.
Многие считают, что климатические циклы вообще от человеческой деятельности не зависят, а проблема выхлопов уладится на цивилизационном уровне, не вызывая вмешательства планетарных сил. Так это или нет - вопрос спорный, но принцип, думаю, понятен. Прогресс теоретически может порождать вызовы, которые не получится уравновесить на цивилизационном уровне, сохраняя движение человечества к лучшему. Матушку-Землю лучше не будить, если не хотим разделить участь динозавров. Кстати, тот же Хокинг считает, что глобальная техногенная катастрофа в ближайшие тысячу или десять тысяч лет неизбежна - так что надо поскорее обустраивать жилплощадь за пределами родной планеты. Кто бы спорил, мы все за. Но это всё-таки относительно далёкая перспектива.
Возвращаясь же к теме статьи, чтобы понять, грозит ли нам порабощение искусственным интеллектом, нужно понять, относится ли ИИ к вызовам, которые будут уравновешены цивилизацией или всё-таки он будет уравновешен за счёт цивилизации?
Шанс объехать сингулярность на кривой козе
Но до наступления сингулярности человечество наверняка даст бой любым шансам ИИ окончательно его спасти или уничтожить. Хокинг заметил, что человечество пытается себя улучшить генетически - но недостаточно быстро. Однако это не единственный способ эволюции. Помимо эволюции биологической, которая рано или поздно - скорее рано - станет управляемой - есть эволюция и технологическая.Когда-то давно фантасты считали, что киборги могут положить конец человеческой расе. Но на практике киборгизация скорее всего станет следующим этапом развития человечества, чем-то, описываемым не словами «внедрение», «прорыв» или «следушая ступень», что по определению подразумевает некое усилие, насилие и надлом, а во что человечество скользнёт легко и радостно, как сейчас нырнуло в социальные сети. Более того, повальная айфонизация и социализация людей порождает спрос на киборгизацию, возможность стать киборгами ожидаема сильнее нового айфона.
Окей, конечно, ни одна фокус-группа вам такого не скажет. Как в 2006 году она бы не сказала, что ей нужен айфон:
Создавать продукт, опираясь на фокус-группы, по-настоящему трудно. Чаще всего люди не понимают, что им на самом деле нужно, пока сам им этого не покажешь.
- Стив Джобс, BusinessWeek (25 May 1998)
Однако сейчас искать новый айфон или даже новый интернет долго не надо: бутылочным горлышком всей IT-индустрии являются интерфейсы. Вычислительные мощности и возможности наших устройств, возможности софта обрабатывать наши запросы существенно превышают наши возможности им эти запросы сообщать. Обработка простейших массивов данных - например, собрать - требуют навыков программирования, хотя понять, что нужно сделать, может даже ребёнок, а выполнить работу средний компьютер способен за считанные минуты. Но вот на этапе между «понять» и «выполнить» - треднопреодолимый барьер в виде необходимости наличия навыков программирования. Бутылочное горлышко, которое не даёт нам пользоваться возможностями, которые у нас есть. Популярная цитата упрекает в этом нас:
Но доступ к знаниям не имеет особой ценности без умения ими пользоваться. Ещё до всяких ЭВМ математиков учили, что важно не помнить формулы - они все есть в справочниках - а уметь их применять. Сейчас же величайшие знания человечества основной массе человечества доступны в режиме read only - делать они с ними ничего, даже простейшую категоризацию и анализ - оно без специальных знаний не может.
Изобретение способа коммуникации с машинами без посредства кода - или хотя бы его ручного ввода - может стать прорывом уровня создания интернета как такового. Человечество получит не просто неограниченный доступ к знаниям, а доступ к широчайшим возможностям этими знаниями оперировать и рождать новое знание. То, что сейчас называется big data и кормит ограниченное количество высокооплачиваемых специалистов, должно и станет доступно каждому - как когда-то массовое образование извело под корень профессию писца.
Взрывной рост интеллектуальной мощи человечества станет неизбежен. Есть ещё одна популярная шутка - про то, что каждое кладбище набито непризнанными гениями. Я не считаю это шуткой. Множество гениальных идей, талантливых книг и полезных изобретений никогда не увидело света просто потому, что не все способны посвящать им свою жизнь или иногда просто не в состоянии их как следует сформулировать. Мотивационные статьи и книги полны примерами людей, которые потеряли руки и научились писать, кодить и играть музыку ногами. Или вспомним опять того же Хокинга.
Но многие люди неспособны даже имея обе руки использовать свой потенциал целиком. И не стоить их в этом винить - глаза, руки, голос - это всё интерфейсы. Мощные, удобные, но неидеальные. В той или иной степени они ограничивают творческие возможности человеческого мозга. Есть множество примеров того, как эти возможности на самом деле гораздо шире, чем может показаться. Большая часть из них связана именно с технологическим прогрессом.
Одна из алармистских страшилок, с ним связанных, была в том, что люди потеряют работу, когда всё за них станут делать машины. Однако же, как оказывается, с развитием технологий, новые виды работы появляются быстрее, чем угасают старые. И речь не только о сфере обслуживания, которую раньше было принято считать уделом будущих человеков - мол, пока машины нас кормят, одевают и лечат, людям останется только оказывать другим людям разные услуги.
Реальной революцией, совершённой изобретением айфона стал не смартфон с сенсорным экраном, а открытая платформа для диструбуции приложений. Людям дали интерфейс - и сотни тысяч, если уже не миллионы, стали наполнять его своими идеями по тому, как его можно применять. Приложения - это serious business, потому что меняют не только нашу повседневность - они меняют сами принципы нашей жизни. Они уже сейчас могли бы заботиться о нашем здоровье и безопасности на уровне, который недоступен и богатейшим людям в мире, но всё вновь упирается в интерфейсы. Мы слишком отчуждены от наших устройств.
Google Glass, голосовые помощники Siri, Cortana и Google Now и даже концепты необычных клавиатур octodon.mobi пытаются решить эту проблему. Но это всё надстройки на надстройки - наши руки, глаза и голос со всеми их ограничениями. Реальное и очевидное решение на поверхности: нужно подбираться ближе к мозгу.
Человечество созрело для киборгизации, оно жаждёт киборгизации, ему нужна киборгизация и оно скользнёт в это состояние так же естественно, как сейчас залезает в свой смартфон, чтобы проверить почту или новые лайки во Вконтакте.
Самое прекрасное, что люди даже не поймут, как стали киборгами - они просто купят очередной Apple iMind или Google Thoughts, каким бы образом они не выглядели и не соединялись с нашей нервной системой - как очередной гаджет, глубже затягивающий нас во всемирную паутину. В конце концов, 90% возможностей умных часов - сообщать нам об уведомлениях из соцсетей, почты и мессенджеров - и только потом считать время, шаги и пульс. Под этим соусом люди примут любой мозговой интерфейс - лишь бы он был упакован в коробочке покрасивее.
Ещё одна прелесть киборгизации в том, что она снимет нарастающее неравенство поколений, которое в перспективе могло бы быть пострашнее социального неравенства - если подумать, все эти «бабушкофоны» для старшего поколения - это же просто унизительно. А теперь представьте себя через 30 лет перед лицом будущих 10-летних - уже готовы к «дедушкопэдам»? А ведь проблема не в разнице интеллекта (хотя интеллектуальная акселерация тоже существует), а в потребности обучения новым, постоянно меняющимся интерфейсам взаимодействия с вычислительными машинами. Призывы обучать программированию детей снимают только часть проблемы - те, кто уже научился чему-то ранее будут всегда в положении догоняющих относительно тех, кто учит самое новое и актуальное из состояния tabula rasa.
Это похоже на изучение иностранных языков - мы все знаем, что их надо учить, и учим, по мере возможностей, один за другим - иногда забывая, что смысл-то не в знании новых языков как таковых, а в общении и обмене знаниями, мыслями, чувствами и идеями с людьми другой культуры. С этой точки зрения язык оказывается не средством коммуникации, а ещё одним барьером, очередным интерфейсом, который ограничивает возможности человека и человечества, и задачей прогресса является не научиться скакать через этот барьер как образцовая скаковая лошадь, а элиминировать его целиком. Свести на ноль его значение в коммуникации.
То же самое должны сделать нейроинтерфейсы для человека и машины. И сделать быстро - возвращаясь к теме войны человека и машин, точнее, будущего человека в реальности существующего и действующего ИИ - возможно, лучшей гарантией того, что мы никогда не проиграем эволюционную гонку машинам будет самим стать машинами. Или хотя бы научиться говорить с ними на одном языке.
Искусственный интеллект (ИИ) - тема, которая уже давно не сходит со страниц научно-популярных журналов и постоянно затрагивается в кино и книгах. Чем больше специалисты развивают эту область науки, тем большими мифами она покрывается.
Развитие и будущее искусственного интеллекта волнует и тех, кто стоит у руля государства. Не так давно президент РФ Владимир Путин посетил офис «Яндекса» в день 20-летия компании, где ему объяснили, когда ИИ превзойдет человеческий интеллект.
Все, кто хоть немного проникает в суть потенциала искусственного интеллекта, понимают, что оставлять без внимания эту тему нельзя. Это не только важный вопрос для обсуждения, но и, наверное, один из самых значимых в контексте будущего.
Что такое искусственный интеллект и чего на самом деле боятся люди, рассказал «Снег. TV» специалист по методам машинного обучения Сергей Марков.
Как говорил Джон Маккарти, изобретатель термина «искусственный интеллект» в 1956 году, «как только он заработал, никто больше не называет его ИИ». ИИ уже вовсю реальность: калькуляторы, Siri, самоуправляемые автомобили и т. д., а в него все равно не верят. Почему так происходит, что люди отрицают существование ИИ?
Главным образом по причине терминологической путаницы, так как разные люди вкладывают в понятие «искусственный интеллект» совершенно разный смысл.
В науке искусственным интеллектом называют систему, предназначенную для автоматизации решения интеллектуальных задач. В свою очередь, под «интеллектуальной задачей» понимают такую задачу, которую люди решают при помощи своего, естественного интеллекта.
Легко заметить, что такое определение искусственного интеллекта чрезвычайно широко - под него попадает даже обычный калькулятор, т. к. арифметические задачи по сути тоже интеллектуальные, человек решает их при помощи своего интеллекта.
Поэтому внутри понятия «искусственный интеллект» была проведена важная граница, отличающая прикладной или, как еще говорят, слабый искусственный интеллект, предназначенный для решения какой-либо одной интеллектуальной задачи или небольшого их множества, от гипотетического сильного ИИ, также называемого универсальным искусственным интеллектом (англ. - artificial general intelligence).
Такая система, когда она будет создана, будет способна решать неограниченно широкий круг интеллектуальных задач, подобно интеллекту человека. С этой точки зрения калькулятор, который способен считать куда быстрее человека, или программа, выигрывающая у человека в шахматы, - это прикладной ИИ, гипотетический же сверхразум будущего - сильный ИИ.
Когда читаешь про разные открытия и разработки в области ИИ, понимаешь, что всё в основном происходит в США или Азии. А как обстоят дела в России? Есть у нас какие-то наработки?
Область компьютерных наук в наши дни интернациональна, многие наши специалисты работают над созданием и совершенствованием различных моделей машинного обучения в составе как российских, так и международных команд. У нас традиционно сильная математическая и алгоритмическая школа, созданы исследовательские центры мирового уровня как в ведущих вузах, так и в некоторых частных компаниях.
Но давайте говорить начистоту - бюджеты, выделяемые в нашей стране на науку и образование, не идут ни в какое сравнение с научными бюджетами наиболее развитых стран. Доходы бюджета РФ в 2016 году составили около 200 миллиардов долларов США, в то время, как только на оборону США тратят сумму в три раза большую, чем весь российский бюджет.
Весь бюджет российской науки сопоставим с бюджетом одного лишь вуза из Лиги плюща. В безденежные 90-е страну покинули многие ведущие специалисты, была нарушена преемственность ряда научных школ. Также было практически утрачено собственное производство электроники.
В то время как мировые лидеры ИТ ведут гонку в создании специализированных процессоров для обучения нейронных сетей, нам остается лишь сфера разработки алгоритмов и программного обеспечения. Впрочем, и в этой области нами были достигнуты весьма впечатляющие успехи.
Например, команда под руководством Артема Оганова создала систему USPEX, способную предсказывать кристаллические структуры химических соединений, что привело к настоящей революции в современной химии.
Команда Владимира Махнычева и Виктора Захарова с ВМК МГУ при помощи созданной ими системы, а также суперкомпьютеров «Ломоносов» и IBM Blue Gene/P впервые смогла рассчитать 7-фигурные шахматные окончания.
Нейронные сети «Яндекса» распознают и синтезируют речь, генерируют музыку в стиле «Гражданской обороны» и композитора Скрябина. Сильная команда специалистов по ИИ и машинному обучению создана и в Сбербанке.
Словом, заметные успехи есть и у нас в стране.
Чем быстрее развиваются технологии искусственного интеллекта, тем сильнее людей захватывает опасение - как быстро они останутся без работы. Все действительно так плохо?
© Marcel Oosterwijk/flickr.com
И да и нет. Человечество уже несколько раз сталкивалось с возникновением технологий, революционно изменивших всю производственную сферу.
Так было с паровым двигателем в эпоху промышленной революции, практически уничтожившим многие профессии (в основном связанные с примитивным физическим трудом), так было с электронными вычислительными машинами, которые заменили человека в задачах, основанных на поточных математических расчетах.
В XV-XVIII веках, когда в Англии «овцы съели людей», социальные последствия были действительно катастрофическими. Англия потеряла, по разным оценкам, от 7 до 30% своего населения. Властная элита того времени была всерьез озабочена тем, куда девать лишних людей. Джонатан Свифт откликнулся на эти искания юмористическим памфлетом, в котором предлагал употреблять детей бедняков в пищу.
Однако в наши дни мы видим, что на смену вымершим профессиям пришли новые, и население Земли куда больше, чем в XVIII веке. В XX веке последствия автоматизации были уже не столь катастрофичны с социальной точки зрения. Однако недооценивать опасность все-таки не стоит.
«Через 30 лет роботы смогут делать практически всё, что умеют делать люди, - такой прогноз дал Моше Варди (Moshe Vardi), профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди (Ken Kennedy Institute for Information Technology) при Университете Райса (William Marsh Rice University). - Это приведет к тому, что более 50% жителей Земли станут безработными».
Роботы забирают работы
На днях председатель комитета Госдумы по информационной политике, информационным технологиям и связи Леонид Левин заявил, что для России является важной проблема вытеснения рабочей силы искусственным интеллектом.
Рано или поздно людей заменят автоматизированной системой, и на рынок выплеснется 2% работоспособного населения страны. Именно поэтому о том, как трудоустроить тех, кто потеряет работу вследствие развития цифровых технологий, нужно думать уже сейчас, сказал Левин.
По мнению председателя, уже в скором будущем мы столкнемся с ростом безработицы. Но действительно ли роботы «отберут» наши рабочие места и стоит ли беспокоиться по этому поводу, рассказал «Снег.TV» специалист по машинному обучению Сергей Марков.
Сергей, даже сейчас уже есть «мертвые профессии», которые не требуют человеческого труда, хотя, казалось бы, лет 10 назад никто и не думал, что, например, кондуктора скоро станут ненужными. А какие еще профессии вытеснят технологии?
Мы приближаемся к тому времени, когда машины превзойдут людей почти в любом деле. Я считаю, что обществу нужно посмотреть в лицо этой проблеме до того, как она встанет во весь рост. Если машины будут способны делать почти всё, что умеют люди, что тем останется делать? – сказал Моше Варди, профессор вычислительной инженерии и директор Института информационных технологий Кена Кеннеди при Университете Райса.
Долгое время на пути автоматизации стояли технологические ограничения: машины не могли распознавать образы и речь, не могли говорить, не могли достаточно хорошо понимать смысл высказываний на естественном языке, не имели достаточно данных для того, чтобы научиться многим привычным для человека вещам.
Благодаря последним достижениям в сфере искусственного интеллекта многие из этих ограничений фактически оказались сняты. Кроме того, многие профессии сами претерпели трансформацию, что сделало их более удобными для автоматизации.
Например, современный офисный клерк ведет переписку не в бумажном, а в электронном виде, бухгалтер выполняет проводки не на бумаге, а в бухгалтерской программе, оператор станка управляет станком зачастую не при помощи рукоятей, а при помощи управляющей программы. Поэтому сейчас задача автоматизации во многих профессиях перестала быть научной и стала чисто инженерной.
Правда, пока что производственная сфера, связанная с ИИ, скорее создает рабочие места - нужны специалисты в области машинного обучения и подготовки данных, сотрудники для разметки обучающих массивов, специалисты по внедрению и т. д. Но в какой-то момент «электроовцы» определенно начнут есть людей, и о последствиях нужно позаботиться уже сейчас.
При этом важно понимать, что остановить технический прогресс нельзя, и попытка это сделать обернется куда более катастрофичными последствиями.
Мы сможем когда-нибудь полностью довериться роботам (ИИ) или все-таки в любом деле должен быть человеческий фактор?
У этого вопроса есть несколько аспектов. С одной стороны, люди в прошлом с опаской относились практически к любой технике. Первый лифт, первый автомобиль, первый поезд или самолет - всё это когда-то было непривычным и многим казалось опасным. Да во многом опасным и было - техногенные катастрофы унесли немало жизней.
И тем не менее в наши дни все эти вещи стали привычными и уже не вызывают сильного страха. В этом смысле - наши потомки будут относиться к системам ИИ более спокойно. Люди порой склонны мистифицировать вещи, которые им непонятны. Дикарь думает, что в паровозе живет злой дух, а современный обыватель думает, что наши системы ИИ обладают сознанием, хотя это далеко не так.
С другой стороны, я не думаю, что универсальные системы ИИ когда-либо станут частью нашей производственной сферы. На мой взгляд, будущее скорее за синтетическими системами - то есть за объединением человека и машины в единый организм. В этом смысле искусственным интеллектом будущего будет усовершенствованный человеческий интеллект.
Кстати говоря, человеческий интеллект тоже не совсем корректно называть естественным. Ребенок от рождения не обладает интеллектом, всему его учит общество, родители, окружающая среда. В этом смысле мы с вами все, по сути дела, «искусственные интеллекты», и наши страхи, связанные с ИИ, во многом являются страхами перед самими собой.
Последнее время многие ученые, например Стивен Хокинг, Билл Гейтс или тот же Илон Маск, начали паниковать, что ИИ обрекает человечество на гибель, а будущее они видят какой-то антиутопией. Стоит ли воспринимать такие прогнозы всерьез?
Честно говоря, я бы не спешил всерьез пугаться этих заявлений. Стивен Хокинг, безусловно, не является специалистом в области ИИ, как, в общем-то, и Илон Маск.
На другой чаше весов высказывания таких людей, как, например, Эндрю Ын - американский ученый в области информатики, доцент Стэнфордского университета, исследователь робототехники и машинного обучения, ведущий специалист лаборатории искусственного интеллекта китайской корпорации Baidu.
Ын, говоря о проблеме безопасности ИИ, сравнивает ее с проблемой перенаселения Марса - конечно, мы когда-нибудь колонизируем Марс, и тогда, возможно, в какой-то момент там возникнет проблема перенаселения. Но стоит ли заниматься ей сегодня?
Марк Цукерберг также довольно скептически отнесся к заявлениям Маска. «Искусственный интеллект сделает в будущем нашу жизнь лучше, а предсказывать конец света очень безответственно», - заявил он.
Лично я думаю, что высказывания Маска стоит рассматривать в прагматическом ключе - Маск хочет застолбить эту тему и в идеале получить от государства средства для ее разработки.
Неужели всё так безоблачно и не о чем беспокоиться?
Реальные опасности, связанные с развитием ИИ, лежат, на мой взгляд, совсем в иной плоскости, чем об этом принято думать. Главные риски связаны не с тем, что мы создадим «Скайнет», который поработит человечество. Риски от внедрения технологий ИИ и машинного обучения куда более прозаичны.
Доверяя решение важных вопросов тем или иным математическим моделям, мы можем пострадать от ошибок, допущенных при их разработке. Искусственный интеллект, воспроизводящий действия людей-экспертов, унаследует их ошибки и предубеждения. Недоработки в системах управления производством или транспортом могут привести к катастрофам.
Вмешательство злоумышленников в работу жизненно важных систем в условиях тотальной автоматизации может повлечь опасные последствия. Чем сложнее системы, тем больше в них может быть потенциальных уязвимостей, в том числе связанных со спецификой тех или иных алгоритмов искусственного интеллекта.
Безусловно, для управления этими рисками следует создавать законодательную базу, разумные регламенты безопасности, специальные методы для выявления уязвимостей. Одни системы ИИ будут использоваться для контроля других. Возможно, код жизненно важных систем будет обязателен к публикации для независимого аудита. Словом, специалистам в этой сфере предстоит еще много работы.
Ученые из университета Южной Калифорнии разработали компьютерный алгоритм, который предсказывает развитие отношений в паре. Основываясь на особенностях голоса: высоте, интонации, и других характеристиках, искусственный интеллект делает вывод о том, ждет ли влюбленных совместное будущее или пара все-таки расстанется. В течение двух лет исследователи анализировали общение пар, а затем обучали искусственный интеллект распознавать связь между голосовыми характеристиками и конечным результатом отношений в паре. В 79.3% случаев ИИ оказался прав. Значит ли это, что искусственный интеллект может видеть будущее и запросто распознавать намерения людей? И могут ли способности ИИ обернутся катастрофой для всего человечества?
ЧТО ТАКОЕ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ
Споры об искусственном интеллекте продолжаются уже более 50 лет. Несмотря на технологические достижения далеко не все верят в его существование. Например, ИИ отрицают, ссылаясь на открытие о муравьях.
Долгое время считалось, что муравьи обладают интеллектом. Позже научные открытия доказали, что насекомые его симулируют. Сторонники этой теории считают, что то же самое и с компьютерами - существование ИИ невозможно, так как человеческий мозг и нейронные связи до конца не изучены. Точнее изучена только малая часть.
Однако отрицать существование искусственного интеллекта все менее целесообразно, потому что ежегодные открытия доказывают скептикам обратное. Например, одним из лучших примеров разработки искусственного интеллекта является суперкомпьютер IBM Watson, оснащенный вопросно-ответной системой ИИ. Он понимает вопросы на естественном языке и находит на них ответы в базе.
Во время презентации компьютера CEO IBM Энн Рубин заявила, что Watson превосходит человеческий мозг в случаях, когда поиск связей и инсайто проблематичен из-за чрезмерного объема данных.
Но даже если эти научные объяснения не особо понятны, достаточно вспомнить примеры ИИ, которые с легкостью вписались в нашу жизнь. Например, мобильная помощница Siri или популярное в прошлом году приложение для обработки фотографий Prisma. Что уж говорить о существовании китайского города Иньчуань, где жителям не нужны банковские карты, а все расчеты производятся с помощью распознавания лиц.
КАК ЦУКЕРБЕРГ МАСКА ОБВИНЯЛ: СПОРЫ О БЕЗОПАСНОСТИ ИИ
Но если с доказательной базой существования ИИ все более или менее понятно, то вопросы о безопасности – это настоящее яблоко раздора. Вспомните, как часто в фильмах нас пугают машинами, которые поработили человечество. Роботы, не наделенные искусственным интеллектом на это не способны, а вот сам ИИ – вполне.
И надо сказать, что даже известные миллиардеры в сфере IT и технологий не могут прийти к общему консенсусу.
Например, основатель SpaceX Илон Маск уверен, что искусственный интеллект погубит земную цивилизацию.
«ИИ является фундаментальным риском для человеческой цивилизации. ИИ приведет к массовым проблемам с работой, потому что роботы смогут все сделать лучше нас. Компании в погоне за передовыми технологиями могут забыть про опасности, которые исходят от искусственного интеллекта», - сказал Маск.
Его опасения разделяет и соучредитель Microsoft Билл Гейтс.
«Спустя несколько десятилетий после того, как роботы будут выполнять большую часть работы, искусственный интеллект разовьется настолько, что станет предметом беспокойства. Я согласен с Илоном Маском по этому поводу и не понимаю, почему некоторые люди не обеспокоены этим вопросом», - резюмировал Гейтс.
В числе этих «некоторых», Гейтс, видимо, имел в виду СEO Facebook Марка Цукерберга, который назвал высказывания Маска безответственными, а самих изобретателей «людьми простоя».
«У меня есть четкая позиция по этому поводу, я настроен оптимистично. Я думаю, что вы можете создавать вещи, которые сделают мир лучше. Но в случае с ИИ я особенно оптимистичен. А эти люди простоя проявляют скептицизм, рассуждая о сценариях конца света. Это имеет негативный эффект и это очень безответственно. Новые технологии всегда могут быть использованы для того, чтобы творить добро или зло. На деле позитивный эффект от массового распространения ИИ мы увидим уже через 5-10 лет», - сказал Цукерберг.
Хотя было бы странно, если б Цукерберг, внедряющий функцию распознавания лиц во Facebook, придерживался какой-либо другой позиции.
Как бы там ни было, споры спорами, а искусственный интеллект продолжает стремительно развиваться.
ПУГАЮЩИЕ ДОСТИЖЕНИЯ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
Распознавание лиц Facebook
Последние несколько лет Марк Цукерберг ведет работу над новой функций для социальной сети, а точнее разработкой искусственного интеллекта, который будет распознавать эмоции пользователей и предлагать контент под настроение.
На данный момент ИИ Facebook уже может учиться и распознавать паттерны. Однако страшно представить, какой контент предложит ИИ, если выйдет из-под контроля, например, человеку в депрессии.
Машины Надин и «Ян-Ян»
Помимо того, что искусственный интеллект ничуть не уступает человеческому, ученые стараются сделать машины внешне максимально похожими на людей.
Например, японский ученый создал машину «Ян-Ян», которая как две капли воды похожа на его дочь. «Искусственная» женщина умеет обниматься и пожимать руку.
Похожего робота, Надин, разработали в Сингапуре. Женщина обладает прекрасными волосами и кожей, которые очень сложно отличить от человеческих. Сейчас она умеет улыбаться, приветствовать людей, пожимать руку, смотреть в глаза и даже узнавать знакомых, которых видела ранее, и поддерживать с ними беседу на основании прошлого общения.
Кстати, доктор Ян Пирсон выдвинул гипотезу: к 2030 году каждый человек будет участвовать в некоторой форме виртуального секса, а к 2050 секс с роботами станет нормой. Помните эпизод из популярного сериала «Черное зеркало», когда героиня у героини вместо покойного мужа появился похожий на него робот, только с неисчерпаемой сексуальной энергией?
Искусственный интеллект Xiaoice
Разработчики ИИ очень не любят, когда им говорят, что их роботы хуже людей: пусть они и умные, но зато бесчувственные. Чтобы исправить этот «недостаток», ученые принялись за создание ИИ, который может испытывать чувства и эмоции. И надо сказать, что их работа уже дает свои плоды.
Например, исследователи из Microsoft Application and Service Group создали искусственный интеллект Xiaoice, который является прототипом 17-летней девочки. Он может быть мнительным, саркастичным и нетерпеливым, а если не знает ответа на заданные вопросы, просто начинает врать.
Интересно, как люди собираются выделяться на фоне роботов, которые думают и выглядят лучше, чем они, а к тому же могут чувствовать?
ИИ вместо директоров и журналистов
Когда сторонники искусственного интеллекта защищают его от нападок скептиков, они часто приводят аргумент о неспособности роботов заменить специалистов из интеллектуальной сферы. То есть, если ИИ и сократит количество рабочих мест, то пострадают только разнорабочие, которые к моменту повсеместного запуска ИИ уже успеют переквалифицироваться.
Однако японская компания Deep Knowledge доказывает обратное. Они включили искусственный интеллект Vital в совет директоров. Сейчас он находит тенденции, которые человек чаще всего пропускает. Как и следует члену совета директоров, он наделен правом голоса касательно всех финансовых решений в компании.
Могут вытеснить роботы и журналистов. Например, в Associated Press роботы пишут финансовые отчеты. Использование ИИ увеличило число ежеквартальных новостей в издании с 300 до 4400.
По данным страховой компании Swiss Re, к 2020 году 4,7 млн человек могут остаться без работы. Под угрозой кассиры, почтальоны, бухгалтеры и офисные служащие. С их функциями сможет прекрасно справляться ИИ.
ЧТО БЫВАЕТ, КОГДА ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ВЫХОДИТ ИЗ-ПОД КОНТРОЛЯ
Искусственный интеллект по всему миру уже не раз давал сбой. Кажется, ему совсем не нравится слушаться человека.
Например, в августе этого года в вышеупомянутой компании Facebook два бота после подключения вступили в непрограммируемый и непонятный для людей диалог между собой. Специалисты полагают, что агенты пытались самостоятельно понять принципы общения.
Это, конечно, не первый случай, когда искусственный интеллект выходит из-под контроля. В прошлом году алгоритм Twitter Тау, который был запрограммирован на роль девочки-подростка, за день научился расизму и ненормативной лексике.
Еще один чат-бот Zo от Microsoft вышел из-под контроля этим летом. Тогда на вопрос журналиста о системе здравоохранения, бот ответил, что «Коран очень жесток». Он также прокомментировал ликвидацию Усамы бен Ладена: «Это стало следствием сбора разведданных под руководством администрации одной из стран». Хотя алгоритм Zо настроен нейтрально по отношению к политике и религии.
Несмотря на очевидные противоречия искусственного интеллекта, проекты в этой области являются самыми инвестируемыми. Например, стартапы, специализирующиеся на ИИ, за 2016 год собрали порядка пяти миллиардов долларов. При этом в разработку ИИ инвестируют как венчурные фонды, так и крупные игроки – Intel, Google, General Electric и другие.
Работа в области искусственного интеллекта идет уже почти 60 лет. В 1943 году Уоррен Мак-Каллок и Уолтер Питс вывели понятие «искусственная нейронная сеть» - это математическая модель, а также ее программное или аппаратное воплощение, построенная по принципу организации и функционирования сетей нервных клеток живого организма. В 1957 году, основываясь на этих идеях, физик Фрэнк Розенблатт предложил перцептрон – компьютерную модель восприятия информации мозгом. Впервые перцептрон реализовал сам Розенблатт в виде первого в мире нейрокомпьютера «Марк 1». Говоря проще, искусственный интеллект – это машина, способная думать и выполнять те же задачи, что и мозг человека.
Екатерина Дегтерева
