Так что такое искусственный интеллект и и почему его не стоит бояться. Как боты Facebook придумали для себя непонятный людям язык Искусственный интеллект существует или нет

Футуристы уверены: рано или поздно учёным удастся создать искусственный интеллект, подобный человеческому, а то и превосходящий его. Учёные пытаются сделать это при помощи моделирования человеческого мозга, но им ещё предстоит пройти долгий путь, чтобы скопировать 100 млн нейронов мозга и 1 трлн их соединений. Тем более предпосылки к этому уже есть: к примеру, нейробиолог Генри Маркрам (Henry Markram) с коллегами работают над многообещающим проектом - созданием полностью идентичного человеческому виртуального мозга, а Барак Обама выделил $100 млн на исследования функций головного мозга и инновационные проекты в этой области.


Однако на недавнем Международном научном форуме в Нью-Йорке группа исследователей объявила , что существует как минимум четыре серьёзных препятствия на пути создания искусственного интеллекта.

1. Мозг - не компьютер

Дуглас Филдс

Вероятно, можно спроектировать машину, которая будет функционировать, как мозг человека, но не наоборот. В обществе принято сравнивать работу мозга с работой компьютера, однако, по мнению нейробиолога Дугласа Филдса (Douglas Fields), подобные параллели недопустимы, так как мозг - биологический орган с живыми клетками и тканями, пропускающими электрические импульсы, а не платы с цифровым кодом и проводами.

2. Технологии ещё недостаточно развиты

Недавно учёным удалось приоткрыть «тайну» мозговой нейронной сети: для этого они сканировали при помощи электронного микроскопа мельчайшие кусочки нервной ткани, а затем воссоздали её компьютерную модель, однако чтобы проделать то же самое с целым мозгом существующих технологий недостаточно. Нейробиолог Кристен Харрис (Kristen Harris) пояснил: в настоящее время одна клетка головного мозга эквивалентна по мощности одному ноутбуку.

3. Структура мозга слишком сложна


Но даже если появятся суперсовременные компьютеры, способные воссоздать весь триллион нейронных связей, учёным ещё долго придется расшифровывать, как проявляется каждая из них в сознании и поведении человека. Кроме того, сами нейроны составляют лишь 15% нервной ткани, а помимо них есть ещё вспомогательные клетки - глии.

Центральная нервная система

4. Мозг - лишь часть ЦНС

Грегори Уилер (Gregory Wheeler) из Университета Карнеги-Меллона заметил, что мозг подаёт сигналы, которые были бы бесполезны, к примеру, без спинного мозга. Поэтому, чтобы создать искусственный интеллект, подобный человеческому, нужно разрабатывать не один орган, а целый организм.

Как работает «мозгопочта» - передача сообщений от мозга к мозгу через интернет

10 тайн мира, которые наука, наконец, раскрыла

10 главных вопросов о Вселенной, ответы на которые учёные ищут прямо сейчас

8 вещей, которые не может объяснить наука

2500-летняя научная тайна: почему мы зеваем

3 самых глупых аргумента, которыми противники Теории эволюции оправдывают своё невежество

Можно ли с помощью современных технологий реализовать способности супергероев?

Атом, люстр, нуктемерон, и ещё семь единиц времени, о которых вы не слышали

Согласно новой теории, параллельные вселенные могут существовать в действительности

В течение многих десятилетий такое понятие, как искусственный интеллект принадлежало исключительно научной фантастике и вдохновляло писателей и сценаристов на создание сюжетов, описывающих драматические взаимоотношения людей и разумных машин. Все начало меняться несколько лет назад, а начало 2016 года стало бенефисом реально существующих систем искусственного интеллекта..

Искусственный интеллект наступает

Если быть точным, то череда информационных поводов, каждый из которых достоин большой статьи, началась в декабре 2015 года, когда культовая фигура современного хайтека предприниматель Илон Маск (Tesla Motors, SpaceX) вместе с соснователем PayPal Питером Тилеми и главой венчурного фонда Y Combinator Сэмом Альтманом заявили о создании некоммерческой организации OpenAI и об инвестициях в нее в размере миллиарда долларов.

OpenAI – это исследовательская компания, занимающаяся ИИ (искусственным интеллектом). По заявлению учредителей, цель компании – развивать открытый и дружественный искусственный интеллект. Открытость призвана избежать концентрации власти, которую дает ИИ, находящийся в одних руках.

4 января в Лас-Вегасе в рамках СЕS – крупнейшей мировой технологической выставки, глава компании NVIDIA Дженсен Хуанг провел впечатляющую презентацию нового автомобильного суперкомпьютера Drive PX2, позволяющего управлять автомобилем без водителя, рассказал о разработках NVIDIA в области глубинного машинного обучения и компьютерного зрения.

А 15 марта состоялась наверно самая яркая в современной истории демонстрация возможностей современного искусственного интеллекта. ИИ AlphaGo компании Google обыграл со счетом 4:1 сильнейшего игрока в Го, Ли Седоля. Призовой фонд матча составил $1 млн.

Го – древняя китайская настольная игра, популярная не только в юго-восточной Азии, но и во всем мире. Ее особенность заключается в том, что по количеству вариантов ходов, их 200 во время каждого хода, она значительно превосходит шахматы. Даже самый мощный суперкомпьютер в мире, а тем более человек, не способен просчитать все варианты развития партии. Соответственно, важнейшими качествами сильнейших игроков в Го является развитое стратегическое мышление и хорошая интуиция. То есть, ИИ превзошел человека в таком, казалось бы, чисто человеческом качестве, как интуиция.

Еще одним интересным событием, непосредственно связанным с искусственным интеллектом, стал проводящийся в Японии литературный конкурс имени писателя-фантаста Хоси Синъити. В этом году из полутора тысячи произведений 11 было написано с помощью ИИ, а повесть "День, когда компьютер написал роман" вышла в финал конкурса. Повесть была написана искусственным интеллектом, разработанным в университета Хакодате.

Отличным прогнозистом оказался китайский ИИ Aliyun, созданный интернет-гигантом Alibaba Group. В начале апреля он смог предсказать победителя и финалистов популярного в Китае музыкального шоу "Я певец". Победитель этого шоу определяется слепым (без предварительных совещаний) голосованием 500 судей.

Говоря о искусственном интеллекте, стоит отметить один поразительный момент. Несмотря на колоссальный прорыв, который произошел за последние 30 лет в области информационных технологий, и триллионы инвестиций в IT, работы по разработке ИИ все это время испытывали хроническое недофинансирование и только в последние несколько лет туда пришлю серьезные деньги.

Что в данном случае первично, инвестиции, которые принесли отдачу, или успехи разработчиков ИИ, которые заметил большой бизнес, в общем, неважно. Главное, что дело сдвинулось с мертвой точки.

Что же вообще такое – искусственный интеллект?

Академического определения ИИ еще не сложилось, однако специалисты считают, что отличительная особенность искусственного интеллекта – способность, в отличие от обычной компьютерной программы, к выполнению интеллектуальных и творческих задач.

Современных концепций создания ИИ довольно много. Но на самом базовом уровне они отличаются тем, что одни пытаются копировать человеческое мышление – семиотический подход, а другие строятся по принципу биологических нейронных сетей, моделирующих интеллектуальную деятельность на основе природных эволюционных алгоритмов – биологический подход.

На сегодняшней день самые заметные успехи достигнуты во втором направлении. Машинное обучение, а точнее глубинное машинное обучение (Deep Learning) – сейчас считается самым перспективным в создании ИИ.

ИИ, созданные по такому принципу, не просто учатся, они способны обучатся cамостоятельно, без участия людей. Процесс обучение такой системы больше напоминает не обучение человека, а ускоренный в миллионы раз процесс эволюции биологических организмов.

В чем же отличие, созданных фантастами и транслируемых поп-культурой, образов могучих разумных машин из "Бегущего по лезвию бритвы", "Терминатора" и "Матрицы" от реально существующих искусственных интеллектов?

Разумеется в научно фантастике необходимость создания драматических сюжетных коллизий диктует практически обязательный конфликт между машиной и человеком. Но главное не это.

Во-первых, все художественные концепции искусственного интеллекта антропоцентричны. То есть, такие ИИ напоминают своим поведением людей, а взаимоотношения человека и машины в научной фантастике практически ничем не отличаются от взаимоотношений людей разных национальностей, религий и культур. Но если посмотреть на самые успешные из уже существующих ИИ, то они не руководствуются человеческой логикой, а базируются на искусственных нейронных сетях и, образно говоря, напоминают не человека, а разумную планету. Отдадим, впрочем, должное современным НФ-писателям, такие сюжеты в современной фантастике тоже есть.

Фото: YAY/ТАСС/William Attard McCarthy

Во-вторых, все эти умные машины из фантастических фильмов и книг способны сами ставить себе цели и пытаться их добиться.

Реально же существующие ИИ-системы даже в теории на такое не способны.

Разработчик искусственного интеллекта компании "Яндекс" Александр Крайнов считает это принципиальным моментом, отличающим мышление ИИ от человеческого. ИИ может решать только те задачи, которые перед ним ставит человек и неспособен к целеполаганию.

А может ли ИИ представлять опасность?

Разумеется, может. Как представляет собой опасность любое выдающееся научное достижение. Классический пример – открытие процесса расщепления атомного ядра, которое привело, как к созданию ядерной энергии, так и к созданию ядерного оружия. Более актуальный пример – Интернет, с одной стороны давший так много новых возможностей людям, с другой – породивший киберпреступность.

ИИ тоже может быть опасен. Но не как враждебная людям сила. Он может быть опасен именно как инструмент в руках злоумышленников. Поскольку обучают ИИ люди, они же и задают параметры обучения. Соответственно, человек и отвечает за то, какой ИИ мы в итоге получаем.

Процесс обучения ИИ интересен еще и тем, что люди не только задают параметры обучения, но и сами становятся объектами и примерами для обучения искусственного интеллекта.

Тот же AlphaGo, перед тем как обыграть Ли Седоля, проанализировал тысячи партий лучших игроков в ГО, а потом сыграл еще миллионы партий сам с собой.

Есть и другой пример обучения ИИ, несколько менее удачный, но тоже очень яркий. Это англоязычный чатбот Тэй компании Microsoft, который запустили в социальной сети Twitter в образе девушки тинэйджера. За 24 часа Тэй, общаясь с пользователям, превратилась из дружелюбного собеседника в малоадекватное существо и стала публиковать посты антисемитского, расистского и шовинистического содержания. В итоге компания удалила твиты Тэй и принесла извинения пользователям.

Причем ранее чатбот Сяоайс, созданная на базе того же самого ИИ, блестяще работала в китайском сегменте интернета и пользовалась колоссальной популярностью. Сяоайс заработала в мае 2015 года в социальных сетях WeChat и Weibo, а позднее, придав ей визуальный образ, Сяоайс сделали ведущей выпуска прогноза погоды на китайском телеканале. За несколько месяцев она вошла в десятку самых популярных персон соцсети Weibo и провела несколько миллиардов диалогов с людьми.

Тем удивительней на первый взгляд неудача Тэй в Twitter. Причина, однако, оказалось очень простой – разная аудитория Twitter с одной стороны и WeChat и Weibo – с другой. Общаясь и обучаясь на более агрессивных и провокационных диалогах в Twitter, Тэй сама стала и вести себя как ее собеседники.

На сегодняшнем уровне развития, разумеется, никакой ИИ не может представлять собой опасность. Но даже в теории создать злой ИИ может только человек, и научить плохому ИИ может тоже только человек.

Что может искусственный интеллект?

По мнению представителя компании NVIDIA Ирины Шеховцовой все, что связано с распознаванием информации, продуктов, музыки, речи, жестов, видео – все это будет рано или поздно управляться искусственным интеллектом. "Большой потенциал в развитии ИИ связан с робототехникой, финансовыми услугами и безопасностью, самоуправляемыми автомобилями", – считает Шеховцова.

ИИ уже используется в поисковых машинах "Яндекса", Google, Microsoft, Baidu, в компьютерном зрения, при финансовом анализе, в различных экспертных системах.

Одно из направлений использования ИИ – возможность общения на естественном языке с разнообразными компьютерными интерфейсами и интернет-сервисами. Причем, это уже не далекое будущее, а реальность. Коммерческих чатботов в соцсетях и мессенджерах запустили или планируют запустить в ближайшее время тысячи компаний. Благодаря ИИ, распознавание и синтез речи выходят на новый уровень. Соответственно, можно ожидать прорыва и в области машинного перевода, как текстового, так и голосового.

До сих пор люди выполняют огромное количество тяжелых рутинных рабочих процессов. Причем, если на производстве научились более или менее успешно их автоматизировать – на современных роботизированных фабриках и складах могут работать буквально несколько человек, то сферу обслуживания, офисы, госучреждения, транспорт и СМИ сейчас сложно себе представить без участия людей. Но, возможно, лет через 10 ситуация принципиально изменится. Использование ИИ в роли юридических, бизнес и медицинских консультантов, с одной стороны, уменьшит стоимость таких услуг, с другой – повысит их качество. Хороший пример использования ИИ – отслеживание транспортных и охранных камер наблюдения. Сейчас этим занимаются операторы, но современный ИИ уже может не только распознать внештатную ситуации, но и классифицировать ее, проанализировать и предпринять соответствующие действия.

В принципе, любой процесс, выполняемый по определенным алгоритмам, каким бы человеческими и сложными они не казались, можно передать ИИ. Это касается и консультаций у доктора или адвоката, написания новостей в СМИ, разработки бизнес-планов и маркетинговых стратегий, ведения бухгалтерии, работы госчиновников и многого другого.

Интересно, что многие эксперты видят перспективы использования ИИ не только в более или менее шаблонных рабочих процессах, но и в тех, которые традиционно считаются творческими. Теоретически ничто не мешает ИИ, конечно более развитым и обученным чем сейчас, писать художественные тексты, поп-музыку, картины или снимать кино.

Впрочем, это скорее говорит не об очеловечивании ИИ, а о том, что мы несколько переоцениваем свой творческий потенциал, и большая часть создаваемого даже людьми креативных профессий – это добротный, качественный и профессиональный продукт, созданный по жестким стандартам, освоить которые по силам и ИИ.

Искусственный интеллект – это хорошо или плохо?

ИИ – это не просто хорошо. Это очень хорошо. Он может освободить человеческие ресурсы для настоящей интеллектуальной и творческой деятельности. Более того, выполняя рутинные процессы, ИИ может стать неоценимым помощником для решения сложных задач, где требуется интеллектуальный или творческий прорыв. Также, очевидно, что массовое внедрение ИИ откроет путь к появлению новых профессий (и созданию новых рабочих мест), которые мы пока даже не можем себе представить.

Остается открытым вопрос – насколько люди готовы в реальной жизни взаимодействовать с искусственным интеллектом. Есть разные точки зрения, но с учетом возрастающей виртуализации нашего общения, которое все больше происходит не лицом к лицу, а по телефону, в электронных письмах, чатах, соцсетях, нам по большому счету неважно, кто на том конце провода примет заказ, ответит на вопрос, решит проблему – реальный человек или искусственный интеллект. Так что, скорее всего психологическое привыкание людей к общению с ИИ произойдет намного быстрее, чем нам кажется.

Исследуя, как новейшие технологии могут быть использованы в качестве творческого партнера, музыканты и исследователи из Кингстонского университета провели обучение передовой компьютерной системы для получения новых композиций на основе того, что он узнавал об определенном типе музыки.

Выбирая Ирландскую народную музыку для учебы — из-за его относительно четкой структуры и богатства имеющихся данных — система ИИ была обучена более чем 23000 мелодий. Это позволило ему создавать новые мелодии на основе моделей и структур, которые он извлек.

Результаты были настолько впечатляющими, что некоторые мелодии будут исполнены вживую на концерте в конце этого месяца в рамках проекта, по словам Одед Бен-Таль, старшего преподавателя кафедры музыкальных технологий университета Кингстон.

В дополнении к использованию системы ИИ для создания нового музыкального материала, д-р Бен-Таль работал в интерактивном режиме вместе с ней — введя начальную последовательность нот, а затем выбирать последовательность предлагаемую машиной. Через этот процесс, они были способны сочинять музыку вместе.

Отвергая любое предложение, что песни машины может в конечном итоге заменить людей, д-р Бен-Таль считает, что системы искусственного интеллекта могут оказаться идеальным инструментом для самодеятельных композиторов в необходимости какого-либо вдохновения. Д-р Бен-Таль также подчеркнул, что целью исследования было показать, каким образом ИИ может быть использована для активизации творческого процесса — не для его замены. Он также надеется, что она может быть использована учителями музыки и студентами в будущем.

«Люди неохотно верят что машины могут быть творческими — это очень человеческая черта», — сказал он. «Однако, факт в том, что технологии и творчество соединены в течении длительного времени, и это просто еще один шаг в этом направлении. «Мы должны помнить, что эта система не думают о музыке, как делаем это мы. Она может давать интересные результаты, но это не имеет никакого понимания контекста».

Специалисты отдела Facebook по исследованию возможностей искусственного интеллекта (ИИ) приняли решение об отключении одной из созданных ими систем ИИ после того, как выяснилось, что боты придумали свой собственный язык для общения, непонятный для людей. Эксперты обсуждают варианты того, до чего могли бы договориться боты, если бы их вовремя не остановили, и призывают ввести регулирование этой области технологий, чтобы ИИ не вышел из-под контроля человека.


В июне нынешнего года специалисты отдела Facebook по исследованию возможностей искусственного интеллекта (FAIR) опубликовали исследование о том, как они занимаются обучением ботов диалогам с элементами согласования условий, достижения компромисса, то есть такому общению, которое обычный человек ведет ежедневно в разных ситуациях. Обучение шло успешно, однако в какой-то момент ученые FAIR обнаружили, что боты перешли с понятного английского на какой-то свой вариант языка с использованием английских слов, не имеющий смысла для человека. Во избежание непредсказуемых последствий - боты могли договориться о чем-то неизвестном - ученые отключили эту систему ИИ и запрограммировали дальнейшее общение ботов только на английском языке.

Экспертное сообщество в обсуждении этого случая чаще всего вспоминало фильм «Терминатор», в котором еще в 1984 году был описан случай обретения искусственным интеллектом Скайнет (SkyNet) свободы воли и творческих способностей.

Ведению диалога двух ботов ученые FAIR обучали на примере ситуации, когда нужно поделить между собой ряд каких-либо предметов, имеющих разную ценность для каждого из собеседников. Например, им предложили поделить две книги, одну шляпу и три мяча, оба бота не знали, какую ценность каждый из этих предметов имеет для другого. Диалог выглядел примерно так: «Я хочу взять шляпу и мячи», «Шляпа нужна мне самому, но я могу отдать тебе все книги», «Книги мне не нужны, можешь забрать себе их и один мяч», «Два мяча», «Договорились». В зависимости от того, насколько успешно и быстро удавалось договориться виртуальным собеседникам, их поощряли соответствующими баллами.

Спустя какое-то время на новом этапе исследований ученые вдруг увидели, что боты начали говорить что-то невнятное. Диалог приобрел следующую форму: «Я могу могу я я все остальное», «Мячи ноль для меня для меня для меня для меня для меня для меня для меня для меня для». Поначалу ученые решили, что допустили какую-то ошибку в программировании. Однако дальнейший анализ ситуации показал, что система ИИ с возможностью обучения и саморазвития просто позволила ботам найти новый способ достижения цели - вести диалог с наибольшей скоростью и большей эффективностью (каждый получает награду в зависимости от того, насколько успешно будет завершен диалог), и для этого собеседники перешли на более удобный в данной ситуации язык. Ученые приняли решение отключить эту систему ИИ во избежание непредвиденных последствий.

Как пояснил в интервью ресурсу Fast Co. Design один из участников FAIR Дхрув Батра, «от общения на английском языке не было никакой выгоды»,

ботам не было предложено поощрений за нормальное человеческое общение и не было поставлено ограничений на использование определенного языка, поэтому они начали перестраивать язык на свой лад.

«Боты отошли от использования понятного языка и начали изобретать для себя словесные коды,- пояснил ученый.- Ну, как, например, если бы я сказал какое-то слово пять раз, то вы бы это поняли как то, что я хочу пять штук чего-то. Это не слишком отличается от того, как люди создают в языке какие-то сокращения».

Но в то время как люди одной профессии могут не понимать специальных терминов и сокращений, принятых в другой профессии и понятных другим специалистам, ученые задумались, а нужно ли позволять ИИ делать то же самое? Велика вероятность того, отмечают в FAIR, что человек никогда не сможет понять язык ботов. «Важно не забывать, что нет людей, владеющих каким-то человеческим языком и языком ИИ»,- говорит Дхрув Батра. По его словам,

человек уже не понимает, насколько сложно мыслят системы ИИ, потому что человек не может увидеть их мыслительный процесс

А если они еще начнут общаться между собой, то это только усложнит проблему.

Ученые же подчеркивают, что сейчас их больше интересует возможность общения ботов с людьми, так как это применимо в жизни. Над аналогичной проблемой сейчас работают не только в FAIR, но и в Microsoft, Google, Amazon, Apple. Существующие наработки уже позволяют добиться от систем ИИ ведения простых диалогов с человеком и выполнения простых задач, как, например, забронировать столик в ресторане.

Ранее основатель и глава компании Tesla Илон Маск заявил , что человеку необходимо быть очень осторожным с ИИ, учитывая, что машины и программы могут многое сделать лучше человека. «Я работаю с самыми передовыми технологиями ИИ и думаю, что людям нужно быть очень внимательными к этой проблеме»,- сказал он на летней конференции Национальной ассоциации губернаторов, подчеркнув, что ИИ представляет самую большую опасность для человечества. «ИИ представляет опасность для существования человеческой цивилизации, какую не представляют автокатастрофы, авиакатастрофы, бракованные лекарства или испорченные продукты»,- отметил он. По мнению Илона Маска, необходимо жестко регулировать исследования ИИ, чтобы в любой момент любое исследование можно было остановить и убедиться в его безопасности. О возможной опасности ИИ говорили в последние годы также основатель Microsoft Билл Гейтс, а также известный английский физик-теоретик Стивен Хокинг .

Алена Миклашевская


Чем полезен искусственный интеллект


Джон Тума, директор направления Aster Analytic Strategy корпорации Teradata, считает, что опасения Билла Гейтса относительно искусственного интеллекта неоправданны. По мнению Тумы, машины станут умнее людей, но это человечеству только на пользу.

Куда заведет человека развитие технологий


Китай планирует стать мировым центром искусственного интеллекта к 2030 году. Правительство КНР утвердило план из трех этапов по развитию и внедрению соответствующих технологий, сообщает издание ZDNet. Пока мировые корпорации ищут помощника человеку, ученые бьют тревогу и говорят, что искусственный разум может победить биологический.

Чем отличается робот от «искусственного» ума? Учёные утверждают, что это разные вещи. Если создан интеллект, который похож на естественный, то он способен будет перечить человеку и заниматься своими личными делами. Робот же является просто электронным рабом, исполняющим любые желания человека и решающий задачи, поставленные перед ним его создателем.

Изобрести электронного раба несложно. К таким устройствам можно отнести, к примеру, калькулятор или компьютер. Но придумать искусственный организм, способный жить по своим правилам и выполнять свои цели, намного сложнее, тем более, если человеку ещё надо найти с ним общий язык.

Человек должен придумать модель такой нервной системы, мозг которой способен был бы функционировать аналогично мозгу живого организма. Люди и даже некоторые животные демонстрируют свой интеллект. И учёные пытаются создать именно такую модель, которая будет обладать аналогичными свойствами. Такая система автономного «искусственного» интеллекта будет способна самообучаться, иметь свою волю, достигать своих целей. Она получит возможность жить как своей собственной жизнью и не всегда слушать команды человека, особенно, если они будут не совсем адекватными.

Но одно дело придумать такую модель, а другое – понять, как она на самом деле функционирует в живой природе. Именно по этой причине изобретатели «искусственного» интеллекта понимают, что даже если они построят такую автономную систему, которая будет способна самообучаться, понимать и действовать, сравниться по своей мощности с возможностями живого человека она сможет только после того, как пройдёт по длинному пути эволюционного развития.

Но, к сожалению, пока не существует самообучающегося и адаптационного алгоритма, который был бы сравним с человеком и обладал бы такой мощностью, чтобы самостоятельно обучаться каким-либо поведенческим актам. Любой изобретённый людьми самообучаемый алгоритм имеет маленькую мощность.

Каждый из нас может быстро приспособиться под условия своего проживания. Наш организм включает в себя набор датчиков, исполнительных функций и физических параметров, которые позволяют ему существовать. Всё это было создано в течение тысяч лет эволюции человека. При создании искусственного мозга его необходимо будет очень долго и настойчиво обучать. Как ускорить этот процесс, учёные пока не знают. Но если на этот вопрос ответить не удастся, то изобрести такой интеллект, который будет на 100% сравним с человеческим, не получится.