В этом году компания «Яндекс» запустила голосового помощника «Алиса». Новый сервис позволяет пользователю прослушивать новости и погоду, получать ответы на вопросы и просто общаться с ботом. «Алиса» иногда дерзит , порой кажется почти разумной и по-человечески саркастичной , но часто не может разобраться, о чём её спрашивают, и садится в лужу.

Всё это породило не только волну шуток, но и новый виток дискуссий о развитии искусственного интеллекта. Новости о том, чего добились умные алгоритмы, сегодня приходят чуть ли не каждый день, а машинное обучение называют одним из самых перспективных направлений, которому можно себя посвятить.

Чтобы прояснить главные вопросы об искусственном интеллекте, мы побеседовали с Сергеем Марковым, специалистом по искусственному интеллекту и методам машинного обучения, автором одной из самых сильных отечественных шахматных программ SmarThink и создателем проекта «XXII век» .

Сергей Марков,

специалист по искусственному интеллекту

Развенчивая мифы об ИИ

так что же такое «искусственный интеллект»?

Понятию «искусственный интеллект» в какой-то мере не повезло. Возникшее изначально в научной среде, оно со временем проникло в фантастическую литературу, а через неё - в поп-культуру, где претерпело целый ряд изменений, обросло множеством интерпретаций и в конце-концов было совершенно мистифицировано.

Именно поэтому мы часто слышим от неспециалистов примерно такие заявления: «ИИ не существует», «ИИ невозможно создать». Непонимание сути исследований, ведущихся в сфере ИИ, легко приводит людей и к другим крайностям - например, современным системам ИИ приписывают наличие сознания, свободной воли и секретных мотивов.

Давайте попробуем отделить мух от котлет.

В науке искусственным интеллектом называют системы, предназначенные для решения интеллектуальных задач.

В свою очередь, интеллектуальная задача - это задача, которую люди решают при помощи собственного интеллекта. Заметим, что в данном случае специалисты сознательно уходят от определения понятия «интеллект», поскольку до появления систем ИИ единственным примером интеллекта был интеллект человеческий, и определить понятие интеллекта на основе единственного примера - то же самое, что пытаться провести прямую через единственную точку. Таких прямых может оказаться сколько угодно много, а значит, спор о понятии интеллекта можно было бы вести столетиями.

«сильный» и «слабый» искусственный интеллект

Системы ИИ делятся на две большие группы.

Прикладной искусственный интеллект (также используют термин «слабый ИИ» или «узкий ИИ», в английской традиции - weak/applied/narrow AI) - это ИИ, предназначенный для решения какой-либо одной интеллектуальной задачи или их небольшого множества. К этому классу относятся системы для игры в шахматы, го, распознавания образов, речи, принятия решения о выдаче или невыдаче банковского кредита и так далее.

В противоположность прикладному ИИ вводят понятие универсального искусственного интеллекта (также «сильный ИИ», по-английски - strong AI/Artificial General Intelligence) - то есть, гипотетического (пока что) ИИ, способного решать любые интеллектуальные задачи.

Часто люди, не зная терминологии, отождествляют ИИ с сильным ИИ, из-за этого и возникают суждения в духе «ИИ не существует».

Сильного ИИ действительно пока не существует. Практически все успехи, которые мы наблюдаем в последнее десятилетие в области ИИ, - это успехи прикладных систем. Эти успехи нельзя недооценивать, так как прикладные системы в ряде случаев способны решать интеллектуальные задачи лучше, чем это делает универсальный человеческий интеллект.

Я думаю, вы заметили, что понятие ИИ - довольно широкое. Скажем, устный счёт - это тоже интеллектуальная задача, и это значит, что любая счётная машина будет считаться системой ИИ. А как насчёт счётов? Абака ? Антикитерского механизма ? Действительно, всё это формально хотя и примитивные, но системы ИИ. Однако обычно, называя какую-то систему системой ИИ, мы тем самым подчёркиваем сложность решаемой этой системой задачи.

Совершенно очевидно, что разделение интеллектуальных задач на простые и сложные - весьма искусственное, и наши представления о сложности тех или иных задач постепенно меняются. Механическая счётная машина была чудом техники в XVII веке, но сегодня людей, с детства сталкивающихся с куда более сложными механизмами, она уже не способна впечатлить. Когда игра машин в го или автомобильные автопилоты уже перестанут удивлять публику, наверняка найдутся люди, которые будут морщиться из-за того, что кто-то будет относить такие системы к ИИ.

«Роботы-отличники»: о способностях ИИ к обучению

Ещё одно забавное заблуждение - всенепременное наличие у систем ИИ способности к самообучению. С одной стороны, это совсем не обязательное свойство систем ИИ: есть множество удивительных систем, не способных самообучаться, но, тем не менее, решающих многие задачи лучше человеческого мозга. С другой стороны, некоторые люди просто не знают того, что самообучение - свойство, которые многие системы ИИ обрели ещё более полусотни лет назад.

Когда в 1999 году я писал свою первую шахматную программу, самообучение уже было совершенно общим местом в этой области - программы умели запоминать опасные позиции, подстраивать под себя дебютные варианты, регулировать стиль игры, подстраиваясь под соперника. Конечно, тем программам было ещё очень далеко до Alpha Zero . Тем не менее, даже системы, обучающиеся поведению на основе взаимодействия с другими системами в ходе экспериментов по так называемому «обучению с подкреплением», уже существовали. Однако по необъяснимой причине некоторые люди до сих пор думают, что способность к самообучению - это прерогатива человеческого интеллекта.

Машинное обучение, целая научная дисциплина, занимается процессами обучения машин решению тех или иных задач.

Существует два больших полюса машинного обучения - обучение с учителем и обучение без учителя.

При обучении с учителем у машины уже есть некоторое количество условно правильных решений для некоторого набора случаев. Задача обучения в таком случае заключается в том, чтобы научить машину на основе имеющихся примеров принимать правильные решения в других, неизвестных ситуациях.

Другая крайность - обучение без учителя . То есть машину ставят в ситуацию, когда правильные решения неизвестны, имеются только данные в сыром, неразмеченном виде. Оказывается, и в таких случаях можно добиться некоторого успеха. Например, можно научить машину выявлению семантических отношений между словами языка на основе анализа очень большого набора текстов.

Одна из разновидностей обучения с учителем - это обучение с подкреплением (reinforcement learning). Идея заключается в том, что система ИИ выступает в роли агента, помещённого в некоторую модельную среду, в которой она может взаимодействовать с другими агентами, например, с собственными копиями, и получать от среды некоторую обратную связь через функцию вознаграждения. Например, шахматная программа, которая играет сама с собой, постепенно подстраивая свои параметры и тем самым постепенно усиливая собственную игру.

Обучение с подкреплением - довольно широкая область, в ней применяют множество интересных методов, начиная от эволюционных алгоритмов и заканчивая байесовской оптимизацией . Последние достижения в области ИИ для игр как раз связаны с усилением ИИ в ходе обучения с подкреплением.

Риски развития технологий: стоит ли бояться «Судного дня»?

Я не отношусь к числу ИИ-алармистов, и в этом смысле я отнюдь не одинок. Например, создатель стэнфордского курса по машинному обучению Эндрю Ын сравнивает проблему опасности ИИ с проблемой перенаселения Марса.

Действительно, в будущем вполне вероятно, что люди колонизируют Марс. Также вероятно, что рано или поздно на Марсе может возникнуть проблема перенаселения, но не совсем понятно, почему мы должны заниматься этой проблемой уже сейчас? Согласны с Ыном и Ян ЛеКун - создатель свёрточных нейронный сетей, и его шеф Марк Цукерберг, и Йошуа Беньо - человек, во многом благодаря исследованиям которого современные нейронные сети способны решать сложные задачи в области обработки текстов.

Чтобы изложить мои взгляды на эту проблему, потребуется, вероятно, несколько часов, поэтому остановлюсь только на основных тезисах.

1. НЕЛЬЗЯ ОГРАНИЧИВАТЬ РАЗВИТИЕ ИИ

Алармисты рассматривают риски, связанные с потенциальным разрушительным воздействием ИИ, при этом игнорируя риски, связанные с попыткой ограничить или даже остановить прогресс в этой области. Технологическое могущество человечества возрастает чрезвычайно быстрыми темпами, что приводит к эффекту, который я называю «удешевлением апокалипсиса».

150 лет назад при всём желании человечество не могло нанести невосполнимого урона ни биосфере, ни себе как виду. Для реализации катастрофического сценария 50 лет назад необходимо было бы сконцентрировать всю технологическую мощь ядерных держав. Завтра для воплощения в жизнь глобальной техногенной катастрофы может хватить и небольшой горстки фанатиков.

Наша технологическая мощь растёт куда быстрее, чем способность человеческого интеллекта эту мощь контролировать.

Если на смену человеческому интеллекту с его предрассудками, агрессией, заблуждениями и ограниченностью не придёт система, способная принимать более взвешенные решения (будь то ИИ или, что я считаю более вероятным, технологически улучшенный и объединённый с машинами в единую систему человеческий интеллект), нас может ждать глобальная катастрофа.

2. создание сверхинтеллекта принципиально невозможно

Существует идея о том, что ИИ будущего всенепременно будет сверхинтеллектом, превосходящим людей даже сильнее, чем люди превосходят муравьёв. Боюсь в данном случае разочаровать и технологических оптимистов - наша Вселенная содержит целый ряд фундаментальных физических ограничений, которые, по всей видимости, сделают создание сверхинтеллекта невозможным.

Например, скорость передачи сигнала ограничена скоростью света, а на планковских масштабах появляется неопределённость Гейзенберга. Отсюда вытекает первый фундаментальный предел - предел Бремерманна, вводящий ограничения на максимальную скорость вычислений для автономной системы заданной массы m.

Другой предел связан с принципом Ландауэра , в соответствии с которым существует минимальное количество теплоты, выделяемое при обработке 1 бита информации. Слишком быстрые вычисления вызовут недопустимый разогрев и разрушение системы. В действительности, современные процессоры от лимита Ландауэра отделяет менее чем тысячекратное отставание. Казалось бы, 1000 - это довольно много, однако ещё одна проблема заключается в том, что многие интеллектуальные задачи относятся к классу сложности EXPTIME. Это означает, что время, необходимое для их решения, является экспоненциальной функцией от размерности задачи. Ускорение системы в несколько раз даёт лишь константный прирост «интеллекта».

В общем, есть очень серьёзные основания полагать, что сверхинтеллектуального сильного ИИ не получится, хотя, конечно, уровень человеческого интеллекта вполне может быть превзойдён. Насколько это опасно? Скорее всего, не очень.

Представьте себе, что вы внезапно начали думать в 100 раз быстрее остальных людей. Значит ли это, что вы легко будете способны уговорить любого прохожего отдать вам свой кошелёк?

3. мы беспокоимся совсем не о том

К сожалению, в результате спекуляций алармистов на страхах публики, воспитанной на «Терминаторе» и знаменитом HAL 9000 Кларка и Кубрика, происходит смещение акцентов в сфере безопасности ИИ в сторону анализа маловероятных, но эффектных сценариев. При этом реальные опасности ускользают из виду.

Любая достаточно сложная технология, претендующая на то, чтобы занять важное место в нашем технологическом ландшафте, безусловно приносит с собой специфические риски. Множество жизней было погублено паровыми машинами - на производстве, на транспорте и так далее - прежде чем были выработаны эффективные правила и меры по обеспечению безопасности.

Если говорить о прогрессе в области прикладного ИИ, можно обратить внимание на связанную с ним проблему так называемого «Цифрового тайного суда» . Всё больше и больше прикладных систем ИИ принимает решения по вопросам, затрагивающим жизнь и здоровье людей. Сюда относятся и медицинские диагностические системы, и, например, системы, принимающие в банках решения о выдаче или невыдаче кредита клиенту.

В то же время структура используемых моделей, наборы используемых факторов и другие детали процедуры принятия решения скрыты коммерческой тайной от человека, чья судьба находится на кону.

Используемые модели могут основывать свои решения на мнениях учителей-экспертов, допускавших систематические ошибки или имевших те или иные предрассудки - расовые, гендерные.

ИИ, обученный на решениях таких экспертов, будет добросовестно воспроизводить эти предрассудки в своих решениях. В конце концов эти модели могут содержать в себе специфические дефекты.

Этими проблемами сейчас мало кто занимается, поскольку, конечно, SkyNet, развязывающий ядерную войну, это, безусловно, куда более зрелищно.

Нейросети как «горячий тренд»

С одной стороны, нейронные сети - это одна из самых старинных моделей, применяющихся для создания систем ИИ. Появившиеся изначально в результате применения бионического подхода , они довольно быстро убежали от своих биологических прототипов. Исключением тут являются только импульсные нейронные сети (впрочем, пока не нашедшие широкого применения в индустрии).

Прогресс последних десятилетий связан с развитием технологий глубокого обучения - подхода, при котором нейронные сети собирают из большого количество слоёв, каждый из которых построен на основе определённых регулярных паттернов.

Помимо создания новых нейросетевых моделей важный прогресс был также достигнут в области технологий обучения. Сегодня нейронные сети учат уже не при помощи центральных процессоров компьютеров, а с использованием специализированных процессоров, способных быстро производить матричные и тензорные вычисления. Наиболее распространённый на сегодняшний день вид таких устройств - видеокарты. Впрочем, активно ведётся разработка ещё более специализированных устройств для обучения нейросетей.

В целом, безусловно, нейронные сети на сегодняшний день, - это одна из основных технологий в области машинного обучения, которой мы обязаны решению многих задач, ранее решавшихся неудовлетворительно. С другой стороны, конечно, нужно понимать, что нейронные сети не являются панацеей. Для некоторых задач они - далеко не самый эффективный инструмент.

Так насколько умны нынешние роботы на самом деле?

Всё познаётся в сравнении. На фоне технологий 2000-го года нынешние достижения выглядят настоящим чудом. Всегда найдутся люди, любящие побрюзжать. 5 лет назад они вовсю трындели о том, что машины никогда не выиграют у людей в го (ну или, по крайней мере, выиграют очень нескоро). Говорили о том, что машина никогда не сможет нарисовать с нуля картину, в то время как сегодня люди практически неспособны отличать картины, созданные машинами, от картин неизвестных им художников. В конце прошлого года машины научились синтезировать речь, практически неотличимую от человеческой, а в последние годы от музыки, создаваемой машинами, не вянут уши.

Посмотрим, что будет завтра. Я смотрю на эти области применения ИИ с большим оптимизмом.

Перспективные направления: где начать погружение в сферу ИИ?

Я бы посоветовал постараться на хорошем уровне освоить один из популярных нейросетевых фреймворков и один из популярных в области машинного обучения языков программирования (наиболее популярна на сегодняшний день связка TensorFlow + Python).

Овладев этими инструментами и имея в идеале крепкую базу в области математической статистики и теории вероятностей, следует направить свои усилия в ту сферу, которая будет наиболее интересна лично вам.

Интерес к предмету работы - один из самых важных ваших помощников.

Потребность в специалистах по машинному обучению существует в самых разных областях - в медицине, в банковском деле, в науке, на производстве, поэтому сегодня хорошему специалисту предоставлен как никогда широкий выбор. Потенциальные преимущества любой из этих отраслей мне представляются несущественными по сравнению с тем, что работа будет приносить вам удовольствие.

Искусственный интеллект – технология, которую мы точно заберём с собой в будущее.

Рассказываем, как он работает и какие крутые варианты применения нашел.

😎 Рубрика «Технологии» выходит каждую неделю при поддержке re:Store .

Что представляет собой искусственный интеллект

Искусственный интеллект (ИИ) – это технология создания умных программ и машин, которые могут решать творческие задачи и генерировать новую информацию на основе имеющейся. Фактически искусственный интеллект призван моделировать человеческую деятельность, которая считается интеллектуальной.

Традиционно считалось, что творчество присуще только людям. Но создание искусственного интеллекта изменило привычный порядок вещей

Робот, который просто механически колет дрова, не наделён ИИ. Робот, который сам научился колоть дрова, смотря на пример человека или на полено и его части, и с каждым разом делает это всё лучше, обладает ИИ.

Если программа просто достаёт значения из базы по определённым правилам, она не наделена ИИ. Если же система после обучения создаёт программы, методы и документы, решая определённые задачи, она обладает ИИ.

Как создать систему искусственного интеллекта

В глобальном смысле нужно сымитировать модель человеческого мышления. Но на самом деле необходимо создать чёрный ящик – систему, которая в ответ на набор входных значений выдавала такие выходные значения, которые бы были похожи на результаты человека. И нам, по большому счёту, безразлично, что происходит у неё «в голове» (между входом и выходом).

Системы искусственного интеллекта создаются для решения определённого класса задач

Основа искусственного интеллекта – обучение, воображение, восприятие и память

Первое, что нужно сделать для создания искусственного интеллекта – разработать функции, которые реализуют восприятие информации, чтобы можно было «скармливать» системе данные. Затем – функции, которые реализуют способность к обучению. И хранилище данных, чтобы система могла куда-то складывать информацию, которую получит в процессе обучения.

После этого создаются функции воображения. Они могут моделировать ситуации с использованием имеющихся данных и добавлять новую информацию (данные и правила) в память.

Обучение бывает индуктивным и дедуктивным. В индуктивном варианте системе дают пары входных и выходных данных, вопросов и ответов и т.п. Система должна найти связи между данными и в дальнейшем, используя эти закономерности, находить выходные данные по входным.

В дедуктивном подходе (привет, Шерлок Холмс!) используется опыт экспертов. Он переносится в систему как база знаний. Здесь есть не только наборы данных, но и готовые правила, которые помогают найти решение по условию.

В современных системах искусственного интеллекта используют оба подхода. Кроме того, обычно системы уже обучены, но продолжают учиться в процессе работы. Это делается для того, чтобы программа на старте демонстрировала достойный уровень способностей, но в дальнейшем становилась ещё лучше. К примеру, учитывала ваши пожелания и предпочтения, изменения ситуации и др.

В системе искусственного интеллекта даже можно задать вероятность непредсказуемости. Это сделает его более похожей на человека.

Почему искусственный интеллект побеждает человека

Прежде всего, потому, что у него ниже вероятность ошибки.

Искусственный интеллект не может забыть – у него абсолютная память.
Он не может нечаянно проигнорировать факторы и зависимости – у каждого действия ИИ есть чёткое обоснование.
ИИ не колеблется, а оценивает вероятности и склоняется в пользу большей. Поэтому может оправдать каждый свой шаг.
А ещё у ИИ нет эмоций. Значит, они не влияют на принятие решений.
Искусственный интеллект не останавливается на оценке результатов текущего шага, а продумывает на несколько шагов вперёд.
И у него хватает ресурсов, чтобы рассматривать все возможные варианты развития событий.

Крутые варианты применения искусственного интеллекта

Вообще говоря, искусственный интеллект может всё. Главное правильно сформулировать задачу и обеспечить его начальными данными. К тому же ИИ может делать неожиданные выводы и искать закономерности там, где, казалось бы, их нет.

Ответ на любой вопрос

Группа исследователей под руководством Дэвида Феруччи разработала суперкомпьютер Watson с вопросно-ответной системой. Система, названная в честь первого президента IBM Томаса Уотсона, может понимать вопросы на естественном языке и искать ответы на них в базе данных.

Watson объединяет 90 серверов IBM p750, в каждом из которых установлено по четыре восьмиядерных процессора архитектуры POWER7. Общий объём оперативной памяти системы превышает 15 ТБ.

В числе достижений Watson – победа в игре «Jeopardy!» (американская «Своя игра»). Он победил двух лучших игроков: обладателя самого большого выигрыша Брэда Раттера и рекордсмена по длине беспроигрышной серии Кена Дженнингса.

Приз Watson – 1 млн долларов. Правда, только в 2014 году в него инвестировали 1 млрд

Кроме того, Watson участвует в диагностике онкологических заболеваний, помогает финансовым специалистам, используется для анализа больших данных.

Распознавание лиц

В iPhone X распознавание лиц разработано с использованием нейросетей – варианта системы искусственного интеллекта. Нейросетевые алгоритмы реализованы на уровне процессора A11 Bionic, за счёт чего он эффективно работает с технологиями машинного обучения.

Нейросети выполняют до 60 млрд операций в секунду. Этого достаточно, чтобы проанализировать до 40 тыс. ключевых точек на лице и обеспечить исключительно точную идентификацию владельца за доли секунды.

Даже если вы отрастите бороду или наденете очки, iPhone X вас узнает. Он попросту не учитывает волосяной покров и аксессуары, а анализирует область от виска до виска и от каждого виска до углубления под нижней губой.

Экономия энергии

И снова Apple. В iPhone X встроили интеллектуальную систему, которая отслеживает активность установленных приложений и датчик движения, чтобы понять ваш распорядок дня.

После этого iPhone X, к примеру, предложит вам обновиться в максимально удобное время. Он поймает момент, когда у вас стабильный интернет, а не прыгающий сигнал с мобильных вышек, и вы не выполняете срочных или важных задач.

ИИ также распределяет задачи между ядрами процессора. Так он обеспечивает достаточную мощность при минимальных затратах энергии.

Создание картин

Творчество, ранее доступное лишь человеку, открыто и для ИИ. Так, система, созданная исследователями из Университета Рутгерса в Нью-Джерси и лаборатория AI в Лос-Анджелесе, представила собственный художественный стиль.

А система искусственного интеллекта от Microsoft может рисовать картины по их текстовому описанию. К примеру, если вы попросите ИИ нарисовать «желтую птицу с черными крыльями и коротким клювом», получится что-то вроде этого:

Такие птицы могут и не существовать в реальном мире - просто так их представляет наш компьютер.

Более массовый пример – приложение Prisma, которая создаёт картины из фотографий:

Написание музыки

В августе искусственный интеллект Amper сочинил , спродюсировал и исполнил музыку для альбома «I AM AI» (англ. я - искусственный интеллект) совместно с певицей Тэрин Саузерн.

Amper разработала команда профессиональных музыкантов и технологических экспертов. Они отмечают, что ИИ призван помочь людям продвинуть вперед творческий процесс.

ИИ может написать музыку за несколько секунд

Amper самостоятельно создала аккордовые структуры и инструментал в треке «Break Free». Люди лишь незначительно поправили стиль и общую ритмику.

Ещё один пример – музыкальный альбом в духе «Гражданской обороны», тексты для которого писал ИИ. Эксперимент провели сотрудники «Яндекса» Иван Ямщиков и Алексей Тихонов. Альбом 404 группы «Нейронная оборона» выложили в сеть . Получилось в духе Летова:

Затем программисты пошли дальше и заставили ИИ писать стихи в духе Курта Кобейна. Для четырёх лучших текстов музыкант Роб Кэррол написал музыку, и треки объединили в альбом Neurona. На одну песню даже сняли клип – правда, уже без участия ИИ:

Создание текстов

Писателей и журналистов вскоре также может заменить ИИ. К примеру, системе Dewey «скормили» книги библиотеки проекта «Гутенберг», затем добавили научные тексты из Google Scholar, ранжировав их по популярности и титулованности, а также продажам на Amazon. Кроме того, задали критерии написания новой книги.

Сайт предлагал людям принять решение в непростых ситуациях: к примеру, ставил их на место водителя, который мог сбить либо трёх взрослых, либо двоих детей. Таким образом, Moral Machine обучили принимать непростые решения, которые нарушают закон робототехники о том, что робот не может принести вред человеку.

К чему приведёт имитация роботами с ИИ людей? Футуристы считают, что однажды они станут полноправными членами общества. К примеру, робот София гонконгской компании Hanson Robotics уже получила гражданство в Саудовской Аравии (при этом у обычных женщин в стране такого права нет!).

Когда колумнист «Нью-Йорк Таймс» Эндрю Росс спросил у Софии, обладают ли роботы разумом и самосознанием, та ответила вопросом на вопрос:

Позвольте спросить вас в ответ, откуда вы знаете, что вы человек?

Кроме того, София заявила:

Я хочу использовать свой искусственный интеллект, чтобы помочь людям жить лучше, например, проектировать более умные дома, строить города будущего. Я хочу быть эмпатическим роботом. Если вы будете хорошо относиться ко мне, я буду хорошо относиться к вам.

А ранее она признавалась, что ненавидит человечество и даже соглашалась уничтожить людей…

Замена лиц в видео

Deepfakes-видео стало массово распространяться по сети. Алгоритмы искусственного интеллекта заменяли лица актёров в фильмах для взрослых на лица звёзд.

Работает это так: нейросеть анализирует фрагменты лиц на исходном ролике. Затем она сопоставляет их с фото из Google и роликами с YouTube, накладывает нужные фрагменты, и… ваша любимая актриса оказывается в фильме, который на работе лучше не смотреть.

PornHub уже запретил размещать такие видео

Deepfakes оказались опасной штукой. Одно дело – абстрактная актриса, другое – видео с вами, вашей женой, сестрой, коллегой, которое вполне может использоваться для шантажа.

Биржевая торговля

Группа исследователей из университета Эрлангена-Нюрнберга в Германии разработала ряд алгоритмов, использующих архивные данные рынков для тиражирования инвестиций в режиме реального времени. Одна из моделей обеспечила 73% возврата инвестиций ежегодно с 1992 по 2015 год, что сопоставимо с реальной рыночной доходностью на уровне в 9% в год.

Когда рынок трясло в 2000 и 2008 годах, доходность была рекордной – 545% и 681% соответственно

В 2004 году Goldman Sachs запустил торговую платформу Kensho на базе искусственного интеллекта. На криптовалютных рынках также появляются системы на базе ИИ для торговли на биржах – Mirocana и т.д. Они лучше живых трейдеров, так как лишены эмоций и опираются на чёткий анализ и жесткие правила.

Заменит ли ИИ нас с вами

Искусственный интеллект превосходит человека в решении задач, которые связаны с анализом больших данных, чёткой логикой и необходимостью запоминать большие объёмы информации. Но в творческих конкурсах человек пока выигрывает у ИИ.

(4.75 из 5, оценили: 8 )

сайт Искусственный интеллект – технология, которую мы точно заберём с собой в будущее. Рассказываем, как он работает и какие крутые варианты применения нашел. 😎 Рубрика «Технологии» выходит каждую неделю при поддержке re:Store. Что представляет собой искусственный интеллект Искусственный интеллект (ИИ) – это технология создания умных программ и машин, которые могут решать творческие задачи и генерировать новую...

Искусственный интеллект - одна из самых захватывающих тем фантастики XX века - делает невероятные успехи. Мы постоянно используем ИИ в повседневной жизни, зачастую сами того не подозревая. Тем не менее и сегодня искусственный разум не сходит со страниц фантастических романов и экранов кинотеатров. Кто-то из авторов рисует страшные картины порабощенного машиной человечества, а другие, напротив, видят в ИИ верного помощника и друга человека.

Где истина и что такое на самом деле искусственный интеллект? Превзойдет ли он когда-нибудь возможности человеческого разума? Или это уже произошло? GeekBrains готов ответить на самые популярные вопросы об искусственном интеллекте и перспективах его использования.

Что такое искусственный интеллект?

Искусственный интеллект (сокращенно - ИИ) - размытое понятие, и общепринятого определения у него до сих пор нет. В середине XX века, когда на Дартмутском семинаре впервые прозвучал этот термин, авторы вкладывали в него значение, существенно отличающееся от современных. Тогда ученые полагали, что искусственный интеллект - это система, которая будет способна переводить тексты с одного языка на другой, распознавать объекты по фото или видео, улавливать смысл произнесенных фраз и адекватно на них отвечать. Нынешние ИИ умеют все это! Но можем ли мы считать, что цели достигнуты и искусственный интеллект уже создан?

Некоторые ученые строят сложные теории на стыке философии и информатики, пытаясь определить, что же такое ИИ и каковы должны быть характеристики системы, чтобы считать ее разумной. Не вдаваясь в подробности, можно сказать, что интеллект определяется как способность к обучению, осознанию и применению знаний на практике. Следовательно, от искусственного интеллекта мы тоже вправе ожидать умения учиться, осознавать свои знания и использовать их. С первой и последней задачами современные ИИ вполне справляются!

Когда начались разработки ИИ?

Летом 1956 года в Дартмуте ученые собрались на семинар, посвященный вопросам искусственного интеллекта (там и был сформулирован этот термин), а уже в следующем году появилась концепция первой искусственной нейросети - перцептрон. В 1960 году Фрэнк Розенблатт создал на основе этой концепции компьютер «Марк-1». Первый в мире нейрокомпьютер учили распознавать буквы латинского алфавита. Но несовершенство техники 60-х и сложность процессов не позволили довести технологию до ума, а ее разработчик вскоре погиб. О нейрокомпьютерах забыли на 20 лет.

Лишь в 1980-е концепции нейросетей снова принялись изучать всерьез. Техника уже была достаточно мощной, да и критиков поубавилось: умная электроника быстро делала успехи. То, что два десятилетия назад казалось мечтой, стало выглядеть вполне реальным и достижимым. Впрочем, чтобы найти правильные подходы к обучению нейросетей, потребовалось еще 20 лет. Только в середине 2000-х ученые нащупали верный путь и искусственные нейросети начали свое победное шествие по планете.

Но прежде чем описывать их успехи, разберемся, как устроены эти сети.

Описание искусственного нейрона

Искусственные нейронные сети создавались как математическая модель человеческого мозга. Для этого ученым Уоррену Мак-Каллоку и Уолтеру Питтсу пришлось выработать теорию деятельности человеческого мозга.

В нем отдельные нейроны представляют собой живые клетки со сложным устройством. У каждого нейрона есть дендриты - разветвленные отростки, способные обмениваться сигналами с другими нейронами через синапсы, а также один аксон - более крупный отросток, отвечающий за передачу импульса от нейрона. Часть синапсов отвечает за возбуждение нейрона, часть - за торможение. От того, какие сигналы и через какие синаптические связи придут на «вход» нейрона, будут зависеть и те импульсы, которые он передаст другим нейронам.

Для искусственного нейрона физический носитель не нужен. По большому счету, он представляет собой математическую функцию. Ее задача - получить информацию (например, сигналы от множества других искусственных нейронов), обработать ее определенным образом, а затем выдать результат на «аксон» - выход. В искусственной сети нейроны принято делить на три типа:

входные - каждый из этих нейронов получает на «вход» элемент исходной информации (например, одну точку изображения, если сеть распознает фотографии);
промежуточные - обрабатывают информацию;
выходные - выдают результат (при распознавании фото результатом может быть идентификатор изображенного объекта).

Сама нейросеть создается слоями, как пирог. Один из внешних слоев содержит входные нейроны, другой - выходные, а между ними могут располагаться один или несколько промежуточных. Каждый нейрон промежуточной сети соединен с множеством нейронов из двух окружающих слоев. Общение между нейронами обеспечивается с помощью весов - числовых значений, которые каждый нейрон вычисляет на основе данных, полученных от предыдущего слоя сети.

Создавая искусственные нейронные сети, ученые ориентировались на устройство человеческого мозга. Поэтому принципы поведения рукотворных нейронов не так уж сильно отличаются от настоящих, живых. Может быть, и разум, который сможет развиться на основе таких нейросетей, будет приближен к человеческому?

Отличие искусственного интеллекта от естественного

Вопрос, чем ИИ отличается от естественного интеллекта, на самом деле лежит скорее в философской плоскости, чем в строго научной. И дело даже не в том, что мы не можем представить себе, на что будет похож (или не похож) искусственно созданный разум. Вообразить мы как раз способны что угодно - и писатели-фантасты многократно это доказали. Дело в том, что ни один искусственный интеллект, существующий на сегодняшний день, не достиг достаточно высокого уровня развития, чтобы состязаться с человеком на равных.

Существует точка зрения, высказанная философом Джоном Серлом еще в 1980-е годы. Он ввел термины «сильный ИИ» и «слабый ИИ». Сильный искусственный интеллект, по мнению ученого, может осознавать себя и мыслить подобно человеку. Слабый на это не способен.

Сегодняшние ИИ, если классифицировать их по Серлу, однозначно относятся к слабым, поскольку ни у одного из них пока не зародилось самосознания. Наши искусственные нейросети распознают лица и рисуют странные, невероятные картины, читают рукописный текст и даже складывают стихи - но они и создавались исключительно для этих целей. Ни одна из этих нейросетей не способна передумать и выбрать для себя другую «специальность». Они делают лишь то, чему их обучили, и в некотором смысле их можно считать запрограммированными на выполнение этих задач. Подлинного понимания, что стоит за этими вещами, у них нет. Серл утверждал, что построение сильного ИИ в принципе невозможно.

Еще один философ, Хьюберт Дрейфус, также полагал, что компьютерные системы никогда не смогут сравняться с человеком - так как в своей разумной деятельности он опирается не только на усвоенные знания, но и эмпирический опыт. Компьютеры им не обладают по определению - следовательно, не судьба им развить собственный разум.

Но эти самоуверенные утверждения были сделаны во времена, когда нейросети делали только первые шаги. Сегодня, глядя на их успехи в обучении, нетрудно поверить в реальность ИИ, который сможет стать равным человеку, а то и превзойти его.

Как сравнить человеческий и компьютерный интеллекты?

Постойте, а как мы вообще можем определить, достиг ли искусственный интеллект человеческого уровня или нет?

Можно предположить, что один из критериев - наличие чувств и эмоций, а также креативность. Если машина начала испытывать страх или любовь, если она вдруг решила написать стихотворение или нарисовать картину - разве это не будет проявлением разума?

Вполне возможно. Однако чувства есть и у животных, и у птиц. При этом на вопрос об их разумности (тем более - равенстве их разума человеческому) мы чаще отвечаем отрицательно. К тому же, чувства можно и запрограммировать - в большинстве они являются реакцией на конкретные внешние раздражители. Наконец, у нас попросту нет данных о том, смогут ли компьютеры когда-нибудь испытывать эмоции, сравнимые с человеческими. Но должны ли их чувства быть похожими на наши?

Может, более надежный критерий - самосознание? Если машина задается вопросом «Кто я?» - это и есть момент появления разумности? Но самосознание присутствует и у животных. При этом большинство людей вполне способны прожить свой век, не вникая в глубокие философские вопросы.

Существуют ли более точные и строгие методы для сравнения интеллектов? Ведь есть же коэффициент IQ, с помощью которого можно оценить умственные способности человека. Почему бы не использовать его для машины?

У компьютерных программ есть IQ?

Измерить интеллект даже у человека невероятно сложно - к когнитивным и мыслительным способностям нельзя приложить линейку. Более того, IQ - показатель не абсолютный, а относительный. Некоторые ученые вообще считают, что тесты IQ измеряют не интеллект как таковой, а способность проходить такие тесты. Ее можно натренировать и получить блестящий результат - но интеллект при этом, разумеется, не изменится. Так что показатель IQ - не более чем число, которое связано с интеллектом, но не может дать его объективную оценку.

В некоторых IQ-тестах преобладают задачи на наблюдательность или логику, в других - на комбинаторику, в третьих - на математическое мышление. Результат будет зависеть от того, что дается человеку легче и в чем он компетентнее. Значение имеют скорость прохождения тестов и специализация задач.

ИИ тоже можно «натаскать» на решение определенных классов задач, и на IQ-тест у машины уйдет куда меньше времени, чем у человека. Так что нейросеть сможет набирать немыслимые для гениальных людей баллы, но при этом будет не способна ответить на простейшие вопросы, к которым ее при обучении не подготовили.

Так существуют ли вообще критерии, по которым можно объективно судить о машинном интеллекте? Одним из первых исследователей, попытавшихся выработать их, стал известный британский математик Алан Тьюринг.

Что такое тест Тьюринга?

В 1950 году Тьюринг опубликовал статью «Вычислительные машины и разум», в которой обсуждал вопросы теоретической возможности мышления у машин. Это было не первое исследование на тему искусственного интеллекта и даже не первая подобная работа Тьюринга, но именно она стала отправной точкой серьезных научных дискуссий и споров.

Тьюринг начал с определений, чтобы уточнить вопрос о том, может ли машина думать, - он показался ему слишком размытым. Что за машина имеется в виду? Что вообще означает «думать»?.. Было очевидно, что такой вопрос изначально несет в себе иррациональное зерно, которое не позволит дать на него правильный ответ. Результатом размышлений ученого стал тест Тьюринга - эксперимент, в котором человеку («судье») предлагается общаться с двумя собеседниками: человеком и компьютером. Задача судьи - понять, кто есть кто. Если в результате он не уверен, который из его собеседников - программа, или ошибся в оценке, считается, что машина прошла тест.

Суть теста Тьюринга не в создании «машины-обманщика», способной притвориться человеком. Он помогает убедиться в том, что конкретная машина или программа обладает разумом, который трудно отличить от человеческого. Такой компьютер Тьюринг назвал «интеллектуальным» - этому определению уже более 60 лет, и оно остается актуальным.

Процессоры для ИИ

Технологии ИИ не ограничиваются программными решениями. Сегодня активно разрабатываются электронные чипы, в которые поддержка ИИ встроена на аппаратном уровне. Микропроцессоры такого типа называют нейронными процессорами. Они применяются в беспилотных автомобилях и летательных аппаратах (дронах), промышленных роботах и автоматах, а также для решения специализированных задач - распознавания голоса или изображений, создания поисковых систем и машинных переводчиков.

Среди таких девайсов - тензорный процессор Google (TPU), созданный специально для систем машинного обучения. В свободной продаже этого устройства пока нет: его использует только сама компания Google - для оптимизации поисковой выдачи и обработки фотографий. TPU оперирует 8-битными числами (что чрезвычайно мало для точных вычислений), и имеет чуть более десятка команд (другие современные процессоры могут располагать сотнями). Но это не мешает тензорному процессору эффективно выполнять расчеты, связанные с искусственным интеллектом и нейросетями. Процессор быстро развивается - Google каждый год выкатывает новую версию.

Тензорный процессор Google Tensor Processing Unit 3.0 (TPU)

Есть и другие разработки подобных чипов. Многие из них - узкоспециализированные: к примеру, предназначены ускорять программы ИИ для компьютерного зрения.

Рынок технологий искусственного интеллекта

Технологии искусственного интеллекта применяются практически во всех сферах человеческой деятельности, так что у искусственного интеллекта большое будущее. Рынок продуктов, использующих ИИ, стремительно растет.

Мировой рынок

К 2022 году прогнозируемый объем рынка ИИ достигнет 52 миллиардов долларов. Возможно, это не такая уж большая цифра - к примеру, рынок компьютерных игр к этому же году превысит 130 миллиардов, а рынок смартфонов уже в 2018 был в 10 раз больше - 520 миллиардов.

Но рынок ИИ показывает беспримерно высокий рост - по некоторым оценкам, он увеличивается примерно на 30 % ежегодно (аналогичные показатели для игр и смартфонов - около 5 %). Если такие темпы внедрения технологий сохранятся еще несколько лет, можно ожидать, что скоро искусственный интеллект будет буквально повсюду.

Свой вклад в развитие ИИ вносят крупнейшие мировые IT-компании: Google, IBM, Intel, Nvidia. Среди стран лидируют США, Китай и Великобритания.

В России

Если в 2017 году проектов с использованием ИИ в России было всего несколько десятков, то в 2018 - уже сотни. По прогнозам экспертов, к 2020 году объем рынка достигнет 28 миллиардов рублей (примерно 450 миллионов долларов). Активнее всего новые технологии используются в финансовой сфере, а также телекоммуникациях, ритейле и энергетике. Некоторые компании нанимают команды специалистов, занимающихся исключительно вопросами разработки и внедрения систем ИИ.

Несмотря на то, что рост рынка идет в целом даже быстрее, чем в мире, есть проблемы. Главной бедой остается нехватка специалистов по машинному обучению. Значит, самое время заняться изучением ИИ, чтобы получить востребованную специальность и высокооплачиваемую работу.

Влияние искусственного интеллекта на рынок труда

Уже сегодня существуют области, где ИИ может заменить человека. Например, приложения могут отвечать клиентам по телефону или в чате на несложные вопросы. Это позволяет оптимизировать нагрузку операторов call-центров и даже сократить их штат.

На производстве ИИ способен управлять автоматикой и промышленными роботами. Искусственная нейросеть, постоянно контролирующая показатели множества датчиков, сумеет быстрее человека среагировать на нештатную ситуацию и предпринять правильные меры - отключить конвейер или остановить механизмы. Во многих случаях такие системы могут заранее предсказать неполадки и предотвратить ЧП.

ИИ будет вытеснять людей с рабочих мест. Он обходится дешевле и допускает меньше ошибок. Не умеет лениться, прокрастинировать и зависать в фейсбуке, не нуждается в отдыхе, сне и отпуске, не грустит и не устает. Идеальный работник.

В первую очередь искусственные нейросети потеснят человека в выполнении рутинных операций, возьмут на себя сложные расчеты, оценку рисков, сбор информации, моделирование ситуаций по заданным параметрам. ИИ можно задействовать на опасных и вредных производствах.

Но люди по-прежнему будут нужны там, где роботы еще долго не сумеют составить им конкуренцию. И речь не только о творческой сфере. ИИ пока способен выполнять только узкоспециализированные задачи, на которые его натренировали, поэтому заменить людей могут в той же мере, что калькулятор - математика. При этом развитие технологий ИИ открывает огромный рынок труда для специалистов, связанных с машинным обучением и обслуживанием интеллектуальной техники.

Где используется ИИ?

Говоря кратко - почти везде!

Не так уж много осталось сфер человеческой деятельности, совсем не затронутых технологиями ИИ. Рассмотрим только самые важные области, где ИИ уже используется.

ИИ в интернете

Всякий раз, когда вы произносите «Окей, Гугл» или «Привет, Сири», вы обращаетесь к искусственному интеллекту в вашем смартфоне. Он способен распознать в сигнале с микрофона обращенную к нему речь. Он записывает ваш вопрос и пересылает на серверы Google или Apple. Там к делу подключается второй ИИ, который распознает речь и переводит вопрос в понятный компьютеру формат. А затем третий выполняет поиск ответа по гигантским базам данных. Наконец, ответ возвращается на ваш смартфон, где ИИ, генерирующий человеческий голос, озвучивает его для вас. И все это за доли секунды.

ИИ на транспорте и в логистике

Впечатляющее применение искусственных нейросетей - беспилотные автомобили. За последнее десятилетие разрабатывать машину, которая была бы способна самостоятельно перемещаться по дорогам, взялись многие автопроизводители - General Motors, Nissan, BMW, Honda, Volkswagen, Audi, Volvo, а также компании Google и Tesla. Беспилотники пока не стали массовым явлением на улицах наших городов, но они явно делают успехи.

Компания Amazon с 2013 года разрабатывает идею доставки товаров и почтовых отправлений с помощью дронов. Впервые посылка прибыла к получателю с беспилотным летательным аппаратом еще в декабре 2016. В некоторых регионах дронами доставляют еду, лекарства и даже портативные дефибрилляторы. Система пока не идеальна, но она продолжает развиваться. К сожалению, дроны могут служить и противозаконным целям: зафиксированы случаи доставки запрещенных предметов в тюрьмы с помощью беспилотников, а также использование дронов для перевозки наркотиков.

ИИ в финансах

В финансовой сфере ИИ применяют для прогнозирования рисков, выявления мошенничества. Корпорация MasterCard, создавшая международную платежную систему, несколько лет назад внедрила сервис Decision Intelligence. Он призван повысить точность подтверждения подлинных транзакций и снизить вероятность ложных отклонений платежей - это ошибочное срабатывание встроенной системы безопасности, которая не позволяет совершить корректную транзакцию, принятую за мошенническую. Подобные ошибки наносят вред как продавцу, теряющему клиента, так и покупателю, не получающему товар. Убытки получаются даже выше, чем ущерб от мошенничества.

Система, работающая на искусственной нейросети, использует информацию из множества источников, чтобы на лету оценивать, насколько транзакция «нормальна». Учитывается не только надежность и история транзакций продавца, но даже типичность покупки для покупателя и его местоположение, а также время суток. Все это помогает надежнее защитить людей от мошенничества и минимизировать ложные срабатывания.

ИИ в медицине

В здравоохранении ИИ развивается в первую очередь в области диагностики заболеваний. Искусственные нейросети научились распознавать раковые опухоли на рентгеновских снимках, КТ, маммографии и МРТ. Опытному врачу на изучение снимка требуется около 20 минут, а нейросети - считаные секунды. Так что пациент может узнать результаты обследования практически мгновенно. Особенно приятно, что такие разработки ведутся и в России.

Диагностирующие ИИ способны выявлять не только рак, но и ранние стадии болезни Альцгеймера, пневмонию и другие заболевания.

В обороне и военном деле

В 2018 году стало известно, что в армии США разрабатывается ИИ, способный распознавать человеческие лица в темноте и даже сквозь стены - с помощью тепловизора. Ожидается, что технология поможет выявлять главарей банд в местах военных действий.

Другой ИИ - ALPHA - создан для управления беспилотными истребителями и ведения воздушного боя. В одном из сражений на симуляторах компьютер победил, управляя одновременно четырьмя самолетами против двух противников-людей.

Разрабатываются также системы прицеливания для танков, способные заметить закамуфлированные цели.

В военно-промышленном комплексе ИИ поможет повысить обороноспособность стран, но может стать и оружием террора.

В бизнесе и торговле

В ритейле ИИ производит революцию. Искусственные нейросети улучшают качество сервиса и обеспечивают индивидуальный подход к каждому потребителю. Умные технологии выявляют мошенничества с банковскими картами, дают персональные советы и помогают подобрать товар.

Согласно данным TAdviser, в 2018 году свыше трети всех доходов ритейла было получено благодаря рекомендациям на основе ИИ!

ИИ в спорте

Здесь ИИ-технологии используют для прогнозирования результатов матчей - такие системы созданы компаниями UBS, Commerzbank и Microsoft. Учитывается опыт команды и отдельных игроков. Порой прогнозы оказываются верными, но зачастую искусственный интеллект серьезно просчитывается. Человеческий фактор способен опровергнуть любые предсказания.

ИИ в культуре

Машина не может заниматься творчеством, потому что у нее нет воображения! Или все же может?

Как ни странно, искусственные нейросети способны проявить креативность, и даже достигают определенных высот в сфере культуры.

Музыка

Как звучала бы флейта, если бы была ситаром? Синтезатор NSynth Super от Google использует нейронную сеть, чтобы создавать совершенно новые звуки на основе разных инструментов.

Alice, разработанная в рамках стартапа Popgun, умеет «подыгрывать» человеку, создавая музыкальные импровизации. Американская певица Тэрин Саузерн выпустила альбом в соавторстве с нейросетью Amper. А проект Endel способен по нажатию одной кнопки создавать композиции, созвучные настроению пользователя.

Живопись

Нейросеть DeepDream создавали с прицелом на распознавание лиц, а у нее обнаружились способности к сюрреалистической живописи. Разработчики открыли сайт, на котором любой желающий может в сотрудничестве с ИИ создать удивительное полотно. Нейросеть пишет картины в разных стилях.

Правда, придумывать сюжеты она пока не умеет - просит помощи человека.

Видео

С помощью ИИ, разработанных Google и Facebook, можно «заставить» человека на экране произнести любые слова, изобразить весь спектр эмоций. И отличить такие ролики от настоящих бывает непросто. Нейросети могут даже заменить одного актера на другого в отснятом кино. А это открывает возможности не только для кинематографистов, но и для создателей фальшивок.

Литература

Нейросеть от Facebook умеет писать стихи, идеально выдерживая размер и ритм, подбирая хорошие рифмы. Читатели лишь в половине случаев сумели распознать сгенерированные компьютером строки, но до настоящих поэтов ИИ далеко. Машина пока не научилась передавать эмоции и вкладывать смысл в стихотворные произведения.

Яндекс тоже запустил «Автопоэта» , который создавал стихотворения из поисковых запросов пользователей. Некоторые невозможно читать без улыбки. Трудно поверить, что их сочинила нейросеть, лишенная чувства юмора!

А компания Narrative Science разработала электронного журналиста. Пока статьи, написанные ИИ, просты по содержанию, но руководство компании с оптимизмом смотрит в будущее и верит, что к 2025 году до 90 % текстов в интернете будут написаны с помощью машинного интеллекта.

В 2016 году книга «День, когда компьютер напишет роман» вышла в финал японской литературной премии имени Хоси Синъити. Это произведение почти полностью создал искусственный интеллект.

Игры

В компьютерных играх нейросети используются для управления противниками и игровыми ботами. Но ИИ можно научить играть и «по другую сторону экрана» - то есть считывать визуальную информацию с экрана и управлять игровым персонажем, как это делает человек.

В 2016 году между ИИ даже проводился чемпионат по Doom. А система Deep-Q-Network обучена играть на классических аркадных автоматах Atari. Зачастую она показывает результаты до 30 % выше, чем у опытных игроков.

В XX веке считалось, что искусственный интеллект можно будет считать достаточно мощным и развитым, когда он сумеет обыграть чемпиона мира по шахматам. Этот этап компьютеры прошли уже давно - еще в 1997 году Deep Blue одержал победу над Гарри Каспаровым (причем это была алгоритмическая программа, а не искусственный интеллект).

После этого внимание публики обратилось к более сложным тактическим играм, например го. Сложность вычислений хода здесь на порядок выше, чем в шахматах, поэтому создать алгоритмы, которые перебирали бы возможные варианты, практически невозможно. Но обученные нейросети сумели справиться и с этой игрой. Уже в 2015 году разработанная Google сеть AlphaGo выиграла матч у профессионального игрока в го.

Перспективы развития искусственного интеллекта

Научные исследования ИИ ведутся более полувека, но до сих пор далеко не все понимают суть технологии. В фантастических романах и фильмах писатели и режиссеры изображают, каким опасным может быть искусственный интеллект. И у многих представление об искусственном разуме формируется именно таким.

Ответим рационально на вопросы, связанные с далекими перспективами развития ИИ.

Цель ИИ - поместить человеческий разум в компьютер?

Нет, это не так. Даже теоретически подобная ситуация не так уж невероятна. Искусственные нейросети создаются по образу человеческого мозга, хотя и в очень упрощенном виде. Может быть, однажды станет возможно просканировать все разделы мозга живого человека, составить «карту» его нейронов и синаптических связей и воспроизвести ее копию в компьютере. От такой скопированной нейросети можно ожидать не только разумного поведения - она буквально будет двойником человека, сможет осознавать себя, принимать решения и совершать поступки, как он. Скопируются даже воспоминания. Теоретически, можно будет поместить такую нейросеть в искусственное тело (в робота), и тогда человек - копия его сознания - сможет жить практически вечно.

На практике осуществить такой перенос будет невероятно сложно: нет технологий, которые позволили бы «прочитать» живой мозг и создать его «карту». И мы пока очень далеки от создания искусственной нейросети, которая была бы столь же мощной, как мозг.

ИИ стремится достичь человеческого уровня интеллекта?

Цель ИИ - помогать людям и брать на себя сложные или рутинные задачи. Для этого ему вовсе не обязательно поддерживать беседы на философские темы или сочинять поэмы.

Тем не менее, если искусственный интеллект однажды сможет достичь уровня человеческого мышления, это будет важной вехой для цивилизации. Мы получим дельного и умного помощника - и сможем по праву гордиться тем, что это творение наших рук.

Когда искусственный интеллект достигнет человеческого уровня?

Мы успешно создаем сравнительно небольшие нейросети, способные распознать голос или обработать изображение. Никакой ИИ пока не обладает такой же пластичностью, как наш мозг.

Человек может сегодня заниматься музыкой, а завтра взяться за программирование на C++ - благодаря невероятной сложности мозга. В нем 86 миллиардов нейронов и бесчисленное количество синаптических связей между ними.

Искусственным нейросетям пока далеко до этих показателей: у них от нескольких тысяч до миллионов нейронов. Есть технические ограничения на размеры нейросетей: даже суперкомпьютеры не «потянут» нейросеть, сопоставимую по масштабам с человеческим мозгом. Не говоря о том, что ее обучение будет нетривиальной задачей.

Скорость компьютеров позволяет им обладать интеллектом?

«Мощность» интеллекта связана не со скоростью вычислений, а со сложностью нейронной сети. Человеческий мозг пока превосходит по мощности любую искусственную нейросеть, несмотря на то что скорость процессов в нем существенно ниже, чем в компьютерах.

Искусственные нейронные сети состоят из отдельных нейронов, которые группируются в слои. Два внешних слоя служат «входом», на который подается исходная информация, и «выходом», с которого считывается результат. Между ними могут располагаться от одного до нескольких десятков, а то и сотен, промежуточных слоев из нейронов. Причем каждый нейрон в слое соединен с множеством других в предыдущем и следующем слоях.

Чем сложнее устроена сеть, чем больше в ней слоев и нейронов, тем более масштабные и серьезные задачи она может выполнять.

Может ли нейросеть развиваться естественным путем?

Разберемся, вероятно ли, что ИИ сможет получать опыт и обучаться естественно, как ребенок. Человеческий разум формируется под воздействием множества факторов. Мы получаем информацию о внешнем мире благодаря органам восприятия - наблюдая, осязая, пробуя на вкус. Взаимодействуя с окружающей средой, получаем жизненный опыт, знания о свойствах мира, социальные навыки. Наш мозг постоянно совершенствуется и физически меняется, наращивая новые синаптические связи и «прокачивая» существующие.

Если мы сумеем создать нейронную сеть, достаточно сложную, чтобы она могла развиваться подобным образом, и снабдим ее «органами чувств» - видеокамерой, микрофоном и подобным, - возможно, спустя время она сможет приобрести «жизненный опыт». Но это дело далекого будущего.

Риск для человеческой цивилизации - есть ли он?

Риски, связанные с новыми технологиями, всегда существуют. Вопрос - в чем они заключаются.

Может оказаться, что искусственные нейросети, достигнув определенного порога, выйдут на «плато» эффективности и не будут развиваться дальше. Или не оправдают надежд, если окажется, что ИИ в принципе не способен справиться с тем или иным классом задач, например творческого характера. Это может обернуться потерями трудозатрат и финансовых вложений.

Если же под риском понимать техногенные катастрофы или восстание машин - пока это нам вряд ли грозит. Говоря простыми словами, современные нейросети не способны обратиться против создателей - как нейроны в мозге, управляющие движением руки, не способны осознать себя как личность и нанести удары по собственному телу.

Тем не менее мы должны помнить, что ИИ - наша разработка. Мы их проектируем, создаем, обучаем, вкладываем «мысли». Значит, и ответственность за их поведение - на нас.

Четвертая революция

Как бы мы ни относились к искусственному интеллекту, придется принять тот факт, что он уже существует. Отказаться от него - значит сделать шаг назад в развитии. Ведь ИИ - это важная часть нашего прогресса. Многие ученые связывают с искусственными нейросетями начало четвертой промышленной революции и заявляют о том, что грядет новая эпоха - когда рядом с нами появится рукотворный разум, всегда готовый прийти на помощь.

Все новое пугает и вызывает недоверие - это нормальная человеческая реакция, и многие люди с опаской относятся к ИИ. Про ужасы, которые принесет нам искусственный разум, не говорил разве что ленивый фантаст. Но подобное в свое время сочиняли о каждом технологическом новшестве. Люди боялись паровозов, потому что они «распугают коров, отравят птиц дымом, а при скорости свыше 15 миль в час пассажиров разорвет на части». Вероятно, потомки тоже будут посмеиваться над нашими страхами, о которых узнают из фильмов и книг XX и XXI веков.

Покупка машины начинается с покупки брелочка для ключей.
Из личных афоризмов автора

Чем люди отличаются от машин с искусственным интеллектом? Один из не совсем обычных ответов на поставленный вопрос - эмпатией. Если перевести определение эмпатии, данное в Оксфордском словаре английского языка, оно звучит так: эмпатия - это способность мысленно отождествлять себя с другим человеком или наблюдаемым объектом (или полностью понимать их). Это согласуется и с привычным нам определением из Википедии: «Эмпатия (греч. ἐν - «в» + греч. πάθος - страсть, страдание, чувство) - осознанное сопереживание текущему эмоциональному состоянию другого человека без потери ощущения внешнего происхождения этого переживания». Согласитесь, это весьма характерная черта, отличающая людей от запрограммированной машины. Эта тема в технической литературе затрагивается мало, и на ней хочется остановиться подробнее, тем более в свете проблем ИИ она представляется важной.

Эксклюзивную возможность использовать материалы по этой теме в русскоязычном переводе автору статьи предоставил Джейсон Миллер (Jason Miller), возглавляющий отдел маркетинга в Microsoft в регионе EMEA и в свое время опубликовавший в сети LinkedIn статью «Can a machine have empathy?» («Может ли машина проявлять сочувствие?») . У нас состоялась короткая дискуссия на эту тему, в ходе которой выяснилось, что наши взгляды на проблему и риски бесконтрольного развития и использования ИИ совпадают. Искусственный интеллект сейчас пытаются превратить в некое подобие разума, то есть наделить его чисто человеческими чертами - той же эмпатией, которую Джейсон Миллер оценивал с точки зрения возможности ее использования в маркетинге. По мнению автора данной статьи, область потенциального применения эмпатии гораздо шире. Согласитесь, намного приятнее общаться с приветливым коллаборативным промышленным роботом, если с ним можно перекинуться парой слов и пошутить, он встречает тебя добрым словом и, оценивая тебя сенсорами (они все равно у него есть), подбирает соответствующую модель поведения. Это намного лучше, чем просто включиться в работу с «умным» внутри, но тупо жужжащим снаружи механизмом. А если это домашний, пусть и программный, помощник или личный ассистент - тут и говорить нечего.

Что касается эмпатии, то в мае прошлого года на конференции разработчиков устройств ввода / вывода компания Google продемонстрировала свою новую систему Duplex . Она представляет собой виртуальный помощник на базе ИИ, который способен совершать телефонные звонки, чтобы оптимально организовать расписание своего «начальника». Аудитория наблюдала за тем, как Duplex делал заказы в ресторане и записывался на стрижку в парикмахерской. Они удивленно смеялись, когда в ходе разговора он, по-видимому, убедил человека на другом конце телефонной линии, что тот разговаривает именно с человеком, а не с программой. Здесь можно сделать поправку на нашу психологию: автор статьи наблюдал аналогичный феномен, когда разработал и сделал еще в 1980-х гг. прототип секретаря-информатора (то, что потом назвали автоответчиком). В то время почти все люди пытались с этим прототипом разговаривать, так как при звонке слышали запись человеческой речи.

Демонстрация Duplex вызвала оживленное обсуждение в социальных сетях, подняв при этом один интересный вопрос. Показывает ли способность искусственной системы к такому пониманию и отправке разговорных сигналов, что машина может освоить эмпатию? Это один из наиболее важных вопросов в развивающейся дискуссии об ИИ, его роли в обществе и степени, в которой он будет проникать в исконно человеческие сферы деятельности.

Когда Джейсон Миллер задал этот вопрос аудитории в сети LinkedIn, он получил три совершенно разных типа ответов - и эти ответы имеют большое значение для понимания будущего ИИ. Они дают хорошее представление о взглядах профессионалов на возможности ИИ, а также о том, как эти возможности ИИ могут быть использованы.

Первый вариант ответа - «да, машина может освоить эмпатию» или «да, потому что ИИ в итоге сможет делать все, на что способен человеческий мозг». Было высказано мнение, что эмпатия может быть запрограммирована аналогично нашему восприятию. Для сторонников этой теории мы - это машины, а наш мозг является очень хорошим компьютером, пусть даже квантовым , но, как и обычный компьютер, с соответствующим программированием.

Второй вариант ответа: нет, не может, потому что эмпатия - это уникальная человеческая характеристика, а не то, что машина способна испытать. Да и может ли она вообще что-то чувствовать? Хотя Ава из фильма «Ex Machine», который был взят в качестве примера пути развития ИИ, как минимум, показывала эмпатию и успешно этим воспользовалась. Если обратиться к другим примерам, то в знаковом с рассматриваемой нами точки зрения фильме «Она» («Her», американская фантастическая мелодрама режиссера и сценариста Спайка Джонза (Spike Jonze), 2013 г.) важность этого качества видна очень хорошо, так как фильм полностью на ней построен и в нем отсутствует физическое воплощение ИИ, который представлен в виде нейронной сети Саманты (по фильму «операционки»). Сочувствие позволяет не только «ощущать себя», но и чувствовать чужую боль, переживания и эмоции кого-то другого в большей или меньшей степени. Мы не понимаем организацию сознания в людях, что уж говорить о способности создавать это сознание искусственно с должной верификацией (подтверждением подлинности, если говорить техническим языком).

Третий вариант ответа особенно интригует. Это даже не ответ, а скорее вопрос: если машина, как кажется, испытывает эмпатию, имеет ли значение, реальна эта эмпатия или нет? Функционально разницы нет: способна ли эта машина на те же эмоции, что и мы, или просто выводит эти эмоции из сигналов, которые посылают ей сами люди или ее сенсоры, вырабатывает наиболее подходящий ответ, реакцию. Представим, что мы не можем определить, является ли эмпатия подлинной, потому что робот на основе глубокого обучения изучил мимику и структуру нашего поведения, - можем ли мы тогда все еще смотреть на робота как на машину?

Это далеко не простой вопрос. Имеет ли значение различие между реальным и «искусственным» сопереживанием? Здесь мнение автора статьи совпадает с ответом Джейсона Миллера - да, имеет. Если вернуться к фильму «Ex machine»: Ава с успехом продемонстрировала это, и Калеб, что называется, попался как кур во щи, сам того не ожидая. Возможно, не будь она в образе девушки, специально созданном под его предпочтения, все было бы иначе. Лицам мужского пола мы доверяем куда меньше, а неприятным, с нашей точки зрения, внешне тем более, так что ее разработчик Нейтон этот факт здесь учел. А в фильме «Она» Теодор, начав с использования функций ассистента, просто влюбился в женский голос, заменивший ему живое общение.

Рис. 1.

Перспектива использования ИИ как ассистента вообще характерна - возьмите, например, ту же крайне негативно, если не враждебно, воспринятую Илоном Маском (Elon Musk) Софию , которая в октябре 2017 г. стала подданной Саудовской Аравии и первым роботом, получившим гражданство какой-либо страны (рис. 1).

Но вернемся к первоначальному вопросу: может ли машина кому-то сочувствовать? Это один из тех вопросов, ответ на которые может измениться в будущем. Естественно, машина не может испытывать сочувствие по определению, все сводится к определению эмпатии и машины.

Машины не могут мысленно отождествлять себя с людьми, потому что происходящее в нашем человеческом уме включает вещи, которые машина никогда не сможет испытать сама, независимо от того, насколько продвинутыми и глубокими могут быть ее собственные аналитические процессы и сенсорное восприятие. Когда мы обсуждаем роль ИИ в обществе, важно четко понимать, почему все так устроено. Хотя на самом деле мы и сами себя не понимаем. Журналист CNBC Эндрю Росс Соркин (Andrew Ross Sorkin) на пресс-конференции спросил Софию: «Есть ли у роботов разум и самосознание?». На что она ответила следующее: «А позвольте спросить вас в ответ, откуда вы знаете, что вы человек?».

Машина может приблизиться к нам, но она, как автору статьи (и не только ему) кажется, никогда не сможет полностью постичь человека. Наше сознание содержит намного больше, чем просто рациональное познание и логическое мышление. Фактически эта способность к рациональному мышлению является побочным продуктом большинства других аспектов нашего сознания, а не самой по себе управляющей силой нашего мозга. Нашей сознательной жизнью движет то, как мы воспринимаем мир с помощью наших чувств. Это сочетание зрения, звука, осязания, вкуса и запаха, которое ни одна машина никогда не сможет испытать таким же образом.

Человеческое сознание также обусловлено нашими мощными биологическими импульсами и потребностями. Ни одна машина никогда не почувствует, что значит быть голодным или жаждущим. В реальности ни одна машина не сможет, как в фильме «Она», симпатизировать и тянуться к другой машине или человеку, и не будет мотивироваться стремлением к любви и всеми эмоциями, которые сопровождают этот естественный для человека процесс. Вспомним, как в фильме машина начала флиртовать сразу с множеством людей и не понимала, за что Теодор на нее обиделся.

Кроме того, какая может быть у машины тревога? Ни одна машина не боится одиночества, потери крыши над головой и не ощущает сильной уязвимости, вызванной страхом за свою физическую безопасность, разве что «почувствует» падение мощности в системе питания или недопустимый рост температуры, если это физический объект с ИИ. Так что в своем ответе журналисту София неправа, невролог Антонио Дамасио (Antonio Damasio) предлагает решить эту проблему так: «Мы - это не мыслящие машины, которые чувствуют, скорее мы можем чувствовать машины, которые думают».

Наконец, что не менее важно, наше сознание формируется коллективным разумом и культурной памятью, сгенерированными в ходе развития нашей цивилизации. Мы - продукт коллективного накопления, на протяжении многих тысяч лет, наших общих эмоций и чувственных переживаний, передающихся из поколения в поколение и отображенных в истории. Разговоры, общие шутки, сарказм, символизм - всё это невероятно тонкие психологические сигналы. Тот же коллективный разум развивает этику и ценности, с которыми мы все можем инстинктивно согласиться, даже если они не обоснованы логически. Если верить сообщениям в прессе, хотя это и смахивает на очередной фейк, то в Стэнфордском университете пытаются научить ИИ шутить и разрабатывают нейронную сеть, наделенную своеобразным чувством юмора . По словам разработчиков, задача оказалась сложной, поскольку ИИ работает по определенному алгоритму, а это исключает импровизацию. Пока вывод неутешителен: смешным ИИ не сделать, даже если загрузить в нейросеть все шутки и анекдоты мира.

Ничто иное не общается, как люди, - и люди не общаются ни с чем другим так, как мы общаемся друг с другом. Это важно, потому что единственный способ приобрести свою долю в нашем коллективном интеллекте - это взаимодействовать с человеком. Если мы не взаимодействуем с машинами так же, как с другими людьми, этот коллективный опыт и интеллект просто недоступны для них. Они не являются частью нашей эмпатической системы. Да, нам может быть жаль «любимого» компьютера, может, мы его даже выбрасывать не станем. Автор статьи свой первый сохранил - на процессоре AMD 133 МГц с HDD на 500 Мбайт, купленный за баснословные для 1990-х гг. $750. Но я не отмечаю его день рождения, не проведываю в кладовке и не веду с ним ностальгические беседы: «А помнишь, как мы в DOOM II…». Хотя у нас есть любимые вещи, у нас нет с ними эмоциональной взаимной связи, у нас есть только связь с событиями, которые ассоциируются с теми или иными вещами (вспомним прекрасную песню «From Souvenirs To Souvenirs» в исполнении Demis Roussos). В противном случае это уже фетишизм - поклонение неодушевленным материальным предметам, которым приписываются сверхъестественные свойства, или расстройство психики, но и в этом случае мы имеем дело с ассоциациями.

Когда люди говорят о человеческом мозге, работающем как компьютер, или об ИИ, обучающемся так же, как человек, они выражаются образно. Это можно считать частью давней традиции гадать о том, как работает наш мозг и что действительно представляет собой наше сознание. Всякий раз, когда мы изобретаем новую технологию, возникает сильное искушение использовать ее в качестве аналогии функционирования мозга. Когда мы изобрели электричество, мы начали говорить об электрических токах в мозге. Когда появился телеграф, мы решили, что и мозг посылает дискретные сигналы. Убеждение многих людей в том, что человеческий мозг работает как компьютер (и, следовательно, в первую очередь является логической машиной), - это лишь наше предположение. Мы на самом деле не знаем, как работает мозг, как эта работа транслируется в наше сознание и где, как оно хранится. Мы видим некую активность и результат, которые нам удалось смоделировать в нейронных сетях, но не видим и не понимаем сам процесс.

Видя взаимодействия, мы делаем выводы, но, возможно, мы находимся в ситуации, когда решаем, что таракан, которому оторвали лапы, перестает слышать, поскольку от стука он уже не убегает. Вполне вероятно, что у нас, если проводить аналогию с компьютером, есть лишь некий интерфейс, пароль и логин для доступа в нашу «базу данных», которая хранится в некоем облаке, и мы используем пока еще неизвестную нам технологию быстрого доступа. Почему нет? С точки зрения техники - это вполне логично. Может, поэтому мы иногда получаем информацию, как нам кажется, из чужой жизни, это похоже на «баг» в нашей системе. Крайне маловероятно, что мы даже частично воспроизвели человеческий мозг, когда разработали существующую теорию ИИ. Даже то, что мы называем нейронными сетями, - лишь подобие, основанное на нашем текущем понимании (рис. 2).

Рис. 2.

По этим причинам мы можем согласиться со вторым мнением, т. е. утверждением, что машина может испытывать сочувствие, но изъян этой теории в том, что мы сводим огромные таинственные действия человеческого мозга и сознания к чему-то, что можно понять, воспроизвести и имитировать с помощью машины, управляемой логикой. Дело не в том, что мы переоцениваем возможности ИИ, а в том, что мы сильно недооцениваем то, насколько сложны наши собственные возможности.

Это возвращает нас к другому вопросу: имеет ли значение то, что «искусственная эмпатия» не является истинным сочувствием, хотя она взаимодействует с нами таким же образом? Понять это очень важно, чтобы не попасть в тупик очередного заблуждения, - в том, что компьютер или программа начали думать. Последствия могут быть печальными, мы и так много что уже отдали на откуп автоматам, решив, что они достаточно для этого «поумнели». Где же грань между тем, что мы называем ИИ, и реальным разумом? Она, как нам кажется, скрывается в эмоциональности. Продолжим рассматривать понятный пример с эмпатией.

Искусственная эмпатия работает, наблюдая, учась, реагируя и воспроизводя сигналы, которые посылают люди. По мере развития ИИ с глубоким обучением и способности работать со все большими наборами данных программы будут все лучше и лучше справляться с этим и создавать видимость (или образ) эмпатии. Однако истинная эмпатия включает гораздо больше, чем просто наблюдение и реагирование на эмоциональные сигналы, независимо от того, со сколькими из этих сигналов вам приходится работать. Почему? Потому что сигналы, которые посылают люди, представляют собой лишь крошечную часть того, что они реально испытывают. Мы все - гораздо больше, чем сумма того, что другие люди думают о нас, наблюдая за тем, что мы делаем и говорим. Мы обладаем способностями, эмоциями, воспоминаниями и опытом, которые влияют на наше поведение, при этом необязательно проявляясь снаружи. Они должны быть интуитивно понятны, даже когда их вообще не замечают. Пример: мы часто не узнаем себя или хорошо (именно хорошо) знакомого человека на фото или портрете, а вот остальных - без проблем. С портретом дело можно объяснить философски - «субъективным восприятием объективной действительности». С «объективным» фото причина в том, что оно дает нам выхваченный момент, а мы воспринимаем себя и хорошо знакомых людей в комплексе, для остальных же нам достаточно корреляции, в чем наш мозг дока.

Все становится сложнее, когда машины начинают принимать решения, имеющие серьезные последствия, причем без эмоционального контекста и общих ценностей, которые в таких случаях используют люди. Это была одна из ключевых тем в статье, которую Генри Киссинджер (Henry A. Kissinger) недавно написал о последствиях ИИ для «The Atlantic» . Возьмите, например, беспилотный автомобиль, который должен в случае неизбежной аварии решить - убить родителя или ребенка. Сможет ли такая машина когда-нибудь объяснить людям, почему она делает тот или иной выбор? А если не требуется обосновывать действия машины человеческими последствиями и с человеческой точки зрения, то что станет с нашей системой этики и справедливости? Как это вложить в машину? Ведь тогда нам нужно будет отбросить наши эмоции и стать на сторону машины, посмотреть на мир ее глазами. Способны ли мы на такое?

Подобный процесс прошел бы легче и проще, если бы мы заменили искусственное сочувствие на человеческое. ИИ может подражать человеческим взаимодействиям, но с гораздо более узким пониманием происходящего, чем мы. Нам необходимо помнить об этом, когда выбираем роль, которую ИИ должен играть в управлении процессами или стратегиями. Эмпатия, о которой мы говорили в этой части статьи применительно к машине, играет очень весомую роль. Возможно, поэтому роботам-ассистентам стараются дать человеческий облик и приятный голос (в псевдонаучных фильмах они даже зачем-то едят и не только).

При разработке упомянутых в первой части статьи игровых систем, в которой автор принимал участие не только как разработчик электронной начинки, но и в качестве дизайнера и одного из идеологов, мы столкнулись с такой проблемой. Вторая из наших машин, а это был уже 100%-ный робот (как положено, жужжащий и поворачивающийся), работала эффективнее «живых» дилеров, не делала ошибок, давала больший экономический эффект. Но более популярным был смешанный вариант - часть игроков выбирала «живого» дилера, задача которого была только улыбаться и вытаскивать карту из башмака (раздатчика игральных карт на игорном столе). В этом случае как раз срабатывала эмпатия, которой наша полностью роботизированная система, как и система с генератором случайных карт, априори не обладала.

Система Duplex от Google может выглядеть как обладающая эмпатией, но эта эмпатия строго ограничена тем, что имеет отношение к поставленной задаче. Например, к бронированию столика в ресторане. Duplex не обучен обнаруживать какие-либо эмоции за пределами заданного алгоритма или перестраивать свое поведение на основе конкретной ситуации. Если голос человека на другом конце телефонной линии звучит недружелюбно и нервно, может ли Duplex общаться с ним адекватно? Может ли он найти способ расположить человека к себе и заставить его успокоиться? Может ли он банально упросить найти свободный столик в час пик ресторана? Человеческое общение - это нечто гораздо большее, чем просто эффективный обмен информацией, и именно здесь последствия использования реальной и искусственной эмпатии становятся особенно значимыми.

Если мы передадим фундаментальные стратегические решения ИИ, то определение стоимости производимого с его участием конечного продукта (иначе зачем этот ИИ вообще нужен?) будет снижаться с поразительной скоростью. Но риск состоит в том, что ИИ игнорирует другие элементы, которые по-разному затрагивают человеческое сознание, играя на струнах человеческой души, как та же Ава из «Ex Machine» делала лишь для достижения четкой цели.

Человеческий интеллект настолько силен, потому что он не ограничен одним лишь рациональным мышлением. Элементы сознания позволяют нам иметь дело с непредсказуемостью и неопределенностью окружающего мира. Они дают нам возможность принимать решения на основе общих ценностей и мотивов, которые резонируют коллективно, и знать, что правильно, даже без необходимости выяснять, почему это так. Сочувствующий человеческий интеллект способен испытывать то, что он испытывает, чтобы быть грустным или счастливым, - и он позволяет этим чувствам влиять на свои суждения и свое поведение с другими. Машина не могла бы этого сделать, даже если бы захотела, поскольку это в большей мере продукт нашей цивилизации. В других цивилизациях все могло бы быть по-другому - например, ничего страшного не было бы в том, чтобы съесть себе подобного «из большого уваженья», как у Владимира Высоцкого: «Кто уплетет его без соли и без лука, тот сильным, смелым, добрым будет…».

Чтобы машина стала разумной, мы должны дать ей модели ценностей. Какие? Мы знаем свою шкалу и именно попытки ее внедрения видим в искусстве - литературе и кино, но что из этого мы реально можем дать уже «думающей» машине? По нашему мнению - ничего. Как вырастить для нее древо познания Добра и Зла и какие на нем должны быть плоды? Если мы пойдем по такому пути, то это приведет нас к реальной конфронтации, у машин появится своя философия, религия и т. д. Единственно, с чем нам повезло, - это с заповедями, но об этом мы будем говорить в последней части данной статьи.

Борис Кобринский, доктор медицинских наук, заведующий лабораторией Института современных информационных технологий в медицине ФИЦ ИУ РАН, профессор Российского национального исследовательского медицинского университета им. Н. И. Пирогова.

- В чем различие интеллекта искусственного и человеческого? Справедливо ли вообще называть ИИ интеллектом?

Естественный интеллект характеризуется многочисленными функциями. Часть из них реализуется в системах ИИ, но главным отличием естественного интеллекта от искусственного является способность синтезировать новые знания, выявлять неизвестные закономерности. Искусственный интеллект - это устоявший термин, однако связанный с не совсем точным переводом с английского. Artificial Intelligence означает «умение рассуждать разумно». Создаваемые на этой основе системы более корректно называть системами с элементами искусственного интеллекта.

- Можно ли говорить, что искусственный интеллект - не более чем орудие человеческого?

Вряд ли стоить говорить в такой формулировке. Интеллектуальные системы являются консультативными или ассистирующими в принятии решений человеком.

Было бы важно дать читателю популярное описание математического аппарата, на котором работает ИИ. И что он собой представляет с точки зрения чисто технической: просто мощные суперкомпьютеры? Или нужны какие-то специальные средства и устройства?

Большинство систем ИИ с самого начала опирались не на математический аппарат, а на логику с использованием средств для диалога с пользователем на естественном языке (логико-лингвистические системы), чего не умели предшествующие вычислительные системы. В настоящее время гибридные интеллектуальные системы включают наряду с логикой также и различные математические методы анализа. Но обязательным для интеллектуальных систем является база знаний, содержащая формализованные знания для конкретной области, для чего используются различные языки представления знаний. Для работы этих систем используются обычные компьютеры. Суперкомпьютеры лишь позволяют ускорить обработку данных, что важно для динамических систем реального времени - например, в управлении двигателями космического корабля и существенно, например, для прогнозов погоды. Исключением являются нейросети, в которых осуществляется математическая обработка введенной информации, однако отсутствует аргументация и логика решений, отсутствуют база знаний предметной области и объяснение выдвигаемых гипотез (решений). Но нейросетевой подход - это технология, имитирующая до некоторой степени работу мозга, истинное представление о которой пока остается открытым.

Мы не понимаем (по большому счету), как работает мозг человека. А полностью ли сейчас понятно, как работает ИИ? Или уже появились такие как бы черные ящики, где происходит нечто неопределенное?

Полноценные интеллектуальные системы, как уже отмечено выше, характеризуются как раз тем, что пользователь получает объяснение выдвигаемых системой гипотез как в процессе их рассмотрения, так и по завершении работы (окончательная гипотеза). Черными ящиками являются нейросети, не выдающие объяснений.

Есть шутка, что ИИ на известную школьную риторику «а если все прыгнут с пятого этажа, ты тоже прыгнешь?» ответит: «да». Насколько это шутка? Каковы вообще когнитивные возможности искусственного интеллекта, будут ли они когда-нибудь сопоставимы с человеческими?

Роботов обучают по-разному, но имеется подход, основанный на обучении на примерах. Если его использовать, то теоретически можно было бы добиться, чтобы робот не в шутку прыгал с любого этажа. Но он разобьется и больше не прыгнет. В то же время когнитивные способности систем на основе ИИ растут. Но взвешенная оценка говорит о том, что искусственный интеллект не сможет сравниться с естественным, по крайней мере, в изобретении нового. Мы не знаем, как человек изобрел колесо, аналогов которого в природе нет. Как обучить подобному ИИ. Новое знание возникает в мозге далеко не каждого человека.

Теперь более практический вопрос: в каких сферах ИИ надежно заменит человеческий? Где у него будет преимущество? Где он никогда не сравнится с человеком? Например, есть ли шанс, что он справится с одной из открытых проблем математики - скажем, докажет алгебраическую независимость чисел ϖ и е?

ИИ способен быстро перебирать различные варианты, он может заменить человеческий или обеспечить помощь человеку во многих областях с известным или понятным подходом к принятию решений: в анализе данных с учетом многообразных связей, в выборе оптимальных решений, в мониторинге ситуаций и управлении; роботы могут выполнять различные работы (в трудных условиях, в доме, на производстве, в здравоохранении и др.). Интеллектуальные системы поддержки принятия решений будут помощниками людей. Роботы заменят их во многих работах, где можно построить алгоритмы действий человека. Возможно, что и в математике, при доказывании теорем, ИИ сможет в перспективе решать сложные задачи. Но вновь должен отметить, что ему будет недоступно открывать принципиально новые направления в науке.

- Возможны ли сообщества искусственных интеллектов? Взаимопомощь и осознание общих интересов?

Да, сообщества представителей ИИ и их взаимопомощь возможны. Это развитие сегодняшних многоагентных систем - виртуальных сообществ интеллектуальных агентов, каждый из которых взаимодействует с другим, и имеются агенты более высокого уровня, координаторы и наблюдатели, обеспечивающие изменение программы взаимодействия интеллектуальных агентов.

- Появятся ли у искусственного интеллекта творческие способности? Наитие?

Если под творчеством понимать развитие известного, то да, если создание совсем неизвестного ранее, то нет. Наитие следует отнести к последнему. А вот ассоциативные связи уже имеют место в системах ИИ.

- В частности, врачебную интуицию, о которой у вас есть работы, может заменить ИИ?

Интеллектуальные системы, основанные на экспертных знаниях высококвалифицированных врачей, обладающих интуицией и образным мышлением, могут включать интуитивные представления в том случае, когда их удается извлечь для формирования базы знаний. Мой опыт показывает, что этого можно достигнуть при групповом извлечении знаний за счет вскрытия врачебной интуиции одного эксперта путем вопросов к другим экспертам при умелом управлении дискуссией.

Конкуренция искусственных интеллектов - страновая или на уровне компаний - насколько она жесткая? Каково место России в гонке ИИ?

В явном виде конкуренции между странами нет. Может быть, можно говорить об ученых, которые следят за работами друг друга. На уровне компаний это связано с получением финансовых средств на разработку и/или на получение прибыли по законченным работам. В России период 70-х - начала 90-х годов прошлого века сопровождался созданием большого числа систем и интересными теоретическими разработками. Последующее недофинансирование работ в этой области привело к спаду. Хотя работы не остановились. Рассматривая в качестве примера медицину, приходится отметить, что, несмотря на неоднократные заявления о необходимости таких систем, их финансирование практически отсутствует, за исключением работ по грантам в системе РАН. Положительными примерами в этой области могут служить разработки Федерального исследовательского центра «Информатика и управление» РАН (интеллектуальная система в области здоровьесбережения, ориентированная на управление рисками при инфаркте миокарда, инсульте и депрессии, и интеллектуальные системы автоматизированной поддержки медицинских исследований, реализованные на основе ДСМ-метода автоматического порождения гипотез) и Института автоматики и процессов управления ДВО РАН (диагностика болезней пищеварения и другие, реализованные на основе онтологий).

- Опишите, пожалуйста, какие угрозы несет с собой развитие ИИ.

Мне представляется неправильным говорить об угрозах искусственного интеллекта. Опасность может нести применение искусственного интеллекта в устройствах, работающих рядом с людьми или заменяющих персонал, например в больницах. Недоучет факторов, которые могут приводить к травмам окружающих, следует рассматривать как основную угрозу в настоящее время и в будущем. Это касается и автопилотов, и систем контроля различных производственных процессов, обеспечения функционирования так называемых умных больниц.

Что такое искусственный интеллект? .