Искусственный интеллект сбербанка что это
Искусственный интеллект сбербанка что это
Чат-боты в техподдержке
«Как оплатить товар? Когда доставят мой заказ? Как сменить тарифный план?» — большинство вопросов клиентов типичны, и, чтобы ответить на них, необязательно быть человеком.
Всё чаще от имени компаний в контакт-центрах, приложениях и мессенджерах нам отвечают голосовые и чат-боты. Судя по опросам, клиентов это устраивает: люди позитивно относятся к общению с роботом — лишь бы он давал нужную и правильную информацию.
Чат-бот компании «МТС» самостоятельно справляется с 80-85 % обращений пользователей. В дальнейшем МТС планирует научить бота не только обрабатывать запросы, но и в подходящий момент предлагать абонентам услуги и продукты, которые им действительно нужны.
Ещё один пример робота-помощника — чат-бот «ВкусВилл». Он может подбирать скидки и рацион, находить магазины поблизости, а ещё выступает важным для компании каналом обратной связи. Через него приходит около 4 000 полезных отзывов в месяц.
Роботы в рекрутинге
Разработка, внедрение и обновление чат-ботов требует вложений, но в долгосрочной перспективе сокращает издержки, ведь роботам не нужен перерыв на обед, они не уходят в отпуск или на больничный. По этой же причине компании, которые часто в поиске персонала, прибегают к помощи ИИ в рекрутинге.
Стартап Stafory в 2016 году выпустил на рынок проект «Робот Вера» — помощника HR-менеджера. Искусственный интеллект не в состоянии полностью заменить рекрутера-человека, но «Вера» умеет подбирать резюме, обзванивать соискателей и проводить первичные собеседования.
При этом робот-рекрутер, как утверждает компания, способен за 9 часов провести интервью с 1 500 кандидатами. Скорость отсеивания и подбора персонала «Верой» уже оценили такие компании, как IKEA, «Ростелеком» и PepsiCo.
И это далеко не единственная технология ИИ для рекрутинга на рынке. На машинное обучение перешёл поисковый алгоритм HeadHunter, SuperJob использовал в этой сфере чат-бота, а, например, стартап Sever.AI помогает HR-менеджерам X5 Retail Group и «СИБУР».
Компьютерные системы в сложных процессах
Передать ИИ можно не только простые процессы, с которыми самостоятельно справляется один человек. В традиционных отраслях бизнеса вроде сельского хозяйства или тяжёлой промышленности, где копятся невообразимые массивы данных, использование искусственного интеллекта может увеличить производительность в сотни раз. То же касается банкинга и страхования, где ИИ применяется очень активно.
Сбербанк уже внедрил искусственный интеллект практически во все бизнес-процессы. Раньше решения о выдаче кредита юридическому лицу принимали сотрудники, и на это требовалось несколько недель. Теперь кредиты согласовывает искусственный интеллект — всего за 7 минут.
А компания «Газпром нефть» поручила ИИ вопросы разработки месторождений. Компьютер производит расчёты, которые специалисты делали вручную, и на основе трёхмерных моделей предлагает оптимальные сценарии для новых и старых нефтяных скважин. Как показывает анализ, варианты ИИ на 20-30 % экономически эффективнее вариантов экспертов.
Прогнозируют спрос и поведения клиента
Контроль ресурсов в розничной точке
Крупные торговые сети используют для анализа и прогнозирования спроса внутренние наработки в области ИИ, секреты которых, конечно, не раскрывают. Однако какие-то технологии в этой области выходят на рынок, например, решения от Yandex Data Factory (YDF). Так, успехом увенчался пилотный проект YDF для «Пятёрочки»: искусственный интеллект научился прогнозировать спрос на акционные товары с точностью до упаковки в 61 % случаев.
МТС с помощью машинного обучения предсказывает посещаемость розничных салонов сети и перераспределяет ресурсы на 15 % эффективнее. А Mail.ru Group разработала технологию для анализа изображений или видеопотока «Vision», благодаря которой можно, к примеру, вовремя обнаружить, что на полках магазина закончились йогурты.
Возможность анализа больших массивов данных — шанс максимально персонализировать предложения как для отдельных клиентов, так и для групп. Торговые сети сегодня могут подбирать ассортимент точки с учётом информации о жителях района и их потребностях, а сервисы — предугадывать поведение пользователя и предлагать ему то, о чём он даже не успел подумать.
Та же YDF разработала для сайта ЦУМа систему персональных рекомендаций, которая повышает конверсию, что для сегмента люкс — уже большое достижение.
Контролируют качество и безопасности
Человеку неподвластна та точность, с которой искусственный интеллект способен выполнять рутинные задачи. Именно по этой причине ИИ начинают внедрять на сложных производствах, где приходится соблюдать строгие стандарты качества и технику безопасности.
Carlsberg использует ИИ для создания новых сортов пива. Компьютерные системы с высокотехнологичными датчиками отбирают дрожжи и помогают комбинировать тончайшие оттенки вкусов и запахов для продукции. Valio прибегает к решениям, которые позволяют свести к минимуму контакт сырья с неблагоприятной окружающей средой.
«Сбер» показал нейросеть ruDALL-E, которая создаёт изображения на основе описаний на русском языке
2 ноября 2021 года «Сбер» открыл в общий доступ первую в мире нейросеть ruDALL-E, которая способна создавать изображения на основе текстового описания на русском языке. По заявлению разработчиков, ее можно использовать для создания вариантов дизайна интерьера, стоковых изображений или векторных иллюстраций, материалов для рекламы, копирайтинга, архитектурного и промышленного дизайна.
«Сбер» уточнил, что ruDALL-E одновременно обучена на двух видах данных — картинках и текстах, что позволяет ей создавать неограниченное число новых изображений по заданному описанию.
В настоящее время есть два варианта модели этой нейросети ruDALL-E XL (содержит 1,3 млрд параметров) и ruDALL-E 12B (12 млрд параметров).
Моделью ruDALL-E XL уже сейчас можно воспользоваться бесплатно. Она выложена в Github под лицензией Apache License 2.0. Обе модели также вскоре будут доступны на платформе ML Space в хабе предобученных моделей и датасетов DataHub от SberCloud.
7 сентября 2021 года «Сбер» представил нейросетевой продукт под названием AI-копирайтер. По словам разработчиков, это первый русскоязычный сервис по созданию уникальных описаний товаров для онлайн-магазинов и маркетплейсов.
В октябре «Сбер» рассказал, что научил свою нейросеть узнавать домашних животных по мордочкам.
Картинка, которую создала эта нейросеть на запрос «Хабр компьютер ноутбук клавиптура».
Можете опубликовать картинки в комментариях, которые вам выдала нейросеть ruDALL-E в демо-режиме.
Сбербанк с помощью ИИ предскажет выручку любой компании в России
Специалисты Сбербанка разработали техническое решение для прогнозирования выручки компаний малого, среднего и крупного бизнеса. Модель построена для всех 8 млн компаний (ИП и юрлиц), присутствующих на российском рынке.
«Разработанная модель позволяет получать прогнозы выручки текущего года по всем активным ИНН на девять месяцев раньше, чем данные результаты публикуются официально. Это даёт возможность заранее планировать работу с компаниями. К тому же с помощью новой модели можно получать прогнозы в том числе и по ИП, информации о которых пока нет ни в одном открытом источнике, — сказано в пресс-релизе. — В данном случае была использована модель класса black box, основанная на деревьях решений — Random Forest Regression».
«ML-модель такого типа создаётся в течение как минимум трёх месяцев и предполагает масштабное исследование более 1000 признаков. С её помощью мы здесь и сейчас, не дожидаясь завершения календарного года и официальной бухгалтерской отчётности, видим потенциал клиента. Более того, она обогащает другие разрабатываемые нами модели, что позволяет нам предвосхищать ожидания и потребности наших клиентов», — пояснил Станислав Карташов, директор дивизиона «Корпоративные клиенты 360» блока «Корпоративно-инвестиционный бизнес» Сбербанка.
Random Forest (с англ. — «случайный лес») — алгоритм машинного обучения, который применяется для задач классификации, регрессии и кластеризации. Основная идея заключается в использовании большого ансамбля решающих деревьев, каждое из которых само по себе даёт очень невысокое качество классификации, но за счёт их большого количества результат получается хорошим. Среди достоинств алгоритма — способность эффективно обрабатывать данные с большим числом признаков и классов, применимость к непрерывным и дискретным признакам, внутренняя оценка способности модели к обобщению, высокая параллелизуемость и масштабируемость.
Подобные модели нередко используются банками для предсказания неплатежей и банкротств компаний и ИП, пишет The Bell.
Возможно, созданная модель пригодится самому Сбербанку — с её помощью он спрогнозирует собственные доходы. На форумах шутят, что вряд ли модель учитывает откаты и госзаказы.
Сбербанк и искусственный интеллект
Сбербанк давно экспериментирует с ИИ. В статье «Греф признал потерю Сбербанком миллиардов рублей из-за искусственного интеллекта» (февраль 2019 года) рассказывается об этих экспериментах, которые не всегда были удачными: «Маленькая ошибка, закравшаяся в алгоритм, может приводить к очень большим последствиям, — рассказывал Греф. — Из-за того что машина совершала маленькую ошибку на больших объёмах, мы теряли миллиарды рублей». Речь идёт о недополученной прибыли, а не о прямых убытках: «Банк постоянно работает над улучшением интеграции процессов искусственного интеллекта в его системы», — отметили в пресс-службе Сбербанка.
У банка есть и довольно необычные разработки в области ИИ. В апреле 2019 года Сбербанк представил цифровую телеведущую Елену. Она может вести новостные сюжеты, используя текст для генерации полноценного видеоизображения и речи, сопровождая это мимикой и эмоциями реального человека. Сбербанк предполагает применять Елену для создания видеорекламы продуктов, услуг и товаров банка, компаний и заказчиков, для представления на форумах, выставках и других мероприятиях
Цифровая телеведущая Елена
Елена разработана при содействии компаний «Центр речевых технологий» (синтез речи) и CGF Innovation (фотореалистичная компьютерная графика).
Выпуск новостей с участием Елены
В других случаях ИИ внедряют для получения непосредственного эффекта. Так, в ноябре 2018 года Герман Греф говорил, что в результате внедрения искусственного интеллекта в Сбербанке уволены сотрудники, занимавшиеся простыми решениями. Банк уволил 70% менеджеров среднего звена. Часть сотрудников прошли переобучение и теперь занимаются другими задачами. Массивные сокращения — действительно видимый и полезный результат.
Менеджеров среднего звена в Сбербанке заменила программа «Интеллектуальная система управления» для принятия решений и рекомендаций, в основе которой лежат алгоритмы машинного обучения.
Правда, недоброжелатели говорят, что внедрение ИИ стало лишь поводом к запланированному сокращению штата, которое было необходимо для уменьшения издержек госбанка, который сейчас переживает непростые времена. Другими словами, многие сотрудники Сбербанка просто не нужны для работы, это был лишний балласт, а искусственный интеллект тут совершенно ни при чём.
В феврале 2019 года Сбербанк сообщил о запуске чатбота, в основу которого лег искусственный интеллект, в системе электронной торговли Sberbank Markets. В задачи бота входят общение с пользователями и ответы на вопросы. По мере обучения чатбот должен научиться консультировать пользователей о ходе торгов и заключать сделки.
В марте 2019 года искусственный интеллект внедрили в мобильное приложение «Сбербанк онлайн». Здесь самообучающиеся алгоритмы анализируют поведение клиента. Затем в разделе рекомендованных операций человеку предлагают выполнить действия, которые он уже выполнял раньше.
В июле 2017 года Греф заявил, что современные организации не нуждаются в юристах без знаний в сфере искусственного интеллекта и понимания работы современных компьютерных технологий. Он добавил, что с этого момента банк перестаёт принимать на работу юристов, «не представляющих, что делать с нейронной сетью».
Эксперт по искусственному интеллекту из Сбера: «Я не считаю, что существуют «лишние» люди»
«Как только ИИ становится привычным, вы сразу говорите, что это просто программка. Камера, поисковик, почта — это все прикладное использование ИИ», — говорит Андрей Незнамов, исполнительный директор центра развития компетенций по исследованию данных ПАО «Сбербанк». В интервью «БИЗНЕС Online» он рассуждает, когда на планете появится сверхразум и прав ли Илон Маск, считающий ИИ врагом человечества.
Андрей Незнамов: «Если меня спросят, что такое ИИ в транспорте, я дам одно определение. Если спросите, что такое сверхразум или терминатор, предложу другое» Фото: © Нина Зотина, РИА «Новости»
«СОЗДАНИЕ ARTIFICIAL GENERAL INTELLIGENCE — ЭТО ВПОЛНЕ РЕАЛЬНЫЙ КОНЦЕПТ»
— Наш разговор я хочу начать вот с чего. Как-то на форуме в Давосе Герман Греф задал участникам вопрос: что такое ИИ? Вы бы на него как сейчас ответили?
— С 2017 года я на такой вопрос отвечаю одним простым тезисом. ИИ — это чемодан. Основоположник теории ИИ в США Марвин Минский предложил данную аллегорию. Он говорил, что есть слова-чемоданы. У каждого человека имеется свой чемодан. Когда он куда-то летит, то набивает его очень индивидуальными вещами. Так вот Минский говорил, что существуют слова-чемоданы, то есть когда под таким словом каждый понимает что-то свое. Мне кажется, что с 1960-х годов по отношению к ИИ ничего не изменилось: он продолжает оставаться словом-чемоданом, куда каждый вкладывает что-то свое.
Поскольку я занимаюсь как научной, так и практической деятельностью в сфере ИИ, то могу сказать убедительно, что 20–30 определений — далеко не предел. Даже ученые-технари не могут договориться о том, что такое ИИ. Если говорить юридически, с позиции России, то у нас есть нацстратегия развития ИИ, где прописано определение ИИ. Международная организация по стандартизации сейчас создает стандарт, термины и определения. Там ИИ определяется сразу в трех различных контекстах. Но мне кажется, что самое разумное — это принять отсутствие единого термина и в зависимости от контекста давать свое определение. Если меня спросят, что такое ИИ в транспорте, я дам одно определение. Если спросите, что такое сверхразум или терминатор, предложу другое.
— Все-таки можно ли создать разумный ИИ? Сможет ли ИИ не только понимать, но и самостоятельно рассуждать?
— 99 процентов респондентов на этот вопрос, наверное, спросили бы у вас: а что такое «рассуждать»? Я скажу проще. Если мы говорим о сверхразуме, или artificial general intelligence, то он не создан. Я не знаю, случится ли такое, потому что все лучшие ученые мира в данной сфере сейчас ломают над этим голову.
Если посмотреть со стороны, лично мне кажется, что artificial general intelligence — реальная вещь. Будет ли он для нас опасным или дружественным — это открытый вопрос. Ник Бостром написал целую книгу о том, что ИИ станет опасен. Под влиянием его идей Илон Маск говорит о том, что летит на Марс, чтобы спасти человечество от ИИ. Но какой окажется реальность, мы пока не знаем.
У юристов применительно к artificial general intelligence есть огромный вызов — понять, как контролировать эти разработки, если сверхразум все-таки будет создан.
— Илон Маск недавно говорил, что ИИ рано или поздно объявит нам войну.
— Я как раз и сказал, что он находится под влиянием идей Ника Бострома, который убежден, что практически нет сценариев, в которых ИИ станет нам дружественным.
— Но сами как вы все-таки предполагаете, каков окажется сценарий?
— Я верю в лучшее. Человечество умеет уничтожать себя 1 001 способом. Я по профессии юрист, 15 лет провел в судах, я из семьи, которая полностью отдала свою жизнь юриспруденции. Поэтому с детства смотрю на то, что люди способны делать по отношению друг к другу. К сожалению, вариантов, где люди друг друга уничтожают, очень много — только дай инструмент в руки, как говорится. Но мы же понимаем, что любой инструмент можно использовать во благо, а можно во вред. Например, атомную энергию возможно использовать для уничтожения, а можно для получения электричества. Но я все-таки оптимист и верю, что artificial general intelligence — это скорее для получения электричества.
— Но вы все-таки допускаете, что можно создать такой ИИ, который будет самостоятельно мыслить?
— Я думаю, что создание artificial general intelligence — это вполне реальный концепт.
— В какой перспективе?
— В далекой. Если вы посмотрите литературу начала 2000-х, то даже те, кто допускал возможность создания artificial general intelligence, ставил горизонт — 100 лет. С развитием технологий резко стало изменяться прогнозирование. Уже в 2010-х, когда ИИ снова вышел на мировую арену, публикации сдвигают рамку все ближе к настоящему. Рэймонд Курцвейл еще в 2009-м в книге Transcend и в 2005-м в книге «Сингулярность» обозначил 2040–2050 год. Но у меня нет такого уровня прогнозирования, как у Курцвейла, потому скажу лишь, что создание artificial general intelligence в XXI веке кажется вполне реальным.
— На самом деле это не столь далекая перспектива.
— Течение времени так убыстрилось, что я не рискну оперировать словами «далекий» или «близкий». Хочу привести сравнение. Посмотрите на свой смартфон и представьте себе, что еще 12 лет назад их не существовало.
— Я прекрасно помню эти времена.
— Можно ли представить жизнь современного человека без смартфона? Конечно нет. Вот и подумайте, 100 лет — это много или мало в современном обществе? Наверное, тут у каждого своя линейка.
«Возвращаемся к смартфону: он напичкан ИИ. Камера, поисковик, почта, система подсказывания музыки — это все прикладное использование ИИ» Фото: «БИЗНЕС Online»
«КОГДА ТЕХНОЛОГИЯ СТАНОВИТСЯ НАДЕЖНОЙ, ВСЕМ ОКАЗЫВАЕТСЯ ВСЕ РАВНО, ЭТО ИИ ИЛИ НЕТ»
— Есть скептики, которые считают, что об успехах ИИ фантазируют в основном менеджеры и гуманитарии, а не те, кто непосредственно работает над созданием ИИ, пишет софт. Как вы считаете?
— Отчасти с этим можно согласиться. ИИ сейчас везде используется — к месту и нет. Наверное, с точки зрения «попсовости» вопроса так и есть. Другое дело, вправе ли мы говорить, что успехи ИИ — это некое фантазерство? Мне кажется, нет. Даже самая популярная тема не проживет на одних СМИ. Никто бы не стал говорить больше 10 лет об ИИ, если бы он не показывал определенные успехи. А он это делает.
— Где, на ваш взгляд, ИИ сейчас наиболее успешен, какие задачи решает на отлично, а где нужно еще поработать?
— Дело в том, что там, где ИИ повсеместно применяется и стал привычным, вы перестали обращать на него внимание. Это очень распространенная комичная ситуация, которую описывали некоторые зарубежные авторы в своих книгах: как только ИИ становится для вас привычным, вы сразу говорите, что это не ИИ, а просто программка. Возвращаемся к смартфону: он напичкан ИИ. Камера, поисковик, почта, система подсказывания музыки — это все прикладное использование ИИ. Вы можете подобное не называть так, а говорить, что это просто компьютерная программа. Как я и утверждал, смотря что вы подразумеваете под ИИ.
Менеджеры фантазируют про сверхразум, не буду спорить. Но если они заявляют о некой автоматизации, алгоритмизации процессов, это привычно.
— Но где ИИ пока еще «коряво» работает?
— Мы только в начале пути. С этой точки зрения он пока везде коряво работает, исходя из тех возможностей, которые может нам теоретически дать. Возьмите любого чат-бота, голосового помощника — они далеки от совершенства. Но такая же история почти везде. ИИ имеет колоссальный потенциал в медицине, но он там не раскрыт. С одной стороны, по регуляторным причинам, а с другой — технологиям еще объективно нужно развиваться, прежде чем доверить им хоть крупицу здоровья человека. Просто данный процесс идет незаметно. А когда подобные технологии станут доступны, вы просто перестанете их замечать.
Транспортная тема примерно такая же. 90 процентов времени самолет летит на автопилоте. Вы знали об этом?
— Конечно, он и садится на автопилоте.
— Не всегда, но вы видите логику. Когда технология становится надежной, всем оказывается все равно, это ИИ или нет. А когда она недостаточно надежна, ее называют ИИ, пытаются контролировать и регулировать. Я вижу в этом проблему, что наши ожидания иногда немного преувеличены.
— Мы с вами вспомнили про голосовых помощников, согласились, что они далеки от совершенства. Но вы можете себе представить, что когда-то мы сможем вести полноценный разговор с голосовым помощником, как герой Хоакина Феникса в фильме «Она»?
— Когда начинал заниматься данной темой, изучил всю литературу и фильмы. Честно сказать, я не большой поклонник фантастики, почти не смотрю кино, но все, что связано с ИИ и роботами, в какой-то степени заставил себя прочитать и посмотреть.
Дело в том, что у нас для права это уникальнейший феномен: общественные отношения возникли из научпопа. Слово «робот» пришло из работ Карела Чапека. Представления людей об ИИ формируют «Черное зеркало», «Мир дикого Запада», «Она», «Космическая одиссея 2000» и так далее. Некая вещь появилась сначала на страницах художественной литературы, а потом пришла в жизнь.
Что касается голосовых помощников, я, наверное, скажу, что они далеки от идеала, но развиваются. Посмотрите на линейку помощников, которых представил Сбер. Мне кажется, это новый уровень общения.
— Лучше, чем «Алиса»?
— Не хотел бы комментировать. Но про разработки, которые делаем мы, скажу, что, конечно, еще есть куда расти. Но вы просто протестируйте и увидите, что с каждым разом они все лучше. Я думаю, что когда-нибудь они смогут поддерживать полноценный разговор.
«Мне кажется, что история о наличии у роботов каких-либо прав будет оставаться в фильмах, книгах, журналах и теоретических диспутах» Фото: «БИЗНЕС Online»
«НИКАКИХ ПРАВ РОБОТОВ НЕ СУЩЕСТВУЕТ»
— Вы говорите только о плюсах ИИ. Но у людей объективно есть и страхи перед ним. Например, как мы уже с вами отмечали, есть теории, что рано или поздно ИИ нас захватит. На ваш взгляд, что все-таки перевесит чашу весов? Какие могут быть минусы?
— Их достаточно много, они все понятны. У ИИ есть ряд имманентных особенностей, в некоторой степени непрозрачности, неконтролируемости, склонности к мультиплицированию ошибок тех данных, которые в ИИ заложены.
Это обычно называют предвзятостью и дискриминируемостью. Я, как правило, использую другой термин. Не совсем точно говорить о предвзятости ИИ. Это предвзятость данных, которые в него были заложены.
Сюда же можно отнести проблему недоверия общества. Она есть, это совершенно нормально. Так и должно быть. С данной точки зрения, все страхи, которые возникают у общества, — это одновременно и плюс, и минус технологий ИИ. Наша задача — страхи устранить, убедить, что технологии безопасны, а также решить те проблемы, которые я обозначил.
— Вы сказали про неконтролируемость. Неужели нельзя с самого начала человеку, который создает ИИ, держать его под контролем?
Второй — не всегда можно однозначно предсказать результат работы системы. Она обучается, поэтому выступает своеобразным черным ящиком. На мой взгляд, такая ситуация происходит не только применительно к ИИ. Те, кто работает в IT-бизнесе, знают, что есть поговорка: «Если программа работает, не трогай ее». В этом плане с ИИ такая же история, как с компьютерной программой. Но если мы хотим, чтобы ИИ выполнял серьезные важные задачи, то должны определить условия, как будем его контролировать.
— А как это можно сделать?
— Подобный вопрос связан с конкретным контекстом. Большая ошибка — говорить, что нужен общий принцип, одинаковый для всех сфер. Есть концепция красной кнопки. Это не в смысле ядерного чемоданчика, а в том, что, нажимая на красную кнопку, ты отключаешь данную систему. Мне кажется такой концепт универсальным, но применительно к каждой сфере будет иметь свое приложение.
Что такое красная кнопка в поисковике? Вы всегда можете его отключить, закрыв браузер. А в беспилотных машинах красная кнопка — это в прямом смысле красная кнопка. Когда ты на нее нажимаешь, машина останавливается. Если говорить о голосовых помощниках, это возможность их выключить из сети, как в случае со смартфоном.
Потому есть концепт регулирования, но он в каждом случае должен получать прикладное применение. Иначе он либо не будет работать, либо, наоборот, запретит приложение системы ИИ, и это тоже плохо. Такого надо избежать.
— Вы по образованию юрист. Ответьте, как решить дилемму, кто прав: ИИ, то есть робот, или человек?
— Мне кажется, никаких прав роботов не существует. В 2016–2017 году поднималась волна интереса к данной теме. Это здорово, но, конечно, в реальности никаких прав электронной личности сейчас даже обсуждать не нужно.
Вообще, несколько стран на полном серьезе подхватили в 2017 году эту историю. Например, Эстония анонсировала, что будет первой, кто наделит роботов и ИИ правами электронной личности. Они создали специальную комиссию, которая изучала такую проблему. Через полгода они сделали вывод, что пока нет целесообразности в наделении ИИ какими-либо элементами правосубъектности в связи с тем, что технологии пока не развились настолько хорошо.
Потому мне кажется, что история о наличии у роботов каких-либо прав останется в фильмах, книгах, журналах и теоретических диспутах. По моему личному мнению, когда мы дорастем до той ситуации, что робот или ИИ реально станет претендовать на получение каких-либо прав, это окажется не главной проблемой.
«Члены общества видят роботов в фильмах и книгах, где они как люди, а иногда даже лучше. Поэтому индустрия в ответ делает антропоморфных роботов» Фото: «БИЗНЕС Online»
«ИИ БУДЕТ ДЕЛАТЬ ТОТ ВЫБОР, КОТОРЫЙ В НЕГО ЗАЛОЖИТ ЧЕЛОВЕК»
— Но может ли ИИ делать моральный выбор? Избитый пример про то, кого задавить беспилотнику: бабушку или молодую девушку?
— ИИ будет делать тот выбор, который в него заложит человек.
— То есть ответственность должен нести создатель ИИ?
— А вот это не совсем корректный тезис. Как юрист скажу, что ответственность в каждом конкретном случае нужно определять индивидуально. Например, беспилотная машина едет и давит человека. «Кто виноват?» — классический вопрос.
А я вам скажу, что тут может быть до десятка виноватых. В одном случае человек просто выпрыгнул под колеса машины, а еще и в неположенном месте. Кто виноват? Этот человек. Он чуть ли не самоубийство совершил. В российском праве есть концепция, которая освобождает от ответственности владельца объекта повышенной опасности, если потерпевший умышленно причинил себе вред.
Вторая история: человек переходил дорогу в положенном месте, но у беспилотника тормоза не сработали, так как механик выпустил машину на линию и не проверил их. Кто виноват?
Третий вариант: машина исправна, но по условиям за рулем должен был сидеть человек, который обязан предотвращать аварии. Кто виноват? К слову, этот кейс не теоретический. Когда в 2018 году беспилотник Uber сбил человека, за рулем по условиям тестирования сидел инженер-испытатель, в момент столкновения он смотрел в телевизор. Существует вариант, что все прочие условия нормальны, но произошел сбой в программе. Вот теперь мы добрались до разработчика. Как видите, вариантов много.
— Значит, нет универсального ответа. А цифровой кодекс писать уже стоит?
— Я не думаю, что есть необходимость этого конкретно в контексте ИИ. Если мы говорим про ИИ, то он не требует пока кодификации.
Но если рассматриваем какие-то другие цифровые технологии, то, наверное, можно о чем-то порассуждать. Такая идея поднималась уже в рамках программы цифровой экономики, но не была поддержана бизнес-сообществом. Может, сейчас снова начнет обсуждаться, но не думаю, что по отношению к ИИ. Как для набора всех цифровых технологий, наверное, можно рассмотреть.
— Зачем сейчас создают человекоподобных роботов? Это всего лишь игрушка для выставок или когда-то появится какая-то реальная польза от подобных разработок?
— Антропоморфные роботы естественны, так как индустрия отвечает на общественный запрос. Члены общества видят роботов в фильмах и книгах, где они как люди, а иногда даже лучше. Поэтому индустрия в ответ делает антропоморфных роботов.
— Любопытно, почему вообще такая идея возникла. Получается, человек уподобил себя богу, который создал человека по образу и подобию божию.
— Наверное. Мы все делаем по образу и подобию своему. Я не хочу вдаваться в философские обсуждения, но вы вспомните, что пантеоны древних богов были сплошь по образу и подобию людей со всеми их страстями и грехами.
«Ситуация с регулированием беспилотников у нас сейчас предельно простая — плохая» Фото: «БИЗНЕС Online»
«ДАЖЕ УЧЕНЫЕ-ТЕХНАРИ НЕ МОГУТ ДОГОВОРИТЬСЯ О ТОМ, ЧТО ТАКОЕ ИИ»
— Андрей, вы возглавляете рабочую группу по искусственному интеллекту в Совете Европы. Расскажите об этой структуре и ее задачах.
— В 2019 году Совет Европы создал специальный комитет для регулирования искусственного интеллекта (ИИ). Его задача состояла в том, чтобы к 2021-му для комитета министров Совета Европы обозначить подходы к регулированию ИИ и предложить элементы будущего юридического документа.
Говоря простым языком, Совет Европы хочет сделать первую в мире конвенцию по ИИ. В этом спецкомитете присутствуют представители всех стран Совета Европы, их почти 50, и еще пять десятков наблюдателей от разных стран мира. Создано несколько рабочих групп. Одна из них занимается выработкой содержания, а другая станет проводить глобальные консультации с европейским сообществом, то есть с наукой, бизнесом, образовательными учреждениями, населением, государствами о том, каким должно быть регулирование ИИ. На территории 25 стран Европы даже пройдут специальные раунды консультаций, в том числе в России.
Данную рабочую группу, которая таким процессом руководит, я и возглавил, меня поддержали страны-участницы. Наверное, это связано с тем, что раньше я уже в Совете Европы выступал независимым экспертом по Восточной Европе, потом вошел в российскую делегацию. То есть вопросами ИИ в Совете Европы я занимаюсь практически с основания комитета.
— Все-таки считается, что если в Европе куда-то движутся в направлении регулирования ИИ, то у нас это делают очень медленно. Насколько знаю, с законодательством у нас дела тоже идут не очень. Взять те же беспилотники, которым вроде разрешили ездить по дорогам общего пользования, но я за это время их ни разу не видела. У нас же есть явное отставание от Европы даже в плане законодательства. Разве нет?
— Беспилотники — пожалуй, моя любимая тема, я уже несколько лет плотно занимаюсь анализом происходящего, а в прошлом году в Думу даже вносился подготовленный при моем участии законопроект.
В этом году был создан неофициальный консорциум российских производителей беспилотников как раз для развития регулирования. В него вошли «Яндекс», КАМАЗ, «Газпромнефть», Сбер, а также небольшие производители. Мы разработали план развития данной индустрии на ближайшие несколько лет, сейчас он находится в правительстве. Мы также предложили кабмину, как расширить условия эксперимента с беспилотниками.
Ситуация с регулированием беспилотников у нас сейчас предельно простая — плохая. Наше регулирование находится на уровне стран-пионеров Европы и Азии, но по состоянию на 5–6 лет назад. Это немного, но с новыми технологиями выходит колоссальный разрыв.
Международная аудиторская компания даже составляет специальный рейтинг готовности стран к внедрению ИИ, так Россия там на последних местах. С точки зрения уровня технологий это несправедливо (так уж странны расчеты рейтинга). Но с позиции регулирования все так и есть.
У нас разрешено ограниченное тестирование в нескольких субъектах, причем самых простых видов беспилотников — машин, когда за рулем сидит человек. Грубо говоря, такое регулирование в Нидерландах было в 2015 году, а с 2016-го они разрешили развернутое тестирование. В некоторых штатах США уже разрешена полноценная эксплуатация беспилотников. Это наша с вами боль, которую надо решать в ближайшие месяцы.
— А как дела в целом с законодательством, связанным с регулированием ИИ?
— Это может удивить вас, но, если смотреть в среднем, у нас все хорошо. Все страны столкнулись с одной и той же проблемой: появился ИИ, и что с ним делать? Он не вписан в правовые системы, в каждой стране у каждой индустрии есть свои сложности. ИИ — это не какой-то супермозг или суперразум, а сейчас лишь технология, которая работает в каждой индустрии экономики, везде имея свое преломление. В каждой индустрии у нас свое регулирование, потому приходится настраивать отраслевую рамку в каждом отдельном случае.
Попытки неких обобщений предпринимаются. Сейчас в мире существует только три страны, где есть развернутое понимание, как нужно трансформировать правовую систему. Это США (они опубликовали принципы регулирования ИИ), Евросоюз (Еврокомиссия разработала специальный документ «Белая книга: руководство по регулированию ИИ») и Россия. Россия первой в мире утвердила свою концепцию регулирования ИИ. Премьер-министр Михаил Мишустин подписал ее в августе. Этот документ больше первого и второго, он более детальный. В нем несколько частей, есть общая, где описаны концептуальные проблемы и как надо подходить к регулированию. Есть часть, посвященная всем правовым проблемам (ответственность, принадлежность авторских прав на созданные объекты, вопросы страхования и экспорта). Есть отраслевая часть. С этой точки зрения, я бы сказал, что Россия по регулированию находится не среди отстающих, а в лидерах. Но у нас, к сожалению, провисают отдельные отрасли. Самое главное отставание — регулирование автономных машин, высокоавтоматизированных транспортных средств. Если бы такой проблемы не было, я бы сказал, что в России все неплохо.
«Китай убежден, что технологии способны мультиплицировать производительную силу, придать новый импульс экономике, обществу и даже изменить правовую систему» Фото: «БИЗНЕС Online»
«ЛИДИРУЮТ США И КИТАЙ С БОЛЬШИМ ОТРЫВОМ»
— Вы говорили, что в России дела с ИИ не так уж плохи с точки зрения законодательства. А по технологиям и «железу» есть проблемы?
— Вы правы, с «железом» у нас есть трудности. Создание микропроцессоров — это сложно, и Россия из подобной гонки, как и многие другие страны, не то что выбыла, я даже не уверен, что она в ней активно участвовала.
— Почему, на ваш взгляд, надо стремиться быть в лидерах в гонке создания ИИ?
— Китай в 2017 году об этом прямо написал в своем плане развития технологий ИИ нового поколения. В данном документе четко обозначено, что они хотят стать лидерами к 2030 году. Китай убежден, что технологии способны мультиплицировать производительную силу, придать новый импульс экономике, обществу и даже изменить правовую систему. Они последовательно это делают. Соглашаться с подобным или нет — личное дело каждой страны и человека. Кто-то может не верить в силу технологий. Судя по тому, что уже 30–40 стран написали свои стратегии развития ИИ, то большинство мирового сообщества все-таки склоняется к тому, что ИИ важен и нужен. Но у каждого будет свой ответ почему.
— Кто сейчас, на ваш взгляд, лидирует в гонке?
— Лидируют США и Китай с большим отрывом. Гонка двух сверхдержав в сфере ИИ уже подробно описана в самых разных работах, рейтингах. Всем очевидно, что есть две доминирующие страны — США и Китай — с разными моделями регулирования, развития технологий ИИ. Я могу порекомендовать книгу Ли Кай-Фу «Сверхдержавы искусственного интеллекта», где он подробно описывает причины, почему, на его взгляд, лидируют США и Китай, и высказывает предположение, кто все-таки победит.
— А вы на кого ставите?
— Я хочу поставить на Россию.
— Но у нас, судя по всему, кроме того, что написали очередную бумажку, пока ничего нет.
— Это не отменяет того, что мы можем стремиться победить в данной гонке. Я понимаю, что Россия находится далеко, но подобное не значит, что надо сидеть сложа руки и ничего не делать.
— Какие компании, структуры в России, на ваш взгляд, дальше всех продвинулись в создании ИИ?
— Я обращу ваше внимание на деятельность альянса в сфере ИИ, который объединяет крупнейших разработчиков: «Яндекс», Mail.Ru Group, Сбер, РФПИ, «Газпромнефть», МТС. Но в России много и других разработчиков, которые имеют мировой уровень.
«ИИ не должен восприниматься как альтернатива человечеству — такая история к нам опять же пришла из фильмов и книг. ИИ — это еще один полезный инструмент на службе человечеству» Фото: «БИЗНЕС Online»
«ЧЕЛОВЕК ВСЕГДА БУДЕТ ОСТАВАТЬСЯ В ЦЕНТРЕ, А ИИ СТАНЕТ СВОЕОБРАЗНЫМ ПОМОЩНИКОМ»
— Не могу не спросить про этический вопрос. Что делать с теми людьми, кого в конечном итоге заменит ИИ? А где он, может, никогда не сумеет заменить человека?
— В данном случае я сторонник прогресса, но одновременно считаю, что ИИ всегда будет опорой для человека, а не его заменой. ИИ не должен восприниматься как альтернатива человечеству — такая история к нам опять же пришла из фильмов и книг. ИИ — это еще один полезный инструмент на службе человечеству.
В данном смысле я убежден, что человек всегда будет оставаться в центре, а ИИ станет своеобразным помощником. Чем в большем количестве сфер он начнет помогать, тем лучше, потому что он снимает с нас рутинные заботы. Если вы с этим не согласны, то уберите из дома посудомойку, стиральную машину, микроволновую печь, смартфон и те средства, которые вам дали новые технологии, чтобы сделать вашу жизнь легче. Я убежден, что ИИ должен быть таким: это технология, которая делает жизнь человека легче и проще, снимая с него автоматические обязанности.
— Почему вы не говорите, что государства тоже как-то должны в этом участвовать? Что делать тысячам водителей, которых когда-то заменят беспилотники? Считается, что ИИ повышает производительность труда. Но ведь что-то надо делать с этими «лишними» людьми.
— Я не считаю, что существуют «лишние» люди. Вы правы, государству надо будет активно вмешиваться, никто не спорит. Однако люди должны понимать, что пределы вмешательства государства ограничены. В разных странах обсуждают базовый доход — выплата определенной суммы, чтобы гарантировать минимальный уровень жизни.
— Это явно не вариант для России, мне кажется.
— Решения пока не нашли. Я много выступаю, каждой аудитории задаю вопрос: знаете ли вы кого-то, кого коснулась проблема роботизации, кто лишился работы? Традиционно не более 5 процентов аудитории поднимает руки. Большинство уверены, что для них всегда найдется рабочее место, что их лично и их семьи данная проблема не коснется.
— Значит, они не задумываются над этим. Давно уже составляют список профессий, которых скоро не будет. К слову, юристы и журналисты в него тоже входят.
— Приведу пример. У вас есть знакомые фонарщики?
— Я понимаю, о чем вы. Часто приводят в пример водителей, которые в свое время заменили кучеров.
— В развитии человечества было огромное количество этапов, когда определенные слои населения оказывались без работы. Данная проблема для нас не нова. Когда человечество всю жизнь передвигалось на лошадях, а тут появились машины и поезда, то люди тоже скептически относились к подобным технологиям и боялись за свои рабочие места. Сегодня мы все передвигаемся на машинах, а лошади — это исключительно хобби. Соответственно, вместо коневодства у нас появились автобизнес и автопроизводители, которые дали невероятное количество рабочих мест по всему миру.
С данной точки зрения, история вроде бы нам показывает, что бояться нечего. Как юрист я говорю, что риски все же есть, потому что раньше изменения происходили структурно долго, а сейчас по щелчку — в течение 10–15 лет меняются технологии, структура производства. Это все убыстряется.
Но что с подобным делать? Это вызов не только государству. Да, государства обязаны помогать таким людям, искать пути решения проблемы. Но не надо делать вид, что такое касается только государства. В современном информационном обществе данная проблема одинакова важна и для конкретного человека.
Невозможно закрыть один завод и по щелчку открыть другой, чтобы туда перевести людей. Информационное общество приводит к тому, что, пока ты переводишь один завод на другой, тот тоже устаревает. Потому людям (хотят они этого или нет) тоже придется учиться.
«ЕСЛИ ТЕХНОЛОГИЯ НЕ МОЖЕТ БЫТЬ БЕЗОПАСНОЙ, ЕЕ НЕЛЬЗЯ ПРИМЕНЯТЬ»
— Гарантии нет. Что с этим делать? Если технология не может быть безопасной, ее нельзя применять. Каким бы сторонником прогресса и любителем технологий я ни являлся, проблема терроризма и вообще обеспечения безопасности существует, и ее нельзя игнорировать.
Обеспечение информационной безопасности — это обязанность разработчиков. Если ее не получается обеспечить, это приведет к ужасающим последствиям. Что самое ценное в автомобилях Tesla, чьи патенты выложены в открытый доступ? Система защиты от вмешательства извне. Илон Маск чуть ли не конкурс объявил на то, кто вскроет Tesla.
— А что у нас с безопасностью персональных, в том числе биометрических, данных, которые сейчас собирают и банки? Они достаточно защищены?
— Весь мир сотрясают истории о периодически происходящих утечках. Это неизбежно. Если вы возьмете бочку и будете ее наполнять водой, то рано или поздно из нее потекут струйки.
Сегодня информационное общество — бочка, набитая персональными данными. Причем делает это не государство и не бизнес, как многие думают, такую бочку набивают информацией сами люди. Я считаю, что отчасти дело в смартфонах — это универсальная вещь, чтобы вы через нее своими персональными данными делились с неограниченным количеством людей. Обычно говорят только про один аспект, что смартфоны используются государством для слежки за людьми. В реальности в смартфоне сейчас вся жизнь человека, которую он сам же и публикует.
Мне кажется, что напичканность современного общества персональными данными — это гигантская проблема. Как обеспечить, чтобы они никуда не утекали? Какой комфортный регуляторный режим для них сделать? Как защищать права граждан? Как обеспечивать конфиденциальность? И тут я тоже могу сказать, что это не может быть проблемой какого-то одного субъекта, например бизнеса. Это не может быть проблемой только государства или гражданина. Это общая проблема. А часто, когда вопрос обсуждается, все ищут волшебную таблетку, которая решит вопрос. А ее нет.
Мы полностью запрещаем утечки персональных данных, но они все равно происходят. Любой субъект персональных данных обладает огромным количеством информации. Мы сами создаем big data, и операторы, которые эти данные обрабатывают, везде вокруг нас. С такой точки зрения, те утечки, которые происходят, — небольшая капля в море той информации, которая есть. Мне кажется, что сейчас операторы, государства пока еще держатся, обеспечивают всеми способами, чтобы скандалов было мало. Если посмотрите на причины утечки персональных данных в разных странах, то увидите, что почти всегда стоит человеческий фактор.
— У вас есть совет, как каждому защитить свои персональные данные?
— Очень просто. Вам надо осознать, где, когда и как вы оперируете своими персональными данными, и принять решение, хотите ли вы, чтобы они потенциально были доступны какому-то круг лиц или нет. Это называется цифровым этикетом. У нас он напрочь отсутствует.
— То есть это снова вопрос самообразования?
— Мне часто говорят: почему вы все сводите к тому, что люди должны учиться? Потому что везде, за любым процессом стоит человек. Понятно, что есть природные катаклизмы, но в целом человек встал во главе всего. Это не ИИ и не несчастные роботы, а люди. Они сами все еще определяют течение жизни. Потому нужно начинать с человека — это единственный разумный ответ.
Андрей Незнамов — исполнительный директор ПАО «Сбербанк», курирует вопросы нормативного регулирования технологий искусственного интеллекта и смежных сфер.
Старший научный сотрудник Института государства и права Российской академии наук.
Руководитель рабочей группы российского национального технического комитета по стандартизации искусственного интеллекта (ТК №164).
Основатель и руководитель общественного проекта «Робоправо».
Победитель управленческого конкурса «Лидеры Росссии: Наука» в 2020 году.
Кандидат юридических наук.
Автор более 5 книг и 70 публикаций по теме регулирования ИИ.