«От того, каких результатов мы добьемся в области разработки искусственного интеллекта, зависит место России в мире, наш суверенитет, безопасность и состоятельность нашей страны», — заявил ранее президент РФ Владимир Путин. Для развития человечества сегодня искусственный интеллект имеет такое же значение, как в свое время создание пенициллина, ядерного оружия, освоение космоса… Удается ли нашей стране лидировать в этой гонке? Что говорят ученые о риске для человечества быть уничтоженным разумной машиной? Откуда берется цифровое рабство? И зачем южноуральские ученые создают трехмерные модели животных? Об этом «Губернии» рассказал заведующий кафедрой компьютерной безопасности и прикладной алгебры ЧелГУ Алексей Ручай.
ИГРАТЬ В БОГА ЧЕЛОВЕКУ НРАВИТСЯ С НЕЗАПАМЯТНЫХ ВРЕМЕН
— Давайте начнем с простого: что такое искусственный интеллект?
— Стоит начать с того, что такое интеллект вообще. В каждой области науки под интеллектом понимается что-то свое. Например, в психологии интеллект — человеческая способность понимать эмоции и поступки других людей, анализировать собственные ощущения. В математике интеллект — это способность выявлять закономерности, находить новые абстрактные объекты и их свойства. В обобщенном виде можно сказать, что интеллект — это способность человека выполнять те или иные высшие функции. Под искусственным интеллектом мы будем понимать обучение машины-компьютера выполнять функции человека: петь, танцевать, писать, говорить и многие другие.
— Откуда берет свое начало развитие искусственного интеллекта? Можно ли это назвать своего рода игрой в Бога?
— Еще с древности была популярна фантазия о том, что человек способен создать новую жизнь. Вспомним мифическое антропоморфное существо голема, например. Это глиняный человек, которого оживили, сделали его подобным человеку. В этом смысле создание искусственного интеллекта — попытка воплотить эту фантазию в жизнь. Ученые впервые сформулировали базовые термины, связанные с искусственным интеллектом, на конференции в Дармутском университете в 1956 году. Однако тогда разработка искусственного интеллекта сталкивалась с существенными препятствиями: в тот момент еще не изобрели супервычислители и большие носители информации. Существенный скачок в развитии искусственного интеллекта был сделан сравнительно недавно — в 2012 году, когда появилась глубокая искусственная модель нейронов и алгоритмы ее обучения. Сегодня мы различаем несколько видов ИИ: слабый, сильный и суперинтеллект. Пока человечество смогло создать только слабый искусственный интеллект. Он выполняет отдельные функции человека — вычисляет, классифицирует, измеряет, но гораздо точнее. С появлением нейросетей ИИ стал выполнять и некоторые генеративные функции человека — писать тексты, создавать изображения, однако в этой области нейросеть не может пока превзойти своего творца, хотя развивается стремительно.
— Но это произойдет? Посоревнуется ИИ с человеком и в этой области в ближайшее время?
— Как создать суперинтеллект, ученые пока не знают. Есть идея, что для этого необходимо собирать больше данных и продолжать обучать нейронные сети. Чем они будут масштабнее и глубже, тем они якобы будут подобнее человеческому мозгу. Однако человеческий интеллект не ограничивается одними лишь знаниями, нас определяют в первую очередь сознание и мораль, то есть способность осмыслять и принимать решение. Как научить машину этому? Такого представления пока нет.
УЧЕНЫЕ ПОДТВЕРЖДАЮТ: ИИ ДЕЙСТВИТЕЛЬНО МОЖЕТ УНИЧТОЖИТЬ ЧЕЛОВЕЧЕСТВО
— Не опасно ли учить машину принимать решения? Есть немало постапокалиптических произведений, которые прогнозируют, что разумные машины захотят уничтожить человечество… Или это необоснованные страхи?
— Основания для опасений действительно есть. Недавно крупная американская компания, которая разработала чат-бот с генеративным искусственным интеллектом, опубликовала исследование о том, по какому сценарию в будущем может пойти противостояние человека и разумной машины. Пришли к выводу, что искусственный интеллект примет решение уничтожить людей. Если человек понимает, что есть красные линии, которые переходить нельзя, что жизнь — это высшая ценность, то машина принимает решение исходя не из этого, а на основе того, чему ее обучили. Условно говоря, она впитала все когда-либо придуманные человеком сюжеты, 51 процент из которых говорит о том, что ИИ уничтожит человечество, и только в 49 процентах случаев машина выступает против этого. Конечно, ИИ выберет больший процент. В целом мы видим, что ученые и государство задумались над этическими правилами, нормами и законами, которые нужно внедрять в искусственный интеллект. И это нужно делать. Для этого следует четко определить: что может и что не может делать ИИ, где может применяться и где — нет.
РАЗУМНУЮ МАШИНУ НЕ ПОДПУСТЯТ К КРИТИЧЕСКИ ВАЖНОЙ ИНФРАСТРУКТУРЕ
— Какие-то шаги, ограничивающие применение искусственного интеллекта, уже предпринимаются?
— В России разработаны стандарты и есть ограничения — в критически важной инфраструктуре запрещено использовать ИИ. Это военная, космическая и атомная отрасли. Несколько лет назад было запрещено внедрять искусственный интеллект в банковскую сферу, но сегодня финансовым организациям ИИ помогает выдавать онлайн-кредиты. В критически важной инфраструктуре ИИ может использоваться исключительно как помощник, он не должен там принимать решения. Так должно быть и в медицине, решение всегда должно оставаться за человеком.
— А что касается безопасности каждого отдельного человека? Он доверяет искусственному интеллекту многие личные данные…
— Сегодня даже существует такое понятие, как цифровое рабство. Оно возникает, когда мы создаем свою цифровую подпись, передаем на хранение биометрические данные. Кто хранит эти данные? Государство, конечно. Здесь есть большая уязвимость, но и в странах Европы, и у нас в России существуют законы, которые ограничивают их использование. Применяются биометрические данные, например, только для поиска пропавших или преступников. Здесь ИИ тоже должен быть ограничен, он не должен по своему усмотрению раскрывать эти данные.
РОССИЯ ЛИДИРУЕТ ПО ЦИФРОВИЗАЦИИ ГОСУСЛУГ И РАЗВИТИЮ IT-ТЕХНОЛОГИЙ
— Президент страны Владимир Путин ранее заявил об ожесточенном соперничестве между странами в области искусственного интеллекта. Можно ли сказать, что это своего рода новая гонка вооружений, как в прошлом веке было с разработкой ядерного оружия?
— Для развития человечества искусственный интеллект имеет первостепенное значение, как в свое время имело создание пенициллина, ядерного оружия, освоение космоса… Так что неудивительно, что наше государство основательно взялось за это. Сегодня существует дорожная карта по внедрению и развитию ИИ. В первую очередь это, конечно, касается автоматизации производства и развития генеративных сетей.
— А мы отстаем или опережаем другие страны в области разработки искусственного интеллекта? Создаются ли условия?
— Мы не идем первыми, но и не отстаем. В финансовых технологиях, в IT-разработках и их внедрении мы точно в лидерах. Сегодня в России самый скоростной интернет, передовые финансовые услуги, цифровизация госуслуг на высоком уровне, чего не найти в других странах, процент использования безналичной оплаты у нас существенно выше. Хотя мы и не были на старте всех этих разработок, нам удалось всех опередить. Почему? Связано это с тем, что наша страна начала позже развиваться и в области интернета, и в финансовых технологиях, и в IT. Мы брали опыт других стран, в том числе учитывали и негативный их опыт, лишних шагов не делали. Взять, например, США — они начали с внедрения старых технологий, но раньше нас. Сегодня они не могут обновить свое оборудование или технологии, потому что это очень дорого. Что касается условий, то сегодня наши вузы обновляют образовательные программы — и по бакалавриату, и по магистратуре переходят на направление ИИ.
— А если говорить про Челябинскую область, наши ученые вносят какой-то вклад в развитие искусственного интеллекта в России?
— Мы решаем отдельные задачи, которые интересны фирмам и компаниям. Также и за научные проекты беремся. Так, например, я с 2017 года работаю над оцифровкой информации в животноводстве, занимаюсь созданием трехмерных моделей животных. Это нужно, чтобы научить компьютер по изображению определять вес и рост животного, без использования весов. Для этого мы объезжаем сельскохозяйственные предприятия, фотографируем скот с разных ракурсов. Это очень сложный процесс, нужна огромная база данных, которой на сегодняшний день пока нет. Когда я только выложил в интернет первые наработки, откликнулись коллеги из Китая и Италии. Сегодня мы проводим эту работу в сотрудничестве с ними. Проект поддерживается Российским научным фондом и сейчас находится на стадии апробации.
БУДУЩЕЕ — ЗА АРХИТЕКТОРАМИ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА
— Сегодня отовсюду можно услышать, что программист — это профессия будущего. Это действительно так и без навыков программирования теперь никуда?
— Буквально недавно глава одной корпорации заявил, что детей нужно перестать обучать программированию. По его словам, учить языки программирования уже нет смысла, за программистов в ближайшем будущем коды будет писать сам искусственный интеллект. Он рекомендует сосредоточиться на биотехнологиях, образовательной сфере, промышленности и даже сельском хозяйстве. Будущее — за архитекторами искусственного интеллекта, а не за программистами.
Поделиться
поделиться:
