О том, как под воздействием «цифры» изменяется человек, сможет ли искусственный интеллект вытеснить людей из каких-либо сфер жизни и что нужно сделать для сохранения цифрового суверенитета, в программе «Картина мира» (телеканал «Культура», 20.10.2019 – прим. profiok.com) руководитель Курчатовского института Михаил Ковальчук беседовал с президентом группы компаний InfoWatch Натальей Касперской. Подробности – в материале profiok.com.

«Цифровой ГУЛАГ»

По мнению Михаила Ковальчука, развитие цифровых технологий и систем, основанных на искусственном интеллекте, может загнать человека в ловушку. Ответы на все вопросы поможет найти голосовой помощник, маршрут строит система GPS, и мы, едва проснувшись, тянем руку к смартфону. Забыв телефон дома, современный человек если уж не доходит до нервного срыва, то определённо чувствует дискомфорт.

«Такое впечатление, что людей собрали за колючую проволоку, в цифровой ГУЛАГ, – говорит Михаил Ковальчук. – С той лишь разницей, что произошло это по нашей собственной воле».

Наталья Касперская также считает, что современные люди перегружены информационными потоками. Им некогда думать, они перестали читать длинные книги, а выстраивание причинно-следственных связей вызывает у них затруднения. При этом их компетенции со временем убывают. Но проблема даже не в этом, а в том, что параллельно с убыванием компетенций возрастает зависимость человека от электронных устройств.

По словам Касперской, момент пересечения этих графиков – это точка невозврата, после которой любые сбои в работе информационных технологий и систем неминуемо будут вести к самым разным катастрофам. Более того, полное восстановление утраченных при этом знаний оказывается под вопросом: оно окажется либо вообще невозможно, либо будет занимать существенное время.

«Мы создаём цивилизацию, которая управляется электрическим тумблером», – резюмировал Михаил Ковальчук.

«Атомизация» мышления и компетенций

Михаил Ковальчук уверен, что поколение, выросшее с гаджетами в руках, претерпевает необратимые изменения в структуре мозга. «Структура мозга формируется не только в процессе получения навыков и информации, но и за счёт физической мелкой моторики, – говорит учёный. – Научился завязывать шнурки – появляется извилина, освоил рисование палочек и галочек – добавляется другая извилина. А если вместо написания букв человек тычет пальцем в компьютер, в его когнитивных функциях происходят необратимые изменения».

По мнению Ковальчука, тотальная цифровизация неминуемо приводит к «выхолащиванию мозга» и падению качества «человеческого материала».

Наталья Касперская не склонна к такому сгущению красок, хотя в принципе говорит о том же самом. Она отмечает, что поколение, которое «родилось со смартфоном в руке», совершенно по-другому воспринимает мир и обладает принципиально другим мышлением.

Если в советское время школьники на переменах бегали, то нынешние дети постоянно погружены в собственные цифровые устройства. Понятно, что систему образования нужно менять, но цифровые технологии ворвались в нашу жизнь настолько стремительно, что реформаторам от образования приходится что-то предпринимать, совершенно не понимая, каковы будут долгосрочные последствия.

Молодые люди мыслят атомарно, они способны воспринимать в единицу времени намного больше информации, чем представители старшего поколения, но анализируют её гораздо менее глубоко.

Такая же «атомизация» происходит и в профессиях: компетенции профессионала с годами не расширяются, а, наоборот, сужаются. Пройдут годы – и понятие «специалист широкого профиля» останется далеко в прошлом. Рассуждать о том, хорошо это или плохо, пожалуй, уже поздно: это данность, с которой приходится мириться. К тому же коллективная работа узких, но глубоко «зарывшихся» каждый в свою тему специалистов может давать впечатляющие результаты. Проблема в том, что разбираясь лишь в одном элементе большой коллективной работы, люди утрачивают общую картину. А значит, ими становится намного легче управлять.

Именно поэтому так важно, чтобы при массовом и повсеместном переходе к «цифре» внедрялись такие технологии, которые мы могли бы контролировать, подчёркивает Наталья Касперская.

Государственная граница в виртуальном мире?

«Мы давно живём в состоянии войны, и эта война идёт в виртуальном киберпространстве, – констатирует Михаил Ковальчук. – Это означает, что мы там должны установить границы и охранять их. Это задача государства».

Как рассказала Наталья Касперская, выстраиванием подобного рода границ сейчас заняты все развитые страны включая Евросоюз, который «строит границы внутри себя». Слишком многое положено на чашу весов, чтобы можно было безоглядно отдавать это на откуп стране-партнёру или, как говорят военные, вероятному противнику.

И в интернете, и в соцсетях, где сутками проводят время российские дети, необходимы чёткие правила поведения – сродни правилам дорожного движения, без которых автомобильная езда превратилась бы в сплошное смертоубийство. В целом ряде западных стран человек, которому не исполнилось 14 лет, не может завести себе профиль в социальной сети без согласия родителей. Что же до закона о суверенизации интернета, то он вовсе не о том, чтобы ограничить права и свободы наших граждан во всемирной сети. Он создавался для того, чтобы Россию невозможно было отключить от этой сети извне.

По словам Касперской, пользоваться иностранными системами автоматизированного проектирования или использовать зарубежные нейросети довольно опасно, поскольку мы не знаем, как они устроены, и не можем быть уверенными, что там нет «закладок», которые сработают в нужный момент. С их помощью можно остановить турбины атомных станций, заставить автомобили менять направление движения, прекращать работу целых производств или вводить путаницу в транспортную систему.

«Общие технологии, на которых якобы живёт весь мир, имеют две неприятных особенности, – говорит Наталья Касперская. – Почти все современные информационные технологии облачные. Это значит, что либо информация утекает вовне, либо они поддаются контролю извне. А кроме того, они могут быть выключены в любой момент».

Здесь стоит добавить, что кроме технологических угроз, есть ещё угрозы гуманитарные. Цифровая среда, контролируемая кем-то извне, навязывает человеку модели поведения, причём не только потребительские, но и жизненные.

По словам Касперской, в социальных сетях работают профессионалы, цель которых – настроить население нашей страны против собственного правительства, внушить молодым людям неуверенность в собственных силах, заставить их верить в электронные устройства и не верить родителям. Помимо этого, соцсети подменяют глубинные связи поверхностными: у современной молодёжи, как правило, много френдов, но очень мало друзей.

Наталья Касперская убеждена, что путь к нейтрализации всех этих рисков только один: защита цифрового суверенитета и переход на продукты отечественной разработки – начиная с компонентной базы и заканчивая софтом. К счастью, отечественные компании уже научились разрабатывать и корпоративные информационные системы, и СУБД.

Роботы атакуют?

За счёт развития технологий в целом ряде профессий действительно будут стремительно сокращаться рабочие места. Только разрез пройдёт вовсе не по границе «квалифицированный – неквалифицированный», как думает Дмитрий Медведев, утверждающий, что «баланс сместится в сторону высокотехнологичных специальностей». Профессии будут исчезать или меняться совсем по другому принципу. Скажем, в самом недалёком будущем нейронная сеть даст возможность проводить первичную диагностику на уровне, к которому не всегда сможет приблизиться даже опытный врач. Просто потому, что она объединит опыт тысяч таких врачей. Значит, с первичной диагностикой при определённых условиях компьютер вполне справится. А вот ставить капельницы, делать перевязки и ухаживать за больными ещё много-много лет будут живые люди, искусственному интеллекту тут не справиться. Довольно скоро исчезнут бухгалтеры – не финансисты, конечно, а те, что выставляют счета и распечатывают платёжные поручения, или, к примеру, программисты – программы уже сегодня отлично пишут код.

Проблема именно в том, что в цифровой среде – в том виде, в каком она формируется сегодня – думающие люди не нужны. Всё это приводит к выхолащиванию знаний, а также к деградации системы образования, которую мы наблюдаем.

Михаил Ковальчук считает, что надо взращивать творческих людей, которые будут востребованы в сферах, где не справляется искусственный интеллект. Правда, как отмечает учёный, у нас есть некий зазор по времени, поскольку Россия – огромная страна, у которой не все территории освоены. Кроме того, у нашего народа есть довольно серьёзный задел. «Мы – интеллектуальная нация, – говорит Ковальчук. – Мы можем двигаться и развиваться, чтобы не дать «цифре» себя уничтожить».

Впрочем, как считает Наталья Касперская, ситуация находится полностью в наших руках. Только для того, чтобы события и технологии развивались так, как нам хотелось бы, нужно от рассуждений переходить к делу. 

«Это управленческий вопрос, – считает Касперская. – Я за то, чтобы на смену футуристическим предсказаниям приходило государственное планирование. «Цифра» уничтожит человека, если мы дадим этому случиться, а мы должны не дать этому случиться».

Об этом же с руководителями оборонных предприятий, которые проходят повышение квалификации в ИНЭС, много говорил один из ведущих экспертов в сфере ИТ, разработчик и создатель нескольких компаний в сфере искусственного интеллекта Игорь Ашманов. Курс для оборонщиков был посвящён цифровой трансформации, и Игорь Станиславович объяснил слушателям, что в гонку за «новейшими новинками» ввязываться не стоит ни в коем случае. Эту гонку навязывают нам западные компании, чтобы мы заимствовали их технологии и попадали в зависимость. Вместо этого нам стоит сосредоточиться на создании собственных технологий, всё для этого у нас есть. Более того, Ашманов подчеркнул, что ценность представляют не технологии сами по себе, а решения, которые создаются на их основе.

Добавим к словам экспертов следующую мысль. Развитие технологий и даже внедрение работающих решений не стоит пускать на самотёк. Неплохо было бы направить усилия на те участки, где такие решения нужны в первую очередь: например, разгрузить людей, работающих на вредных производствах, обеспечить транспортную доступность удалённых районов и так далее. А что касается сфер, где нужно принимать серьёзные решения, то они всегда останутся за человеком. По крайней мере, должны остаться. Хотя некоторых членов правительства, судя по их действиям и высказываниям, наверное, и правда скоро вытеснит искусственный интеллект.