Если искусственный интеллект предопределяет ваше будущее, остаётесь ли вы при этом свободным?
Материал разместил: AдминистраторДата публикации: 20-02-2022
Часть человеческого бытия — это способность бросить вызов обстоятельствам. Алгоритмические предсказания закрывают нам эту возможность.

Когда вы читаете эти слова, вероятно, десятки алгоритмов делают предсказания о вас. Скорее всего алгоритм определил, что вы попадете на эту статью, что вы ее прочтете. Алгоритмические прогнозы могут определить, получите ли вы кредит, работу, квартиру, страховку и многое другое.

Эта предиктивная аналитика завоевывает все больше и больше сфер жизни. И никто не спрашивает вашего разрешения на составление таких прогнозов. Ни одно правительственное агентство не контролирует их. Никто не информирует вас о пророчествах, которые определяют вашу судьбу. Что еще хуже, поиск в научной литературе этики предсказаний показывает, что это малоисследованная область знаний. Как общество, мы не продумали этические последствия предсказаний о людях — существах, которые, как предполагается, наделены самостоятельностью и свободой воли.

Бросать вызов трудностям — это основа того, что значит быть человеком. Наши величайшие герои — те, кто бросил вызов своей судьбе: Авраам Линкольн, Махатма Ганди, Мария Кюри, Хелен Келлер, Роза Паркс, Нельсон Мандела и другие. Все они добились успеха, превзойдя ожидания. Каждый школьный учитель знает детей, которые добились большего, чем им выпало изначально в раскладах судьбы. Помимо улучшения исходного уровня каждого человека, мы хотим, чтобы общество позволяло и стимулировало действия, которые бросают вызов обстоятельствам. Однако, чем больше мы используем ИИ для классификации людей, прогнозирования их будущего и соответствующего обращения с ними, тем больше мы сужаем возможности человека, что в свою очередь подвергает нас неизведанным рискам.

Люди использовали предсказания еще до Дельфийского оракула. На основе этих предсказаний велись войны. В последние десятилетия прогнозы использовались для обоснования таких практик, как установление страховых взносов. Эти прогнозы, как правило, касались больших групп людей — например, сколько человек из 100 000 разобьют свои автомобили. Некоторые из этих людей будут более осторожными и удачливыми, чем другие, но страховые премии будут примерно одинаковыми (за исключением широких категорий, таких как возрастные группы), исходя из предположения, что объединение рисков позволяет компенсировать более высокие затраты менее осторожных и удачливых относительно более низкими затратами остальных. Чем больше пул, тем более предсказуемыми и стабильными были страховые взносы.

Сегодня прогнозирование осуществляется в основном с помощью алгоритмов машинного обучения, которые используют статистику для заполнения пробелов неизвестного. Текстовые алгоритмы используют огромные языковые базы данных, чтобы предсказать наиболее правдоподобное окончание строки слов. Игровые алгоритмы используют данные из прошлых игр, чтобы предсказать наилучший возможный следующий ход. А алгоритмы, применяемые к человеческому поведению, используют исторические данные, чтобы предсказать наше будущее: что мы собираемся купить, планируем ли мы сменить работу, заболеем ли мы, совершим ли преступление или разобьем машину. При такой модели страхование больше не является объединением рисков больших групп людей. Напротив, прогнозы стали индивидуальными, и вы все чаще платите за них сами, в соответствии с вашими личными показателями риска — что вызывает новый набор этических проблем.

Важной характеристикой прогнозов является то, что они не описывают реальность. Прогнозирование касается будущего, а не настоящего, а будущее — это то, что еще не стало реальностью. Прогноз — это предположение, и в него заложены всевозможные субъективные оценки и предубеждения относительно риска и ценностей. Конечно, прогнозы могут быть более или менее точными, но связь между вероятностью и реальностью гораздо более непрочная и этически проблематичная, чем некоторые полагают.

Тем не менее, сегодня организации часто пытаются выдать прогнозы за модель объективной реальности. И даже когда прогнозы ИИ носят лишь вероятностный характер, на практике они часто интерпретируются как детерминированные — отчасти потому, что люди плохо понимают вероятность, а отчасти потому, что стимулы, связанные с избеганием риска, в итоге усиливают прогноз. (Например, если прогнозируется, что человек с вероятностью 75 процентов будет плохим работником, компании не захотят рисковать, принимая его на работу, когда у них есть кандидаты с более низким показателем риска).

Способы использования предсказаний поднимают этические вопросы, которые восходят к одному из самых старых споров в философии: если существует всеведущий Бог, можно ли сказать, что мы действительно свободны? Если Бог уже знает все, что произойдет, это означает, что все, что произойдет, было предопределено — в противном случае это было бы непознаваемо. Отсюда следует, что наше ощущение свободы воли — это всего лишь ощущение. Этот взгляд называется теологическим фатализмом.

Что беспокоит в этом аргументе, помимо вопросов о Боге, так это идея о том, что если точные прогнозы возможны (независимо от того, кто их делает) — то, что было предсказано, уже определено. В эпоху искусственного интеллекта это беспокойство становится еще более актуальным, поскольку предиктивная аналитика постоянно нацелена на людей.

Одна из главных этических проблем заключается в том, что, делая прогнозы поведения человека так же, как мы делаем прогнозы погоды, мы относимся к людям как к вещам. Отчасти уважительное отношение к человеку означает признание его самостоятельности и способности изменить себя и свои обстоятельства. Если мы решаем, что знаем, каким будет чье-то будущее до того, как оно наступит, и относимся к нему соответствующим образом, мы не даем ему возможности действовать свободно и бросить вызов шансам этого предсказания.

Вторая, связанная с этим этическая проблема предсказания поведения человека заключается в том, что, относясь к людям как к вещам, мы создаем самоисполняющиеся пророчества. Предсказания редко бывают нейтральными. Чаще всего акт предсказания вмешивается в реальность, которую он стремится просто наблюдать. Например, когда Facebook предсказывает, что запись станет вирусной, он максимально увеличивает её аудиторию, и вот она становится вирусной. Или вернемся к примеру с алгоритмом, который определяет, что вы вряд ли будете хорошим работником. Ваша неспособность получить работу может объясняться не точностью алгоритма, а тем, что сам алгоритм рекомендует компаниям не принимать вас на работу, и компании прислушиваются к его советам. Попадание в черный список алгоритма может серьезно ограничить ваши возможности в жизни.

Философы, которые в прошлом были озабочены теологическим фатализмом, беспокоились о том, что если Бог всеведущ и всемогущ, то трудно не обвинить Бога во зле. Как писал Дэвид Юм, «примирить […] случайность человеческих действий с предвидением […] и при этом освободить Божество от обязанности быть автором греха, до сих пор считалось превышающим все возможности философии». В случае с ИИ, если предиктивная аналитика частично создает реальность, которую она призвана предсказывать, то она частично ответственна за негативные тенденции, которые мы наблюдаем в цифровую эпоху, от растущего неравенства до поляризации, дезинформации и вреда для детей и подростков.

В ЦЕЛОМ, ЭКСТЕНСИВНОЕ использование предиктивной аналитики лишает нас возможности иметь открытое будущее, в котором мы можем что-то изменить, и это может оказать разрушительное воздействие на общество в целом.

На протяжении всей истории человечества мы придумывали способы жизни, которые бросали вызов фатализму. Мы прилагаем все усилия, чтобы дать образование нашим детям, надеясь, что все, что мы вкладываем, приведет их к лучшей жизни, чем та, которую они могли бы прожить. Мы прилагаем усилия, чтобы улучшить свои привычки в надежде на лучшее здоровье. Мы хвалим за хорошее поведение, чтобы поощрить его и признать, что люди могли сделать худший выбор. Мы наказываем нарушителей, по крайней мере, частично, чтобы отучить их и других от нарушения социальных норм, и частично, чтобы обвинить людей, которые, по нашему мнению, должны были вести себя лучше. Мы стремимся строить наши общества на основе заслуг.

Ни одна из этих социальных практик, столь фундаментальных для нашего образа жизни, не имела бы смысла, если бы мы думали или вели себя так, будто судьбы людей предрешены. Похвала и порицание были бы совершенно неуместны. Представьте себе мир без оценок, штрафов, поощрений или наказаний любого рода; мир без попыток изменить будущее; мир, в котором люди живут в абсолютной покорности пророчеству. Это почти немыслимо. Если бы будущее каждой компании можно было точно предсказать, то финансовые рынки, какими мы их знаем, мгновенно рухнули бы, а вместе с ними и наша экономика. Хотя такая крайняя возможность маловероятна, мы не хотим идти по пути, который приближает нас к ней.

Существует неразрешимое противоречие между практикой предсказания человеческого поведения и верой в свободу воли как часть нашей повседневной жизни. Здоровая степень неопределенности относительно того, что нас ждет, мотивирует нас стремиться к лучшему и сохраняет открытые возможности. Стремление не оставить ни одной потенциальной точки данных без сбора с целью составления карты нашего будущего несовместимо с отношением к человеку как к хозяину своей жизни.

Нам приходится выбирать между отношением к людям как к механическим машинам, будущее которых можно и нужно предсказывать (в этом случае верить в меритократию было бы бессмыслицей), и отношением друг к другу как к агентам (в этом случае делать людей целью индивидуальных прогнозов неуместно). Нам никогда не придет в голову посадить в тюрьму трактор или другую машину. Если человеческие существа подобны тракторам, то мы не должны сажать их в тюрьму. Если же, с другой стороны, люди отличаются от машин, и мы хотим продолжать хвалить и порицать, то мы не должны относиться к людям как к вещам, предсказывая, что они будут делать дальше, как будто они не имеют права выбора.

Предсказания не безобидны. Широкое использование предиктивной аналитики может даже изменить представление человека о самом себе. Вера в свободу воли имеет ценность. Исследования в области психологии показали, что подрыв веры людей в свободу воли увеличивает обман, агрессию и конформизм и уменьшает полезное поведение и позитивные чувства, такие как благодарность и искренность. Чем больше мы используем предиктивную аналитику в отношении людей, тем больше мы представляем человека не более чем результатом обстоятельств, и тем больше вероятность того, что люди будут считать себя лишенными самостоятельности и бессильными перед лицом трудностей. Чем меньше мы даем людям возможности бросить вызов обстоятельствам, тем больше мы виновны в том, что обрекаем их и общество на статус-кво.

Решая судьбу человека на основе алгоритмов прогнозирования, мы превращаем людей в роботов. Творческий подход людей к оспариванию вероятностей помог спасти целые народы. Вспомните Рузвельта и Черчилля во время Второй мировой войны. Они преодолели невыразимые трудности в своей личной и профессиональной жизни и помогли спасти мир от тоталитаризма. Способность бросать вызов трудностям — один из величайших даров человечества, и мы ставим его под угрозу на свой страх и риск.

Карисса Велиз


Источник: https://www.wired.com/story/algorithmic-prophecies-undermine-free-will/ 

Теги: оценки , прогнозы