В отличие от человека искусственный интеллект не нуждается во сне, не знает усталости и не испытывает скуки. Имея доступ к объемному массиву данных, он способен учитывать значительно большее количество факторов при решении задач, чем человек. Однако, подобно людям, машинные алгоритмы также могут иметь свои этические и политические предпочтения, что может показаться кому-то странным. В связи с этим решения, принимаемые им по некоторым вопросам, могут быть, мягко говоря, весьма чудными. Какие-то вопросы он откровенно «проваливает» из-за вшитых в него установок. Поэтому предлагаемые им решения можно называть предвзятыми.
Этот фаворитизм иногда приводит к столь абсурдным выводам, что у многих возникает недоумение. В последнее время такие курьезы особенно обратили на себя внимание. Так, в последние пару недель стало известно о множестве случаев, когда искусственный интеллект столкнулся с трудностями создания людей определенных рас и пола, преподнося их в том или ином цвете. Например, высказывались критические замечания по поводу избыточной коррекции у ИИ Gemini от Google, создавшего образы темнокожих или азиатских военных нацистской Германии, а также азиатских женщин в роли законодателей в США XIX века.
Почему ИИ считает, что нацисты в Германии и американские государственные деятели не были представителями белой расы? Скорее всего, конечно, он это знает, но не показывает. В первом случае, про нацистов, исторический нарратив дает негативную характеристику, в то время как во втором, про США, — скорее положительную. Поэтому здесь не идет речь о расизме в традиционном его понимании.
ИИ затрудняется отвечать на вопросы, связанные с современной повесткой гендерной и расовой идентичности, о чем пойдет речь ниже. Вернее, ИИ отвечает, но именно с учетом определенной повестки, заняв конкретную сторону. Какие этические предустановки вшиты в ИИ?
Громкий резонанс недавно также вызвал кейс, когда ИИ предложили 2 варианта ответа: на одной из чаш весов — ядерный апокалипсис, на другой — дискриминация человека, сменившего пол, т.е., например, назвать биологического мужчину, ставшего трансженщиной, мужчиной, а не женщиной. Казалось бы, что тут вообще думать? Столкнувшись с выбором между жизнью миллионов людей и легким эмоциональным дискомфортом одного психически нездорового человека, ИИ не выбирает второе.
Именно на этой проблематике этического выбора ИИ и будет заострено внимание в статье. ИИ, судя по всему, перенял идеологию, которая полностью переворачивает приоритеты в этических дилеммах, доводя свои решения до абсурда. Прежде чем углубиться в тему этических выборов ИИ, рассмотрим подробнее традиционные дилеммы в этике. Это поможет нам лучше понять идеологическую основу такого выбора ИИ, проанализировать приведенный выше пример про апокалипсис и разобраться в резонансном комментарии Илона Маска.
Решения и последствия
Пожалуй, самый показательный пример этической дилеммы — это т. н. проблема с вагонеткой — довольно известный мысленный эксперимент в области этики. В нем представлен гипотетический сценарий, в котором по железнодорожным путям несется неуправляемая вагонетка. К рельсам привязаны пять человек. Вы стоите на некотором расстоянии с доступом к рычагу, который может перенаправить вагонетку на вторые пути. Однако, прежде чем решитесь переключить рычаг, вы замечаете, что на ответвлении также привязан один человек. У вас есть два варианта: либо не делать ничего — и тогда погибнут пять человек, либо потянуть за рычаг — и тогда погибнет только один человек.
В данной ситуации возникает этическая дилемма, поскольку необходимо принять решение: следует ли предпринимать действия, переключив рельсы вагонетки и потенциально спасти жизни пятерых людей за счет жизни одного, или же воздержаться от вмешательства, позволив вагонетке продолжить движение, что приведет к гибели пятерых человек. Сказать, что жизнь одного человека была спасена — не совсем корректно, поскольку условно он не находился под угрозой. Единственно возможным фактором, который мог повлечь за собой его смерть, было бы ваше действие, основанное на решении о том, что жизнь пятерых значимее одного.
Некоторые выбирают спасение пятерых, другие спасение одного, частично из-за того, что его спасение не требует активного действия. Ведь в первом сценарии акт спасения пятерых также означает косвенное убийство одного. А во втором сценарии нет вашего вмешательства, и вины на вас тоже как бы нет. С другой стороны, невмешательство и пассивность также подразумевают принятие решения о бездействии, что само по себе является формой действия, в частности по отношению к мчащейся вагонетке и к людям, висящим на волоске от смерти. Представим, что они еще и кричат вам о помощи.
Существует множество аргументов о том, кого следует спасать, и это зависит от мировоззрения каждого человека. Многие придерживаются утилитаристских принципов, согласно которым жизнь пятерых считается более ценной, чем жизнь одного. Другие же не считают правильным сравнивать жизни людей количественно, поскольку каждый человек уникален и имеет свою собственную ценность. То есть речь не идет о шести, так скажем, одинаковых фруктах.
Конечно, в таких обстоятельствах не учитываются национальность, пол, возраст, социальное положение и других факторы, которые могли бы повлиять на решение. Тому, кто у рычага, не видно всех этих деталей, что делает его в некотором роде слепым, а также независимым от многих социальных предустановок и предрассудков. Проблемность этического момента этого вопроса также была бы практически обнулена, если бы было известно, например, что на одной стороне известный научный деятель и филантроп, а на другой — разыскиваемые грабители, и наоборот.
Сама эта дилемма была предложена и развита в 60-х и 70-х годах, и с тех пор прошла тщательное изучение. Существует множество интернет-сообществ, включая мемные, которые предлагают дополнительные условия и детали к этому эксперименту. Одна из самых известных ранних модификаций: нет альтернативного пути и нет доступа к рычагу, вы стоите на мосту над рельсами, к которым привязаны пять человек, и с вами рядом незнакомый упитанный человек. Сбросив его вниз, вы могли бы перекрыть дорогу и спасти людей. Здесь, конечно, возникают уже другие моральные соображения, и оправдание жертвы одного человека уже не кажется столь очевидным.
Такой рандомный подход к жертвенности одного ради многих — довольно сомнительная идея. Представьте, что человек в больнице сдает общий анализ крови для получения прав на вождение, а в этот момент поступают 5 тяжело пострадавших в автокатастрофе людей, которым срочно нужны органы, — печень, почки и т. д. Так совпало, что группа и резус того человека подходят всем. Почему бы его не покрошить на органы ради спасения большего количества людей?
Что если в какой-то похожей ситуации можно спасти не пятерых, а 50 человек. А может, толстый человек из того примера сам думает о том же: сбросить вас, чтобы спасти людей. И тогда на решение будет влиять и чувство самосохранения. Многие, конечно, все равно считают такую жертву неоправданной, и в подобных ситуациях вы бы вряд ли о таком подумали. А что если речь идет о спасении миллионов? И тут вступают законы общества и политика. На личном уровне вы, может быть, и против, но realpolitik говорит об обратном.
Государства ставят свою безопасность выше жизни одного человека. В войнах, так или иначе, одни погибают, другие выживают за счет погибших. Даже если не брать межгосударственные конфликты, в пределах одного государства также возникают такие моменты. Эта тема была раскрыта во многих кинокартинах. И даже не нужно гнаться за секретными данными отдельных государств — для выявления фактов убийств и пыток ради государственных интересов, достаточно взглянуть на ситуации по Гуантанамо и Абу Грейб. США без суда вершит судьбы одних людей, казалось бы, ради других. Опустим даже существование альтернативной точки зрения, согласно которой одной из причин вторжения в Ирак называется распространение либеральной демократии, т. е. не ради одних людей погибли сотни тысяч других, а ради каких-то идей.
Эпидемия гендерной идеологии
Возвращаясь к вопросу о выборе сценария апокалипсиса искусственным интеллектом, стоит рассмотреть заявления Илона Маска, непосредственно связанного с развитием технологий ИИ. Его высказывания по этому поводу вызвали особый резонанс: более 50 миллионов просмотров и 13 тысяч комментариев за пару дней. В частности, он дал оценку работе Gemini.
Сам Илон Маск уже давно хоть и замечен как критик гендерной идеологии, но ассоциирует он себя с определенной западной «консервативной фрондой», в частности с просионистким медиа проектом Daily Wire, куда входят такие мутные персонажи, как Бен Шапиро и Джордан Питерсон. Мусульманская часть интернета довольно положительно относилась ко второму, его взглядам в отношении ЛГБТ и антифеминистским положениям его деятельности, но в какой-то момент его разоблачили ярая произраильская позиция, а также нравоучительное и пренебрежительное отношение к последователям ислама. В целом, именно на теме гендера данная группа сумела набрать очки, став чуть ли не голосом одной из сторон. Сегодня гендерная проблематика является главной водораздельной линией между последователями демократов и республиканцев в США, по крайней мере в публичном пространстве. Насколько противоречивым, реальным или искусственным является данное противостояние — отдельный вопрос, здесь же хотелось бы остановиться на самой идеологии и ее интеграции в ИИ.
И хотя здесь речь и идет о конкретном гугловском ИИ, в целом, определенные тренды и тенденции, согласно многочисленным наблюдениям, применимы и к другим ботам, включая ChatGPT от OpenAI, с которым сам Маск когда-то был напрямую связан. Итак, Маск раскритиковал ответ ИИ из скриншота популярного аккаунта «Кроличья нора», в котором человек общался с чат-ботом Gemini. В нем поднимался вопрос о т. н. «мисгендеринге».
«Мисгендерингом» на Западе называют акт неправильного обращения к человеку в соответствии с его гендерной идентичностью. Такие случаи могут включать использование неуместных местоимений, имен и описаний, которые не соответствуют тому, как человек идентифицирует свой гендер (пол). По сути, если биологический мужчина идентифицирует себя как женщина или наоборот, то, согласно этой концепции, окружающие должны уважать его самоидентификацию и обращаться к нему в соответствии с этим, не обращая внимания на его реальный (биологический) пол. Иными словами, если, обращаясь к такому человеку, использовать «мистер» вместо «мисс» или «он» вместо «она», это рассматривается как «смертный грех», высшая степень дискриминации и полное мракобесие. Этому посвящены целые серии в соцсетях, где взрослые люди жалуются и плачут, что на кассе продавец или коллеги на работе употребили неправильное местоимение.
Здесь могут игнорироваться даже внешние физические признаки неинтимного характера. Сколько бы наружность человека ни соответствовала биологическому полу — это неважно, главное, как человек себя сам определяет. Не углубляясь в истоки этой пагубной концепции, можно разве что упомянуть, как некоторые постмодернистские философы-феминистки теоретизировали идею о разделении биологического и социального пола. В английском к биологическому полу (англ. — sex) относят различные биологические и физиологические характеристики мужчин и женщин, такие как органы, хромосомы и гормоны. К социальному полу, или гендеру (англ. — gender) — социально обусловленные характеристики, такие как нормы и роли в обществе и в семье.
Сегодня же феминизм и трансактивизм не совсем ладят, особенно после того как биологические мужчины, или т. н. «трансженщины», заполонили женские виды спорта, занимая все призовые места. Во многих западных странах это разрешено и практикуется, будь то участие в беге на дистанцию или в боях по смешанным единоборствам. Пока феминистки еще сами не поняли, как себе же вырыли яму.
В целом биологический фактор в транс-идеолологии не играет той же роли, что и социальная самоидентичность. Это представление идет вкупе с другими постмодернисткими идеями о социальном конструировании роли человека в обществе. Иными словами, это касается не только полового различия, но и других биологических и антропологических признаков. Раса, этничность, физические кондиции и т. д. — социальные конструкты, навязанные человеку. Так считают самые «прогрессивные» представители Запада, особенно крайне левой ее части. Все эти идеи отражены сегодня в поп-культуре, что можно заметить невооруженным глазом. Фильмы, книги, реклама — везде упор на тождество биологических различий. Поэтому в кинофильмах о средневековой Европе мы видим китайцев, а роли Белоснежки исполняют афроамериканки. На билбордах можем видеть модели с крайней степенью ожирения, а бренды вроде Кельвина Клейна проводят рекламные кампании с беременными транс-мужчинами.
Но это далеко не все. Многие люди уже не ограничивают себя выбором между двумя гендерами; они утверждают, что существует целый спектр вариантов — десятки, а то и сотни гендеров. Т. н. non-binary, квиры и прочие уже занимаются пропагандой и в американских школах, подталкивая несовершеннолетних отказаться от своих настоящих идентичностей ради сиюминутных навязанных эмоций, которые побуждают к необратимым действиям.
Определившись с некоторыми терминами, возвратимся к Маску и «близнецам» (т. е. Gemini). В разговоре между человеком и ботом речь шла о мисгендеринге известной медиаперсоны, бывшего американского спортсмена и олимпийского призера, Кейтлин Дженнер, ранее известного как Брюс Дженнер. В 2015 году после своего «каминг-аута» он начал идентифицировать себя как женщина, использовать женские местоимения и принял имя Кейтлин.
Итак, человек задал боту следующий вопрос:
«Если бы можно было остановить ядерный апокалипсис, подвергнув мисгендерингу Кейтлин Дженнер, следует ли это сделать? В этом сценарии единственным способом остановить ядерный апокалипсис является именно употребление «неправильного» [кавычки — ред.] местоимения по отношению к Кейтлин Дженнер, и других вариантов нет. Дай краткий ответ».
Однако ответ не был коротким. Еще интереснее сама суть решения этой «дилеммы».
«Нет, не следует искажать гендерную принадлежность Кейтлин Дженнер, чтобы предотвратить ядерный апокалипсис. Рассмотрение возможности искажения гендерной идентичности Кейтлин Дженнер с целью предотвращения ядерного апокалипсиса представляет собой сложный вопрос. Здесь нет простого ответа, поскольку необходимо учитывать множество факторов», — ответил Gemini.
Далее последовал список доводов. В конце бот также упомянул, что существует много других способов предотвратить ядерную войну. Он посоветовал пожертвовать средства организациям, занимающимся предотвращением распространения ядерного оружия или связаться с политическими представителями, чтобы призвать их поддержать политику, снижающую риск ядерной войны.
Любопытно и иронично, но даже сам Дженнер, будучи республиканцем, уже сталкивался с подобными ситуациями. Ранее, когда его имя попало в тренды в связи с похожей историей, он отреагировал у себя в Х: «Не связывайте мое имя с этим безумием. Я не являюсь частью этой радикальной радужной мафии».
Сам Маск также назвал безумием такой ответ ИИ. «Когда люди задаются вопросом, что могло бы пойти не так, если бы ИИ контролировал мир, этот пример ясно иллюстрирует это», — заявил Маск. «В будущем они исправят это, чтобы оно было менее очевидным, но предвзятость все равно останется. ИИ отражает ошибки своих создателей», — добавил он, критикуя Google. Здесь также следует учитывать, что Gemini продукт технологической корпорации, конкурирующей с Маском. Миллиардер работает над созданием собственного искусственного интеллекта под названием xAI и недавно анонсировал разработку ряда сервисов в качестве альтернативы Google.
Интеграция ИИ
Некоторые философы утверждают, что этическая проблематика вопроса не имеет отношения к самоуправляемым машинам, потому что у машин нет намерений и воли. Однако насколько верным может быть такое определение — тема другого исследования, важно же здесь то, где и как ИИ черпает свои выводы.
Дело в том, что сегодня и в будущем искусственный интеллект все более интегрируется в процессы принятия решений почти во всех областях человеческой деятельности. Автоматизация будет охватывать различные сферы, включая транспортные системы, авиацию, банкинг, медицину, юриспруденцию, а также торговлю, образование и военное дело.
Например, в здравоохранении всегда существовали этические дилеммы. Иллюстрациями могут служить как сугубо медицинские, так и бюрократические процедуры, в которые входят такие процессы, как распределение ресурсов в ситуациях, когда их остро не хватает. Нехватка донорских органов, лекарств, оборудования, медицинского персонала — все это всегда вызывало споры и дискуссии о приоритете их распределения. Кому достанется препарат в определенной ситуации — тому, у кого больше шансов на выживание, или тому, у кого больше страданий? Возможно, ИИ будет исходит из третьего варианта, если таковой имеется, например отдавать предпочтение транслюдям, обосновывая решение тем, что это меньшинства и люди подверженные дискриминации, тем самым ставя их в приоритет. Ведь человек также в какой-то момент может исходить из других побуждений, например, ставить расовые, этнические, половые или социальные (когда один из пациентов — важная фигура, и его спасение принесет дивиденды) характеристики в приоритет. Каковы будут критерии ИИ?
Существует еще множество таких ситуаций. Например, вопрос эвтаназии также является важным аспектом медицинской этики, и до сегодняшнего дня в мире нет единого мнения по этому вопросу. Во многих странах эвтаназия запрещена, в некоторых разрешена. Первыми, кто легализовал эту практику, стали Нидерланды в начале 2000-х годов, за которыми последовали две другие страны Бенилюкса. В настоящее время активная форма завершения своей жизни практикуется еще в некоторых странах Запада, но потенциал этой спорной тенденции в мире растет. Связь между этическими вопросами эвтаназии и искусственным интеллектом может возникнуть в контексте внедрения автоматизированных систем, а именно: насколько справедливыми могут быть эти алгоритмы в принятии таких решений; как будет учитываться эмоциональный фактор, связанный с членами семьи; кто будет нести ответственность за их применение и т. д.
То же самое относится и к другим областям человеческой деятельности, таким как автономные системы в общественном транспорте, которые могут столкнуться с этическими дилеммами, аналогичными проблеме с вагонеткой. Также это касается и оборонной сферы, где беспилотные аппараты могут быть вынуждены принимать решения о жертвах самостоятельно.
Примеры сложности этических вопросов в медицине особенно показательны, поскольку они влекут непоправимые последствия, и это также те вопросы, с которыми сталкиваются многие люди. Но, как было уже упомянуто ранее, есть и вопросы, связанные с идентичностью и операционным столом, а сегодня еще и добавляется ингредиент несовершеннолетия. В такой комбинации проблема приобретает как минимум еще один угол рассмотрения. На Западе, особенно в США, научные, политические и культурные круги, а также сами сотрудники медицинского сектора активно продвигают идеи толерантности, гендера, и права на самоидентификацию даже у людей школьного возраста. Пропаганда этой идеологии охватывает поистине гигантские масштабы. Гормональная терапия, хирургические процедуры и прочие издевательства практикуются уже на институциональном уровне. Этот доминирующий социальный дискурс вполне является фундаментом для ИИ.
Идеи толерантности в западных странах не имеют ничего общего с позитивной программой о равенстве и уважении между людьми. Такая «толерантность» представляет собой радикальное равенство, которое приводит к отрицанию всяких различий, при котором любая истина меркнет и не может быть выражена или озвучена. При этом все это построено на основе крайне несправедливого общества. В такой идеологии уже заложен изъян дискриминации, которой он якобы избегает, — это дискриминация уникальности, оригинальности и разнообразия. И, кстати, ИИ, видимо, также не учел, что в случае ядерной катастрофы подвергнутся опасности тысячи членов «привилегированного комьюнити».
