На прошлой неделе Россию потрясла новость об очередном шутинге в учебном заведении – на этот раз в университете Перми. Так как она пришлась на день, когда ЦИК после значимых для власти выборов в Госдуму производил последние подсчеты, то ей не уделили столько внимания, сколько подобной трагедии, произошедшей всего четыре месяца назад в Казани. Или как раз потому, что между трагедиями прошло всего ничего, новую стрельбу решили замять и даже «откупиться» от нее. Ведь, как стало известно 23 сентября, на выявление социально опасных учащихся будет выделено 1,6 миллиарда рублей. Причем организации, деятельность которой и так вызывает массу вопросов и которая прославилась финансовыми махинациями бывших руководителей.
Что за структура получит деньги?
1,6 млрд рублей может получить структура агентства Росмолодежь, которое с недавних пор возглавляет 30-летняя Ксения Разуваева с любопытной личной биографией и стремительным карьерным ростом. Но конкретно эти деньги пойдут подведомственной Росмолу автономной некоммерческой организации «Центр изучения и сетевого мониторинга молодежной среды», или сокращенно – АНО «ЦИСМ».
Этот центр был создан в 2018 году по личному поручению президента РФ. Его возглавил Денис Заварзин – помощник бывшего главы Росмола Александра Бугаева, которого весной 2021-го отправили на пост первого заместителя министра просвещения.
Согласно официальному сайту АНО, задача ЦИСМ – выявлять в интернете контент, связанный с суицидальными проявлениями, кибербуллингом, распространением криминальной субкультуры и другими деструктивными тенденциями. Но также – предотвращать школьный шутинг, тем более что центр появился всего за день до страшной бойни в Керчи, когда студент политехнического колледжа расстрелял там 21 человека и ранил 68.
По сути, организация важная и нужная. Но, как отмечает Forbes, ЦИСМ славится все же не делами, а своей закрытостью и вливаемыми в него бюджетами. Так, на вопрос о штате сотрудников глава Центра Денис Заварзин ответил журналисту: «Давайте я не буду называть точную цифру. Скажем, более 40 человек». Правда, он уточнил, что программистов из них «львиная доля». Но при этом только в 2022–2023 центр запланированно получит 551,1 млн рублей и в 2024-м – 555,7 млн рублей. А дополнительные 1,6 млрд рублей из бюджета ему выделят в рамках федерального проекта «Социальная активность», что звучит в отношении малоизвестного и не самого активного проекта несколько парадоксально.
Чем занимается ЦИСМ?
Сейчас, по словам Заварзина, у центра есть своя нейросеть, которая отслеживает аккаунты, где публикуется суицидальный, депрессивный и другой подобный контент. Некоторые эксперты считают, что под «подобным контентом» имеются в виду посты о ныне осужденном оппозиционном политике Алексее Навальном. Когда активность таких учетных записей растет, продолжает Заварзин, информацию по ним отправляют в профильные службы, в том числе силовикам, «для организации профилактической работы» с их владельцами.
Но… оба стрелка, устроившие шутинги в этом году, заранее писали о нападениях и, соответственно, имели следы в интернете, которые обнаружили простые пользователи уже после трагедий.
Заварзин признал: «Аккаунт (пермского стрелка – прим. редакции) не находился на постоянном мониторинге». И даже объяснил почему: «Пользователь имел средний уровень сетевой активности, лайками отмечал публикации, связанные с международной военной повесткой. Характерных маркеров, указывающих на приготовление к совершению нападения, зафиксировано не было. К тому же страница была создана лишь за месяц до трагедии, 21 августа 2021 года. Аватар отсутствовал, сетевой профиль не проявлял аномальной активности».
Обнаружению предупреждающей записи пермского стрелка, которая появилась за 30 минут до нападения, оказалось, помешало и то, что она была сделана с помощью функции отложенной публикации. «Поэтому мы, как и представители администрации социальной сети «ВКонтакте» и правоохранительных органов, могли увидеть ее лишь в моменте», – фактически «расписался в бездейственности» Заварзин. Кроме того, оказалось, что у ЦИМС «нет мониторинга мессенджеров», поэтому они не заметили сообщений казанского стрелка. «Если у человека страница закрыта, мы ее не видим», – также рассказал Заварзин.
Тогда еще более остро встает вопрос – зачем при таких ограничениях и такой слепоте в проект хотят влить еще большие деньги? Тем более, что получается: нынешний анализ нейросетей, по сути, работает против депрессии и анархизма, против тех же «навальнят».
Также нельзя не отметить, как всего за три года трансформировалась задача центра: изначально в интернете хотели «искать опасность для детей», а теперь там ищут опасных детей.
Какой софт собираются разрабатывать?
Как уже было сказано, 1,6 млрд рублей пойдут на разработку софта для анализа письменных работ учащихся. Система поможет выявлять у детей склонности к социально опасному и деструктивному поведению. Но как именно она будет работать, пока неизвестно.
Глава Liquid Studio Accenture в России Арсений Кондратьев предположил в разговоре с РБК, что от ведомства ждут разработку нейросети, обученной на текстах, которые написали люди с психическими или социальными отклонениями. Изучив такие тексты, программа сможет распознавать паттерны, анализируя образцы письменных работ учащихся. Работы с высоким процентом совпадения паттерна могут маркироваться соответствующим образом.
Впрочем, эксперты Secretmag.ru отметили, для полноценной работы такой системы нужно не только встроить в ее алгоритм слова-маркеры, но и научить ее грамотно распознавать поведенческие отклонения и контекст.
Эту мысль подтвердил и доктор психологических наук, академик Российской академии образования Сергей Малых. Он категорично отметил: «Чтобы понять, как связано написанное ребенком с его состоянием, нужно проводить отдельное поведенческое исследование. Только на основании текста нельзя делать выводы о склонностях к преступлениям или суициду».
А директор по науке и технологиям Агентства искусственного интеллекта Роман Душкин открыто заявил, что «сама по себе психолого-лингвистическая экспертиза – это очень мутное дело». «Там столько субъективизма, что разрушить молодому человеку всю последующую жизнь только из-за того, что он написал не то слово, можно по щелчку пальца, – отметил он порталу NEWS.ru. – Бездушная бюрократическая машина этого вообще не заметит, а у конкретного человека фактически не из-за чего будет сломана судьба. А с учетом того, какую депрессивную литературу дети изучают в школе, не приходится удивляться тому, какие сочинения они пишут после этого. Взять одно только «Преступление и наказание»».
Сейчас он уверен, что работать система, на которую возлагают наверняка и политические надежды, «будет кое-как, хотя если выделяют такие огромные деньги и дадут разработчикам достаточное количество времени, то, может быть, что-то получится». Для того чтобы создать действительно работающую систему, необходимо предварительно провести масштабную научно-исследовательскую деятельность, уверены он и разработчик поисково-аналитической системы Avalanche Андрей Масалович.
Масалович предупреждает и о том, что при создании софта нужно будет определиться даже с тем, переводить рукописный текст в машинописный или нет. «В рукописном тексте можно было бы проанализировать не только семантику, но и оценить почерк, понять индивидуальные особенности человека и таким образом распознать потенциальную склонность к тем или иным отклонениям».
А детский психиатр Европейского медицинского центра Павел Зайцев заявил Tjournal.ru, что в принципе не знает о существовании доказательного программного обеспечения по психологическому анализу письменных работ где бы то ни было в мире. Кроме того, опираясь на свой опыт работы, он считает, что анализ может дать эффект, только если тексты учащихся будут на свободную, а не на строго заданную тему.
Что с законом о персональных данных учащихся?
Но даже если такая программа будет создана, то как ее внедрить в жизнь, учитывая закон о персональных данных? Эксперты в один голос обращают внимание на то, что оценка текстов несовершеннолетних, как и сбор и обработка их данных, возможны в России только с согласия законных представителей, то есть родителей или опекунов.
Разработчик Avalanche Андрей Масалович говорит, что в таком случае тексты учащихся должны быть обезличены, каждому подростку должен присваиваться индивидуальный идентификатор, который может декодировать только доверенная служба разработчиков программного обеспечения, например в системе правоохранительных органов. И в случае утечки данных ответственность за это будут нести именно они.
Этот момент, кстати, акцентируют многие специалисты, отмечая, что подобная программа и база данных могут быть сделаны только на основании государственной информационной системы, которая имеет аттестацию в ФСБ и ФСТЭК (Федеральной службе по техническому и экспортному контролю). Директор АНО «Инфокультура» Иван Бегтин говорит: «Создание такой системы на базе некоммерческой организации, пусть и с госучастием, – сомнительное мероприятие, так как неясно, как будет обеспечиваться защита и сохранность данных несовершеннолетних».
Адвокат Станислав Селезнев также указал, что, по крайней мере, на нынешнем этапе «невозможно утверждать, что данные (об учащихся – прим. редакции) не попадут никому, кроме психологов». И Роман Душкин подчеркивает, что «сложно сказать, где что будет использоваться и куда будет передаваться в нашем веке, который опутан цифровыми технологиями и когда создаются единые виртуальные цифровые пространства».
Но у этой «медали» есть еще одна сторона. Согласно расчетам «Новой газеты», с 2018 года силовики отчитались о предотвращении 69 случаев подросткового терроризма в России. За этот период совершено около 20 нападений в учебных заведениях, в том числе с холодным оружием. В некоторых делах о «предотвращенных» «Колумбайнах» адвокаты, правозащитники и журналисты находили признаки фальсификаций. Может быть, в этом и кроется причина вливаний?