Разработчики искусственного интеллекта против социального рейтинга

«Человек и его права важнее технологий»: разработчики искусственного интеллекта раскритиковали систему социального рейтинга

Автор – РИА Катюша

Заполнившие в последнее время информационное пространство РФ политические новости, как выясняется, мало влияют на глобальные проекты «нашей» элиты, упорно навязывающей России новую цифровую реальность, с социальными рейтингами, тотальной слежкой и машинным управлением поведением людей. Наше издание регулярно сообщает о такого рода проектах-от законопроекта «О цифровом профиле» и универсальных идентификаторах до системы «Безопасный город» вводящей тотальную слежку за населением, от планов Минпросвещения доверить искусственному интеллекту подбор содержания уроков в школе до «персональных траекторий развития». И вот, в четверг на площадке РИА Новости прошла важная дискуссия на тему "Нужен ли России социальный рейтинг?", в ходе которой эксперты, в том числе ведущие в стране специалисты по искусственному интеллекту, подвергли эту систему уничтожающей критике.

Формальным поводом для обсуждения стала концепция законопроекта о защите прав граждан в цифровой среде, которая сейчас обсуждается на площадке Совета по правам человека при Президенте. Фактически же эксперты говорили о т.н. социальном рейтинге – той самой технологии ранжирования людей и машинного управления их поведением, которая уже запущена в Китае с 2014 года в тестовом режиме, с 2021-на всей территории Поднебесной, и которая, по планам «хозяев денег», должна в ближайшем будущем охватить все человечество.

В России продвижение данной технологии идет со скрипом – например, попытка внести в Думу законопроект о «О цифровом профиле» пару лет назад вызвала ожесточенное сопротивление общественности (см. выступление гл. редактора РИА Катюша Андрея Цыганова в Государственной Думе по этому поводу) и в итоге была заблокирована ФСБ. Тем не менее, лоббисты «китайской модели» вводят цифровые идентификаторы граждан, продолжают собирать наши персональные данные и «цифровой след», составляют «цифровые портфолио», а кое где, как в Москве, запускают систему тотальной слежки за населением в рамках т.н. программы «Безопасный город». До реализации концепции социального рейтинга остается один шаги СМИ, вместе с околовластными деятелями, уж начали готовить у нему общественное мнение. Год назад госпропагандист Дмитрий Киселев выпустил целую программу о пользе социального рейтинга, а около месяца назад за рейтинг начал топить член Общественной палаты Александр Малькевич -который, правда, тут же получил гневную отповедь от своих коллег по палате и разработчиков искусственного интеллекта.

Впрочем, понятно, что и Малькевич, и Киселев действуют не сами по себе, а озвучивают мысли значительно более весомых персон, которые с их помощью тестируют общественное мнение. Следы жизнедеятельности этих фанатов машинного управления можно обнаружить и в нормативной базе -в частности, буквально вчера ТАСС распространил сообщение замминистра просвещения Татьяны Васильевой о том, что ее ведомство намерено к 2023 году передать подбор содержания уроков в школе искусственному интеллекту.

РИА Катюша регулярно рассказывает о том, какие силы стоят за реформой образования в РФ -которая по сути дела представляет собой реализацию методичек Всемирного банка и наказов таких деятелей как Герман Греф или авторы Форсайт проекта «Образование 2030», так что ничего удивительного в этом приказе нет.

Мало того, в распоряжении РИА Катюша оказались результаты опроса ВЦИОМ, охватившего 1600 россиян. И хотя вопросы социологов сформулированы не совсем корректно хотя бы потому что значительная часть населения вообще не знает, что такое социальный рейтинг и какие права граждан могут попасть под ограничение, все равно абсолютное большинство опрошенных (55%) высказалось против внедрения этой технологии.

И вот в четверг на площадке РИА Новости состоялась попытка осмыслить все эти тенденции и дать им не только нравственную и правовую, но и профессиональную оценку от разработчиков ИИ. Желающие могут посмотреть запись этой дискуссии, она очень познавательная.

Заседание открыл глава СПЧ Валерий Фадеев, заявивший, что тема социального рейтинга «очень мутная», и «никто, даже многие граждане Китая, где этот рейтинг узаконен, толком не понимают, что это такое». Также господин Фадеев признал, что лоббированием введения рейтинга занимаются частные компании и он, как представитель СПЧ, считает своим долгом защитить интересы граждан, так как «любые новые технологии несут не только новые возможности, но и определенные риски».

Тему поддержал член СПЧ, IT бизнесмен Игорь Ашманов, назвавший основные риски данной технологии: непрозрачность правил (никто не знает кто выставляет рейтинг, правила не обсуждаются публично, их пишут программисты. В итоге «возникает некая новая цифровая власть никому не известных людей» которые могут скомпрометировать кого угодно). При этом искусственный интеллект принимает то или иное решение (например, позволить человеку или нет, вызвать такси, купить билет на самолет или устроиться на хорошую работу) на основании рейтинга автоматически, что чревато дискриминацией человека и лишением его прав, в т.ч. гарантированных Конституцией. Второй важнейшей проблемой эксперт назвал «принцип положительной обратной связи», в соответствии с которым «богатые всегда становятся богаче, а бедные всегда беднее и ниже определенного порога бедный человек или человек с плохим рейтингом подняться уже сможет». Как этот принцип работает на практике, пояснил другой эксперт выступавший на круглом столе, вице-президент в области искусственного интеллекта и математического моделирования Сколковского института науки и технологий Максим Федоров: «Например, в британской системе школьного образования происходит следующее. Между 10 и 11 годами ребёнок набирает в школе определенное количество очков, и его отправляют либо в класс усиленной подготовки, либо в обычный (аналог наших коррекционных классов). Там ему дают базу, а одаренных детей учат по другой, усиленной программе, и в результате ребенку из обычного класса догнать его очень сложно, только ценой колоссальных усилий родителей».

В свою очередь, Игорь Ашманов сделал важное замечание, заметив, что лоббисты оголтелой цифровизации образования очень любят слово «траектория», а на самом деле речь идет о судьбе ребенка или, в случае социального рейтинга-судьбе человека, которой будет управлять не сам человек, а «искусственный интеллект».

Наконец, член экспертно-консультативного совета по вопросам семейного права Совета Федерации, эксперт ОУЗС Анна Швабауэр дала развернутый правовой анализ идеи социального рейтинга (http://katyusha.org/view?id=16538), суть которого сводится к тому что данная технология подрывает сами основы права и, наряду с другими разделами цифровой трансформации, основаны на рекомендациях Всемирного банка и подобных структур, включая и те, которые официально признаны в России нежелательными.

Итогом мероприятия стало сообщение Валерия Фадеева о том, что в СПЧ создана рабочая группа под руководством Игоря Ашманова, которая должна к середине лета разработать некую концепцию защиты прав граждан в цифровом пространстве и от цифрового пространства -которая затем будет предложна законодателям. Главная идея разработчиков этого документа сводится к тезису о том, что человек и его права – важнее любых технологий. РИА Катюша будет следить за деятельностью этой группы и по возможности информировать о результатах ее работы. Кстати, буквально вчера вечером информагенство Bloomberg сообщило о том, что Европейский Союз намерен запретить системы искусственного интеллекта, используемые для массового наблюдения или ранжирования социального поведения, соответствующий законопроект Еврокомиссия должна представить в ближайшие недели.

Источник

Эксперты обсудили опасности создания системы социального рейтинга населения России

Социальный рейтинг в Китае. Есть ли градация людей по категориям? Сколько у меня баллов?

Более подробную и разнообразную информацию о событиях, происходящих в России, на Украине и в других странах нашей прекрасной планеты, можно получить на Интернет-Конференциях, постоянно проводящихся на сайте «Ключи познания». Все Конференции – открытые и совершенно безплатные. Приглашаем всех просыпающихся и интересующихся…