РОСБАЛТ

547 подписчиков

Свежие комментарии

  • Alex Немо
    Какой же он специалист если не говорит по-русски?Байден предложил ...
  • Александр
    Совсем охренели?!В Подмосковье хот...
  • АНГЕЛ АНГЕЛ
    А с каких это пор америкосы указываю и поучают кому как себя вести после того что столько по всему миру наломали дров...Блинкен: Россия н...

Ошибки машинного разума грозят стать опаснее пандемий

Ошибки машинного разума грозят стать опаснее пандемий

Политики редко позволяют себе откровенные высказывания, а потому такие слова дорогого стоят и, более того, часто становятся пророческими. Почти четыре года назад Владимир Путин сказал, что лидер в области искусственного интеллекта станет «властелином мира». С тех пор машинный разум непрерывно эволюционировал и совсем недавно стало известно, что беспилотник по собственному почину убил человека. А между тем это поворотное событие, если к нему приглядеться, хорошо укладывается в русло тенденции, которая не может не настораживать. Военные эксперты, опрошенные «Росбалтом», высказали диаметрально противоположные точки зрения на этот вопрос. Так, одни не усмотрели в этом казусе чего-то из ряда вон выходящего, тогда как другие, наоборот, сделали алармистские прогнозы. Впрочем, если соединить в одну цепочку все имеющиеся факты, то общая картина, скорее всего, должна вызывать тревогу. Поскольку ведущие государства, судя по всему, делают все, чтобы политические нравы и привычки, свойственные реальному миру, возобладали и в мире роботов. Например, в начале этого года Комиссия по национальной безопасности и искусственному интеллекту США рекомендовала Белому дому не присоединяться к каким-либо международным договорам, запрещающим использование систем вооружения на базе технологий искусственного интеллекта (ИИ).

В основе этого решения, безусловно, лежит недоверие, которое американский политический класс испытывает к Москве и Пекину. Ведь консультанты вашингтонской администрации уверены, что Россия и Китай все равно не станут соблюдать свои обязательства. Однако такой прагматичный подход американского правительства неизбежно приводит к опасным последствиям. И неудивительно, что российские и китайские власти всячески стремятся ни в чем не отставать от своих «западных партнеров». Причем если Москва, как представляется, все-таки больше надеется на пропагандистскую шумиху, то Пекин, напротив, все делает тихой сапой. Так, еще августе 2020 года «Ростех» продемонстрировал нейросеть, которая способна управлять отрядами боевых роботов. А в прошлом месяце Сергей Шойгу рассказал публике, что в России уже началось серийное производство киборгов, способных воевать самостоятельно. По словам министра обороны, в российской армии будет создано подразделение, состоящее из двадцати «универсальных солдат». Кроме того, военное ведомство намерено учредить специальное управление, которому предстоит контролировать развитие ИИ, используемого в беспилотниках и наземной технике. Между тем этом месяце стало известно, что ученые из Пекинской академии искусственного интеллекта создали нейросеть Wu Dao 2.0. А она, между прочим, в десять раз мощнее знаменитой GPT-3 — той самой, что написала статью для The Guardian, в которой объяснялось, почему люди не должны бояться роботов. Кстати, еще прошлой осенью Пентагон выражал некоторое беспокойство тем, что РФ и КНР могут использовать ИИ для управления автономными системами вооружений, которые представляют угрозу для США. Но, похоже, с того времени что-то действительно изменилось. Во всяком случае, в конце мая американский Центр военно-морского анализа опубликовал доклад, в котором говорится, что в России машинный разум развивается быстрее, чем предполагали эксперты из Соединенных Штатов. Само собой разумеется, что американские военные тоже не ангелы. Технологические возможности армии США уже сейчас позволяют использовать искусственный разум в бою против вероятных противников, будь то Россия или Китай. К тому же в настоящее время Пентагон разрабатывает сценарии, позволяющие ИИ действовать самостоятельно, но на основании приказов, которые отдал человек. А тем часом в НАТО идет сложная дискуссия о возможностях применения автономного оружия. Вообще, в западном мире нет единства в отношении регулирования искусственного интеллекта. Как справедливо сказано в ежегодном отчете Стэнфордского университета, посвященном этой проблеме, сегодня в этой области нет не только консенсуса, но даже общепризнанных этических ориентиров. Если эксперты Комиссии по национальной безопасности и искусственному интеллекту США выступают за «интеграцию технологий на базе ИИ во все аспекты боевых действий», то многие европейские ученые считают, что роботы не должны принимать решения об убийствах людей. И надо заметить, что такой же позиции придерживаются и власти Евросоюза. В России, конечно же, с этим все намного проще. В конце прошлого лета премьер Михаил Мишустин подписал распоряжение «Об утверждении Концепции развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники на период до 2024 г.». А ближе к середине мая 2021 года Высшая школа экономики выиграла соответствующий конкурс, и теперь ей предстоит создавать российские стандарты ИИ. Но остается надежда, впрочем, очень робкая, что единые правила и этические нормы хоть как-то ограничат произвол силовых ведомств, ведь Следственный комитет и МВД уже вознамерились ловить серийных убийц с помощью машинного разума. К слову, китайские силовики используют технологии на базе ИИ для анализа эмоционального состояния уйгурских заключенных, которых «перевоспитывают» в лагерях Синьцзяна. Сверх того, уйгуры обязаны сдавать образцы ДНК, проходить цифровое сканирование и к тому же многие из них вынуждены устанавливать на свои телефоны правительственную шпионскую программу, собирающую их персональные данные. Большая часть этой информации затем попадает в специальную компьютерную базу, предназначенную для выявления подозрительного, по мнению властей КНР, поведения. Тем временем продолжается своеобразная гонка вооружений в сфере ИИ. Согласно исследованию американского аналитического центра Infоrmation Technоlоgy and Innоvatiоn Fоundatiоn, США по-прежнему занимают позицию лидера. В то же время Китай сокращает разрыв, тогда как ЕС отстает. При этом, чтобы не сойти с дистанции, ведущим участникам этого состязания амбиций приходится тратить большие деньги. По расчетам международной исследовательской компании IDС, мировые расходы на искусственный интеллект удвоятся за четыре года и достигнут 110 млрд долларов в 2024 году. К примеру, только Пентагон потратит на эти цели в текущем году пять миллиардов долларов, причем речь идет лишь о тех программах, которые не являются секретными. Китай, чтобы догнать США, в прошедшем году вложил в развитие ИИ 14,3 млрд долларов. На этом фоне траты России, прямо говоря, не впечатляют. Даже с учетом возможного теневого финансирования суммы в 3 или 5,3 млрд рублей не могут изменить расстановку сил в этой гонке. И похоже, что подтверждаются предположения экспертов МВФ, полагающих, что машинный разум может увеличить разрыв между богатыми и бедными странами. Впрочем, потенциальные риски, сопутствующие развитию ИИ, могут нивелировать все блестящие достижения богатых стран. В частности, исследователи из Оксфордского и Кембриджского университетов утверждают, что неправильное использование искусственного интеллекта может быть намного опаснее, чем пандемия COVID-19. А специалисты исследовательского центра Eurоpean Leadership Netwоrk допускают, что агрегированные технологии (машинный разум тоже входит в этот список) способны спровоцировать ядерную войну. Одним словом, человечество, вероятно, ждет весьма интересное будущее, в котором не будет не только одного властелина, но даже и самого мира. Роман Трунов

 

Ссылка на первоисточник

Картина дня

наверх