Искусственный интеллект и международная безопасность

10-11 февраля 2025г. состоялся третий Саммит по развитию искусственного интеллекта, организованный президентом Франции Э. Макроном и премьер-министром Индии Н. Моди.

Были приглашены представители из 100 стран. Делегацию США возглавлял вице-президент Д. Вэнс, делегацию Китая – вице-премьер Дин Сюэсян. В мероприятии приняла участие группа ведущих американских технологических титанов.

Прежде рассмотрим итоги работы предыдущих саммитов. Первый международный саммит по безопасному использованию искусственного интеллекта состоялся в Лондоне в ноябре 2023 г. по инициативе премьер-министра Великобритании Р. Сунака. В нем приняли участие около 100 именитых экспертов и политиков, в т.ч. вице-президент США, король Соединенного Королевства (дистанционно), глава Еврокомиссии, государственный секретарь Великобритании по науке, инновациям и технологиям, вице-президент Европейской комиссии по ценностям и прозрачности, министр торговли США, вице-министр науки и технологий Китая, руководители ведущих технологических титанов в т.ч. И. Маск.
Заявленная задача саммита «начать обсуждать связанные с ИИ угрозы и способы их минимизации на высшем международном уровне». По словам Р. Сунака «мы хотим получить возможность лучше понимать и оценивать безопасность моделей искусственного интеллекта».

По результатам саммита Великобритания учредила первый в мире «Институт безопасности ИИ».

В мае 2023г. в Южной Корее был проведен второй международный саммит по ИИ. В нем приняли участие: руководители США, Канады, Франции, Германии, Южной Кореи, Сингапура, представители ООН, организации экономического сотрудничества и развития, ЕС, руководители ведущих технологических титанов в т.ч. И. Маск. Центральной темой были три принципа: безопасность, инновационность и инклюзивность. По его итогам 27 государств и ЕС подписали совместное заявление, где отмечали «о необходимости сохранения человеческого контроля за применением технологий ИИ и необходимость подготовиться к всевозможным рискам, связанным с разработкой и использованием нынешних и будущих моделей».

Были определены принципы по обеспечению безопасности ИИ: прозрачность, совместимость, понятность, конфиденциальность и подотчетность, достаточный надзор со стороны человека и эффективное использование данных. Стороны также предположили, что негосударственные субъекты могут использовать ИИ в производстве оружия массового поражения.

Важным решением прошедших саммитов стало создание «Институтов безопасности ИИ». Это поддержали ЕС, Франция, Германия, Италия, Великобритания, США, Сингапур, Япония, Южная Корея, Австралия, Канада, Индия, Мексика, Кения, ОАЭ и Украина.

В современном мире все большую значимость приобретает проблема обеспечения безопасности, будь то безопасность человека, общества, государства и международного сообщества. Безопасность – это обеспечение состояния защищенности от внешних и внутренних угроз. Для ее обеспечения ключевым является определение реальных опасностей и вызовов и выстраивание системы защитных, упредительных мер. Система предполагает создание нормативно-правовой базы, регулирующей регулировать – значит управлять.

В целях обеспечения безопасности ИИ по линии ЕС были приняты регулирующие нормативно-правовые акты: «Закон о цифровых услугах» (DSA) – это постановление ЕС (декабрь 2020г., вступил в силу в 2023г.), регулирует незаконный контент, прозрачную рекламу и дезинформацию. «Закон о цифровых рынках» (DMA) (март 2021г., вступил в силу в 2023г.), регулирует деятельность шести технологических титанов, направлен на защиту конкуренции. В мае 2023г. парламентом ЕС был принят и вступил в силу «Регламент об управлении данными (DBA). Регулирует оборот данных в публичной сфере, включая обеспечение безопасности персональных данных, коммерческой тайны, объектов интеллектуальной собственности и др. Определены требования к данным, которые должны быть находимыми, доступными, обмениваемыми, повторно используемыми.

Обобщающим нормативно-правовым актом для использования ИИ стал принятый Европейским парламентом и одобренный Советом ЕС (март — май 2024) – «Регламент ЕС об искусственном интеллекте». В силу вступила его первая часть 2 февраля 2025г. Цель регламента – улучшение функционирования внутреннего рынка и содействие внедрению ориентированного на человека и заслуживающего доверия искусственного интеллекта. При этом должен обеспечиваться высокий уровень защиты здоровья, безопасности, основных прав, включая демократию, верховенство закона, охрану окружающей среды и защиты от возможного вредного воздействия систем ИИ, а также поддержка инноваций.
Теперь вернемся к прошедшему парижскому саммиту. На нем было предложено обсудить способность ИИ ускорить прогресс в таких областях, как медицина и климатология, а более мрачные разговоры о рисках поглощения ИИ были отнесены к неофициальным мероприятиям. Цель саммита – отметить положительную сторону ИИ. Это отражает сдвиг в индустрии ИИ, т.к. политиков легче воодушевить прогрессом ИИ, если они не беспокоятся, что он их убьет.

На саммите активно обсуждался DeepSeek – китайский стартап в области ИИ, поразивший своей супермощной моделью, созданный за малую часть стоимости ведущих американских моделей. Этот проект показал, что нужны миллионы, а не миллиарды долларов, чтобы идти «в ногу» с передовыми ИИ.

На саммите отмечалось, что некоторые политики похоже не понимают как скоро могут появиться супермощные системы ИИ и насколько разрушительными они могут оказаться. По оценке ряда экспертов, принимавших участие в саммите, в ближайшие годы могут появиться ОИИ – «искусственный интеллект общего назначения», система, которая может соответствовать человеческим способностям.

Чем объяснить, что повестка дня была кардинально изменена по отношению 1 и 2 саммита – где в центре внимания было обеспечение безопасности ИИ. Э. Макрон организатор третьего саммита резко «на 180 градусов» меняет свою позицию и «призывает Европу отдать приоритет инновациям, а не регулированию». Может это связано со сменой администрации США, с действиями Д. Трампа, в отношении ИИ, который отменил указ Д. Байдена «О программе тестирования мощных моделей ИИ», распустил правительственную Комиссию по контролю за выполнением «Закона о цифровых услугах». Д. Байден шел в «фарватере» ЕС, а Д. Трамп вступил в «противостояние». Накануне Д.Трамп заявил «о необходимости Америки доминировать в области искусственного интеллекта». Э. Макрон в очередной раз проявил себя как политик, который легко «переобувается» и меняет свою точку зрения.

Особое значение приобрело участие в саммите вице-президента США Джона Вэнса, который руководствовался принципом «Америка прежде всего» и изложил подход к искусственному интеллекту. Он заявил «Я здесь сегодня не для того, чтобы говорить о безопасности ИИ, а для того, чтобы говорить о возможностях ИИ. Будущее ИИ не будет достигнуто за счет «заламывания рук» по поводу безопасности».

«Для того чтобы Европа стала младшим партнером, — сказал он, — ей необходимо ликвидировать большую часть своей структуры цифрового регулирования, а также значительную часть контроля над интернетом». Известно, что когда нет контроля – нет управления, тогда «хаос». На саммите прозвучала суть центрального спора, который вероятно обострится: ЕС регулирует технологические компании гораздо жестче, чем США. «Подход Европы, несправедливо нацеленный на американские технологические титаны, глава МETA М. Цукерберг призвал Трампа защитить от европейской «цензуры», чтобы ЕС прекратил их штрафовать». Коммерческая составляющая прежде всего.

Заключительным событием саммита стало подписание декларации «Об инклюзивном и устойчивом ИИ», которую поддержали 60 стран, включая Францию, Индию, Японию, Австралию, Канаду и Китай. Декларация призывает обеспечить открытость, инклюзивность, этичность, безопасность и надежность ИИ с учетом международных правовых норм и создать устойчивый ИИ для всех людей.

Документ направлен на развитие промышленности, улучшение сферы труда, укрепление международного сотрудничества по управлению ИИ. Участники саммита запустили инкубатор для развития ИИ, обсудили дальнейшее взаимодействие, договорились о создании сети исследовательских центров для прогнозирования влияния новых технологий на рабочие места, обучение и образование.

США и Британия отказались подписать декларацию. Мероприятие, направленное на поиск совместного подхода мирового сообщества к прорывной, но очень опасной технологии, привело к противоречиям. Появился еще один повод для конкуренции и противостояния. Вице-президент США Д. Вэнс занял жесткую позицию и вполне определенно высказался против «чрезмерного регулирования технологий ИИ. Учитывая, что американские компании занимают одно из лидирующих позиций в разработках в области ИИ им лишние обязательства и ограничения не нужны. Международные режимы регулирования должны способствовать созданию технологий ИИ, а «не душить» их. Нам нужно, чтобы наши европейские друзья смотрели на этот новый горизонт с оптимизмом, а не с тревогой», заявил он. Когда президент Франции стал говорить о том, что «регулирование необходимо для обеспечения доверия ИИ» Д. Вэнс не стал слушать и покинул зал.

По итогам саммита Китай и Индия призвали «к расширению инклюзивного развития ИИ и оказанию помощи развивающимся странам в укреплении их потенциала в этой области». Кроме того, МИД Китая призвал США «не политизировать международное сотрудничество в области ИИ».
В заключении необходимо отметить, что в настоящее время одна страна уже не может доминировать в области искусственного интеллекта, т.к. наряду с США появились влиятельные «игроки» — Китай, Индия, Европа.
Следующий саммит планируется провести в Индии.

Источник: argumenti.ru