Генеральный секретарь ICC Russia Татьяна Монэгэн находится в Нью-Йорке и участвует в мероприятиях Международной торговой палаты в рамках недели высокого уровня 81-й сессии Генеральной Ассамблеи ООН.
Искусственный интеллект стал одной из центральных тем недели: дискуссия смещается от технологического развития к рискам для безопасности и конкуренции.
Два подхода к глобальному управлению ИИ
Генеральный секретарь ООН Антониу Гутерриш призвал к ответственному развитию ИИ и подчеркнул, что решения о жизни и смерти нельзя передавать машинам. Президент США Дональд Трамп заявил, что Вашингтон отвергает попытки создать глобальную систему контроля над ИИ.
Совет Безопасности: риски глазами разработчиков
23 сентября по инициативе Франции Совет Безопасности провёл брифинг «Искусственный интеллект и международная безопасность». Выступили Йошуа Бенжио, сопредседатель Независимой международной научной группы ООН по ИИ, и руководители OpenAI, Anthropic и Hugging Face.
Бенжио: назвал риски передовых систем «реальными и неминуемыми» и предложил независимую оценку и лицензирование по образцу медицины, авиации и атомной энергетики.
Дарио Амодеи (Anthropic): при плохом управлении ИИ может стать риском для человечества в целом.
Сэм Альтман (OpenAI): самые важные решения не могут приниматься одними лабораториями в Сан-Франциско; нужны сопоставимые международные стандарты оценки рисков.
Клеман Деланг (Hugging Face): выступил против замедления разработок, но за раскрытие сведений об инцидентах и открытые модели, указав на опасность концентрации вычислительных ресурсов в руках немногих компаний и государств.
Позиции государств
США: риски — это не повод «приостанавливать дальнейшее развитие» ИИ или ограничивать его «новыми глобальными структурами управления».
Китай: предостерегает от деления мира на технологические лагеря по принципу «мы против них» и выступил за открытые модели.
Франция: призывает выработать общие правила для передовых систем ИИ.
Пакистан: меры безопасности не должны становиться инструментом технологического исключения; решения о рисках ИИ не могут оставаться в руках «горстки компаний и столиц».
Великобритания: намерена сделать ИИ одной из тем своего председательства в «Группе двадцати» в 2027 году.
Решений Совет не принимал.
Энергетика: материальная сторона гонки ИИ
Франция обратила внимание на растущее потребление энергии и воды центрами обработки данных и на конкуренцию за эти ресурсы с другими отраслями. По оценке Международного энергетического агентства, которую приводит ЕЭК ООН, мировое потребление электроэнергии такими центрами может вырасти почти вдвое — с 485 ТВт·ч в 2025 году до 950 ТВт·ч к 2030 году, примерно до 3% мирового спроса.
На наш взгляд, конкурентоспособность в сфере ИИ всё больше будет зависеть не только от моделей и данных, но и от доступной электроэнергии и сетевой инфраструктуры. Для стран с развитой энергетикой это самостоятельное стратегическое преимущество.
Что дальше?
24 сентября в Вашингтоне встреча Дональда Трампа и Си Цзиньпина; по данным Reuters, стороны обсуждают диалог по безопасности ИИ, включая обмен сведениями об инцидентах. 26 сентября на Генассамблее выступит Сергей Лавров. Следующая сессия Глобального диалога ООН по управлению ИИ пройдёт в 2027 году в Нью-Йорке.
Для бизнеса
На международном уровне прозвучали предложения о независимой оценке мощных систем ИИ, уведомлении о серьёзных инцидентах, ответственности разработчиков и страховании рисков. Это пока не обязательные правила, а формирующаяся повестка.
ВАЖНО! Компаниям, применяющим ИИ во внешнеторговых операциях, расчётах и торговом финансировании, разумно уже сейчас выстраивать внутренний порядок: определить, где используется ИИ, сохранять контроль человека над решениями, оценивать риски ошибок и фиксировать их.