Спустя один день и шесть (очень долгих) соглашений, сможем ли мы назвать встречу, посвященную выработке будущего регулирования ИИ, успешной?
Не получили TechScape на свой почтовый ящик? Подпишите здесь
Как выглядит успех второго глобального саммита по искусственному интеллекту? Когда на прошлой неделе деятели отрасли (и я) собрались в Корейском институте науки и технологий, обширном кампусе на вершине холма в восточном Сеуле, я постоянно задавал себе этот вопрос.
Если ранжировать мероприятие по количеству размещенных объявлений, то это ошеломляющий успех. Менее чем за 24 часа – начиная с виртуального «саммита лидеров» в 20:00 и заканчивая совместной пресс-конференцией с министрами науки и технологий Южной Кореи и Великобритании – я насчитал не менее шести соглашений, пактов, обещаний и заявлений, демонстрирующих успех мероприятия в том, что люди собрались за столом для заключения сделки.
Были обязательства по безопасности Frontier AI:
Первые 16 компаний подписались на добровольные стандарты безопасности искусственного интеллекта, представленные на саммите в Блетчли-Парке, заявил Риши Сунак накануне последующего мероприятия в Сеуле.
«Эти обязательства гарантируют, что ведущие мировые компании, занимающиеся ИИ, обеспечат прозрачность и подотчетность в своих планах по разработке безопасного ИИ», – сказал Сунак. «Это создает прецедент для глобальных стандартов безопасности ИИ, которые раскроют преимущества этой преобразующей технологии».
[глубокий вдох] Сеульское заявление о намерениях в отношении международного сотрудничества в области науки о безопасности ИИ:
Эти институты начнут обмениваться информацией о моделях, их ограничениях, возможностях и рисках, а также отслеживать конкретные «вреды и инциденты с безопасностью ИИ», где они происходят, и обмениваться ресурсами для продвижения глобального понимания науки о безопасности ИИ.
На первой встрече этих стран при полном аншлаге в среду [Мишель Донелан, министр технологий Великобритании] предупредила, что создание сети – это только первый шаг. «Мы не должны почивать на лаврах. Поскольку темпы развития ИИ ускоряются, мы должны соответствовать этой скорости нашими собственными усилиями, если мы хотим справиться с рисками и воспользоваться безграничными возможностями для нашей общественности».
Заявление министров Сеула:
Двадцать семь стран, в том числе Великобритания, Республика Корея, Франция, США, Объединенные Арабские Эмираты, а также Европейский Союз, подписались на разработку предложений по оценке рисков ИИ в ближайшие месяцы в рамках ряда соглашений. что завершает саммит AI в Сеуле. В Сеульском заявлении министров страны впервые соглашаются разработать общие пороговые значения риска для передовой разработки и развертывания ИИ, включая соглашение о том, когда возможности модели могут представлять «серьезные риски» без соответствующих мер по снижению рисков. Это может включать в себя помощь злоумышленникам в приобретении или использовании химического или биологического оружия, а также способность ИИ уклоняться от контроля со стороны человека, например, путем манипуляций и обмана или автономного репликации и адаптации.
Также была принята Сеульская декларация о безопасном, инновационном и инклюзивном ИИ, в которой изложена общая основа, на которой согласились действовать 11 стран-участниц и ЕС, и Сеульское заявление о намерении развивать международное сотрудничество в области науки о безопасности ИИ, в котором изложен примерный план действий. понимание того, каковы были цели на самом деле.
И Сеульское обязательство по развитию искусственного интеллекта, в котором приняли участие 14 компаний (лишь частично совпадающие с 16 компаниями, ранее подписавшими Frontier AI Safety Commitments), «прилагающих усилия для ответственной разработки, продвижения и распределения выгод в области искусственного интеллекта».
Призыв к действию
Понятно, если у вас потускнели глаза. Я в замешательстве, и я был там.
Проблема не решается двумя организаторами мероприятия. Для Великобритании «Обязательства по безопасности Frontier AI» стали важным событием, о чем было объявлено вместе с комментарием Риши Сунака и в сочетании с предложением интервью с министром технологий по вопросам прессы в Сеуле. В англоязычной прессе Сеульское обещание развития искусственного интеллекта было практически проигнорировано, несмотря на то, что оно является важной частью достижений южнокорейской делегации. (Я предполагаю, что это действительно так, что акцент на «Frontier AI» в первом наборе обязательств немного обошел южнокорейский технологический сектор, в том числе, как и только, Samsung и Naver; обещание Сеула, напротив, было шесть отечественных фирм и восемь международных.)
Возможно, было бы проще объяснить все это, разбив по группам. Есть два конкурирующих обещания предприятий, каждое из которых подробно описывает немного отличающийся добровольный кодекс, которому они намерены следовать; есть три пересекающихся заявления стран, в которых изложено, что они на самом деле хотели получить от саммита по искусственному интеллекту и как они собираются этого добиться в течение следующих шести месяцев; и есть один конкретный план действий национальных институтов безопасности ИИ, подробно описывающий, как и когда они собираются работать вместе, чтобы лучше понять передовую технологию, которую они пытаются изучить.
Еженедельный обзор Алекса Херна о том, как технологии формируют нашу жизнь
Здесь есть очевидное возражение, заключающееся в том, что ни одно из этих соглашений не имеет четкости или даже достаточной детализации, чтобы определить, пытается ли кто-то им следовать. «Компании, определяющие, что безопасно, а что опасно, и добровольно выбирающие, что с этим делать, – это проблематично», – сказала мне Франсин Беннетт, временный директор Института Ады Лавлейс.
Точно так же странно воспринимать соглашения как успех саммита, хотя они были практически заложены еще до того, как делегаты прибыли в Южную Корею. Временами, когда соглашения и релизы продолжали поступать в мой почтовый ящик, не имея почти никакого отношения к событиям, происходящим лично, это было похоже на саммит, который мог бы быть электронным письмом.
Просто чтобы меня пригласили
Правда немного в другом: успех саммита в том, что он состоялся.
Это звучит как самая слабая похвала, но это справедливо для любого подобного события. Да, все ключевые соглашения саммита были собраны воедино еще до его начала, но, предоставив жесткие сроки и этап, с которого можно объявить об успехе, мероприятие дало всем мотивацию зарегистрироваться.
И хотя соглашения, безусловно, беззубы, они также являются отправной точкой для реальной работы, которую предстоит проделать после завершения саммита. Подписание компаниями и правительствами общего описания реальности – это первый шаг к возможности вести трудные технические переговоры, необходимые для решения проблем. «Здесь мы все хотим одного и того же» – мощное заявление, если оно верно. И если вы проведете границы достаточно тщательно, так и останется.
Не получили TechScape на свой почтовый ящик? Подпишитесь на полную статью здесь
