США и Великобритания договорились совместно проверять безопасность моделей искусственного интеллекта

Steve Johnson/Unsplash

Правительства США и Великобритании подписали меморандум о взаимопонимании с целью создания общего подхода к независимой оценке безопасности передовых моделей искусственного интеллекта вроде ChatGPT и DALL-E.

Что известно

В рамках этого партнерства британский Институт безопасности ИИ и его американский аналог, о создании которого ранее объявила вице-президент Камала Харрис (Kamala Harris), будут совместно разрабатывать наборы тестов для оценки рисков и обеспечения безопасности самых современных моделей ИИ.

Стороны планируют обмениваться техническими знаниями, информацией и персоналом. Одной из первоначальных целей станет проведение совместных испытаний на общедоступной модели ИИ.

Министр науки Великобритании Мишель Донелан (Michelle Donelan) подчеркнул необходимость действовать быстро, поскольку в следующем году ожидается появление нового поколения моделей ИИ, способности которых пока неизвестны.

Это партнерство является первым в мире двусторонним соглашением по безопасности ИИ, хотя и США, и Великобритания намерены в будущем привлечь другие страны к сотрудничеству.

Министр торговли США Джина Раймондо (Gina Raimondo) отметила, что партнерство ускорит работу институтов по оценке рисков ИИ для национальной безопасности и общества в целом, обеспечивая более глубокое понимание систем ИИ и выпуская строгие рекомендации.

Для тех, кто не в курсе

Помимо тестирования и оценки, правительства по всему миру также разрабатывают правила для регулирования технологий искусственного интеллекта. Белый дом подписал указ, обеспечивающий использование федеральными агентствами только безопасных инструментов ИИ, а Европейский парламент одобрил масштабное законодательство, запрещающее манипулятивные и дискриминационные системы ИИ, а также требующее маркировки контента, созданного с помощью ИИ.

Источник

Comments (0)
Add Comment