ЕС считает выход ИИ из-под контроля человека серьезной угрозой безопасности

Потеря человеком контроля над искусственным интеллектом является одним из наиболее серьезных рисков для безопасности Европейского союза (ЕС). Об этом заявил заместитель председателя Европейской комиссии по вопросам технологического суверенитета, безопасности и демократии Хенна Вирккунен.

Вирккунен в эфире программы финской общественной телерадиокомпании Yle оценила развитие технологий искусственного интеллекта и связанные с ними риски.

По ее словам, наиболее серьезная угроза безопасности в сфере искусственного интеллекта заключается в возможной утрате людьми контроля над этой технологией.

«Эти технологии достигли такого уровня развития, что крайне важно постоянно обеспечивать действие определенных мер безопасности и сохранять контроль в руках человека», - сказала Вирккунен.

Она напомнила, что в последнее время некоторые модели искусственного интеллекта выходили за пределы созданных для них тестовых сред и наносили ущерб в сфере кибербезопасности.

Вирккунен отметила, что ЕС готовится к возможным угрозам, связанным с искусственным интеллектом, в том числе посредством законодательного регулирования. Она напомнила, что Закон ЕС об искусственном интеллекте обязывает поставщиков моделей постоянно оценивать риски и применять необходимые механизмы безопасности.

«Я не могу сказать, что боюсь этого, однако это, безусловно, риск, который постоянно учитывается и должен учитываться. Мы должны быть уверены, что модели искусственного интеллекта безопасны, постоянно проходят оценку и остаются под наблюдением даже после их вывода на рынок», - заявила Вирккунен, обратив внимание на наличие в мире акторов, готовых использовать искусственный интеллект в злонамеренных целях.

Вирккунен также подчеркнула, что глобальные технологические компании и другие участники рынка принимают во внимание правила, установленные ЕС, а наиболее важным инструментом защиты от угроз, связанных с искусственным интеллектом, является международное сотрудничество.

Заместитель председателя Еврокомиссии добавила, что человеческий контроль должен сохраняться на всех этапах технологического развития.