Старший научный сотрудник Стокгольмского института исследования проблем мира (SIPRI) Лора Саалман призвала государства уже сейчас обсуждать контроль над искусственным интеллектом и ограничения его применения. По её словам, технологии развиваются настолько быстро, что через десять лет предпринимать такие шаги может оказаться слишком поздно.
Саалман выразила обеспокоенность тем, что всё более сложные военные системы и роботы могут стать неподвластными человеку и привести к непредсказуемым последствиям. Она подчеркнула, что странам необходимо заранее оценить риски ИИ и договориться о мерах, которые помогут ограничить его потенциально опасные возможности.
«Нужно думать о том, каким будет будущее искусственного интеллекта. Если военная техника или даже обычные роботы станут настолько сложными, что человек перестанет контролировать их действия, мы можем оказаться в ситуации, знакомой лишь по фильмам. Такой исход не принесёт пользы ни одной стране и ни одному человеку», — заявила Саалман.
Эксперт также напомнила об исследователе компании Anthropic Джейкобе Коксоне, который ранее объявил об уходе из индустрии ИИ. Он опасается, что соперничество технологических компаний приближает мир к «точке невозврата» и способно привести к катастрофическому сценарию уже к концу 2027 года.
«Важно не только признать существующие опасения, но и начать обсуждать способы их устранения и ограничения возможностей ИИ. Пока для этого ещё есть время. Если отложить такие разговоры на десять лет, может быть уже поздно», — отметила Саалман.