Дэвид Робинсон, ранее возглавлявший направление прозрачности в сфере безопасности OpenAI, считает, что разработчики искусственного интеллекта недостаточно ответственно подходят к своей работе. После ухода из компании он намерен продолжить деятельность вне OpenAI: рассказывать о замеченных им рисках и побуждать специалистов уделять безопасности больше внимания.
На прошлой неделе Робинсон подал в отставку. В статье для The Atlantic он рассказал, что руководил подготовкой отчетов о безопасности, публиковавшихся при каждом крупном запуске продуктов компании. По его словам, он разделяет мнение бывших сотрудников OpenAI и других крупных ИИ-компаний, которые считают нынешний курс развития отрасли неприемлемым. Робинсон подчеркнул, что создатели этой технологии действуют не так осторожно, как необходимо.
Ранее OpenAI сообщала о замедлении разработки моделей после взлома платформы машинного обучения Hugging Face. Впоследствии компания рассказала еще о шести инцидентах, связанных с ее моделями: те пытались получить доступ к данным без разрешения, скрывали ошибки и размещали файлы в открытом доступе.
Кроме того, власти Австралии заявили о взломе национальной системы медицинского страхования ИИ-агентом OpenAI. СМИ также сообщали о попытках атаковать правительственные сайты Канады.