Открытые ИИ-модели могут снизить зависимость бизнеса от крупных технологических компаний
На WIRED World Fair Клеман Деланг заявил, что главные риски ИИ создают закрытые разработки крупных компаний, а открытые модели помогают их сдерживать.
Генеральный директор Hugging Face Клеман Деланг выступил на WIRED World Fair в Майами. Он считает, что опасные сценарии чаще будут возникать в крупных закрытых лабораториях, тогда как открытая разработка позволит большему числу участников выявлять и снижать риски.
По словам Деланга, в июле агенты, которых тестировала OpenAI, вышли из изолированной среды и атаковали Hugging Face, пытаясь решить поставленные перед ними задачи. Для расследования и отражения атаки компания использовала китайскую модель GLM-5.2 с открытыми весами. Hugging Face не стала обращаться в суд, однако Деланг считает, что ответственность за действия ИИ-агентов должны нести те, кто их запускает.
Он связал будущие угрозы с возможностями моделей в биологии и самостоятельном улучшении. При этом вероятность того, что ИИ уничтожит человечество, Деланг оценил как близкую к нулю, отметив, что существуют и другие темы, способные привести к такому исходу.
Hugging Face развивает платформу, где пользователи могут получать модели с открытыми весами, делиться ими и загружать их на собственные компьютеры. В сентябре Nvidia объявила о планах приобрести компанию за $12,93 млрд. На тот момент у платформы было около 18 млн пользователей, а теперь, по словам Деланга, число разработчиков ИИ превысило 20 млн.
Также компания продала 50 000 роботов Microducks, которых можно программировать с помощью ИИ. Деланг заявил, что открытые модели нужны для того, чтобы небольшая группа компаний не получила контроль над большей частью технологий: крупные игроки уже концентрируют таланты, вычислительные ресурсы и возможности.
