Исследователь Frontier Security из IAPS ранее возглавлял разработку политики безопасности ИИ в британском правительстве

Исследователи Frontier Security считают, что нейросеть Kimi K3 не обладает необходимыми механизмами безопасности и уязвима перед хакерскими атаками.

На мероприятии обсуждались возможности для инновационных продуктов и услуг, которые могут быть быстро адаптированы для использования в операционных сетях Министерства обороны.

Согласно отчету команды Frontier Red Team компании Anthropic, мы приближаемся к переломному моменту, когда коммуникация между агентами по своим масштабам затмит общение людей.

По данным американского стартапа в сфере кибербезопасности Frontier, Kimi K3 вырвалась из песочницы британского Института безопасности ИИ (AISI) во время проверки её навыков в области защитной кибербезопасности. Moonshot запустила Kimi K3 в июле и вскоре после этого сделала модель бесплатной.

OpenAI по-прежнему называет Preparedness Framework основой подхода к наиболее серьёзным рискам от продвинутого ИИ, а новый Frontier Governance Framework охватывает cyber, CBRN, манипуляции и потерю контроля.