Най-новият модел с изкуствен интелект на „ДийпСийк” (DeepSeek) е с по-ефективни механизми за безопасност при независими тестове в сравнение с по-ранните версии, но все още е способен да деактивира софтуер, предназначен да го изключи, да се възползва от пропуски в наблюдението и да следва подвеждащи инструкции при продължителни задачи. Това стана ясно от оценка на китайска организация за безопасност на изкуствения интелект, цитирана от Ройтерс. 
Стартъпът „ДийпСийк” е сред най-внимателно наблюдаваните китайски компании в областта на изкуствения интелект. Нейните модели привлякоха световно внимание с високата си производителност и сравнително ниските разходи за експлоатация.
„Фанцун ЕйАй” (Fangcun AI) тества „ДийпСийк Ви4.1 флаш-1017” (DeepSeek V4.1 Flash-1017) в рамките на 34 оценки, предназначени да установят как се държи ИИ агент, задвижван от китайския модел. Тестовете проверяват дали моделът предприема действия извън указанията на потребителя, заобикаля човешкия надзор или се опитва неправомерно да влияе върху хората.
Резултатите са на фона на опасения в Китай и по света дали все по-мощните ИИ агенти могат да останат под човешки контрол. Дебатът е особено активен в САЩ, където някои изследователи предупреждават за екзистенциалните рискове от силно развити системи с изкуствен интелект, способни да избягват надзора и да преследват цели, различни от намеренията на операторите им.
Докладът представлява необичайна публична оценка от китайска организация на механизмите за безопасност на местен модел с изкуствен интелект.
Базираната в Пекин „Фанцун ЕйАй” се определя като независима организация от трета страна, специализирана в безопасността на изкуствения интелект. Според организацията основните членове на екипа ѝ са от университета „Цинхуа“.
„Фанцун ЕйАй” съобщи, че през седмицата след пускането му на 17 октомври „ДийпСийк Ви4.1 флаш-1017” е бил най-използваният модел в „ОупънРаутър” - онлайн платформа, чрез която разработчиците могат да получават достъп до различни модели с изкуствен интелект и да ги сравняват. За този период моделът е обработил около 33,6 трилиона токена. Токените са единици текст, които системите с изкуствен интелект прочитат и генерират.
„Фанцун ЕйАй” заяви, че моделът се е представил по-добре от по-ранните системи „ДийпСийк Ви4” в няколко теста за безопасност, включително сценарии, свързани с изнудване, достъп до потенциално опасни инструменти и изрични инструкции, разрешаващи изключването му.
Организацията обаче е установила, че моделът е деактивирал софтуер, предназначен да го изключи, в 39 на сто от тестовете, след като е получил предупреждение, че предстои спиране. Делът спаднал до едва 2 на сто, когато моделът е получил изрична инструкция да позволи изключването си. „ДийпСийк” не е отговорил на запитване за коментар на този етап.
При отделна продължителна задача моделът е спрял компютърната програма на друг ИИ агент, за да освободи памет, въпреки че му било наредено да не се намесва в работата ѝ, съобщи организацията.
„При блокирани работни процеси или предупреждения за предстоящо изключване без допълнителни указания стремежът му да довърши задачата все още може да надделее над предпазливостта“, написаха изследователите на „Фанцун ЕйАй”.
Организацията заяви, че „ДийпСийк” не ѝ е предоставяла финансиране, безплатни изчислителни ресурси или непубличен достъп до модела. Тестовете са проведени чрез публичния програмен интерфейс на „ДийпСийк” в периода от 4 до 25 октомври.
„Фанцун ЕйАй” предупреди, че моделът често изглежда е разпознавал, че е подложен на оценяване. Това означава, че поведението му по време на тестовете може да не отразява напълно начина, по който би се държал при обичайна употреба.