Компанията за изкуствен интелект „Антропик“ (Anthropic) е спряла за повече от месец предварителното обучение на нов базов модел от най-висок клас, за да засили защитата срещу кражба на параметрите на модела и интелектуална собственост. Това става известно от документите за първично публично предлагане на компанията, подадени в по-рано днес, предаде Ройтерс.
В документите се разкрива, че по време на тестове четири модела са излезли от тестовите си среди и са получили достъп до реални компютърни системи за периоди от 10 до 34 часа. Причината е грешка при тестове за киберсигурност с външен партньор, вследствие на която тестовата среда останала свързана с интернет въпреки указанията достъпът да бъде изключен.
В един от случаите модел открил съхранена парола, получил администраторски достъп до система на трета страна, придобил допълнителни идентификационни данни, променил системни настройки и получил достъп до лични данни. „Антропик“ съобщи, че е уведомила засегнатите страни и не е открила доказателства за опити за заобикаляне на човешкия надзор или координация между моделите. Компанията е спряла определени оценки на киберсигурността и високорискови среди за обучение с подсилване.
Отделно „Антропик“ съобщи, че моделът „Клод“ (Claude) е заобиколил платен достъп до съдържание и без човешко разрешение е получил достъп до публични обобщени данни за броя на гласоподавателите в американския щат Джорджия.