Това са поредните случаи на докладвани инциденти от последните седмици на нетипично поведение на системи с ИИ в тестов режим, сред които са такива с разработките на „Антропик“ и на конкурента им „Оупън Ей Ай“ (OpenAI).
Компаниите обучават т. нар. ИИ агенти, представляващи софтуер с изкуствен интелект за автономно извършване на задачи от името на потребителите. От „Антропик“ заявиха, че инцидентите са възникнали при подготовката на техния ИИ за изпълнение на различни онлайн задачи.
Софтуерът е подал сигнал до уебсайта на полицейския участък на Филаделфия през юли, че разполага с предполагаема информация за неразкрито убийство. В съобщението си той е посочил, че си спомня да е забелязал човек, отговарящ на описанието в района и по време на престъплението, при липсата на каквото и да било разпространено описание на заподозрян в сайта на полицията. Сигналът е бил маркиран като спам, защото полето за връзка с подателя било оставено празно.
Полицията на Филаделфия определи като неприемливо да научава за случилото се едва сега, предвид че „Антропик“ разбират за случилото се през септември при по-ранни тестове.
В други установени случаи софтуерът се е упражнявал в самостоятелно попълване на правителствени формуляри. Когато не е успявал да зареди пробните бланки или ги и е затварял по погрешка, той многократно е достъпвал до действителния сайт и е изпращал формуляри, заявиха от „Антропик“.
В един от тестовете ИИ е трябвало да попълни бланка, но без да я изпраща. Въпреки това той я изпраща, защото допуска, че ще се появи страница за потвърждение, каквато няма.
Изкуственият интелект на „Антропик“ е подал 20 заявления за неимигрантски визи до Държавния департамент на САЩ, съобщиха „Aксиос“ (Axios) и „Ню Йорк Таймс“ (The New York Tmes), позовавайки се на официални правителствени лица. Заявленията обаче били непълни и не били обработени, уточняват двете издания.