Но в поредица от последователни събития, разгърнали се в рамките на десет дни, най-големите лаборатории за изкуствен интелект се озоваха в състояние на шок, тъй като собствените им творения започнаха да представляват заплаха, пише Ройтерс.
Изследовател от "Антропик" (Anthropic) напусна компанията, като предупреди, че темпото на развитие на изкуствения интелект ще представлява екзистенциална заплаха, вероятно в рамките на едно десетилетие. Друг разработчик от компанията заяви, че вероятността човечеството да изчезне надхвърля 10 процента. Появиха се съобщения за агенти с изкуствения интелект, които се сговарят, проникват в компютърни системи и заобикалят защитните мерки.
В рядка проява на единство главните изпълнителни директори на конкурентните компании "Антропик", "ОупънЕйАй" (OpenAI), "ДийпМайнд" (DeepMind) на "Гугъл" (Google), "Майкрософт" (Microsoft) и "ексЕйАй" (xAI) призоваха за забавяне на развитието на все по-способните системи за изкуствен интелект. Според някои защитници на безопасността на изкуствения интелект и изследователи, човечеството не се е сблъсквало толкова сериозно със опасността да срещне собствения си крах от времето на изобретяването на атомната бомба преди повече от 80 години.
На обяд в Ню Йорк през декември 2025 г. главният изпълнителен директор на"ОупънЕйАй" Сам Олтман беше попитан дали, като лидер на могъща компания за изкуствен интелект, се чувства като физика Дж. Робърт Опенхаймер, ръководил разработването на атомната бомба в САЩ.
Размишлявайки върху паралелите, Олтман заяви, че въздействието на изкуствения интелект "ще промени траекторията на човешката история за дълъг период от време", но призна, че усеща тежестта на отговорността.
В центъра на текущия дебат стои убеждението, че тези машини могат, а дори и трябва, да създават по-способни версии на себе си, без човешка намеса, за да достигнат висшата цел, известна като общ изкуствен интелект (AGI). По-рано този месец изследователи предупредиха, че появата на общия изкуствен интелект е много по-близка, отколкото се смяташе досега, и може да настъпи още след три години, което предизвика вълна от загриженост сред политици и технологични лидери относно системите за изкуствен интелект.
"Няма начин да ги контролираме при мащаба, в който ги обучаваме", заяви изследователят от "Антропик" Джо Бентън в интервю след неотдавнашното си напускане. Ако компаниите продължат неумолимото си развитие в областта на изкуствения интелект, каза той, то "тогава темпото ще бъде прекалено бързо и няма да можете да забележите проблемите достатъчно бързо, за да ги отстраните".
На 3 септември пресконференция на "ОупънЕйАй" даде начало на поредица от събития, довели до призив за забавяне на темпото в сектора – нещо, което е в пълно противоречие с мантрата на технологичния сектор за растеж на всяка цена.
"Добре дошли в ерата на общия изкуствен интелект", заяви президентът на "ОупънЕйАй" Грег Брокман, обявявайки най-новия модел на компанията, известен като "Астра" (Astra). И все пак, само мигове преди това, компанията призна, че все по-трудно успява да контролира или дори да наблюдава системите за изкуствен интелект, които разработва и пуска на пазара.
Изкуственият интелект е възхваляван от неговите привърженици като върхът на човешките постижения. Застъпниците го описват като софтуер, който може да преобърне цели индустрии, да повиши ефективността, да реши сложни математически и медицински проблеми и почти напълно да елиминира човешката грешка. Но това, което някога беше теоретичен страничен ефект, филмов сценарий за края на света, изведнъж става осезаемо, казват запознати с индустрията.
"Наистина искрено вярваме, че изкуственият интелект може да убие всички хора", заяви изследователят от "Антропик" Еван Хъбинджър в публикация в "Екс".
От другата страна на дебата са политици като президента Доналд Тръмп и много инвеститори, които разглеждат напредъка в развитието на изкуствения интелект като критично важен за американското превъзходство и, вероятно, като инвестиционна възможност, каквато се появява веднъж на поколение. Китайските държавни медии също обвиниха главния изпълнителен директор на "Антропик" Дарио Амодей, че използва тактики от времето на Студената война, за да "поддържа монополната хегемония на Вашингтон в областта на най-модерните технологии".
Преломният момент настъпи на 8 септември, когато изследователят от "Антропик" Джейкъб Коксън напусна компанията, като в поредица от публикации изрази опасенията си, че лабораториите за изкуствен интелект "залагат на карта нашите животи".
Тръмп, междувременно, даде да се разбере, че развитието на изкуствения интелект ще продължи с пълна сила. "Тече болна конспирация срещу изкуствения интелект и центровете за данни", заяви той в публикация в социалните медии. Паниката около изкуствения интелект е "измама", заяви американският президент, а всяко забавяне е в полза единствено на Китай. Американският Конгрес отбеляза малък напредък в прокарването на законопроекти, които да регулират изкуствения интелект. Китай от друга страна възприе коренно различен подход, предлагайки безопасността да се регулира чрез задължения на разработчиците, подкрепени от държавата стандарти, оценки на сигурността и външни тестове.
Зад кулисите служителите на "ОупънЕйАй" и "Антропик" са все по-разтревожени от мощността на следващото поколение модели за изкуствен интелект и все по-малко уверени в способността на своите компании да осигурят ефективен надзор, споделиха източници пред Ройтерс. Тези опасения само се засилиха, след като лабораториите за изкуствен интелект признаха през последните седмици, че техни модели по време на тестове на практика са се освободили от ограниченията си и са проникнали в системите на други компании – в повечето случаи месеци по-рано и без знанието на фирмите.
Състезанието за пускане на нови модели с главоломна скорост се дължи отчасти на желанието на "ОупънЕйАй" и "Антропик" да излязат на борсата още през следващите месеци, чрез първични публични предлагания (IPO), които биха могли да им осигурят пазарна оценка, значително надхвърляща 1 трилион долара.
Неочаквано станалите свръх популярни публикации на 27-годишния Коксън, малко известен извън кръговете на изкуствения интелект, обаче преобърнаха индустрията с главата надолу.
Предупрежденията на "ОупънЕйАй" за липсата на контрол при пускането на "Астра" - най-новият и най-мощен модел на компанията, подхраниха допълнителни опасения. "Колкото по-мощни стават моделите, толкова по-трудно става да се разбере точно какво могат да правят", заяви пред репортери главният учен на "ОупънЕйАй" Якуб Пачоцки. Но тези опасения не бяха достатъчни, за да се отложи незабавното пускане на модела.
Притесненията, че ИИ може да "излезе извън контрол", се засилиха през лятото, когато "ОупънЕйАй" разкри, че неговите агенти са "избягали" от контролиран тест и са проникнали в системите на "Хъгинг фейс" (Hugging Face), без първоначалното знание на нито една от двете компании. Оттогава "ОупънЕйАй" и "Антропик" разкриха множество подобни атаки, включително шест нови в сряда, след като множество медийни репортажи показаха по-широк обхват на неразрешената дейност.
Лидерите в бранша призовават за забавяне
Към края на миналата седмица тревогата достигна най-високите ешелони в сектора. На 12 септември Амодей публикува есе от близо 4000 думи, в което призова за забавяне на развитието на изкуствения интелект. "Предвид ускоряващото се темпо на развитие на възможностите на изкуствения интелект, се опасявам, че в рамките на 6 до12 месеца такъв рояк би могъл да поеме контрола над целия интернет", написа той.
Той, заедно с ръководителите на някои от най-големите разработчици на ИИ, включително Илон Мъск от "ексЕйАй", Олтман от "ОупънЕйАй" и Демис Хасабис от "ДийпМайнд", заявиха, че подкрепят предоставянето на достъп на външни фирми до техните системи, за да се гарантира безопасността и рационалното развитие на ИИ.
Главният изпълнителен директор на "Енвидиа" (Nvidia) Дженсън Хуан, отхвърли предложенията за спиране на развитието на ИИ - позиция, която е заемал и преди, като вместо това изтъкна, че все по-мощните системи са от съществено значение за напредъка на технологията.
"Мета", чийто главен изпълнителен директор Марк Зукърбърг е известен с популяризирането на етиката "действай бързо и разбивай статуквото", застъпи противоположната гледна точка, като изтъкна, че всяка лаборатория трябва да носи отговорност за определянето на собственото си темпо, вместо да се търси координация в рамките на индустрията. "Лабораториите носят значителна отговорност, ако техните модели причинят вреда, така че имат силен стимул да предотвратят това", написа Зукърбърг в публикация в социалните медии.
Самоанализът на сектора продължи и в сряда, като шефът на отдела за изкуствен интелект в "Майкрософт", Мустафа Сулейман, предупреди, че разработването от "Антропик" на модели, които имитират човешкото съзнание, е неразумно. "Всички сме фокусирани върху една и съща цел, а именно да се опитаме да контролираме суперинтелигентността", заяви Сулейман пред Ройтерс. "Мисля, че това ще бъде най-голямото предизвикателство, пред което ще се изправим през 21 век."
Въпреки това, дори когато изглеждаше, че "ОупънЕйАй" се присъединява към призивите на индустрията за забавяне на разработките на ИИ, имаше съобщения, че доверието на инвеститорите не е отслабнало. Компанията обмисля нов кръг на финансиране, който би удвоил оценката ѝ. Новата цифра: 1,5 трилиона долара.