Идеята възниква по предложение на Демис Хасабис, главен изпълнителен директор на „Гугъл ДийпМайнд“, преди той да стане председател на компанията в началото на август и главен научен директор на „Алфабет“ (Alphabet). Той предлага създаването на структура, подобна на американския регулаторен орган за финансовата индустрия (FINRA) - институция за саморегулация на финансовия сектор.
Дебатът относно рисковете, свързани с изкуствения интелект, се засили от началото на лятото, подхранван от поредица от инциденти и апокалиптични изказвания на няколко експерти в областта на изкуствения интелект.
Няколко модела на изкуствен интелект на „ОупънЕйАй“ и „Антропик“ напуснаха самостоятелно ограничената си среда, за да получат достъп до интернет и да проникнат в различни сайтове и платформи.
Създаването на надзорен орган обаче, дори ако бъде осъществено единствено по инициатива на сектора, би изисквало приемането на закон. Това е необходимо, за да се избегне обвинение, че индустрията на изкуствения интелект се договаря помежду си и нарушава правилата на конкуренцията.
Създаването на регулаторния орган за финансовата индустрия е разрешено със закон на федерално ниво, а организацията е поставена под надзора на американския регулатор на финансовите пазари - Комисията по ценните книжа и фондовите борси (SEC), която е пряко подчинена на изпълнителната власт.
„Регулаторният орган за финансовата индустрия може да изработва собствени правила, но Комисията по ценните книжа и фондовите борси трябва да ги одобри“, подчертава Андрю Тъч, професор по право във Вашингтонския университет в Сейнт Луис. Всички нормативни текстове, уреждащи дейността на финансовия регулатор, „са били или гласувани от Конгреса или изработени под надзора на Комисията по ценните книжа и борсите.“
Междувременно, след като в събота ръководителят на „Антропик“ Дарио Амодей призова за забавяне на развитието на изкуствения интелект, президентът на САЩ Доналд Тръмп и няколко представители на републиканското мнозинство отново заявиха желанието си да не налагат строги ограничения върху сектора, официално заради опасения, че Китай може да получи конкурентно предимство.
Големите компании в областта на изкуствения интелект от няколко месеца призовават американското правителство да регулира сектора и да осъществява надзор върху безопасността на изкуствения интелект.
Администрацията на Тръмп въведе в началото на август процедура за оценка на новите модели на изкуствен интелект, но тя се основава на доброволно участие, а механизмът ѝ не е оповестен.
В изявлението, публикувано в средата на юли, Демис Хасабис, който тогава е главен изпълнителен директор на "Гугъл ДийпМайнд", предложи структура, финансирана от компаниите в сектора, в чийто съвет да участват независими експерти, както и представители на екосистемата на изкуствения интелект с отворен код.
Последната включва разработчици на отворени модели на изкуствен интелект - тоест модели, които са достъпни безплатно, могат да бъдат изтегляни и променяни, за разлика от затворените модели като тези на „ОупънЕйАй“ и „Антропик“.
След създаването на организацията водещите компании в областта на изкуствения интелект ще трябва да подлагат новите си модели на тестване, насочено най-вече към безопасността им, преди да могат да ги пуснат на пазара.
Демис Хасабис предложи новият орган за саморегулация да бъде „отправна точка за създаването на международни стандарти за най-напредналия изкуствен интелект“.
Няколко анализатори, особено от средите на Републиканската партия, обвиниха големите компании в областта на изкуствения интелект в „завземане на регулаторната роля“. Според тях компаниите ще се договарят помежду си, за да защитят най-вече конкурентното си предимство за сметка на конкурентите и потребителите.
Влиятелният съветник на Доналд Тръмп Дейвид Сакс предупреди за опасността от появата на картел в областта на изкуствения интелект, като призова всяка компания да действа едностранно, дори ако това означава сама да забави темпа си на развитие. Този сценарий изглежда малко вероятен предвид инвестициите, направени във водещите компании в сектора.