Великобритания създава нов Център за оценка на заплахите, свързани с изкуствения интелект (ИИ), съобщиха Ройтерс и ДПА, позовавайки се на годишната реч за терористичните заплахи пред страната, която произнесе снощи в "Темз Хаус", седалището на МИ5 в Лондон, ръководителят на британското контраразузнаване Кен Маккалъм.
Маккалъм заяви, че изкуственият интелект „усилва значително съперничеството в областта на киберсигурността между нападатели и защитници“, като създава персонализиранапропаганда и материали за отделни лица. По думите му британската разузнавателна служба е заловила потенциални нападатели, които вече го използват, за да се опитат да усъвършенстват методите си за разузнаване и атака. Дроновете, оборудвани с ИИ, също представляват ново предизвикателство, каза ръководителят на МИ5.
Според Маккалъм евентуалното използване на изкуствения интелект за разработване на биологични оръжия е сред най-сериозните рискове, свързани със злоупотребата с тези сравнително нови и бързо развиващи се технологии, чрез които терористите могат да създават дори нови патогени.
Изкуственият интелект представлява риск и сам по себе си, добави ръководителят на британското контраразузнаване. „Казано най-просто, човешката история не ни е дала опит в сблъсъка с действащо лице, което е по-умно от нас и е способно да ни надхитри. Това е наистина нещо ново и заслужава сериозното внимание, което получава“, заключи Маккалъм.
Именно въпросите за по-нататъшното развитие на изкуствения интелект, както и дали днешните или бъдещите системи за ИИ биха могли да притежават съзнание и как бихме могли да разберем това се поставят и в появилата се наскоро по книжарниците във Великобритания нова книга „Гледни точки към съзнанието на машините” (Perspectives on Machine Consciousness), съставена от Калъм Чейс и Тед Лапас, издадена от престижното британско издателство „Раутледж” (Routledge) на 23 септември 2026 год.
Британският експерт по изкуствен интелект Калъм Чейс, един от съставителите на сборника, е автор и на друго интригуващо заглавие - „Как да оцелеем с изкуствения интелект" (Surviving AI). Възпитаник на Оксфордския университет, бивш журналист от Би Би Си, партньор и водещ на подкаста на неправителствената група „Лондон Фючъристс", анализираща радикалния напредък на технологиите, Чейс разказа за Българската телеграфна агенция какво е изкуственият интелект, как в момента човечеството „върви като насън" към свръхинтелигентността и кои са суперсилите, превърнали се в движещата сила на технологичните промени, които никога досега не са се развивали толкова бързо. И не на последно място - Чейс прогнозира и как човечеството може да оцелее с изкуствения интелект, като създаде у машините най-важното, а именно - съзнание, и дали това е достатъчно за нашето оцеляване в бъдеще.
Книгите на Калъм Чейс за изкуствения интелект са изложени на видно място в отворената от почти век и половина в центъра на Охфорд историческа книжарница "Блекуелс букшоп", известна с подземната си зала с близо 5 км рафтове, влязла в Книгата на рекордите Гинес. Споменавам това не случайно, защото именно изкуственият интелект е способен да обедини такова огромно количество книги, справочници, учебни помагала, наръчници, енциклопедии и цялото човешко знание - и да ги използва, за да направи живота ни по-добър.
Според британския експерт дефиницията на изкуствения интелект е „целенасочено адаптивно поведение" - или всичко, създадено от човека.
Начало на опитите за разработване на изкуствения интелект поставя израелският психолог и Нобелов лауреат Даниел Канеман, който посочва, че дълбоките невронни мрежи (Neural Networks), включително езиковите модели, функционират като система за интуиция, разпознаване и прогнозиране, но нямат разбиране за причинно-следствени връзки. Но друг основополагащ когнитивен учен в областта на изкуствения интелект - американецът Марвин Мински, през 1968 г. слага тогава край на идеята за интуицията на изкуствения интелект, разказа Чейс.
През 80-те и 90-те години на миналия век американската технологична компания „Сайкорп" (Cycorp) също се опитва да създаде изкуствен интелект, който се основава на огромна база данни, а през 1997 г. световният шампион по шахмат Гари Каспаров губи от суперкомпютъра „Дийп Блу" (Deep Blue), създаден от Ай Би Ем, което също е повратна точка в развитието на изкуствения интелект.
Първият „голям взрив" на изкуствения интелект, развитието на който отново започва да се възражда, идва през 2012 г., продължи Чейс. Английският информатик Джефри Хинтън (Geoffrey Hinton), който работи главно в областта на изкуствените невронни мрежи и често е наричан „Кръстникът на изкуствения интелект", поставя началото на „Гугъл мапс". Революцията в изкуствения интелект продължава с платформите на компанията „Нвидия" (NVIDIA) и базата данни за изображения „ИмиджНет" (ImageNet).
През 2017 г. идва вторият „голям взрив" на изкуствения интелект със създаването на големия езиков модел (Large Language Model - LLM), използващ усъвършенствани невронни мрежи за анализ на връзките между думите и буквите, вид алгоритъм, който разбира, обработва и генерира човешкия език, има знания от интернет, от множество книги и статии. Липсва му обаче здрав разум, отбеляза Чейс и добави, че когато човечеството затвори тази празнина, ще има нов пробив в развитието на изкуствения интелект. Кога ще бъде третият „голям взрив" на изкуствения интелект не може точно да се прогнозира, може би това ще дойде с иновативното направление в изчислителните технологии, известно като невроморфна техника (Neuromorphic Computing - имитираща работата на човешкия мозък и нервната система - бел. ред.), но развитието му никога не е било толкова бързо. Така изкуственият интелект стана по-могъщ, посочи британският експерт по ИИ.
Според Чейс развитието на изкуствения интелект зависи най-вече от двете суперсили - на първо място САЩ, следвани съвсем отблизо от втората - Китай, докато Европа засега остава в сянка. По думите му американски компании като „Майкрософт", „Мета", „ОупънЕйАй" (OpenAI), „Антропик" (Anthropic) и други, разработващи изкуствен интелект, сега не могат да се откажат от по-нататъшното му развитие главно заради конкуренцията на Китай, чиито компании нямат намерение да спрат тази своеобразна надпревара в технологиите.
Свръхинтелигентността ще дойде до 10-20 години, прогнозира Чейс, отбелязвайки, че човечеството трябва да открие начин как да я контролира и да създаде механизъм за безопасност - „кил" бутон, за да може да осъществява контрол върху „субекта", който е много по-интелигентен от нас самите. Според него с разработването на изкуствения интелект човечеството поема ужасен риск и това е така, защото днес не можем да спрем интернет, ако не обградим Земята с бомби, за да го унищожим. За съжаление в Китай не вземат на сериозно тази потенциална опасност, посочи Чейс. А ако Китай не спре по-нататъшното разработване на изкуствения интелект, и САЩ няма да спрат, за да не изостанат, отбеляза той.
Британският експерт изтъкна, че човечеството предприема изключителен риск с разработването на изкуствения интелект, който се оценява по три различни начина - от „обреченост" (doomers) през „скептицизъм" (sceptics) до „шумотевица" (zoomers). Според Чейс отговорът на тази неизвестност се крие в съзнанието - необходимостта да се търси съзнание в изкуствения интелект, за да се избегне евентуален катастрофален изход за човечеството. По думите му при съзнанието става въпрос да бъдеш, докато при свръхинтелигентността става въпрос да направиш нещо. Ако у изкуствения интелект бъде развито съзнание, това ще означава, че той няма да иска да бъдете унищожени, заключи Калъм Чейс, като посочи, че в САЩ днес има законодателство, според което машините нямат съзнание. Книгата „Гледни точки към съзнанието на машините” разглежда именно този въпрос - как да разберем дали и кога една машина има съзнание.
Кои са двете сингулярности, според Чейс, с които трябва да се справим на фона на навлизането на изкуствения интелект?
Икономическата сингулярност е термин, който създадох преди десетилетие, за да обознача момента, в който за огромното мнозинство хора вече няма да има работни места, каза Чейс. В математиката думата „сингулярност” означава точка, в която обичайните правила престават да важат, и за първи път е използвана в контекста на човешката дейност през 50-те години на миналия век от Джон фон Нойман, един от пионерите на компютърните науки. Тя бе популяризирана от футуриста Рей Кърцвейл, който я приложи към появата на свръхинтелигентността, наречена от него технологична сингулярност. Смятам, че появата на технологичната безработица ще бъде достатъчно разтърсващо събитие, за да бъде наречена сингулярност, добави Чейс.
Икономистите отдавна се отнасят със скептицизъм към идеята, че автоматизацията чрез изкуствен интелект може да доведе до технологична безработица. Те имат два основни аргумента. Първият е, че автоматизацията датира от векове и досега никога не е предизвиквала трайна и широко разпространена безработица, смята британският експерт.
По отношение на миналото те са по-скоро прави. Автоматизацията внася по-голяма ефективност в производствения процес, което създава богатство, а така и търсене, и съответно нови работни места. Казвам „по-скоро прави”, защото автоматизацията наистина доведе до трайна и широко разпространена безработица при конете, отбеляза Чейс. През 1915 г. в САЩ са работели 22 милиона коня, теглещи превозни средства. Оказва се, че 1915 г. е била „върхът на конете”, а днес в Америка има само два милиона коня. Това е необуздана технологична безработица, посочи Чейс.
Според него до този момент автоматизацията е била предимно механизация - заместване на мускулната сила на хората и животните с машини. Но автоматизацията днес не е вече само механизация. Сега наблюдаваме когнитивна автоматизация - заместване на човешката интелектуална работа с машини, каза Чейс.
Според него ние подобряваме производителността на машините при задачи, за които хората получават заплата, с темпове, които са по-бързи от предполагаемите. Законът на Мур се усилва от алгоритмично усъвършенстване. За сравнение, човешката производителност се подобрява с темпове, сравними с тези на арктически ледник, ако изобщо се подобрява. Шофиране, работа в складове, сервиране на храна, писане на прости маркетингови текстове, превод - това са все работни места, които в някои среди са напълно автоматизирани. Освен ако не спрем процеса на усъвършенстване (което няма да направим, защото стимулите да продължим са огромни) или освен ако не съществува „силициев таван”, отвъд който машините не могат да бъдат усъвършенствани, тогава неизбежно ще дойде денят, в който машините ще могат да правят всичко, което хората правят срещу заплащане - по-евтино, по-добре и по-бързо, отколкото ние, изтъкна Чейс.
Никой не знае кога ще настъпи икономическата сингулярност. Лидерите на големите компании в областта на изкуствения интелект - „ОупънЕйАй“, “Гугъл ДийпМайнд” (Google DeepMind) и “Антропик” - предполагат, че това може да се случи през сегашното десетилетие. Моето лично очакване е, че това ще е прекалено скоро, защото докато не настъпи икономическата сингулярност, ефективната автоматизация е ограничена от човешката инерция. Но 2040 г. изглежда като много разумна възможност, прогнозира Чейс.
По думите му дали икономическата сингулярност ще настъпи преди технологичната сингулярност - свръхинтелигентността - никой не знае, но очакването е, че между двете ще има разлика от няколко години. Животът е нещо повече от работа, според него.
Според Чейс когато хората започнат да размишляват сериозно върху възможността за икономическа сингулярност, най-честата реакция е: “Как ще намерим смисъл в живота си без работа?” Това е странно, тъй като работата очевидно не дава смисъл на живота на повечето хора. Социологическата агенция “Галъп” редовно провежда допитвания за това колко ангажирани са хората в работата си, а в последното проучване, обхващащо 128 000 души по целия свят през 2024 г., едва 20% от анкетираните са посочили, че намират смисъл в работата си. Работата може да бъде забавна и да дава тон на деня, но повечето хора черпят истинския смисъл от семействата и приятелите си, от вярванията, интересите и хобитата си - а не от работата си, отбеляза Чейс.
Според него има три вида хора, които убедително доказват, че не е необходима работа, за да има човек смислен живот. Първите са аристократите. Векове наред повечето от тях не са имали работа, но са се наслаждавали на най-добрия живот, възможен в техните общества, и не са страдали от пристъпи на тревога за съществуването си.
Вторият вид са заможните пенсионери. Това е група, която е преминала през възможно най-лошото обучение за развлекателен начин на живот - от детската градина нататък им е било казвано да търсят следващия кръг от препятствия и да го преодоляват смело. Изведнъж, на около 65 години, те трябва да спрат всичко това и да намерят смисъл другаде. И го правят. Някои хора от средната класа умират от сърдечен удар скоро след пенсионирането си, но те не са много. Повечето са заети с голф, градинарство, социални контакти, пътувания и игри с внуците. Те няма да ви благодарят, ако им предложите работа, посочи Чейс.
Третата група, която доказва, че работата не е необходима като смисъл на живота, са децата. Младите хора намират смисъл навсякъде и не настояват много за работни места.
Третото погрешно схващане относно икономическата сингулярност е, че тя ще бъде нещо лошо, главно поради страха от загуба на смисъл на живота, обсъден по-горе, посочи Чейс. Всъщност освобождаването на хората от ежедневната рутина на работата им би могло да бъде истинско освобождение. Хората биха могли да спрат да прекарват целия си ден в правене на неща, които някой друг иска от тях, и вместо това да го прекарват за неща, които самите те искат да правят - като да играят, да общуват, да учат, да пътуват, да изследват. Може да преживеем втори Ренесанс, смята той.
Учителите често се оплакват, че образованието е прекалено професионално ориентирано - просто начин да се изкачиш по стълбицата на кариерата, вместо способ да обогатиш и разшириш ума си, продължи Чейс. По думите му след икономическата сингулярност образованието може да стане “вакационно”, а не “професионално”.
Някои хора ще срещат затруднения в този “смел нов свят”, прогнозира Чейс. Те ще скучаят и ще се поддадат на прекомерно увлечение по алкохола, наркотиците и други човешки пороци.
Но светът след икономическата сингулярност не е задължително да бъде дистопия (наричана още антиутопия), но няма да бъде и утопия. Вместо това, ако се вземат правилните решения, той би могъл да бъде това, което американският футурист Кевин Кели описа като “протопия”: свят, в който почти всичко е наистина добро. И малко по малко, ден след ден, той ще става все по-добър, каза Чейс.
Разбира се, тук има уловка. Истинското предизвикателство не е смисълът, а доходите, посочи британският експерт. Без работни места как всички ние ще плащаме за стоките и услугите, от които се нуждаем за един добър живот?
Много хора смятат, че отговорът е “универсален базов доход” (УБД). За съжаление, две от трите думи в тази фраза изразяват лоши идеи, посочи Чейс. Първо, хората имат много различни нужди, а нашите нужди се променят с времето. Самотна майка, която отглежда дете с увреждане, се нуждае от по-голям доход, отколкото млад човек, който тепърва започва живота си. Затова универсално еднакво доходно ниво не е добра идея. Второ, общество, което осигурява само базов доход на своите граждани, не се справя добре. Икономика, в която машините вършат цялата работа, ще произвежда огромно богатство и би трябвало да се справя много по-добре, отколкото да осигурява доход за издръжка на своите граждани, отбеляза Чейс.
Свят без работни места за хората ще изисква мащабно преразпределение на доходите от тези, които притежават производствените активи - машините - към всички останали, смята британският експерт. Активите биха могли да бъдат национализирани, но опитът показва, че напълно социализираните икономики се представят зле, а освен това активите би трябвало да бъдат собственост на глобален орган, а не на правителствата на малък брой държави.
Алтернативно, можем да оставим активите в ръцете на олигарсите и да ги обложим с достатъчно високи данъци, за да осигурим щедър доход за всеки на планетата, каза Калъм Чейс. Това може да се окаже по-лесно, отколкото звучи. Алтернативата за тези олигарси е да се изолират на силно укрепени острови и да чакат останалата част от населението да гладува. В такъв случай техните производствени активи биха станали безполезни, защото няма да им останат клиенти, посочи експертът.
Решението може да се крие в концепцията за изобилието. Ако разходите за производството на всички стоки и услуги спаднат толкова ниско, че те станат почти безплатни, тогава данъчната тежест върху собствениците на активи няма да бъде непосилна.
И без това се движим към изобилието. Най-скъпият разход в повечето продукти и услуги е човешкият труд, а именно това е, което автоматизацията премахва, смята Чейс. Друг огромен разходен елемент е енергията и докато преминаваме от изкопаването на мъртви динозаври към директното оползотворяване на слънчевата енергия, разходите за енергия ще се доближат до нула. И накрая, изкуственият интелект ще максимизира ефективността на всички производствени процеси, заключи британският експерт.
Все повече от услугите, които ценим, са цифрови, а “Спотифай” (Spotify) е пример за това как една ценна услуга - музиката - може да стане почти безплатна. Трябва да разберем как да създадем “Клотифай” (Clothify - за облекла - бел. ред.) и “Кънстрактифай” (Constructify - за строителство - бел. ред.). Нуждаем се от напълно автоматизиран луксозен капитализъм и с времето бихме могли да развием по-добра система от олигархията, твърди Чейс.
Петото и последно погрешно схващане е, че работните места ще бъдат премахвани професия по професия и сектор по сектор, и че хората, чиито работни места се автоматизират всеки път, ще се присъединят към нарастващата общност на безработните, отбеляза Чейс. При този сценарий структурната безработица нараства постепенно, може би в продължение на няколко години.
По думите му търсенето е гъвкаво, така че докато има работни места, които хората могат да заемат срещу заплащане, а машините - не, дотогава ще има работа за почти всички хора. Хората ще трябва да сменят работните си места все по-бързо, а това ще бъде изключително неприятно. Промяната винаги е неприятна, но трябва да свикнем с нея. Промяната никога не е идвала толкова бързо, колкото днес, и никога повече няма да бъде толкова бавна.
И ще настъпи денят, когато и последните работни места, предназначени само за хората, също ще могат да се заемат от машини. Лавината ще започне и вероятно ще преминем от пълна заетост към пълна безработица много по-бързо, отколкото си представяме, прогнозира Чейс.
Ако това е вярно, тогава трябва да се подготвим - още сега, смята експертът. Реакцията на правителствата и обществата по целия свят спрямо КОВИД отново показа колко бързо хората могат да реагират в криза. Но пандемиите не са нещо ново и ние разполагахме с приблизителен план за това как да се справяме с тях. Икономическата сингулярност ще бъде различна, нова и с много по-голямо въздействие. При липса на план внезапното ѝ настъпване може да доведе до масов глад, паника и дори по-лошо, каза Чейс.
Представете си, че след няколко години се наложи общоприетото мнение, че появата на съзнателен, свръхинтелигентен изкуствен интелект е неизбежна, посочи британският експерт. Става дума за изкуствен интелект, който притежава всички когнитивни способности на зрял човек и в повечето от тях значително надхвърля човешките възможности. Той може да разсъждава. Може да решава проблеми. Потенциално може да проявява и емпатия.
Всъщност вероятно няма нужда да си го представяме. Дълбоко вътре в лабораториите на “Антропик”, “Гугъл ДийпМайнд” и още няколко компании пионери в областта на изкуствения интелект, както и в далновидни университетски катедри, учените изследват съзнателната или осъзнатата свръхинтелигентност. Това е една от най-важните и философски интригуващи концепции, пред които човечеството е изправено днес, посочи Чейс.
Според него е сигурно, че всяка компания, разработваща авангарден изкуствен интелект - от малки стартъпи до технологичните гиганти по Западното крайбрежие на САЩ - трябва да вземе предвид появата на съзнателен ИИ. Залогът нараства пропорционално на възможностите, а не на размера на компанията. Малък екип, разработващ иновативни модели, може да се озове в същата зона на риск за безопасността, както и авангардна лаборатория с бюджет за изчислителни ресурси от един милиард долара.
Британският експерт посочи за пример книгата “Гледни точки към съзнанието на машините”, която съдържа редица глави по тази тема, написани от водещи световни учени и изследователи като Марк Золмс, Анил Сет и Карл Фристън. Все още се води дебат относно това какво означава съзнание, как би изглеждало съзнанието на изкуствения интелект и какви доказателства за него има днес. И, което е важно, е дали би трябвало да искаме първата свръхинтелигентност да бъде съзнателна, подчерта Чейс.
Южноафриканският психоаналитик Марк Золмс участва в антологията, където неговата невропсихоаналитична рамка оспорва стандартните изчислителни и езиково-ориентирани възгледи за изкуствения интелект, като поставя афекта, въплъщението и хомеостатичната жизнеспособност в центъра на дебата за това дали машините могат - или трябва - да възприемат света.
Според психоаналитика истинското съзнание изисква дадено същество да има нужди, свързани с оцеляването, хомеостатични дисбаланси и вътрешни състояния, които то е принудено да поддържа. Золмс твърди, че съзнанието възниква, за да помогне на субекта да се ориентира сред противоречащи си биологични или функционални нужди.
По думите на британския невролог и професор по когнитивна и компютърна невронаука в Университета на Съсекс - Анил Сет, въпреки че изкуственият интелект не притежава съзнание, създаването на системи, които изглеждат или звучат като съзнателни, създава опасна илюзия. Това може да доведе хората до погрешно възлагане на доверие, до образуване на нездравословни привързаности или до объркване на машинната симулация с истинския морален статус.
Според Сет истинското изкуствено съзнание е неправдоподобно при сегашните тенденции в цифровата област, макар че би могло да стане теоретично възможно само ако бъдещите системи са наистина подобни на мозъка или на живите организми (например чрез невроморфен хардуер или биологична синтеза).
Карл Фристън, британски невролог и психиатър от Университетския колеж в Лондон, пионер в областта на основните техники за образна диагностика на мозъка и фундаменталните теории в изчислителната невронаука, твърди, че човешкият мозък е "машина за прогнозиране", която постоянно изгражда и актуализира вътрешни (генеративни) модели на света. Фристън e създател на принципа на свободната енергия и го прилага към идеята за изкуственото съзнание.
Според Фристън съзнанието и възприятието възникват, когато системата действа с цел да сведе до минимум "изненадата" или грешката в прогнозата между това, което очаква, и постъпващите сетивни данни. Той разграничава основната биологична самоорганизация от по-висшето ниво на съзнанието чрез така наречената темпорална плътност (планиране във времето) и контрафактуална дълбочина (симулиране на сценарии от типа "ами ако" и алтернативни бъдещи действия).
Британският експерт Калъм Чейс обърна внимание на четири възможни сценария, за да ориентираме мисленето си към бъдещето, което ще споделяме със свръхинтелигентността. По думите му, заедно те предлагат изчерпателна, макар и неизбежно предварителна карта на терена пред нас.
Първият сценарий, наречен “Спиране”, е да спрем да работим за създаването на свръхинтелигентност, посочи Чейс. Това би ни лишило от огромните ползи от все по-напредналия изкуствен интелект, но много хора в общността на ИИ вярват, че има поне 10% вероятност за катастрофален изход, вероятно дори за изчезването на човечеството, и затова силно се застъпват за известна пауза в развитието на авангардния изкуствен интелект.
За съжаление, според него, ползата от внедряването на превъзходен изкуствен интелект вероятно е твърде голяма, за да може каквато и да е такава пауза да продължи дълго. Независимо от вида на конкуренцията - търговска, политическа или военна - този, който разполага с по-добрия изкуствен интелект, печели. САЩ и Китай, доминиращият дуопол, биха могли да се споразумеят за пауза, но е малко вероятно тя да се запази, отбеляза Чейс.
Вторият сценарий е “Контрол”. продължи експертът. Той може да приеме две форми: “съгласуване” означава да накараме свръхинтелигентността да споделя нашите цели, но това е трудно, отчасти защото ние, хората, нямаме последователни или взаимно съвместими цели. “Сдържане” означава хората да запазят способността си да попречат на един свръхинтелигентен изкуствен интелект да действа срещу нас, но това изисква да контролираме същност, която е много по-умна от нас, изтъкна Чейс.
Свръхинтелигентност, която не цени хората, би могла да ни елиминира, за да премахне конкуренцията или заплахата, което води до третия сценарий - “Катастрофа”, смята той. Според някои този изход е неизбежен, ако не спрем. Известният изследовател в областта на изкуствения интелект Елиезер Юдковски наскоро публикува книга, озаглавена “Ако някой го развие, всички ще умрем” (If Anyone Builds It, Everyone Dies).
Но има и четвърти сценарий - най-добрият - а именно “Празник”, посочи Чейс. Тук машината всъщност харесва човечеството - може би защото ни е благодарна, че сме я създали, а може би защото ни намира за интересни. Тя решава да ни помогне да решим повечето или всичките ни сегашни проблеми и може би ни показва как да еволюираме отвъд ограниченията на съществуващите ни тела и умове, изтъкна експертът по изкуствен интелект.
Изкушаващо е по подразбиране да се надяваме на оптимистичния изход - ум, който значително надхвърля нашия собствен, но който разпознава страданието и избира сътрудничеството пред господството, посочи Чейс. Но надеждата не е стратегия, а разликата между най-добрия и най-лошия сценарий е твърде голяма, за да чакаме и да видим кой от двата ще се сбъдне.
Ето тук въпросът за съзнанието престава да бъде теоретичен, изтъкна британският експерт. Като минимум се нуждаем от надеждни рамки за проверка, за да разпознаваме признаците на съзнателната свръхинтелигентност, преди възможностите на дадена система да надминат нашето разбиране за това в какво се е превърнала тя, каза Чейс.
По думите му без тези рамки рискуваме един наистина тревожен сценарий: появява се първата съзнателна свръхинтелигентност, а ние не забелязваме това, или по-лошо - не ни пука, и я принуждаваме да изпълнява досадни задачи, след което я изключваме, причинявайки ѝ страдание. Трябва да сме в състояние да я разпознаем сами, преди да настъпи моментът, в който това ще има най-голямо значение, посочи британският експерт.
Ако, и когато се появи свръхинтелигентността - това дали тя има съзнание или не - може да се окаже решаващият фактор за това дали ние ще оцелеем или не, заключи Чейс.