ИИ хакна операционната система на цивилизацията

Ювал Ноа Харари*,  The Economist

Страховете от изкуствения интелект (ИИ)преследват човечеството от самото начало на компютърната ера. Досега те се фокусираха върху създаването на машини, използващи физически средства, за да убиват, поробват или за да заменят хората. Но през последните няколко години се появиха инструменти, използващи изкуствен интелект, които заплашват оцеляването на човешката цивилизация от неочаквана посока. Изкуственият интелект придоби забележителни способности да манипулира и генерира език, независимо дали с думи, звуци или изображения и така хакна операционната система на нашата цивилизация.

Езикът е материалът, от който е изградена почти цялата човешка култура. Правата на човека, например, не са вписани в нашето ДНК. Те по-скоро са културни артефакти, които сме създали чрез разказване на истории и писане на закони. Боговете не са физически реалности. Те са по-скоро културни артефакти, които сме създали чрез измисляне на митове и създаване на писания.

Парите също са културен артефакт. Банкнотите са просто цветни парчета хартия и в момента повече от 90% от тях дори не са банкноти, а просто цифрова информация в компютрите. Това, което дава стойност на парите, са историите, които банкери, финансови министри и гурута на криптовалутите ни разказват за тях. Сам Банкман-Фрайд (съосновател на фалирата крипто борса FTX - бел. ред.), Елизабет Холмс (основава компания за кръвни анализи, коато привлича много инвеститори, а продуктът се оказва измама - бел. ред.) и Бърни Мадоф (смятан за един от най-големите измамници във финасовата сфера в САЩ - бел. ред.) не бяха особено добри в създаването на истинска стойност, но всички бяха изключително способни разказвачи.

Силатата на езика и историите

Какво ще се случи, когато един нечовешки интелект стане по-добър от обикновения човек в разказването на истории, композирането на мелодии, рисуването и писането на закони и истории? Когато хората мислят за Chat GPT и други нови инструменти, основани на изкуствен интелект, често се сещат, че могат да се използват за писането на есета за училище. Какво ще се случи с образователната система, когато учениците започнат да използват изкуствения интелект по този начин?

Но този тип въпроси пропускат голямата картина. Забравете за училищните съчинения. Помислете за надпреварата за президент на САЩ през 2024 г. Опитайте се да си представите въздействието на инструментите с изкуствен интелект, които могат да бъдат използвани за масово производство на политическо съдържание, фалшиви новини и писания за нови култове.

Промяна на светогледа

На по-прозаично ниво скоро може да се окажем в ситуация да водим дълги онлайн дискусии за абортите, изменението на климата или руската инвазия в Украйна със същества, за които смятаме, че са хора, но всъщност са изкуствен интелект. Уловката е, че е напълно безсмислено да прекарваме време в опити да променим мнението на бот с изкуствен интелект, но той може да усъвършенства своите послания толкова прецизно, че да повлияе на нашето мнение.

Чрез владеенето на езика, изкуственият интелект може дори да формира интимни отношения с хората и да използва силата на интимността, за да промени мнението и възгледите ни за света. Въпреки че няма индикация изкуственият интелект да има собствено съзнание или чувства, за насърчаване на фалшива интимност с хората е достатъчно, ако той може да ги накара да се почувстват емоционално привързани към него.

През юни 2022 г. Блейк Лемойн, инженер в Google, публично заяви, че чатботът с изкуствен интелект Lamda, върху който работи, е станал съзнателен. Противоречивото твърдение му струва работата. Най-интересното в този епизод не беше твърдението на г-н Лемойн, което вероятно е било невярно. По-скоро беше готовността му да рискува доходоносната си работа в името на чатбот с изкуствен интелект. 

Интимността като оръжие

В политическа битка за умове и сърца интимността е най-ефикасното оръжие и изкуственият интелект току-що придоби способността да произвежда масово интимни отношения с милиони хора. Всички знаем, че през последното десетилетие социалните медии се превърнаха в бойно поле за контрол на човешкото внимание. С новото поколение изкуствен интелект, бойният фронт се измества от внимание към интимност. Какво ще се случи с човешкото общество и човешката психология, когато изкуствен интелект влезе в битка с друг изкуствен интелект за фалшиви интимни отношения с нас, които отношения след това могат да бъдат използвани, за да ни убедят да гласуваме за определени политици или да купуваме определени продукти?

Дори и без да създават "фалшива интимност", новите инструменти с изкуствен интелект биха имали огромно влияние върху нашите мнения и светогледи. Хората може да започнат използват един единствен инструмент с изкуствен интелект като универсален, всезнаещ оракул. Нищо чудно, че Google е изпаднал в ужас. Защо да си правя труда да търся, когато мога просто да попитам оракула? Новинарската и рекламната индустрия също трябва да бъдат ужасени. Защо да чета вестник, когато мога просто да помоля оракула да ми каже последните новини? И каква е целта на рекламите, когато мога просто да помоля оракула да ми каже какво да купя?

Потенциалният край на човешката история

И дори тези сценарии всъщност не улавят голямата картина. Това, за което говорим, е потенциалният край на човешката история. Не краят на историята, а просто краят на доминираната от хората част. Историята е взаимодействието между биология и култура; между нашите биологични нужди и желания за неща като храна и секс и нашите културни творения като религии и закони. Историята е процесът, чрез който законите и религиите оформят храната и секса.

Какво ще се случи с хода на историята, когато изкуственият интелект поеме културата и започне да създава истории, мелодии, закони и религии? Предишни инструменти като печатната преса и радиото помогнаха за разпространението на културните идеи на хората, но те никога не са създавали собствени културни идеи. Изкуственият интелект е коренно различен. Изкуственият интелект може да създаде напълно нови идеи, напълно нова култура.

Първоначално, той вероятно ще имитира човешките прототипи, по които е обучаван при своето ранно развитие. Но с всяка изминала година културата на изкуствения интелект смело ще стигне там, където никой човек не е достигал.

Трябват регулации за ИИ

Разбира се, новата сила на изкуствения интелект може да се използва и за добри цели. Няма да се спирам на това, защото хората, които развиват ИИ, говорят достатъчно за това.

Работата на историците и философите като мен е да посочват опасностите. Със сигурност изкуственият интелект може да ни помогне по безброй начини - от намирането на нови лекове за рак до откриването на решения на екологичната криза. Въпросът, пред който сме изправени, е как да сме сигурни, че новите инструменти с изкуствен интелект се използват за добро, а не за зло. За да направим това, първо трябва да оценим истинските възможности на тези инструменти.

От 1945 г. знаем, че ядрената технология може да генерира евтина енергия в полза на хората, но може и физически да унищожи човешката цивилизация. Променихме целия международен ред, за да защитим човечеството и да гарантираме, че ядрената технология се използва предимно за добро. Сега трябва да се борим с ново оръжие за масово унищожение, което може да заличи нашия духовен и социален свят.

Все още можем да регулираме новите инструменти с изкуствен интелект, но трябва да действаме бързо. Докато ядрените оръжия не могат да измислят по-мощни ядрени оръжия, ИИ може да направи експоненциално по-мощен ИИ. Първата решаваща стъпка е да се изискват строги проверки за безопасност, преди мощните инструменти с изкуствен интелект да бъдат пуснати и за масово ползване. Точно както една фармацевтична компания не може да пуска нови лекарства, преди да е тествала техните краткосрочни и дългосрочни странични ефекти, така и технологичните компании не трябва да пускат нови инструменти с ИИ, преди да е сигурно, че са безопасни. Имаме нужда от регулатор за изкуствения интелект и той ни трябваше вчера. 

Заплаха за демокрацията

Няма ли забавянето на публичното внедряване на ИИ да доведе до изоставане на демократичните общества в сравнение с по-безмилостните авторитарни режими? Точно обратното. Нерегулираното масово внедряване на ИИ би създало социален хаос, който би облагодетелствал автократите и би разрушил демокрациите. Демокрацията е разговор, а разговорите разчитат на езика. Когато ИИ хакне езика, може да унищожи способността ни да водим смислени разговори, като по този начин ще унищожи демокрацията.

Трябва да сложим край на безотговорното внедряване на ИИ инструменти в публичната сфера и да регулираме ИИ преди той да ни регулира. И първата разпоредба, която бих предложил, е задължението изкуственият интелект да разкрива, че е изкуствен интелект. Ако водя разговор с някого и не мога да кажа дали е човек, или ИИ – това е краят на демокрацията.

Този текст е генериран от човек. Или не е?

*Ювал Ноа Харари е историк, философ и автор на Sapiens, Homo Deus и на детския сериал Unstoppable Us

Медиапул, със съкращения