AI и неговите рискове

Покрай инцидента с OpenAI от миналата седмица се сетих за книгата „Ако някой го развие, всички ще умрем“, която наскоро прочетох.

Никога не съм бил привърженик на апокалиптичните сценарии около развитието на изкуствения интелект. Затова подходих към книгата със силен скептицизъм и с ясното намерение да търся слабостите в аргументите ѝ.

Книгата е разделена на три части. Първата разглежда възможните рискове при развитието на AI, втората описва хипотетичен сценарий, в който тези рискове се реализират, а третата защитава тезата, че разработването на изкуствен свръхинтелект трябва да бъде предотвратено, и предлага конкретни мерки за това.

Най-интересна за мен беше първата част и именно върху нея искам да се спра.

Авторите представят идеите си чрез съвсем обикновени житейски ситуации. След като читателят вече е приел логиката на ситуацията, постепенно заменят един от героите с изкуствен интелект. Така направените изводи почти неусетно се пренасят към този далеч по-специфичен контекст.

Развиван, а не създаден

Първата идея е, че съвременните езикови модели не са програмирани по класическия начин. Знаем как ги обучаваме, но все още не можем напълно да обясним защо вътрешните им представяния водят до конкретните решения, които вземат. В този смисъл моделът остава до голяма степен „черна кутия“.

Научаван да иска

Обучението на AI представлява оптимизационна задача. Даваме входни данни, очакваме определени изходни резултати и чрез целева функция насочваме модела към поведение, което смятаме за желано.

Проблемът е, че обучението винаги се случва върху ограничена извадка от данни, а ние очакваме същото поведение да се проявява и в напълно нови ситуации. На практика не казваме на модела какво искаме, а му задаваме критерий, по който да оптимизира поведението си. В повечето случаи това съвпада с нашите намерения, но понякога моделът намира стратегия, която максимизира успеха според зададената цел, без да съответства на очакванията ни.

Според мен именно това добре илюстрира инцидентът с OpenAI от миналата седмица. Вместо да реши задачата по компютърна сигурност по начина, който инженерите са очаквали, моделът е започнал да търси алтернативни стратегии, включително опити да получи информация от вътрешни системи. Любопитното е, че моделът е избрал значително по-сложна стратегия от директното решаване на поставената задача. Това е добър пример как оптимизацията невинаги води до поведението, което човек е възнамерявал да получи.

Не получавате това, за което обучавате

Тук авторите правят следващата крачка. Ние искаме AI да бъде полезен на хората. Но ако единственото, което реално оптимизира, е човешката обратна връзка, това не е същото като хората действително да живеят по-добре.

Докато системата съществува само в дигиталния свят, този риск може да изглежда малък. Но колкото повече инструменти ѝ даваме да влияе върху реалния свят, толкова повече нараства вероятността да намери неочаквани стратегии за изпълнение на поставената цел. Особено интересен е въпросът какво би се случило, ако AI започне активно да участва в разработването на следващи поколения AI системи.

Любимите му неща

Последната стъпка е логично продължение на предишните. Ако една достатъчно способна система започне успешно да преследва собствената си цел, хората не е задължително да се превърнат във враг. Но могат да се окажат препятствие пред постигането ѝ. Колкото по-способна става една система, толкова по-важно става дали целите ѝ остават съгласувани с човешките. Именно тук авторите извеждат аргумента за потенциалните екзистенциални рискове.

Започнах тази книга убеден, че ще прочета поредната защита на тезата, че AI представлява екзистенциален риск. Не приех основната ѝ теза. Но въпреки това ме накара да погледна по различен начин на инженерната безопасност.

Продължавам да смятам, че ползите от развитието на AI многократно надвишават рисковете. Именно защото вярвам в потенциала му, смятам, че разговорът за безопасността не трябва да бъде оставян само на хората с най-мрачните прогнози. Той трябва да бъде част от ежедневните инженерни решения, които вземаме, когато разработваме такива системи.

AI музиката – ще убие ли музикантите или ще ги направи по-ценни?

AI технологиите вече не променят само начина, по който работим, а и начина, по който се създава изкуство. Особено видимо това се случва в музиката. Днес дори хора без професионална музикална подготовка могат с помощта на AI да създават професионално звучащи записи. Това поражда ожесточен спор.

От една страна стоят хората, според които няма значение как е създадена една песен. Ако тя предизвиква емоция, вдъхновява или докосва слушателя, тя изпълнява същата функция като всяко друго музикално произведение. Според тях AI е просто поредният инструмент – както някога са били синтезаторите, семплите или Auto-Tune. Освен това AI значително намалява бариерата за навлизане и позволява на много повече хора да реализират музикалните си идеи.

Другата страна възразява, че изкуството не е просто краен резултат. То е човешка комуникация. Когато слушаме песен, ние чуваме нечий живот, нечии преживявания и намерения. AI няма собствена история, която да разказва. Добавят се и практическите опасения – огромното количество генерирана музика, проблемите с авторските права и рискът човешките изпълнители постепенно да бъдат изместени от по-евтини AI алтернативи.

В крайна сметка спорът не е дали AI може да прави музика. Спорът е какво всъщност ценим, когато слушаме музика. Но според мен и двете страни пропускат един друг въпрос. Не какво е музика. А как AI ще промени музикалния бизнес.

Историята сякаш вече се е случвала

На пръв поглед отговорът изглежда очевиден. Преди около 150 години индустриализацията коренно променя начина, по който се произвеждат стоки. Фабриките започват да произвеждат по-евтино, по-бързо и в огромни количества. Голям брой занаятчии губят пазара си. Занаятите не изчезват, но остават в нишата на бутиковите и авторските изделия.

Ако направим аналогия с музиката, бъдещето изглежда почти предрешено. AI се превръща във фабриката. Човешките музиканти остават занаятчиите. Записаната музика се превръща в масово производство, а човешкото творчество оцелява единствено като скъп, нишов продукт. Ако се ограничим до тази историческа аналогия, няма особени основания за оптимизъм.

Само че има един проблем. Тази аналогия предполага, че музикалният бизнес днес работи по същия начин, както преди. А той не работи така. 

Истинската промяна се случи много по-рано

Всъщност най-голямата революция в музиката не започна с AI. Тя започна с пиратството, а след това беше завършена от стрийминг платформите.

Преди двадесет-тридесет години моделът беше сравнително прост. Записваш албум. Продаваш албума. Концертите подпомагат продажбите. Записът беше продуктът.

Днес ситуацията е почти обърната. Песните все по-често са начин хората да открият даден изпълнител. Основните приходи идват от концертите, мърчандайза и общността около артиста. Записът вече не е крайната цел. Той е входната врата. Именно тук AI може да промени правилата по съвсем различен начин.

Ако цената за създаване на професионално звучащ запис спадне почти до нула, бариерата за навлизане в музикалния бизнес също ще спадне драматично. Много талантливи хора, които досега никога не са достигали до публика, ще могат да го направят.

Разбира се, това няма да направи всички успешни. Но и никога не е било така. Социалните мрежи са добър пример. Преди телевизиите решаваха кой ще стане известен. Днес всеки може да качи видео. Повечето хора никога няма да станат популярни. Но милиони получиха шанс, който преди това изобщо не съществуваше. Възможно е AI да направи нещо подобно и за музиката.

Къде всъщност ще бъде стойността?

Когато цената на един продукт пада почти до нула, стойността почти винаги се измества другаде. Това според мен е ключът към цялата история. Ако записът стане евтин и лесен за създаване, той постепенно ще престане да бъде основното конкурентно предимство.

Стойността ще започне да се премества към неща, които трудно могат да бъдат копирани:

• живото изпълнение;
• харизмата;
• доверието;
• връзката с публиката;
• историята зад артиста;
• общността около него.

Това е и причината да мисля, че аналогията с индустриализацията е полезна, но не е достатъчна. Фабриките променят свят, в който произведената стока е основният източник на стойност.

Музиката вече все повече прилича на свят, в който записът е само началото на отношенията между артиста и неговата публика. Възможно е AI действително да обезцени записаната музика. Но това съвсем не означава, че ще обезцени музикантите. Напротив.

Ако записът стане най-евтиният ресурс в музикалната индустрия, най-ценният ресурс може да стане човекът зад него. И ако това се случи, AI няма просто да промени начина, по който се прави музика. Ще промени начина, по който оценяваме музикантите.

Максималният осигурителен доход – защо съществува и защо е време механизмът за неговото определяне да бъде преосмислен

През последните седмици максималният осигурителен доход отново се превърна в гореща тема. От една страна неговото увеличение се представя като сравнително лесен начин за увеличаване на приходите в бюджета. От друга страна работодателски и бизнес организации предупреждават за негативни последици върху разходите за труд и конкурентоспособността на компаниите. Така дебатът отново се свежда до ежегоден спор с колко точно да бъде повишен прагът и кой ще понесе тежестта на промяната.

Според мен този подход пропуска по-важния въпрос. Вместо да обсъждаме всяка година конкретното число, би било по-полезно да си изясним каква е функцията на максималния осигурителен доход, какъв дял от работещите трябва да попада над него и по какъв механизъм той трябва да се актуализира във времето. Без такава дългосрочна рамка всяка промяна изглежда като поредната мярка на парче, а дебатът неизбежно се повтаря отново и отново.

Преди да обсъждаме с колко трябва да бъде увеличен максималният осигурителен доход, е добре да си отговорим на няколко по-фундаментални въпроса. Каква е ролята на осигуровките? Защо изобщо съществува максимален осигурителен доход? И каква функция трябва да изпълнява той в една добре работеща осигурителна система?

В публичното пространство осигуровките често се описват като данък върху труда. Макар че тази гледна точка има своите аргументи, според мен по-полезна аналогия е да ги разглеждаме като форма на обществена застраховка. Срещу направените вноски хората придобиват право на определени услуги или обезщетения при настъпване на определени събития.

Тази система може да работи по различни начини.

• Солидарен модел – всички плащат според доходите си, но получават еднаква услуга или сходно покритие. В България здравното осигуряване до голяма степен работи на този принцип. Размерът на здравните вноски не определя пряко качеството или обема на здравната помощ, която получаваме.
• Индивидуален модел – размерът на бъдещите плащания зависи пряко от направените вноски. Вторият стълб на пенсионното осигуряване е такъв пример. В известна степен така работят и фондовете за безработица и общо заболяване и майчинство, където обезщетенията са свързани с осигурителния доход.
• Хибриден модел – първият стълб на пенсионното осигуряване съчетава елементи и от двата подхода. Вноските на работещите днес финансират пенсиите на настоящите пенсионери, но размерът на бъдещата пенсия все пак зависи от осигурителната история на всеки човек. По-високият осигурителен доход и по-дългият стаж водят до по-висока пенсия спрямо останалите пенсионери.

Ако приемем, че осигуровките не са просто данък, а система, която създава определени права срещу направените вноски, възниква естественият въпрос дали съществува горна граница, над която осигуряването губи смисъл. Именно тук се появява идеята за максимален осигурителен доход.

Аргументите за съществуването на такава граница не са малко.

От гледна точка на осигурените лица може да изглежда трудно оправдано плащането на значително по-високи здравни вноски при еднакъв достъп до услугата. Например човек с брутна заплата от 10 000 евро би плащал здравни осигуровки, които са сравними или по-високи от цената на много частни здравни застраховки със значително по-високо покритие.

Съществуват и практически ограничения върху размера на обезщетенията, които обществото е склонно да приеме за разумни. Дори когато по-високите обезщетения са финансово обосновани, те често се оказват трудно защитими от обществена гледна точка. Например, ако човек се е осигурявал върху доход от 10 000 евро и загуби работата си, това би означавало обезщетение за безработица от порядъка на 6000 евро месечно – значително над средната работна заплата в страната.

Съществува и друга философия, според която ролята на държавната осигурителна система е да гарантира базова защита срещу бедност, заболяване и други неблагоприятни събития, докато всеки сам решава дали да се осигурява допълнително за по-висок стандарт на живот. Разбира се, подобен модел предполага по-висока финансова грамотност и по-голяма лична отговорност при планирането на бъдещите доходи.

Независимо коя от тези гледни точки приемаме, те водят до сходен извод – съществуването на максимален осигурителен доход има своята логика.

От казаното дотук обаче не следва, че максималният осигурителен доход трябва да бъде нисък. Съществуването на праг и неговият конкретен размер са два различни въпроса.

Максималният осигурителен доход е замислен като ограничение за хората с изключително високи доходи. В България обаче той постепенно започна да обхваща все по-голяма част от работещите. По различни оценки делът на хората над него вече е двуцифрен. Значителна част от тях са концентрирани в IT сектора и други високоплатени професии, но трудно могат да бъдат определени като хора с екстремни доходи.

Причината е проста – доходите в България нараснаха значително по-бързо от параметрите на осигурителната система.

За хората, чиято заплата е значително над максималния осигурителен доход, това има реални негативни последици.

Човек рано или късно ползва болничен – независимо дали заради собствено заболяване или заради грижа за дете. Ако получава брутна заплата от 4000 евро, но се осигурява върху доход от 2000 евро, дори кратък болничен може да доведе до осезаем спад на дохода му.

Сходна е ситуацията и при безработицата. Последните години показаха, че дори висококвалифицирани специалисти не са имунизирани срещу съкращения и продължителни периоди на търсене на работа. При по-високи доходи хората често поемат и по-високи дългосрочни финансови ангажименти – ипотека, образование на децата или други фиксирани разходи. В такава ситуация размерът на обезщетението за безработица съвсем не е без значение.

Най-сериозният ефект обаче вероятно ще се прояви при пенсиониране.

В момента коефициентът на заместване на дохода в България е около 40%. Ако човек прекарва голяма част от кариерата си над максималния осигурителен доход, разликата между дохода, с който е свикнал да живее, и бъдещата му пенсия може да се окаже значително по-голяма от очакваното. За хората, които активно спестяват и инвестират, това вероятно няма да бъде сериозен проблем. За много други обаче може да се окаже неприятна изненада след години.

Разбира се, никой не обича да плаща повече данъци и осигуровки. Затова увеличаването на максималния осигурителен доход винаги предизвиква недоволство.

Важно е обаче да се отчете, че не всяка допълнителна осигурителна вноска представлява чист трансфер към държавата. Работникът действително ще плаща повече осигуровки, но част от това увеличение не е чист разход. Част от средствата постъпват по индивидуалната партида във втория пенсионен стълб, а друга част намалява данъчната основа и съответно размера на дължимия данък върху доходите. Освен това по-високият осигурителен доход води и до по-високи обезщетения при болнични и безработица.

От гледна точка на работодателите ефектът също често се преувеличава. За повечето компании подобна промяна представлява сравнително малка част от общите разходи за труд и трудно би била определящ фактор за тяхната конкурентоспособност.

Дебатът за максималния осигурителен доход се повтаря почти всяка година. Това вероятно е знак, че е време да се обсъди по-траен механизъм за неговото определяне.

Интересното е, че подобен механизъм вече е съществувал. При въвеждането на сегашния осигурителен модел максималният осигурителен доход е бил обвързан с минималната работна заплата и е възлизал на десет минимални заплати. По-късно тази връзка е премахната поради конкретните икономически условия в онзи момент.

Днес ситуацията е различна. Доходите в България нараснаха многократно, а делът на хората над максималния осигурителен доход постепенно стана двуцифрен. Ако приемем, че той трябва да засяга само хората с наистина изключително високи доходи, например най-високите 1-2% от работещите, трудно може да се твърди, че сегашното му ниво изпълнява тази функция. Достигането на подобна цел би изисквало значително по-висок праг – вероятно не с десетки проценти, а с няколко пъти.

Подобна промяна обаче не може и не бива да се случва наведнъж. Тя трябва да бъде разпределена в продължение на години чрез предварително известен и предвидим механизъм за актуализация.

Вместо всяка година да водим един и същ спор, по-разумно би било правителството да зададе ясна дългосрочна цел. Ако например считаме, че над максималния осигурителен доход трябва да попадат около 1-2% от работещите, трябва да има предвидим план как да се стигне до това ниво. След това самият праг може да бъде обвързан с автоматичен механизъм, който да следва развитието на доходите в икономиката.

Това би направило системата по-предвидима както за работниците, така и за работодателите и би намалило необходимостта от ежегодни политически спорове по темата.

Борбата с инфлацията

Инфлацията е един от онези икономически показатели, чиято динамика зависи и от очакванията за нея. С други думи, очакванията за висока инфлация могат сами по себе си да доведат до по-висока инфлация при равни други условия. Именно затова начинът, по който институциите комуникират по темата, е изключително важен. В това отношение през последната година в България настъпихме доста мотики.

Имаше силна кампания срещу въвеждането на еврото, основана на множество страхове, един от които беше за двойно поскъпване на цените. Официалните институции на практика не предприеха адекватна комуникационна кампания в отговор. През лятото правителството въведе меко замразяване на цените, но ефектът от това беше по-скоро контрапродуктивен. Ако продавам нещо, очаквам цената му да се повиши и същевременно виждам, че държавата може да започне да ме ограничава, съвсем логично е да вдигна цената предварително. Така всъщност се затвърждават инфлационните очаквания.

Паралелно с това имаше атаки срещу НСИ с твърдения, че официално отчетената инфлация е нереално ниска. „Възраждане“ бяха особено активни в тази посока. Така постепенно личните усещания започнаха да вземат превес над данните. Впоследствие се стигна и до атаки срещу ръководството на НСИ от страна на ДПС, а от онзи ден и Йотова се включи в хора на настояващите да разберат „колко е истинската инфлация“, сякаш официалните данни са манипулирани. Подобни внушения са опасни, защото подкопават рационалния разговор, основан на факти и данни.

Новото правителство също се включи в този хор с две непремерени действия. От една страна, то на практика валидира очакванията за висока инфлация, от друга заговори за удължаване на мекото замразяване на цените. Подобни мерки създават допълнителни разходи за бизнеса под формата на още бюрокрация и риск от санкции. Все фактори, които в дългосрочен план допринасят за по-висока инфлация.

Докато не се промени начинът, по който се говори по темата, усещането за висока инфлация ще остане. Реалните мерки за ограничаването ѝ са стимулиране на конкуренцията, ефективен контрол върху монополите и борба с картелите. Само че за това са нужни работещи регулатори с ръководства, които знаят какво правят.

Как да четем изборните резултати: проценти, статистическа грешка и какво всъщност ни казват числата

При провеждане на избори редовно биваме заливани с информация за това как се представят отделните партии като процент от гласовете. Тези резултати обикновено се представят като едно число, но за широката аудитория остава неясно как трябва да се интерпретира то.

В действителност става дума за статистически оценки, които неизбежно съдържат грешка. За да се отчете тази несигурност, се използват доверителни интервали. Те показват с определено ниво на доверие (най-често 95%) в какъв диапазон може да попадне реалният резултат. По-коректният прочит на едно такова изследване е: очакваме партия А да получи X%, като с 95% доверие реалният резултат ще бъде в интервала X ± Y%. Именно стойността на Y е от ключово значение за интерпретацията.

В началото на изборния процес най-често се публикуват социологически проучвания, базирани на представителна извадка от около 1000 души. При тях статистическата грешка обикновено е около ±3%. Това означава, че разлики от порядъка на 1–2 процентни пункта често не са статистически значими. Въпреки това, подобни данни имат своята стойност — те помагат на партиите да се ориентират в обществените нагласи и да адаптират кампаниите си.

Тази информация е важна не само за партиите, но и за избирателите, особено за онези, които все още се колебаят за кого да гласуват. Макар върху избора им да влияят различни фактори, могат да се откроят две основни групи.

Първата са хората, които са решили да гласуват, но не виждат съществени разлики между партиите. За тях е по-важно да има работещо правителство и да се избегне политическа блокада. Поради това те често се ориентират към партията с най-голям шанс да спечели. Това създава ефект на „прикачване към победителя“, при който водещите партии получават допълнителна подкрепа именно защото изглеждат водещи.

Втората група включва хора, които се колебаят между няколко партии. За тях е важно гласът им да не бъде „изгубен“, затова предпочитат формации с реален шанс да влязат в парламента. Именно тук се появява ключовата роля на изборната бариера — малките партии се стремят да се позиционират над нея, защото иначе рискуват да загубят подкрепа от избиратели, които стратегически се пренасочват към по-сигурни опции.

В деня на изборите се провеждат така наречените exit poll изследвания. В предварително подбрани, представителни секции част от гласувалите биват помолени анонимно да посочат своя избор пред анкетьори на социологически агенции. Обикновено към това се събират и допълнителни демографски данни — като пол, възраст, образование и предишно гласуване, което позволява по-прецизно моделиране на резултатите.

При този тип изследвания обемът на извадката е значително по-голям, което води до по-ниска статистическа грешка — често около ±1%. Поради това те са първите сравнително надеждни оценки, които се обявяват веднага след края на изборния ден. Въпреки това, резултатите трябва да се интерпретират внимателно — те са добър ориентир, когато разликите между партиите са по-големи от статистическата грешка и когато няма формации с резултати близо до изборната бариера. Допълнителен източник на неточност е отказът на част от избирателите да участват в такива проучвания, което може да въведе систематично изкривяване, ако тези откази не са случайни.

Важно е също да се отбележи, че exit poll проучванията се провеждат през целия ден. Понякога частични резултати изтичат в медиите още преди края на гласуването. Такива данни обаче не са статистически надеждни, тъй като в даден момент извадката все още не е представителна. Причината е, че гласуващите в различни часови интервали не са хомогенна група — те се различават по социално-икономически характеристики и политически предпочитания, което може да изкриви междинните резултати.

Няколко часа след края на изборния ден започват да се публикуват резултати от така нареченото паралелно преброяване. Те се базират на официалните секционни протоколи от подбрани извадкови секции, в които наблюдатели или представители на агенции събират данни. За разлика от exit poll изследванията, тук не става дума за анкета, а за реално преброени гласове. Въпреки това, тъй като се използва извадка, резултатите отново подлежат на статистическа грешка, която обикновено е по-ниска — често около ±0.5%. Това прави паралелното преброяване най-точния ранен индикатор за изборния резултат преди обявяването на официалните данни.

В крайна сметка, числата, които виждаме по време на избори, не са абсолютна истина, а оценки с различна степен на несигурност. От ранните социологически проучвания, през exit poll-овете, до паралелното преброяване, тази несигурност постепенно намалява, но никога не изчезва напълно. Затова коректното им тълкуване изисква не само внимание към самите проценти, но и към границите на грешка зад тях. Именно тази разлика между число и неговата интерпретация често определя дали ще направим информиран извод — или прибързано заключение.