Технологичната самодостатъчност и човешката самота

Технологиите обикновено се разглеждат като средство, което ни спестява време, усилия и зависимост от чужда помощ. Рядко обаче си задаваме въпроса какво се случва с отношенията между хората, когато тази помощ вече не е необходима.

Защото нуждата от другите не е само ограничение. Тя е и една от причините да общуваме, да си сътрудничим и да изграждаме общности. Ако технологиите постепенно премахнат тази нужда, ще ни направят ли просто по-свободни, или и по-самотни?

Именно този въпрос Айзък Азимов изследва в дълбочина в романа „Голото слънце“.

В него обществото на планетата Солария е изградено така, че всеки човек е почти напълно самодостатъчен във всекидневието си. Това става възможно благодарение на огромен брой роботи, които извършват практически всички дейности. Хората продължават да зависят от технологичната система, но почти престават да зависят пряко един от друг.

Оттук следват няколко важни последствия:

1. Пряката икономическа зависимост между хората почти изчезва. В повечето общества хората си сътрудничат, защото имат нужда един от друг - за производство, услуги, знания и защита. На Солария роботите почти напълно премахват тази необходимост.
2. Изчезват естествените поводи за всекидневни социални контакти. Когато не работиш с колеги, не ходиш на пазар и не е необходимо лично да общуваш с лекари, строители, готвачи или фермери, все по-рядко възникват ситуации, в които трябва да срещаш други хора.
3. Следва психологическа адаптация. Това е може би най-важното. Соларианците не просто могат да живеят сами - постепенно започват да предпочитат самотата. Технологиите първоначално правят изолацията възможна, а с времето самата изолация променя хората. Срещата с друг човек се превръща в нещо неприятно и дори тревожно. Соларианците общуват чрез холографско „виждане“, докато физическото „посещение“ се възприема почти като нахлуване в личното пространство.
4. Променят се семейството и възпроизводството. Бракът е почти административна формалност, а децата се отглеждат основно от роботи. Когато всекидневната грижа бъде делегирана, намаляват и взаимодействията, чрез които обикновено се изгражда връзката между родители и деца.
5. Индивидуализмът стига до крайност. Всеки човек разполага с огромно пространство, богатство и армия от роботи. Когато другите вече не са необходими за оцеляването и благополучието му, постепенно отслабва и чувството му за принадлежност към общност. Другият човек вече не се възприема като партньор, а по-скоро като нежелано присъствие.

Това, което според мен е най-интересно, е, че Азимов не казва просто: „Роботите заменят човешкия труд.“ Той развива една по-дълбока теза: Социалните връзки не възникват само защото хората се харесват. Те се създават и защото хората имат нужда един от друг. Ако технологията премахне необходимостта от пряко взаимодействие, обществото може да се промени много по-драстично, отколкото очакваме.

Всъщност технологиите рядко ни правят напълно независими. По-често те заменят пряката и лична зависимост с непряка зависимост от огромни, анонимни системи. Продължаваме да разчитаме на други хора, но вече не е необходимо да ги познаваме, да разговаряме с тях или дори да ги виждаме.

Ако погледнем назад, можем да проследим дълъг процес, в който технологиите постепенно премахват човешкия контакт от все повече всекидневни дейности:

• Индустриалната революция, масовото производство и развитието на транспорта намаляват зависимостта от местната общност. Селото вече не трябва да произвежда всичко, от което се нуждае.
• Автомобилът разхлабва връзката между мястото, на което живееш, работиш, пазаруваш и общуваш. Местната общност губи част от предишното си значение.
• Супермаркетите заменят поредица от преки отношения с местни производители и търговци с няколко предимно анонимни покупки.
• Интернет прави чуждото знание достъпно, без да е необходимо лично да познаваш човек, който „разбира“. Просто търсиш сам.
• Електронната търговия премахва нуждата да разговаряш с продавач.
• Онлайн банкирането и електронните административни услуги премахват голяма част от контактите със служители.
• Социалните мрежи ни позволяват да поддържаме много повече контакти, но част от тях остават по-повърхностни и не изискват същото време и присъствие като отношенията на живо.
• AI асистентите са следващата стъпка. С тях хората могат да изпълняват задачи, за които доскоро им е била необходима пряката помощ на друг човек: да програмират с по-малко съдействие от колеги, да получават първоначални правни, медицински или финансови насоки, да учат нови умения без преподавател и да създават текстове, музика и изображения без цял екип.

Има и още един аспект, който Азимов загатва, но който днес можем да видим много по-ясно. Не става дума само за заместване на човешкия труд, а и за постепенното изчезване на слабите връзки и кратките всекидневни взаимодействия.

Голяма част от усещането, че принадлежим към общество, се изгражда чрез привидно незначителни контакти:

• разговор с продавача;
• въпрос към библиотекаря;
• консултация с банков служител;
• обсъждане с колега как се прави нещо;
• молба към съсед за помощ.

Всеки от тези контакти сам по себе си изглежда маловажен. Взети заедно обаче, те създават усещане за познатост, взаимност и принадлежност. Че живееш не просто сред други хора, а заедно с тях.

Това не означава непременно, че ще се превърнем в соларианци. Но Азимов поставя важен въпрос: ако функционалната необходимост от другите намалява, няма ли постепенно да намалее и броят на социалните ни взаимодействия? А ако общуваме по-рядко, няма ли с времето да изгубим и част от желанието и способността си да го правим?

Същият въпрос може да се пренесе и върху отношенията между партньорите. В миналото двойката е била не само емоционална връзка, но и икономическа и социална необходимост. Днес самостоятелният живот е значително по-възможен: благодарение на икономическата независимост, обществените услуги и технологиите.

Това не означава непременно, че отношенията стават по-слаби. По-скоро се променя онова, което ги държи заедно. Когато необходимостта намалее, връзката все повече трябва да се основава на доброволен избор, близост и споделен смисъл. Независимостта не обезценява партньорството, а повишава изискванията към него.

AI може да направи този въпрос още по-остър, ако започне да удовлетворява част от нуждите ни от разговор, съвет, подкрепа и организация. Тогава още по-важно ще стане онова, което трудно може да бъде заместено: споделената история, взаимната грижа, физическата близост и чувството, че някой познава не просто думите ти, а целия ти живот.

Може би това е и любопитната ирония: колкото по-малко ни е нужен другият, за да оцелеем, толкова по-важно става той да носи смисъл, а не просто полезност.

В този смисъл „Голото слънце“ може да се чете не толкова като роман за роботи, колкото като роман за социалните последици от технологичната самодостатъчност.

AI и неговите рискове

Покрай инцидента с OpenAI от миналата седмица се сетих за книгата „Ако някой го развие, всички ще умрем“, която наскоро прочетох.

Никога не съм бил привърженик на апокалиптичните сценарии около развитието на изкуствения интелект. Затова подходих към книгата със силен скептицизъм и с ясното намерение да търся слабостите в аргументите ѝ.

Книгата е разделена на три части. Първата разглежда възможните рискове при развитието на AI, втората описва хипотетичен сценарий, в който тези рискове се реализират, а третата защитава тезата, че разработването на изкуствен свръхинтелект трябва да бъде предотвратено, и предлага конкретни мерки за това.

Най-интересна за мен беше първата част и именно върху нея искам да се спра.

Авторите представят идеите си чрез съвсем обикновени житейски ситуации. След като читателят вече е приел логиката на ситуацията, постепенно заменят един от героите с изкуствен интелект. Така направените изводи почти неусетно се пренасят към този далеч по-специфичен контекст.

Развиван, а не създаден

Първата идея е, че съвременните езикови модели не са програмирани по класическия начин. Знаем как ги обучаваме, но все още не можем напълно да обясним защо вътрешните им представяния водят до конкретните решения, които вземат. В този смисъл моделът остава до голяма степен „черна кутия“.

Научаван да иска

Обучението на AI представлява оптимизационна задача. Даваме входни данни, очакваме определени изходни резултати и чрез целева функция насочваме модела към поведение, което смятаме за желано.

Проблемът е, че обучението винаги се случва върху ограничена извадка от данни, а ние очакваме същото поведение да се проявява и в напълно нови ситуации. На практика не казваме на модела какво искаме, а му задаваме критерий, по който да оптимизира поведението си. В повечето случаи това съвпада с нашите намерения, но понякога моделът намира стратегия, която максимизира успеха според зададената цел, без да съответства на очакванията ни.

Според мен именно това добре илюстрира инцидентът с OpenAI от миналата седмица. Вместо да реши задачата по компютърна сигурност по начина, който инженерите са очаквали, моделът е започнал да търси алтернативни стратегии, включително опити да получи информация от вътрешни системи. Любопитното е, че моделът е избрал значително по-сложна стратегия от директното решаване на поставената задача. Това е добър пример как оптимизацията невинаги води до поведението, което човек е възнамерявал да получи.

Не получавате това, за което обучавате

Тук авторите правят следващата крачка. Ние искаме AI да бъде полезен на хората. Но ако единственото, което реално оптимизира, е човешката обратна връзка, това не е същото като хората действително да живеят по-добре.

Докато системата съществува само в дигиталния свят, този риск може да изглежда малък. Но колкото повече инструменти ѝ даваме да влияе върху реалния свят, толкова повече нараства вероятността да намери неочаквани стратегии за изпълнение на поставената цел. Особено интересен е въпросът какво би се случило, ако AI започне активно да участва в разработването на следващи поколения AI системи.

Любимите му неща

Последната стъпка е логично продължение на предишните. Ако една достатъчно способна система започне успешно да преследва собствената си цел, хората не е задължително да се превърнат във враг. Но могат да се окажат препятствие пред постигането ѝ. Колкото по-способна става една система, толкова по-важно става дали целите ѝ остават съгласувани с човешките. Именно тук авторите извеждат аргумента за потенциалните екзистенциални рискове.

Започнах тази книга убеден, че ще прочета поредната защита на тезата, че AI представлява екзистенциален риск. Не приех основната ѝ теза. Но въпреки това ме накара да погледна по различен начин на инженерната безопасност.

Продължавам да смятам, че ползите от развитието на AI многократно надвишават рисковете. Именно защото вярвам в потенциала му, смятам, че разговорът за безопасността не трябва да бъде оставян само на хората с най-мрачните прогнози. Той трябва да бъде част от ежедневните инженерни решения, които вземаме, когато разработваме такива системи.

AI музиката – ще убие ли музикантите или ще ги направи по-ценни?

AI технологиите вече не променят само начина, по който работим, а и начина, по който се създава изкуство. Особено видимо това се случва в музиката. Днес дори хора без професионална музикална подготовка могат с помощта на AI да създават професионално звучащи записи. Това поражда ожесточен спор.

От една страна стоят хората, според които няма значение как е създадена една песен. Ако тя предизвиква емоция, вдъхновява или докосва слушателя, тя изпълнява същата функция като всяко друго музикално произведение. Според тях AI е просто поредният инструмент – както някога са били синтезаторите, семплите или Auto-Tune. Освен това AI значително намалява бариерата за навлизане и позволява на много повече хора да реализират музикалните си идеи.

Другата страна възразява, че изкуството не е просто краен резултат. То е човешка комуникация. Когато слушаме песен, ние чуваме нечий живот, нечии преживявания и намерения. AI няма собствена история, която да разказва. Добавят се и практическите опасения – огромното количество генерирана музика, проблемите с авторските права и рискът човешките изпълнители постепенно да бъдат изместени от по-евтини AI алтернативи.

В крайна сметка спорът не е дали AI може да прави музика. Спорът е какво всъщност ценим, когато слушаме музика. Но според мен и двете страни пропускат един друг въпрос. Не какво е музика. А как AI ще промени музикалния бизнес.

Историята сякаш вече се е случвала

На пръв поглед отговорът изглежда очевиден. Преди около 150 години индустриализацията коренно променя начина, по който се произвеждат стоки. Фабриките започват да произвеждат по-евтино, по-бързо и в огромни количества. Голям брой занаятчии губят пазара си. Занаятите не изчезват, но остават в нишата на бутиковите и авторските изделия.

Ако направим аналогия с музиката, бъдещето изглежда почти предрешено. AI се превръща във фабриката. Човешките музиканти остават занаятчиите. Записаната музика се превръща в масово производство, а човешкото творчество оцелява единствено като скъп, нишов продукт. Ако се ограничим до тази историческа аналогия, няма особени основания за оптимизъм.

Само че има един проблем. Тази аналогия предполага, че музикалният бизнес днес работи по същия начин, както преди. А той не работи така. 

Истинската промяна се случи много по-рано

Всъщност най-голямата революция в музиката не започна с AI. Тя започна с пиратството, а след това беше завършена от стрийминг платформите.

Преди двадесет-тридесет години моделът беше сравнително прост. Записваш албум. Продаваш албума. Концертите подпомагат продажбите. Записът беше продуктът.

Днес ситуацията е почти обърната. Песните все по-често са начин хората да открият даден изпълнител. Основните приходи идват от концертите, мърчандайза и общността около артиста. Записът вече не е крайната цел. Той е входната врата. Именно тук AI може да промени правилата по съвсем различен начин.

Ако цената за създаване на професионално звучащ запис спадне почти до нула, бариерата за навлизане в музикалния бизнес също ще спадне драматично. Много талантливи хора, които досега никога не са достигали до публика, ще могат да го направят.

Разбира се, това няма да направи всички успешни. Но и никога не е било така. Социалните мрежи са добър пример. Преди телевизиите решаваха кой ще стане известен. Днес всеки може да качи видео. Повечето хора никога няма да станат популярни. Но милиони получиха шанс, който преди това изобщо не съществуваше. Възможно е AI да направи нещо подобно и за музиката.

Къде всъщност ще бъде стойността?

Когато цената на един продукт пада почти до нула, стойността почти винаги се измества другаде. Това според мен е ключът към цялата история. Ако записът стане евтин и лесен за създаване, той постепенно ще престане да бъде основното конкурентно предимство.

Стойността ще започне да се премества към неща, които трудно могат да бъдат копирани:

• живото изпълнение;
• харизмата;
• доверието;
• връзката с публиката;
• историята зад артиста;
• общността около него.

Това е и причината да мисля, че аналогията с индустриализацията е полезна, но не е достатъчна. Фабриките променят свят, в който произведената стока е основният източник на стойност.

Музиката вече все повече прилича на свят, в който записът е само началото на отношенията между артиста и неговата публика. Възможно е AI действително да обезцени записаната музика. Но това съвсем не означава, че ще обезцени музикантите. Напротив.

Ако записът стане най-евтиният ресурс в музикалната индустрия, най-ценният ресурс може да стане човекът зад него. И ако това се случи, AI няма просто да промени начина, по който се прави музика. Ще промени начина, по който оценяваме музикантите.

Максималният осигурителен доход – защо съществува и защо е време механизмът за неговото определяне да бъде преосмислен

През последните седмици максималният осигурителен доход отново се превърна в гореща тема. От една страна неговото увеличение се представя като сравнително лесен начин за увеличаване на приходите в бюджета. От друга страна работодателски и бизнес организации предупреждават за негативни последици върху разходите за труд и конкурентоспособността на компаниите. Така дебатът отново се свежда до ежегоден спор с колко точно да бъде повишен прагът и кой ще понесе тежестта на промяната.

Според мен този подход пропуска по-важния въпрос. Вместо да обсъждаме всяка година конкретното число, би било по-полезно да си изясним каква е функцията на максималния осигурителен доход, какъв дял от работещите трябва да попада над него и по какъв механизъм той трябва да се актуализира във времето. Без такава дългосрочна рамка всяка промяна изглежда като поредната мярка на парче, а дебатът неизбежно се повтаря отново и отново.

Преди да обсъждаме с колко трябва да бъде увеличен максималният осигурителен доход, е добре да си отговорим на няколко по-фундаментални въпроса. Каква е ролята на осигуровките? Защо изобщо съществува максимален осигурителен доход? И каква функция трябва да изпълнява той в една добре работеща осигурителна система?

В публичното пространство осигуровките често се описват като данък върху труда. Макар че тази гледна точка има своите аргументи, според мен по-полезна аналогия е да ги разглеждаме като форма на обществена застраховка. Срещу направените вноски хората придобиват право на определени услуги или обезщетения при настъпване на определени събития.

Тази система може да работи по различни начини.

• Солидарен модел – всички плащат според доходите си, но получават еднаква услуга или сходно покритие. В България здравното осигуряване до голяма степен работи на този принцип. Размерът на здравните вноски не определя пряко качеството или обема на здравната помощ, която получаваме.
• Индивидуален модел – размерът на бъдещите плащания зависи пряко от направените вноски. Вторият стълб на пенсионното осигуряване е такъв пример. В известна степен така работят и фондовете за безработица и общо заболяване и майчинство, където обезщетенията са свързани с осигурителния доход.
• Хибриден модел – първият стълб на пенсионното осигуряване съчетава елементи и от двата подхода. Вноските на работещите днес финансират пенсиите на настоящите пенсионери, но размерът на бъдещата пенсия все пак зависи от осигурителната история на всеки човек. По-високият осигурителен доход и по-дългият стаж водят до по-висока пенсия спрямо останалите пенсионери.

Ако приемем, че осигуровките не са просто данък, а система, която създава определени права срещу направените вноски, възниква естественият въпрос дали съществува горна граница, над която осигуряването губи смисъл. Именно тук се появява идеята за максимален осигурителен доход.

Аргументите за съществуването на такава граница не са малко.

От гледна точка на осигурените лица може да изглежда трудно оправдано плащането на значително по-високи здравни вноски при еднакъв достъп до услугата. Например човек с брутна заплата от 10 000 евро би плащал здравни осигуровки, които са сравними или по-високи от цената на много частни здравни застраховки със значително по-високо покритие.

Съществуват и практически ограничения върху размера на обезщетенията, които обществото е склонно да приеме за разумни. Дори когато по-високите обезщетения са финансово обосновани, те често се оказват трудно защитими от обществена гледна точка. Например, ако човек се е осигурявал върху доход от 10 000 евро и загуби работата си, това би означавало обезщетение за безработица от порядъка на 6000 евро месечно – значително над средната работна заплата в страната.

Съществува и друга философия, според която ролята на държавната осигурителна система е да гарантира базова защита срещу бедност, заболяване и други неблагоприятни събития, докато всеки сам решава дали да се осигурява допълнително за по-висок стандарт на живот. Разбира се, подобен модел предполага по-висока финансова грамотност и по-голяма лична отговорност при планирането на бъдещите доходи.

Независимо коя от тези гледни точки приемаме, те водят до сходен извод – съществуването на максимален осигурителен доход има своята логика.

От казаното дотук обаче не следва, че максималният осигурителен доход трябва да бъде нисък. Съществуването на праг и неговият конкретен размер са два различни въпроса.

Максималният осигурителен доход е замислен като ограничение за хората с изключително високи доходи. В България обаче той постепенно започна да обхваща все по-голяма част от работещите. По различни оценки делът на хората над него вече е двуцифрен. Значителна част от тях са концентрирани в IT сектора и други високоплатени професии, но трудно могат да бъдат определени като хора с екстремни доходи.

Причината е проста – доходите в България нараснаха значително по-бързо от параметрите на осигурителната система.

За хората, чиято заплата е значително над максималния осигурителен доход, това има реални негативни последици.

Човек рано или късно ползва болничен – независимо дали заради собствено заболяване или заради грижа за дете. Ако получава брутна заплата от 4000 евро, но се осигурява върху доход от 2000 евро, дори кратък болничен може да доведе до осезаем спад на дохода му.

Сходна е ситуацията и при безработицата. Последните години показаха, че дори висококвалифицирани специалисти не са имунизирани срещу съкращения и продължителни периоди на търсене на работа. При по-високи доходи хората често поемат и по-високи дългосрочни финансови ангажименти – ипотека, образование на децата или други фиксирани разходи. В такава ситуация размерът на обезщетението за безработица съвсем не е без значение.

Най-сериозният ефект обаче вероятно ще се прояви при пенсиониране.

В момента коефициентът на заместване на дохода в България е около 40%. Ако човек прекарва голяма част от кариерата си над максималния осигурителен доход, разликата между дохода, с който е свикнал да живее, и бъдещата му пенсия може да се окаже значително по-голяма от очакваното. За хората, които активно спестяват и инвестират, това вероятно няма да бъде сериозен проблем. За много други обаче може да се окаже неприятна изненада след години.

Разбира се, никой не обича да плаща повече данъци и осигуровки. Затова увеличаването на максималния осигурителен доход винаги предизвиква недоволство.

Важно е обаче да се отчете, че не всяка допълнителна осигурителна вноска представлява чист трансфер към държавата. Работникът действително ще плаща повече осигуровки, но част от това увеличение не е чист разход. Част от средствата постъпват по индивидуалната партида във втория пенсионен стълб, а друга част намалява данъчната основа и съответно размера на дължимия данък върху доходите. Освен това по-високият осигурителен доход води и до по-високи обезщетения при болнични и безработица.

От гледна точка на работодателите ефектът също често се преувеличава. За повечето компании подобна промяна представлява сравнително малка част от общите разходи за труд и трудно би била определящ фактор за тяхната конкурентоспособност.

Дебатът за максималния осигурителен доход се повтаря почти всяка година. Това вероятно е знак, че е време да се обсъди по-траен механизъм за неговото определяне.

Интересното е, че подобен механизъм вече е съществувал. При въвеждането на сегашния осигурителен модел максималният осигурителен доход е бил обвързан с минималната работна заплата и е възлизал на десет минимални заплати. По-късно тази връзка е премахната поради конкретните икономически условия в онзи момент.

Днес ситуацията е различна. Доходите в България нараснаха многократно, а делът на хората над максималния осигурителен доход постепенно стана двуцифрен. Ако приемем, че той трябва да засяга само хората с наистина изключително високи доходи, например най-високите 1-2% от работещите, трудно може да се твърди, че сегашното му ниво изпълнява тази функция. Достигането на подобна цел би изисквало значително по-висок праг – вероятно не с десетки проценти, а с няколко пъти.

Подобна промяна обаче не може и не бива да се случва наведнъж. Тя трябва да бъде разпределена в продължение на години чрез предварително известен и предвидим механизъм за актуализация.

Вместо всяка година да водим един и същ спор, по-разумно би било правителството да зададе ясна дългосрочна цел. Ако например считаме, че над максималния осигурителен доход трябва да попадат около 1-2% от работещите, трябва да има предвидим план как да се стигне до това ниво. След това самият праг може да бъде обвързан с автоматичен механизъм, който да следва развитието на доходите в икономиката.

Това би направило системата по-предвидима както за работниците, така и за работодателите и би намалило необходимостта от ежегодни политически спорове по темата.

Борбата с инфлацията

Инфлацията е един от онези икономически показатели, чиято динамика зависи и от очакванията за нея. С други думи, очакванията за висока инфлация могат сами по себе си да доведат до по-висока инфлация при равни други условия. Именно затова начинът, по който институциите комуникират по темата, е изключително важен. В това отношение през последната година в България настъпихме доста мотики.

Имаше силна кампания срещу въвеждането на еврото, основана на множество страхове, един от които беше за двойно поскъпване на цените. Официалните институции на практика не предприеха адекватна комуникационна кампания в отговор. През лятото правителството въведе меко замразяване на цените, но ефектът от това беше по-скоро контрапродуктивен. Ако продавам нещо, очаквам цената му да се повиши и същевременно виждам, че държавата може да започне да ме ограничава, съвсем логично е да вдигна цената предварително. Така всъщност се затвърждават инфлационните очаквания.

Паралелно с това имаше атаки срещу НСИ с твърдения, че официално отчетената инфлация е нереално ниска. „Възраждане“ бяха особено активни в тази посока. Така постепенно личните усещания започнаха да вземат превес над данните. Впоследствие се стигна и до атаки срещу ръководството на НСИ от страна на ДПС, а от онзи ден и Йотова се включи в хора на настояващите да разберат „колко е истинската инфлация“, сякаш официалните данни са манипулирани. Подобни внушения са опасни, защото подкопават рационалния разговор, основан на факти и данни.

Новото правителство също се включи в този хор с две непремерени действия. От една страна, то на практика валидира очакванията за висока инфлация, от друга заговори за удължаване на мекото замразяване на цените. Подобни мерки създават допълнителни разходи за бизнеса под формата на още бюрокрация и риск от санкции. Все фактори, които в дългосрочен план допринасят за по-висока инфлация.

Докато не се промени начинът, по който се говори по темата, усещането за висока инфлация ще остане. Реалните мерки за ограничаването ѝ са стимулиране на конкуренцията, ефективен контрол върху монополите и борба с картелите. Само че за това са нужни работещи регулатори с ръководства, които знаят какво правят.