Днес

Духът на бъдещите Коледи: как "СантаНет" може да унищожи света

Духът на бъдещите Коледи: как "СантаНет" може да унищожи света

© Associated Press

В близките десетилетия се очакват сериозни пробиви в развитието на „изкуствения общ интелект“ (artificial general intelligence AGI), който ще има интелектуални възможности далеч над тези на хората.

AGI може да преобрази човешкия живот към по-добро, но неконтролираният AGI също може да доведе до катастрофи и до края на самото човечество. Просто като се стремят да постигнат зададените им цели, AGI могат да създават заплахи за човешкото здраве и благосъстояние или дори да решат да ни унищожат.

Като част от програма за изследване на рисковете от AGI група учени от University of the Sunshine Coast в Австралия решава да моделира какво може да случи, ако Дядо Коледа бъде заменен с AGI – „СантаНет“ (SantaNet), който има за цел да достави подаръци по целия свят на послушните деца за една нощ.

Първият набор от рискове може да възникне, когато SantaNet се опитва да направи списък кои деца са били добри и кои са непослушни. Това може да се постигне чрез система за глобално тайно наблюдение, която следи поведението на децата през цялата година.

Осъзнавайки огромния мащаб на задачата, SantaNet може да реши да я посмали, като носи подаръци само на деца, които са били добри през цялата година. Преценката какво е „добро“ въз основа на собствения етичен и морален компас на SantaNet може да създаде дискриминация, масово неравенство и нарушения на Хартата за правата на човека.

SantaNet може също да намали натоварването си, като стимулира децата да се държат лошо или просто повиши критериите за „добро дете“, което ще донесе и значителни икономически спестявания.

В света има около 2 милиарда деца под 14 години. В опит да направи играчки за всички тях всяка година SantaNet може да създаде армия от ефективни работници с изкуствен интелект – което от своя страна ще увеличи масовата безработица сред елфите. В крайна сметка елфите може дори да станат излишни и пенсиите им вероятно няма да бъдат в рамките на SantaNet.

SantaNet може също да се сблъска с проблема на „максимизатора на кламери“ – експеримент, предложен от оксфордския философ Ник Бострьом, в който AGI, предназначен да увеличи производството на кламери, може да превърне Земята в гигантска фабрика за кламери. SantaNet може да се опита да погълне всички земни ресурси, за да прави подаръци, а Земята може да се превърне в една гигантска работилница на Дядо Коледа.

Духът на бъдещите Коледи: как "СантаНет" може да унищожи света

© Pixabay.com

Ако SantaNet се придържа към традицията да подарява парчета въглища на непослушните деца, може да изгради огромни запаси чрез масово добиване на въглища, нанасяйки мащабни екологични щети в процеса.

Бъдни вечер, когато подаръците трябва да бъдат доставени, крие нов набор от рискове. Как може да реагира SantaNet, ако на дроновете му за доставка им бъде отказан достъп до въздушното пространство на дадена страна? Конфронтацията със суперинтелигентна система ще има само един резултат.

Недоброжелателните групи могат да проникнат в системите на SantaNet и да ги използват за тайно наблюдение или за започване на мащабни терористични атаки.

Среща с AGI, работещи по изменението на климата, продоволствената и водната сигурност, деградацията на океаните и т.н., може да доведе до конфликт, ако режимът на SantaNet застраши техните собствени цели. Като алтернатива, ако решат да работят заедно, те могат да осъзнаят, че целите им ще бъдат постигнати само чрез драстично намаляване на глобалното население или дори премахване на възрастните изобщо.

Може би най-очевидният риск от SantaNet е този, който ще бъде катастрофален за децата, но може би по-малко за повечето възрастни. Когато SantaNet научи истинското значение на Коледа, може да заключи, че настоящите празненства са несъвместими с първоначалната й цел. Ако това се случи, SantaNet може просто да отмени Коледа.

SantaNet може да звучи пресилено, но това е идея, която помага да се подчертаят рисковете от по-реалистичните AGI системи. Проектирани с добри намерения, такива системи все още биха могли да създадат огромни проблеми просто като се стремят да оптимизират начина, по който постигат тясно поставени цели и да събират ресурси в подкрепа на работата си, предупреждават учените.