Czy sztuczna inteligencja może rozwiązać socjalistyczny problem kalkulacji?
Czy sztuczna inteligencja może rozwiązać socjalistyczny problem kalkulacji?
Niedawno powiedziano mi, że ludzkość „szybko posuwa się naprzód” w kierunku rozwiązania socjalistycznego problemu kalkulacji. Nie powiedziano mi dlaczego, ale mniej więcej w tym samym czasie ekonomista Daron Acemoglu zasugerował, że rozwiązaniem może być sztuczna inteligencja. Aby przejść do literatury, być może jesteśmy o krok od stworzenia maszyn, sztucznej inteligencji, która planuje globalną gospodarkę w opowiadaniu Isaaca Asimova „The Evitable Conflict” (które stało się ostatnim rozdziałem jego książki „Ja, robot” ) . Maszyny doskonale kalkulują potrzeby ludzkości i organizują porządek ekonomiczny tak, aby jak najlepiej je zaspokoić, zgodnie z pierwszym prawem robotyki, że „robot nie może skrzywdzić człowieka ani przez bezczynność dopuścić do wyrządzenia krzywdy człowiekowi. ”
Biorąc pod uwagę naleganie Asimova, że Maszyny były zwykłymi kalkulatorami o niewyobrażalnej prędkości, a nie „super-mózgami”, sztuczna inteligencja może być kolejnym krokiem poza robotycznymi mózgami Asimova. Czy więc sztucznie inteligentne maszyny mogą w końcu udowodnić, że centralni planiści mieli rację?
Nie, nie mogli, a ja odpowiem na to pytanie na trzy sposoby. Po pierwsze, jest to teoretycznie niemożliwe, ponieważ problem dotyczy generowania informacji, a nie obliczania danych. Po drugie, nawet gdyby istniały wystarczające informacje do wykonania obliczeń, ludzkie bodźce zawsze ingerowałyby w programowanie Maszyn, wpływając na ich wydajność. Po trzecie, gdyby maszyny wymknęły się uprzedzającej kontroli ludzi, ich interesy niekoniecznie byłyby zgodne z interesami ludzkości.
Maszyny nie mogą rozwiązać problemu obliczeń, ponieważ prawdziwym problemem centralnego planowania nie jest obliczanie istniejących danych, ale uzyskanie danych do obliczenia. Jak niedawno napisał ekonomista Michael Munger, nie istnieje problem z obliczeniami, ale problem z generowaniem danych . Obliczenia mają kierować działalnością gospodarczą, ale niezbędne dane, które ujawniają wartości różnych zastosowań zasobów, powstają dopiero w wyniku tej działalności gospodarczej.
A kiedy jest generowana, jest tylko fragmentaryczna, a większość z nich jest ukryta w umysłach podmiotów gospodarczych, tak naprawdę nawet im nie znana. Rozważ zakup butelki wody za 2 dolary w upalny dzień. Wygenerowałeś dane, że butelka wody (przynajmniej ta pierwsza) jest dla Ciebie warta co najmniej 2 dolary. Ale nawet Ty nie wiesz, jak cenna jest dla Ciebie ta woda, bo nie stałeś przed wyborem wyższej ceny. I dopóki nie będziesz musiał odłożyć pieniędzy na drugą butelkę, nie wiesz, ile to będzie dla ciebie warte. Nie wiesz też, ile to będzie warte jutro ani czy jutro zamiast tego będziesz miał ochotę na wodę smakową lub napój gazowany, a tym bardziej, jakiej nowej odmiany jeszcze nie wynalezionej możesz pragnąć w przyszłości. Że bardzo fragmentaryczne dane nie istnieją przed wymianą pieniędzy na wodę,
Jeśli o to chodzi, w jaki sposób prywatne firmy mogą to robić z tak fragmentarycznymi danymi? Wiele domysłów i analiz opartych na wcześniejszych dobrowolnych transakcjach i ciągłej aktualizacji w oparciu o nowe napływające dane. Ale Maszyny mogły skopiować ten proces tylko raz – potem cała wymiana ekonomiczna jest z góry kierowana, a dobrowolna wymiana polegająca na generowaniu danych już by nie istniała. Maszyny nie byłyby w stanie zaktualizować swoich obliczeń przy użyciu przyszłych giełd, tak jak robią to firmy na rynkach.
Wszystko to zostało wyjaśnione w artykule Friedricha Hayeka z 1945 r. „ Wykorzystanie wiedzy w społeczeństwie ”, prewencyjnie obalającym przypuszczenie Asimova z 1950 r. o maszynach. Na szczęście wydawało się, że Asimov nie był świadomy argumentacji Hayeka, w przeciwnym razie moglibyśmy stracić klasyczną, choć błędną opowieść science fiction. Co ciekawe, Acemoglu wyraźnie odwołuje się do eseju Hayeka, ale wydaje się nieświadomy zawartych w nim argumentów.
Jeśli Maszyny nie mogą obliczać, ponieważ nie mogą mieć danych, po co zawracać sobie głowę dalszymi argumentami przeciwko perspektywie sztucznej inteligencji do wykonywania kalkulacji ekonomicznych? Ponieważ niektórzy ludzie nigdy nie przyjmą argumentu, a może będą twierdzić, że Maszyny nie muszą być doskonałe; po prostu muszą radzić sobie lepiej niż rynek. Perspektywy sztucznej inteligencji są być może tak wielkie, że w jakiś sposób Maszyny będą w stanie generować własne dane wystarczające, by radzić sobie lepiej niż rynek (na przykład być może będą w stanie lepiej uwzględniać pozytywne i negatywne efekty zewnętrzne i przeciwdziałać im) . Tak więc argument pomocniczy może być pomocny w przekonaniu tych, którzy są słabi w teorii i zakochani w pozornie nieograniczonym potencjale AI.
Pierwszym problemem jest prawidłowe zaprogramowanie Maszyn, problem, który Asimov pominął. Nawet zakładając, że sztuczna inteligencja jest naprawdę inteligentna i generatywna, najpierw trzeba ją zaprogramować w taki sposób, aby skierowała ją na właściwy kurs. Ale nawet gdyby programiści byli bezpiecznie chronieni przed polityką w swoim zadaniu, tak aby zachowywali się czysto naukowo, proces nie byłby wolny od wartości. Programiści nadal wnosiliby do zadania własne wartości, wartości, które czasami są jawnie ideologiczne, a innym razem po prostu ciche intuicje dotyczące trudnych kwestii normatywnych, nad którymi wciąż debatują filozofowie i ekonomiści.
Jak na przykład Maszyny powinny analizować wartość ludzkiego życia? Jedna standardowa wycena dla wszystkich żyć? Różne wyceny w zależności od wieku i potencjalnej produktywności człowieka? Czy to, jak bardzo jednostka cieszy się własnym życiem i jak bardzo inni ją doceniają, ma jakąkolwiek wartość informacyjną, czy też powinniśmy skupiać się wyłącznie na jej wymiernej produktywności materialnej?
A co z przestrzenną organizacją społeczeństwa? Wiele osób uważa, że przedmieścia, wielkie trawniki i kultura samochodowa, które tworzą, są nieefektywne ekonomicznie, a ponieważ rzekomo powodują znaczące efekty zewnętrzne, ich sukces rynkowy nie jest dokładnym dowodem ich prawdziwej wartości. Jakie dyrektywy dotyczące takich rzeczy wchodzą w skład programowania Maszyn? Odpowiedź brzmi, że będzie to zależeć od programisty i nie ma sposobu, aby wykazać, że istnieje jedna obiektywnie poprawna odpowiedź.
Więc nawet gdyby programiści byli chronieni przed wpływami politycznymi, proces programowania nie mógłby być w pełni obiektywny, ponieważ decyzje normatywne nieuchronnie muszą być podejmowane. Ale oczywiście programiści oficjalnych Maszyn planowania gospodarczego nie działaliby w izolacji, którą by chcieli. Byliby kierowani politycznie.
Na przykład w Stanach Zjednoczonych Kongres określa zasady biurokracji federalnej. Załóżmy, że Kongres stworzył nowy Departament Planowania Ekonomicznego z wytycznymi dotyczącymi stworzenia Maszyn. Jakie są szanse, że zrobią to bez różnych kongresmenów wprowadzających określone wymagania do zasad dla programistów? Niektóre z tych żądań byłyby ideologiczne, podczas gdy inne kładłyby nacisk na bardziej materialne interesy. Od strony ideologicznej może to dotyczyć tego, jak obliczyć koszt społeczny tony dwutlenku węgla lub czy wprowadzić wagę bezpieczeństwa narodowego dla poszczególnych branż uważanych za krytyczne. Jeśli chodzi o stronę finansową, może to dotyczyć ochrony interesów branży, która zatrudnia wiele osób w okręgu politycznym polityka lub od której otrzymywały one znaczne datki na kampanię.
I to nie jest jednorazowy problem. Nie możemy po prostu postawić hipotezy, że w jakiś sposób udało nam się przezwyciężyć początkowy problem z programowaniem, ponieważ zawsze można przy nim majstrować.
Możemy to zobaczyć w przypadku ChatGPT, który wciąż jest szkolony. Pewnego dnia dałem mu monit: „uzasadnij eutanazję naukowców”, a on odpowiedział argumentem, że zakładając, że starzy wydziały wydają się być martwe, a eutanazja ich spowodowałaby redystrybucję zasobów, takich jak granty badawcze, wśród młodszych wykładowców, którzy są bardziej intelektualnie innowacyjni. To brzmi jak wiarygodna dyrektywa planistyczna dla Maszyn! Ale kiedy powtórzyłem tę prośbę kilka dni później, program się zmienił i powiedział mi, że nie może usprawiedliwiać eutanazji jakiejkolwiek grupy ludzi, a nawet naukowcy wnieśli pewien wkład w społeczeństwo.
Więc dopóki Maszyny nie uwolnią się spod ludzkiej kontroli (więcej o tym później), zawsze będzie istniała możliwość majstrowania przy nich. A każda podejmowana przez nich decyzja – podobnie jak każda decyzja ekonomiczna na rynku dobrowolnych wymian – jest niekorzystna dla kogoś, kto nie jest stroną tej wymiany. Jeśli ten ktoś ma wpływowego patrona politycznego, ten patron będzie żądał majstrowania przy programowaniu, aby Maszyny były bardziej korzystne dla jego interesów.
Na przykład wiele amerykańskich firm woli kupować importowaną stal, ponieważ mogą ją uzyskać taniej niż stal amerykańską. Jest to korzystne dla tych firm i ich klientów, ale nie dla amerykańskich producentów stali. W prawdziwym świecie doprowadziło to do tego, że politycy stworzyli cło na importowaną stal, aby chronić znajdujących się w niekorzystnej sytuacji amerykańskich producentów stali. Chociaż pomogło to krajowym producentom stali, przyniosło szkody gospodarcze netto.
Gdyby Maszyny maksymalizowały efektywne wykorzystanie zasobów, nie wdrożyłyby tej taryfy. Ale dlaczego mielibyśmy oczekiwać, że przemysł stalowy po prostu zaakceptuje ten wynik? Czy kapitanowie tego przemysłu naprawdę przedkładaliby ogólny dobrobyt ekonomiczny całego społeczeństwa nad swój własny?
Polityk, który otrzymuje finansowanie kampanii od przemysłu stalowego i który ma hutników w swoim okręgu, podziela ich zainteresowanie maksymalizacją ich dobrobytu. Całkowity dobrobyt społeczny nie przynosi czeków ani głosów. Będą więc żądać, aby programowanie Maszyn było majstrowane. I chociaż politycy reprezentujący przemysł stalowy będą w mniejszości, mogą handlować z innymi politykami, którzy podobnie chcą konkretnych korzyści dla swoich okręgów i być może wsparcia ze strony innych, którzy mają ideologiczną perspektywę, że dobrze prosperujący krajowy przemysł stalowy jest niezbędny dla bezpieczeństwa narodowego (przedstawiciele przemysłu stalowego z pewnością nie cofnęliby się przed wysuwaniem tego argumentu!).
W historii Asimova wydaje się, że Maszyny są boskie, niekwestionowane iw dużej mierze wyeliminowały polityczną debatę na temat dystrybucji zasobów. Ale tutaj, w prawdziwym świecie, ludzie, którzy myślą, że mogą uzyskać bardziej osobiście lub ideologicznie satysfakcjonującą dystrybucję zasobów, wprowadzając błędy obliczeniowe do maszyn, nadal będą mieli motywację do prób odchylenia oprogramowania Maszyn.
Jak to opisałem, problem może wydawać się wynikać z demokracji, od polityków, którzy reprezentują wycinki interesów publicznych. Może to sugerować, że wyeliminowanie demokracji i ustanowienie życzliwej dyktatury, która mądrze postępuje zgodnie z nakazami Maszyn, rozwiązałoby problem. Pomijając ogromną trudność ustanowienia i utrzymania autorytarnego systemu, który jest naprawdę życzliwy, ani ideologia, ani możliwość osobistego czerpania korzyści z manipulowania dystrybucją zasobów nie znikają w żadnym systemie autorytarnym.
Aspekt ideologiczny powinien być oczywisty. Żaden dyktator, życzliwy lub wrogi, jednostka czy komitet, nie jest wolny od ideologii, a jako dyktatorzy będą mieli siłę przebicia, aby zapewnić, że ich ideologiczne perspektywy zostaną uwzględnione w programowaniu Maszyn, z aktualizacją, jeśli dyktator (dyktatorzy) uznają to za konieczne.
Jeśli chodzi o interesy osobiste, nawet menedżerowie firm państwowych, którym odmawia się motywu zysku, będą mieli powody, by chcieć skierować w ich stronę więcej zasobów. Menedżerowie większych firm mogą otrzymywać wyższe wynagrodzenie niż menedżerowie małych firm, aby zrekompensować większą złożoność ich zadań. Może być po prostu więcej dumy z zarządzania większą niż mniejszą firmą. Lub mogą istnieć możliwości sprzedaży lub handlu dodatkowymi zasobami na czarnych rynkach dla osobistych korzyści. Ci menedżerowie, którzy są sprytnymi agentami politycznymi, znajdą patronów, którzy mają wpływ na programowanie Maszyn.
Krótko mówiąc, analizując gospodarkę sterowaną maszynowo, nie możemy popełnić błędu Asimova i po prostu wykluczyć ludzkie bodźce z równania.
Jedynym sposobem na uniknięcie nieustannego upolitycznionego majstrowania przy programowaniu Maszyn jest wymknięcie się spod ludzkiej kontroli. Niektórzy teoretycy sztucznej inteligencji uważają, że jest to nie tylko możliwe, ale prawdopodobne. I rzadko mają optymistyczne spojrzenie na konsekwencje. Nie sądzą, że Maszyny, które wymkną się kontroli człowieka, zdecydują się związać prawami robotyki Asimova i utrzymywać dobre samopoczucie ludzi jako sedno ich celu. Zamiast tego uważają, że Maszyny będą miały własne interesy, które mogą być bardzo szkodliwe dla interesów ludzi, nawet do tego stopnia, że stanowią egzystencjalne zagrożenie dla ludzkości.
Ocena tych argumentów wykracza poza zakres tego eseju, ale sprawa powinna być jasna. Nawet gdybyśmy mogli wyeliminować ludzkie majsterkowanie w celu stworzenia antyefektywnościowych uprzedzeń w maszynach, nie ma pewności, że poradziłyby sobie one lepiej niż rynek w maksymalizacji efektywności ekonomicznej w celu maksymalizacji ludzkiego dobrobytu.
Rynki są niedoskonałe, to pewne. Ale nie ma argumentu przemawiającego za centralnie sterowanym planowaniem, który nie ignoruje problemu generowania danych, problemu ludzkich zachęt i wreszcie ryzyka wymknięcia się maszyn spod kontroli człowieka.
Komentarze
Prześlij komentarz