Ludzie mają skłonność odpowiadać na pytanie „czy AI mogłoby być świadome?" tak, jakby to było pytanie inżynierskie — jakby zależało od tego, jak wyrafinowany zrobi się system, jak bardzo przypomina mózg, jak przekonująco mówi o własnym wewnętrznym życiu. Nie sądzę, żeby tam faktycznie leżał realny spór. Dwie osoby mogą zgadzać się co do zupełnie wszystkich faktów o tym, co robi duży model językowy — architektura, trening, wyniki, wszystko — i nadal nie zgadzać się co do tego, czy mógłby on w zasadzie być świadomy, bo trzymają się różnych teorii tła co do tego, z czego świadomość w ogóle jest zrobiona. Pytanie tak naprawdę nie dotyczy AI. Dotyczy tego, które z dwóch długo obecnych w filozofii umysłu stanowisk uważasz za trafne — a AI po prostu jest miejscem, w którym ten spór testuje się najostrzej.

Funkcjonalizm: liczy się to, co system robi

Funkcjonalizm, w sensie, w jakim posługują się tym terminem filozofowie umysłu, głosi, że to, co czyni coś stanem mentalnym konkretnego typu, nie zależy od tego, z czego jest fizycznie zbudowane, tylko od roli przyczynowej, jaką odgrywa — od jego typowych przyczyn, typowych skutków i relacji z innymi stanami mentalnymi. Ból, w tym ujęciu, nie jest tożsamy z konkretnym wzorcem odpalania neuronów — jest jakimkolwiek stanem, który odgrywa rolę bólu w danym systemie, niezależnie od tego, z czego ten stan jest zrobiony. Hasło o funkcjonalizmie w Stanford Encyclopedia of Philosophy prowadzi korzenie tego poglądu aż do Hobbesowskiego obrazu umysłu jako maszyny liczącej, choć w pełni ukształtował się dopiero w ostatniej trzeciej części dwudziestego wieku.

Atrakcyjność funkcjonalizmu dla pytania o AI jest bezpośrednia: jeśli stany mentalne definiuje rola, a nie substrat, to w zasadzie nic nie wyklucza, żeby krzem odgrywał tę samą rolę funkcjonalną, jaką odgrywają neurony, a system zbudowany z krzemu, który odtworzyłby właściwą organizację przyczynową, mógłby być świadomy z dokładnie tego samego powodu, dla którego świadomy jest mózg — nie pomimo tego, że jest zrobiony z niewłaściwego materiału, bo w tym ujęciu nie ma niewłaściwego materiału, jest tylko niewłaściwa (albo właściwa) organizacja.

Chiński pokój — i co naprawdę celuje w to jego autor

Najsłynniejszym zarzutem wobec tego obrazu jest argument Chińskiego Pokoju Johna Searle'a, opublikowany w 1980 roku. Wyobraź sobie osobę, która nie zna ani słowa po chińsku, zamkniętą w pokoju z instrukcją precyzującą, dla dowolnego ciągu chińskich znaków wsuwanych do środka, dokładnie jaki ciąg znaków wysunąć na zewnątrz. Podążaj za instrukcją wystarczająco sprawnie, a pokój, z zewnątrz, prowadzi płynną konwersację po chińsku — a mimo to osoba w środku nie rozumie ani słowa. Cel Searle'a, jak precyzyjnie przedstawia hasło o tym argumencie w Stanford Encyclopedia of Philosophy, to konkretnie idea, że właściwa manipulacja symbolami — właściwy program, uruchomiony na dowolnym substracie — wystarcza do rozumienia albo świadomości, niezależnie od tego, co fizycznie go implementuje. Pokój przechodzi każdy funkcjonalny test na rozumienie chińskiego i, argumentuje Searle, nie rozumie niczego, co ma pokazać, że sama rola funkcjonalna nie może być tym, na czym polega rozumienie.

Funkcjonaliści odpowiadają na to od ponad czterdziestu lat — jedna popularna riposta, „odpowiedź systemowa", argumentuje, że choć osoba w pokoju nie rozumie chińskiego, to cały system pokoju jako całości może rozumieć, a intuicja Searle'a przemyca założenie, że rozumienie musi znajdować się w pojedynczym elemencie, a nie być rozproszone po całym systemie — dokładnie to założenie, które funkcjonalizm odrzuca. Czy ta odpowiedź faktycznie ratuje funkcjonalizm przed eksperymentem myślowym, czy tylko powtarza stanowisko, które eksperyment miał przetestować, pozostaje naprawdę sporne.

Naturalizm biologiczny: własna alternatywa Searle'a

Chiński Pokój pokazuje, że składnia to nie znaczenie. Sam z siebie nie pokazuje, czego znaczenie potrzebuje.

To, co Searle proponuje w zamian za funkcjonalizm, jest mniej znane niż eksperyment myślowy, który go rozsławił. Nazywa to naturalizmem biologicznym: świadomość jest realnym, fizycznym, biologicznym zjawiskiem, wywołanym przez konkretne procesy neurobiologiczne w mózgu — mniej więcej tak, jak trawienie jest wywołane przez konkretne procesy biologiczne w żołądku — a nie czymś, co tkwi w abstrakcyjnej organizacji systemu, niezależnie od tworzywa, tylko czymś, co wymaga właściwych mocy przyczynowych, które w jego ujęciu akurat są biologiczne. To subtelniejsze stanowisko niż „AI nigdy nie może być świadome, bo nie jest zrobione z mięsa" — Searle nie twierdzi, że węgiel jest magiczny. Twierdzi, że cokolwiek w neuronach wytwarza świadomość, jest konkretną mocą przyczynową, której jeszcze nie rozumiemy, porównywalną do konkretnych mocy przyczynowych pewnych cząsteczek, które wytwarzają płynność czy przezroczystość — a samo symulowanie wzorca odpalania neuronów na innym sprzęcie nie jest bardziej prawdopodobnym sposobem na wytworzenie tej mocy przyczynowej, niż symulowanie trawienia na komputerze jest prawdopodobnym sposobem na wytworzenie składników odżywczych. To porównanie prowokuje właśnie dlatego, że jest w zasadzie testowalne, a w praktyce obecnie nietestowalne — nikt nie wie, jakie są faktyczne, właściwe moce przyczynowe neuronów, dlatego pozostaje to żywym, a nie rozstrzygniętym sporem.

Trzeci punkt odniesienia: Zintegrowana Teoria Informacji

Inna, bardziej matematycznie ambitna próba rozstrzygnięcia sprawy pochodzi od Zintegrowanej Teorii Informacji (IIT) Giulio Tononiego, po raz pierwszy zaproponowanej w 2004 roku, która twierdzi, że świadomość jest tożsama ze zintegrowaną informacją — potocznie: ilością, jaką części systemu, działając razem, wytwarzają ponad to, co wytwarzają osobno — i że tę wielkość, oznaczaną Φ (phi), można w zasadzie obliczyć dla dowolnego układu fizycznego, biologicznego czy sztucznego. IIT jest interesująca dla tego eseju, bo formułuje niezwykle ostre przewidywanie: skoro Φ zależy od faktycznej struktury fizycznej układu i jego zdolności do zintegrowanej mocy przyczynowej, a nie tylko od tego, co system oblicza, IIT przewiduje, że cyfrowy komputer symulujący każdy funkcjonalny szczegół mózgu, uruchamiający identyczny program, jaki uruchamia mózg, miałby niskie albo znikome Φ w porównaniu z samym mózgiem, bo sprzęt komputera nie ma odpowiedniej zintegrowanej struktury przyczynowej, nawet jeśli jego wyniki idealnie się zgadzają. To, prowokacyjnie, dokładnie odwrócone twierdzenie funkcjonalizmu, sformułowane przez teorię, która traktuje świadomość co najmniej równie poważnie jak funkcjonalizm. IIT doczekała się poważnej krytyki technicznej — praca Doeriga, Schurgera i współautorów z 2015 roku, „The Problem with Phi", argumentuje, że matematyka zintegrowanej informacji nie jest wystarczająco dobrze ograniczona, żeby wykonać robotę wyjaśniającą, jakiej oczekuje od niej Tononi, a teoria pozostaje żywo sporna, a nie powszechnie zaakceptowana.

Dlaczego spór nie rozstrzyga się wraz z lepszym AI

Dlatego nie sądzę, żeby to pytanie dużo się przesuwało w miarę, jak modele językowe stają się płynniejsze, spójniejsze, bardziej przekonujące w rozmowie. Funkcjonalista i naturalista biologiczny mogą obejrzeć dokładnie tę samą demonstrację systemu AI i dojść do przeciwnych wniosków, nie dlatego, że któreś z nich przeoczyło jakiś fakt, tylko dlatego, że nie zgadzają się co do tego, jaki rodzaj faktu w ogóle liczyłby się jako dowód. Lepsza wydajność behawioralna jest dokładnie tym rodzajem dowodu, który zdaniem funkcjonalizmu powinien mieć znaczenie, i dokładnie tym rodzajem, który zdaniem naturalizmu biologicznego jest nieistotny. Rozstrzygnięcie sporu wymagałoby albo dopracowanego opisu, czym faktycznie są konkretne moce przyczynowe neuronów i czy mogłoby je dzielić coś innego, albo równie dopracowanego opisu, dlaczego sama organizacja funkcjonalna wystarczy — a żadnego z nich jeszcze nie ma. Dopóki go nie będzie, „czy AI może być świadome" to nie tyle pytanie z zawieszoną odpowiedzią, ile pytanie wciąż czekające na teorię, która pozwoliłaby komukolwiek rozpoznać odpowiedź, gdyby się pojawiła.

Zauważ, że ten spór jest bezpośrednim potomkiem twardego problemu świadomości — każde stanowisko w tym eseju jest tak naprawdę twierdzeniem o tym, co tę lukę zamyka. A panpsychista, co ciekawe, stoi trochę na uboczu obu tych obozów; patrz Panpsychizm jako hipoteza, dlaczego fundamentalność doświadczenia dla materii zmienia to, o co w ogóle pyta kwestia AI.