Sążnisty i wywierający nie lada wrażenie wywód! Podziwiam pracę, jaką musiałaś włożyć w przygotowanie takiego tekstu. Jest napisany bardzo dobrym, barwnym językiem i daje dużo paszy treściwej do przemyśleń. Myślę, że udało Ci się zrealizować podstawowe cele, jeżeli było nimi rozprawienie się z błędami w konkretnym artykule poświęconym etyce robotów oraz szersze zwrócenie uwagi na zagrożenia związane z antropomorfizacją i przypisywaniem powinności etycznych programom komputerowym. Są jednak różne ciekawe miejsca, które w moim odczuciu pozostawiają pole do dyskusji – na ogół nie czuję się kompetentny do polemiki, ale chciałbym podzielić się wątpliwościami i dowiedzieć, czego ewentualnie nie doprecyzowałaś lub czego nie zrozumiałem.
Na początek: w pierwszej części mocno gubiłem się w tym, które elementy Twojego wywodu są do utrzymania w świetle nowoczesnych teorii filozoficznych, a które wymagają przyjęcia stanowiska Arystotelesa. Mam wrażenie, może mylne, że konfrontujesz je tylko z kartezjańskim, gdy tymczasem filozofia zachodnia rozwinęła się znacznie od czasów Kartezjusza i spodziewałbym się kłopotów ze znalezieniem współczesnego filozofa czy etyka, który twierdziłby na przykład, że kot “nie chce niczego, nie widzi, nie słyszy, nie czuje bólu i nie pamięta”. Skądinąd cała ta partia tekstu z kotem jest kapitalnie napisana i mam wrażenie, że dzięki niej wreszcie dobrze przyswoiłem pojęcie formy substancjalnej!
Wspominasz tylko mimochodem, że “w ogóle celowość u Arystotelesa jest wszędzie (…) po prostu rzeczy w przyrodzie mają cele”. Otóż w ramach amatorskich lektur o historii filozofii chyba nie raz spotkałem się z twierdzeniem, że takie postawienie sprawy było karygodnym błędem i bez mała katastrofą cywilizacyjną, która przez tysiąclecia hamowała rozwój nauki. Na przykład skoro pozwolimy sobie stwierdzić, że niebo jest niebieskie, a zaćmienie Księżyca czerwone w tym celu, ażeby zaspokajać ludzki zmysł estetyczny oraz budzić nasz podziw nad pięknem i potęgą Natury, to prawa rozpraszania Rayleigha już raczej nie odkryjemy. Nie mówię, że to kwestia centralna dla Twojego rozumowania, sygnalizuję tylko, że w tym miejscu czytelnik nieznający się profesjonalnie na filozofii może się potknąć i odnieść korzyść z jakiegoś uzupełnienia.
Anglosasi po dziś dzień mawiają „it was the alcohol speaking”, kiedy ktoś się urżnął i wygarnął innym po chamsku, a teraz próbuje udawać, że to nie jego wina.
Spotkałem się też z frazą “it was the torture speaking”, kiedy ktoś wygarnął innym po chamsku, bo wyczerpał siły psychiczne i samokontrolę, nie udzielając odpowiedzi, które jakiś inny podmiot moralny nadmiernie pragnął poznać; na szczęście rzadko potrzebną we współczesnych cywilizowanych kręgach.
Na przykład, jeśli weźmiemy dwie liczby, coś z nimi zrobimy i wyjdzie poprawna suma, ale na podstawie samej reguły, którą się posłużyliśmy, nie możemy stwierdzić, jaki wynik da ta sama operacja na dwóch dowolnych liczbach, to to nie jest dodawanie (czyli ogólna operacja na dowolnych liczbach). Wynik wyszedł przypadkiem.
Dokładnie tak! Tylko – czy to dowodzi tego, co starasz się zreferować, czy czegoś wręcz przeciwnego? Pojęcia matematyczne, najbardziej bezsprzecznie ze wszystkich pojęć, mają znaczenia i mają fizyczne reprezentacje, które możemy trzymać zarówno w mózgu, jak i na nośnikach zewnętrznych, a zatem uzgadniać sens za ich pośrednictwem. Jeżeli uczeń opiera swoje rozumienie dodawania na pamięciowej znajomości wszystkich wyników działań do 57, a każde większe obliczenie jest dlań skokiem w ciemność i nie umie wyjaśnić nawet ostatniemu scholastykowi, dlaczego wynik nie wyniesie nagle 5, to znaczy, że został źle nauczony. Argument Kripkego – nie tylko tak, jak go przedstawiasz, bo poszukałem też w innych źródłach – wydaje mi się opierać na fundamentalnym niezrozumieniu matematyki, idei definicji i dowodu; co jest o tyle niepokojące, iż rzeczony Kripke najwyraźniej zajmował się logiką matematyczną na poziomie przerastającym moje aktualne możliwości.
Spróbuję przybliżyć swoją amatorską opinię: pojęcia same w sobie nie są materialne, ale mogą mieć reprezentacje materialne, równie dobrze w mózgu, jak i na liczydle. To, że pojęcie trójkąta nie wiąże się z trójkątem konkretnej wielkości, nie znaczy, że nie może być wiernie przechowane na materialnym nośniku, te dwa fakty wydają się nie mieć w ogóle związku. Kiedy uczymy się, czym jest ten nieszczęsny trójkąt czy dodawanie, nie dzieją się czary, lecz powstają wzorce aktywacji naszych neuronów reprezentujące dane pojęcie (czego dowodzi nie wprost, że możemy do niego utracić dostęp na skutek choroby czy urazu mózgu). Natura świadomości i rozumności – czyli to, co sprawia, że mamy subiektywne poczucie bezpośredniego dostępu do takiej reprezentacji, że potrafimy ją pojmować – pozostaje niezbadana naukowo. Nie umiem dostrzec, jakoby cokolwiek w podanym wywodzie istotnie przemawiało za tezą, że jest to magiczna własność dostępna z natury urodzenia ludziom i tylko ludziom. Twoja argumentacja, jak sądzę, dość przekonująco pokazuje, że współczesne maszyny nie myślą, ale nie to, że zbudowanie myślącej maszyny jest niemożliwe. Tu trzeba przejść do drugiej części…
Algorytmy zaś układają z zasady ludzie. Owszem, istnieje coś takiego, jak automatyzacja rozumowań, i używa się tego między innymi do badania, czy program jest poprawny. Modele językowe bywają też używane do wytwarzania nowego kodu(xlix), i ten nowy kod może być nawet poprawny – przypadkiem. Ale algorytmy nie układają się same.
Jeżeli ciotka Zenobia zacznie w miarę powtarzalnie pisać działające programy komputerowe – czy, co gorsza, poprawne dowody matematyczne! – będziemy skłonni przyjąć, że nie wychodzi jej to przypadkiem raz za razem, tylko opanowała te umiejętności. Kiedy robi to LLM, oczywiście mamy większe opory ze względu na wiedzę teoretyczną, że działa to-to na zasadzie statystycznego doboru kolejnych morfemów wyrazowych i w każdej chwili tworzenia tekstu może z niezerowym prawdopodobieństwem kontynuować np. “In Bodenstown churchyard there is a green grave…”, podczas gdy napisanie takiego programu powinno wymagać zaplanowania od A do Z i właśnie operowania pojęciami. Nie można jednak twierdzić, że za każdym razem zdarza się to losowo. Wygląda to na solidny przykład cechy emergentnej (tylko w jednym miejscu mimochodem wspominasz o emergencji) – układ jest dostatecznie złożony, żeby przyjąć własności, których według jego podstawowego opisu nie powinien mieć i przynajmniej na razie nie udało nam się zrozumieć, dlaczego je jednak ma.
Naturalnie obecność jednej cechy emergentnej (zdolności do programowania) nie świadczy w żaden sposób o obecności innej (rozumności). Daje jednak, moim zdaniem, ostrożnie do myślenia, czy taka cecha nie mogłaby się pojawić w jeszcze bardziej złożonym układzie zdolnym do ustanawiania sobie nowych reprezentacji pojęć abstrakcyjnych i wykonywania na nich operacji.
Dennett twierdzi, że nie da się „obiektywnie” stwierdzić, czy jakiś byt spełnia wymienione przez niego warunki konieczne bycia osobą: rozumność; świadomość i intencjonalność (co u niego oznacza zajmowanie różnych postaw, przekonania, ogólnie myślenie sobie czegoś); bycie traktowaną jako osoba przez inne osoby (chodzi o przypisywanie intencjonalności); zdolność do traktowania innych jako osób; zdolność do używania języka; samoświadomość.
W sumie przemęczyliśmy się dobre kilkanaście wpisów nad bardzo zbliżonym tematem pod opowiadaniem https://www.fantastyka.pl/opowiadania/pokaz/30953. Raczej zaskakują mnie warunki Dennetta, ponieważ wychodziłem tam od strony nieco odmiennego problemu: czy opis z natury może nie wystarczać do podjęcia decyzji w eksperymencie etycznym, ponieważ nie wiemy, czy istota, której dotyczy ta decyzja, jest osobą? Znaczyłoby to moim zdaniem, że zamiast możliwie najlepiej ustalić na podstawie samego opisu, czy ta istota “jest samoświadoma, formuje więzi społeczne, tworzy kulturę, nadaje znaczenie abstraktom”, próbujemy zaprotezować tę definicję pytaniem (na które nie ma odpowiedzi w historyjce, a z jakiegoś powodu wydaje nam się potrzebne): czy “to istota, której istnienie jest uznawane w kontekście danej kultury za równie ważne jak wszystkich innych osób i nieskończenie ważniejsze od wszystkich istot nieosobowych”. Miałem wrażenie, rzecz prosta, że obydwa sformułowania mogą być uznawane za definiujące pojęcie osoby, ale tylko to pierwsze jest uniwersalne i użyteczne etycznie.
I wreszcie w części trzeciej taki drobiażdżek…
Lewis mówi o tym w odniesieniu do dyskusji o karze śmierci, która się w jego czasach przetoczyła przez Anglię – ale nie samą karę śmierci uważa tu za istotną, tylko, jak to nazywa, „humanitarystyczną teorię kary”, wyznawaną przez wielu jego współobywateli, według której karanie człowieka, ponieważ na to zasłużył, w takim stopniu, w jakim zasłużył, to zemsta – i jako takie jest barbarzyństwem.
Ten problem mnie mocno zaciekawił i dał sporo do myślenia – nie mówię, że nie jest dobrze znany, ale dotychczas go jakoś głębiej nie analizowałem. Zastanawiam się na przykład (to bardziej historia literatury niż etyka), czy aby nie w kontrze do tej opinii Lewisa padły zdania “Wielu spośród tych, którzy żyją, zasługuje na śmierć, a wielu spośród tych, którzy umarli, zasługuje na życie. Czy potrafisz im je przywrócić? Nie szafuj więc śmiercią w imię sprawiedliwości, nawet bowiem najmędrsi z nas nie wiedzą wszystkiego”.
jakoś nie mówi się o tym, że to „leczenie” ma być tak samo przymusowe, jak przymusowa była kara.
Nie wiem, kto o tym nie mówi lub wtedy nie mówił, ale nie wygląda to na wielką tajemnicę. W sumie jak ktoś koniecznie chce siedzieć w tunelu pod dworcem Gdańsk Główny i prątkować, to odwiezienie go na przymusowe leczenie też jest jedynym rozsądnym wyjściem z sytuacji.
Sedno Lewisowej krytyki leży w tym, że w takim podejściu kara nie ma nic wspólnego z winą – więc także ze sprawiedliwością, bo z definicji tylko kara zasłużona i proporcjonalna do winy może być sprawiedliwa.
Nie jest przecież bez znaczenia, czy da się wywnioskować, dlaczego sprawca postąpił tak, jak postąpił (czy jego działanie było w danym kontekście logiczne), czy dysponował niezakłóconą autonomią.
Czy ten żył za mnie, co nie zna mej winy,
czy ten, co nawet zna onej przyczyny?
nie ma już osoby, której przysługują prawa, tylko przedmiot działania, które może być skuteczne albo nie, ale nijak się ma do uznania godności delikwenta jako istoty rozumnej.
Wydaje mi się, że ten argument musi wychodzić z konkretnego paradygmatu etycznego? Niemniej pewnie nie budzi większych kontrowersji, gdy w uznaniu godności delikwenta decydujemy się zastosować środki łagodniejsze od tych, które wydają się najskuteczniejsze pod kątem rehabilitacji i prewencji. Dziwniejsza – i rzeczywiście budząca obawy o bałamutne usprawiedliwianie zemsty – byłaby sytuacja, gdy postanawiamy ukarać go surowiej.
Każdy człowiek, jako istota rozumna, jest mniej więcej równie kompetentny, żeby się wypowiadać w sprawach sprawiedliwości(vi) – ale na leczeniu znają się tylko specjaliści. A specjaliści to też ludzie. Mają swoje interesy (a czasem się mylą) i podlegają władzy, która potrafi o te interesy zadbać. W swoim własnym interesie, bo „humanitarystyczna” teoria kary pozwala jej robić z poddanymi wszystko, o czym specjaliści dostatecznie głośno orzekną, że jest „dla ich dobra”.
Pierwsze zdanie wydaje mi się źle ugruntowane. Sądziłbym, że między innymi po to ludzie czytają o etyce i nawet ją studiują, żeby rozwinąć w sobie te kompetencje, dobrze odróżniać sprawiedliwość od zemsty i nie zostać przypadkiem częścią tłumu wyjącego “Uwolnij nam Barabasza!”. Nie ma tak, ażeby współcześnie czyjkolwiek system pojęć mógł wyrosnąć w całkowitym oderwaniu od poglądów specjalistów, ostatnim w Polsce prawdziwie samorodnym talentem tego rodzaju był zapewne Jan Krzeptowski-Sabała (1809–1894), a i jego opinie przytaczano raczej jako anegdoty niż istotne inspiracje etyczne.
Niemniej dziś każdy może uzyskać potrzebną wiedzę i wykształcenie, aby odpowiedzialnie włączyć się w ten dialog i odnosić do orzeczeń znawców, podobnie jak w przypadku medycyny. Nie widzę, w jaki sposób ma to grozić upadkiem demokracji. To właśnie jest lub byłaby jedna z największych przewag dobrze funkcjonującej demokracji, że każdy rozwija się w interesujących go dziedzinach i po osiągnięciu odpowiedniej biegłości ma szansę wpływać na decyzje dotyczące ogółu.
Jeszcze raz serdecznie dziękuję za ogrom materiału do przemyśleń i pozdrawiam!