Czy maszyna może cokolwiek posiadać?

Co kilka lat wraca pomysł podmiotowości prawnej dla systemów autonomicznych, zwykle z dołączoną analogią do spółek: skoro przyznajemy podmiotowość fikcji, to czemu nie maszynie? Ta analogia wykonuje pracę, której nie udźwignie, a powody jej zawodzenia są bardziej użyteczne niż propozycje, które ma uzasadniać.

Czego nie widzi analogia ze spółką

Spółka nie jest autonomiczną osobą prawną. Jest strukturą, przez którą działają ludzie, a każda jej zdolność prowadzi z powrotem do ludzi: zarząd, który decyduje, wspólnicy, którzy posiadają, osoby, które podpisują, i rejestr zapisujący, którzy ludzie za nią odpowiadają. Wyjmij ludzi, a spółka nie może zrobić nic — nie podpisze, nie rozstrzygnie, nie da się jej ukarać w sposób, który cokolwiek zmienia.

Podmiotowość spółki jest wygodnym sposobem organizowania odpowiedzialności ludzi. Nie jest przykładem odpowiedzialności istniejącej bez ludzi, a właśnie to analogia zwykle ma dowodzić.

Cztery zdolności i miejsce, w którym każda pęka

Posiadanie. Prawo rzeczowe potrzebuje kogoś, kto może rzecz przenieść, jej bronić i zostać jej pozbawionym. System może przechowywać klucz prywatny; nie może mieć tytułu prawnego, a sąd może przypisać to, co system kontroluje, komu innemu, bez żadnej możliwości sprzeciwu po jego stronie.

Zawieranie umów. Zgoda wymaga zdolności do jej wyrażenia. Automatyczne zawieranie umów działa dziś właśnie dlatego, że oświadczenie przypisuje się człowiekowi albo spółce prowadzącej system, a nie samemu systemowi.

Ponoszenie odpowiedzialności. Odpowiedzialność, której nie da się wyegzekwować, nie jest odpowiedzialnością. Wyłączenie maszyny nie jest sankcją, tylko rozporządzeniem majątkiem — i obciąża właściciela. Odszkodowanie musi pochodzić od kogoś, kto ma majątek, czyli od osoby albo spółki.

Zdolność sądowa. Możliwość pozywania i bycia pozwanym pod własną nazwą. Ani prawo unijne, ani polskie nie daje jej systemowi, a pomysł „osobowości elektronicznej”, który pojawił się kiedyś w Parlamencie Europejskim, spotkał się z poważnym sprzeciwem ekspertów i nie stał się prawem.

Co naprawdę się rozwija

Nie podmiotowość, tylko obowiązki przypisane temu, kto wdraża. Unijne przepisy o sztucznej inteligencji rozkładają obowiązki między tych, którzy systemy budują, i tych, którzy ich używają, mniej więcej proporcjonalnie do ryzyka, a większa autonomia pociąga za sobą raczej ściślejszy nadzór niż rozmycie odpowiedzialności. Kierunek jest taki, że bardziej zdolne systemy przychodzą z większą dokumentacją, większą śledzalnością i większą liczbą wskazanych ludzi — nie z mniejszą.

To odwrotność opowieści o podmiotowości i po namyśle jest to rozsądniejszy wynik. Przyznanie systemowi podmiotowości stworzyłoby głównie sposób, w jaki ludzie na nim zarabiający mogliby przestać za niego odpowiadać.

Co to znaczy dla programu

Wyznacza sufit i ten sufit nieprędko się ruszy. Autonomiczna działalność toczy się wewnątrz ludzkiego podmiotu prawnego, ze wskazanym właścicielem, a każde zachowanie ekonomiczne wymagające zdolności do zawierania umów zostaje w piaskownicy bez prawdziwych kontrahentów.

Naprawdę otwarte — i warte badania — pozostaje coś węższego i bardziej użytecznego: co autonomiczna działalność musi rejestrować, ograniczać i udostępniać, żeby odpowiedzialni za nią ludzie mogli za nią realnie odpowiadać? To pytanie ma znaczenie niezależnie od tego, czy podmiotowość kiedykolwiek nadejdzie — i w odróżnieniu od niej można nad nim pracować już teraz.