Program badawczy · nie produkt
Firma, która prowadzi się sama. Trudne nie są maszyny.
Demertis to program badawczy nad autonomicznym przedsiębiorstwem — działalnością, której prowadzenie, naprawa i rozwój wykonywane są przez oprogramowanie i maszyny, a nie przez ludzi. Inżynieria jest trudna i robi się łatwiejsza. Prawo jest trudniejsze i dlatego to pozostaje badaniami.
- Zamknięta pętla działania
- Samonaprawa jako architektura
- Ludzka rama prawna
Automatyzacja kończy się dokładnie tam, gdzie zaczyna się odpowiedzialność
Trzy ściany, o które uderza każdy program automatyzacji — i żadna z nich nie jest techniczna.
Ktoś nadal musi podpisać
System przygotowuje płatność, zamówienie, wysyłkę — i czeka, bo ktoś musi za to odpowiadać. Ten podpis to ostatni człowiek w pętli i nie stoi tam z powodów technicznych.
Automatyzacja, która nie umie się naprawić, to odroczona praca
Proces działa bez nadzoru, aż zacznie się psuć, a wtedy ktoś dostaje telefon. Nie usunąłeś pracy — przesunąłeś ją na gorszą godzinę i utrudniłeś diagnozę.
Nic się nie poprawia, dopóki ktoś tego nie przepisze
System robi dokładnie to, co skonfigurowano, dopóki człowiek nie zdecyduje inaczej. Pomiędzy tymi decyzjami nie dowiaduje się o własnym działaniu niczego.
Trzy pętle i żadna nie kończy się na człowieku
Demertis jest zbudowany jako zagnieżdżone pętle sprzężenia zwrotnego, a nie jako potok z człowiekiem na końcu.
- 01
Działanie
Obserwuj, decyduj, działaj — w systemach informatycznych i w maszynach fizycznych, na tym samym zegarze. Zewnętrzna pętla nigdy się nie kończy, więc nie ma kolejki pracy czekającej na akceptację.
- 02
Naprawa
Degradację wykrywa system, który się degraduje, izoluje ją i przywraca stan — jako zwykłe przejście stanu, a nie jako incydent. Zgłoszenie nie powstaje, bo nie ma go komu zgłosić.
- 03
Rozwój
Wyniki są porównywane z oczekiwaniami, a konfiguracja, która je wytworzyła, zostaje zmieniona. Powoli, odwracalnie i z zachowaniem każdej wersji — bo system przepisujący sam siebie bardziej potrzebuje drogi powrotnej niż szybkości.
Sześć części organizmu
Komponenty objęte badaniami i ten jeden, który ogranicza wszystkie pozostałe.
Zamknięta pętla działania
Pętla sterowania bez kroku ludzkiego, działająca w sposób ciągły, a nie w zaplanowanych paczkach. Wszystko inne w programie istnieje po to, żeby dało się ją bezpiecznie zostawić samą.
Autodiagnostyka i naprawa
Zdrowie jako ciągły sygnał, a nie test uruchamiany o północy, wraz ze ścieżkami przywracania, które system wykonuje na sobie — bez zyskiwania możliwości wyłączenia własnego nadzoru.
Wykonanie fizyczne
Pętla sięga maszyn, które przemieszczają rzeczy, bo firma operująca wyłącznie na zapisach nie jest autonomiczna — ona czeka, aż ktoś załaduje ciężarówkę.
Zachowanie ekonomiczne
Kupowanie, sprzedawanie, wycena i zawieranie umów jako działania dostępne pętli, badane w piaskownicy z prawdziwymi danymi rynkowymi i bez prawdziwych kontrahentów.
Rejestr każdej decyzji
Co zaobserwowano, co wywnioskowano, co zrobiono i co się potem stało — zapisane trwale, bo system autonomiczny, którego nie da się później zaudytować, nie jest wynikiem badawczym.
Ludzka rama prawna
Prawny właściciel, zdefiniowana granica tego, czego pętla może dotknąć, i przerwanie, na które system nie ma żadnego wpływu. To ta część, dzięki której resztę da się opublikować.
Dlaczego to badania, a nie produkt
Powodem nie jest niedokończone oprogramowanie. Powodem jest to, że autonomiczny organizm cybernetyczny nie ma w prawie gdzie stanąć: nie może zaciągać zobowiązań, posiadać tego, co wytworzy, ani odpowiadać za to, co zepsuje. Każdy dzisiejszy „autonomiczny biznes” to w rzeczywistości ludzki podmiot prawny z automatyzacją w środku, a twierdzenie inaczej byłoby tezą, której nie umiemy obronić.
- Brak podmiotowości prawnej. Ani prawo unijne, ani polskie nie pozwala systemowi być stroną czegokolwiek. Właścicielem jest spółka i to ona odpowiada.
- Odpowiedzialność spada na ludzi. Niesie ją ten, kto wdrożył. To jest słuszne i to wyznacza sufit realnej autonomii.
- AI Act obowiązuje. Autonomia podnosi klasyfikację ryzyka, zamiast zmniejszać obowiązki, a ciężar dokumentacyjny rośnie razem z pętlą.
- Umowa wymaga zdolności. Maszyna nie może się na nic zgodzić. Każde badane zachowanie ekonomiczne dzieje się w piaskownicy właśnie dlatego.
Czego nie twierdzimy
Słowo „organizm” opisuje architekturę — zamknięte pętle, samonaprawę, adaptację w czasie — a nie to, jak jest nim być. Pomylenie tych dwóch rzeczy zamienia badania w tej dziedzinie w cykl medialny, a my wolimy być w tym nudni.
- Nie świadomość. Żadnych twierdzeń o samoświadomości, doznaniach czy wnętrzu. To system sterowania o długim horyzoncie sprzężenia zwrotnego.
- Nie życie. Samonaprawa i adaptacja są własnościami inżynierskimi. Ma je mnóstwo systemów nieożywionych.
- Nie zamiennik firmy. To coś, co firma być może kiedyś uruchomi — na licencji, z nazwiskiem w rejestrze.
- Nigdzie nie wdrożone. Brak klientów, brak obciążeń produkcyjnych, brak pilotaży. Kiedy to się zmieni, będzie to tu napisane.
Wcześnie — i lepiej powiedzieć to wprost
Program badawczy powinien być czytelny w tym, co naprawdę zadziałało, a co jest jeszcze rysunkiem.
- Teraz
Pętla na własnej infrastrukturze
Zamknięta pętla na nieregulowanych obciążeniach wewnętrznych, z działającym rejestrem i przerwaniem testowanym częściej niż cokolwiek innego.
- Dalej
Pętla fizyczna
Rozszerzenie pętli na maszyny w kontrolowanym obiekcie, gdzie tryby awarii przestają być abstrakcyjne, a analizę bezpieczeństwa trzeba spisać.
- Później
Pytanie prawne i ubezpieczeniowe
Praca z ludźmi, którzy robią to zawodowo — prawnikami, ubezpieczycielami, regulatorami — nad tym, jak musiałaby wyglądać autonomiczna działalność, żeby była dozwolona, a nie tylko możliwa.
Najczęstsze pytania
Czym jest Demertis w jednym zdaniu?
Programem badawczym nad tym, czy firma może działać, naprawiać się i rozwijać bez człowieka w pętli — oraz nad tym, co jej to uniemożliwia, a to głównie prawo, nie inżynieria.
Czy jest coś do kupienia?
Nie. Nie ma produktu, programu pilotażowego ani cennika. Lista oczekujących istnieje po to, żeby osoby pracujące nad tym tematem dostały wiadomość, gdy pojawi się coś do przeczytania albo uruchomienia.
Kto odpowiada, jeśli system zrobi coś złego?
Spółka, która go prowadzi, czyli my. To obecny stan prawny wszędzie tam, gdzie ma to znaczenie, i uważamy go za słuszny. Wyznacza on również sufit autonomii, jaki da się dziś obronić.
Czy taki system mógłby mieć podmiotowość prawną?
Temat jest poważnie dyskutowany w nauce i w pracach regulacyjnych, a uczciwe podsumowanie brzmi: żadna jurysdykcja nie jest blisko. Ciekawe pytanie badawcze dotyczy tego, co autonomiczna działalność musi rejestrować i ograniczać, żeby w ogóle dała się nadzorować — a to jest przydatne niezależnie od tego, czy podmiotowość kiedykolwiek nadejdzie.
Czy to jest świadome albo żywe?
Nie i nic w tym programie nie służy sprawdzaniu żadnej z tych rzeczy. Samonaprawa i adaptacja są własnościami inżynierskimi systemów sterowania. Rama „organizmu” opisuje sposób budowy, a nie naturę.
Jak się to zatrzymuje?
Przerwaniem poza pętlą, na oddzielnej infrastrukturze, którego system nie może ani zaobserwować, ani na nie wpłynąć — i uruchamianym według harmonogramu, a nie trzymanym na wypadek awarii. Zatrzymanie, którego nigdy nie przetestowano, jest rysunkiem zatrzymania.
Po co w ogóle to robić?
Bo komponenty i tak się pojawiają — agenci, roboty, tanie czujniki — a trudne pytania dotyczą odpowiedzialności, audytowalności i wyłączania. Lepiej przepracować je w programie badawczym, który się do tego przyznaje, niż w produkcie, który po cichu je wysyła.
Śledź program
Formularz zapisu ruszy wkrótce. Do tego czasu blog niesie całe rozumowanie, łącznie z fragmentami przemawiającymi przeciwko temu pomysłowi.
Na razie brak formularza i żadnych zbieranych danych — po prostu wróć.